Jobs Lviv, ML / AI

ORIL is seeking a highly skilled Senior AI/ML Engineer to architect and scale our mission-critical, AI-driven data platform. At the core of our engineering culture is a steadfast commitment to performance, reliability, and uncompromising data integrity. The ideal candidate is an autonomous problem-solver who thrives in an agile environment, takes end-to-end ownership of complex systems, and pairs a bias for action with a dedication to robust, stable deployments.

 

Project:

Our client is a US-based innovator providing a centralized data platform for multi-family real estate. The product uses BI and AI analytics to help operators optimize marketing spend and operational efficiency. A core AI feature of this platform is an intelligent chatbot designed to help users seamlessly manage workflows, query data, and surface actionable insights.

What are we looking for?

• 5+ years of experience building and owning production-grade backend and ML systems in Python;
• Proven experience designing and deploying complex, multi-step LLM workflows and conversational agents (chatbots) using frameworks like LangChain or LangGraph;
• Deep understanding of RAG (Retrieval-Augmented Generation) pipelines: from chunking and embedding strategies to retrieval optimization and prompt engineering;
• Experience with "Text-to-SQL" or translating natural language into complex data queries, as the chatbot will interact heavily with BI analytics;
• Experience with LLM observability, tracing, and evaluation frameworks (e.g., Langfuse, Braintrust, Arize Phoenix, Ragas, or DeepEval);
• Experience with systematic prompt lifecycle management, versioning, and algorithmic optimization (e.g., DSPy);
• Experience profiling and minimizing time-to-first-token (TTFT) and overall response latency for real-time conversational agents;
• Strong analytical skills with the ability to explore datasets, identify patterns, measure outcomes, and derive actionable insights; 
• Familiar with data cleaning and normalization techniques to ensure accurate, consistent, and reliable data for analysis and AI-driven applications;
• Curious about how multi-family real estate works and motivated to understand the key metrics behind the business (marketing spend, operational efficiency etc.) to better tune AI outputs;
• English level: Upper-Intermediate (B2+).

What will you do?

• Design, develop, and own the core AI architecture powering the platform's intelligent chatbot and automated BI insights;
• Build and refine advanced RAG pipelines to ensure the chatbot surfaces accurate;
• Develop robust AI agents capable of managing platform processes and executing complex operational tasks on behalf of the user;
• Set up and maintain automated CI/CD gates that run LLM evals and integration tests;
• Maintain a high shipping tempo, continuously iterating on chatbot features based on user feedback and internal telemetry;
• Diagnose and fix complex issues in the AI pipeline using advanced tracing and observability tools;
• Work closely with data engineers and product managers to refine the technical roadmap and ensure the AI seamlessly integrates with the broader BI platform.

We Offer:

Working conditions:

• Ability to grow with an ambitious niche-focused company
• Competitive compensation;
• Accounting Support Services;
• Flexibility to work from anywhere (fully remotely or in our office in Lviv);
• Comprehensive day-off policy, including public holidays and special events
• Education & certification budget + corporate education events and trainings
• Wellness budget
• The environment and culture that promotes personal and team development.

Application Process:

• Initial Screening: Call with Recruiter.
• Technical Interview.
• Client Interview.
   

Ready to build the future of AI-driven real estate operations? Apply now and let’s get to work!

Ми шукаємо AI Engineer, який підсилить нашу команду розробки штучного інтелекту. Це роль не про "просте підключення APІ чи поверхеневий інжиніринг запитів", а про глибоку інженерну й системну рооту на інтеграцію LLM, розробкою аріхектурних даних.
Якщо ти зацікавлений у даній позиції, читай нижче опис по вимогам/задачам, та якщо ти відповідаєш вимогам, залишай резюме!

Вимоги до досвіду:

• досвід комерційної розробки: не менше 3 років;
  Інструменти та технології: Python, REST API, OpenAPI/Swagger, JSON, Docker, PostgreSQL/MongoDB, Redis, CI/CD;
   
• впевнене володіння Python як основною мовою розробки;
  Необхідна екосистема Python: Python 3.10+, FastAPI, Flask (як плюс), Pydantic, Pydantic AI, asyncio, aiohttp/httpx, requests, SQLAlchemy, Alembic, Celery/RQ, pytest, unittest, mypy, ruff, black, isort, pre-commit, logging, structlog, pathlib, typing, dataclasses;
   
• досвід розробки backend-сервісів, API та інтеграцій;
  Інструменти та технології: FastAPI, REST API, WebSockets, SSE, OpenAPI/Swagger, Postman, JSON Schema, PostgreSQL, Redis, SQLAlchemy, Docker, docker-compose, GitHub Actions/GitLab CI;
   
• обов'язкове вміння самостійно писати чистий, підтримуваний та архітектурно коректний код без використання додаткових ШІ-інструментів (AI tools);
  Необхідні знання: OOP (ООП), SOLID, DRY, KISS, YAGNI, dependency injection, clean architecture, layered architecture, design patterns, error handling, logging, unit/integration testing, code review;
   
• досвід роботи з Docker та базовою інфраструктурою розгортання;
  Інструменти та технології: Docker, Docker Compose, Dockerfile, volumes, networks, multi-stage builds, environment variables, secrets, logs;
   
• досвід розробки ШІ-продуктів (AI products) на базі пропрієтарних моделей;
  Інструменти та технології: OpenAI API, Anthropic Claude API, Google Gemini API, OpenRouter, LiteLLM;
   
• досвід розробки ШІ-продуктів на базі local-hosted моделей;
  Інструменти та технології: vLLM, Ollama, llama.cpp, Text Generation Inference, Hugging Face Transformers, Hugging Face Hub, sentence-transformers, PyTorch, tokenizers, GGUF, AWQ, GPTQ, quantization, batching, streaming inference;
   

• досвід роботи з vLLM / llama-серверами та налаштуванням параметрів інференсу;
  Необхідні знання: context window, max tokens, temperature, top_p, top_k, repetition penalty, stop sequences, seed, batch size, concurrency, latency, throughput, tokens/sec, GPU memory, KV cache, cost per request;

  Інструменти: vLLM, Ollama, llama.cpp, TGI, Prometheus/Grafana (як плюс);
   

• досвід підбору моделей під робочі завдання;
  Необхідні знання: порівняння моделей за якістю, вартістю, latency, context window, multilingual quality, tool calling, structured output, safety, hallucination rate;
  Інструменти: OpenRouter, LiteLLM, Hugging Face Leaderboards, LMSYS/Chatbot Arena (як орієнтир), Langfuse, LangSmith, PromptFoo, DeepEval, Ragas;
   
• досвід роботи з vector RAG;
  Інструменти та технології: LangChain, LangGraph, LlamaIndex, Haystack, Qdrant, Weaviate, Pinecone, Chroma, FAISS, pgvector, Elasticsearch/OpenSearch, BM25, hybrid search, re-ranking;
  Необхідні знання: chunking strategy, embeddings, metadata filtering, query rewriting, retrieval evaluation, rerankers, grounding, citations, hallucination control;
   
• досвід роботи з graph RAG / knowledge graph RAG;
  Інструменти та технології: Neo4j, NetworkX, GraphRAG, LangChain Graph QA, LlamaIndex Knowledge Graph, RDF/SPARQL (як плюс);
  Необхідні знання: entity extraction, relationship extraction, graph traversal, semantic links, hybrid retrieval, context assembly;
   
• досвід побудови агентних систем;
  Інструменти та технології: LangGraph, LangChain Agents, LlamaIndex Agents, CrewAI, AutoGen, Semantic Kernel, Pydantic AI, OpenAI function calling / tool calling, Anthropic tool use, MCP;
  Необхідні знання: ReAct, planner-executor, supervisor pattern, multi-agent orchestration, memory, tool routing, state management, fallback logic, human-in-the-loop, guardrails;
   
• досвід роботи з AI workflow engine, обов'язково n8n;
  Інструменти та технології: n8n, webhook nodes, HTTP Request node, AI Agent node, credentials, triggers, queues, error workflows, custom nodes, workflow versioning;
   
• досвід побудови evaluation та observability для LLM-продуктів;
  Інструменти та технології: Langfuse, LangSmith, PromptFoo, Ragas, DeepEval, TruLens, Arize Phoenix, Weights & Biases Weave, Helicone, OpenTelemetry;
  Метрики: accuracy, groundedness, relevance, faithfulness, hallucination rate, refusal rate, latency, cost per request, token usage, context utilization, regression rate;
   
• розуміння інформаційної безпеки при роботі з ШІ;
  Необхідні знання: PII, sensitive data, prompt injection, data leakage, secrets management, RBAC, audit logs, sandboxing tools, vendor data policies;
   
• англійська мова: Не нижче Upper-Intermediate. Необхідна для читання документації, роботи з API, аналізу моделей, технічного листування та підготовки design docs.
   

Буде плюсом:

• знання Node.js;
• глибокі знання context engineering;
• глибокі знання NLP;
• досвід fine-tuning моделей.

Основні задачі:

• розробляти production-ready ШІ-сервіси, backend-компоненти, API та інтеграції для внутрішніх і зовнішніх ШІ-продуктів компанії;
• писати чистий, підтримуваний, тестований та архітурно коректний код на Python;
• проєктувати та реалізовувати сервіси на Python/FastAPI для роботи з LLM, RAG, агентними системами та workflow-автоматизацією;
• інтегрувати пропрієтарні моделі через API: OpenAI, Anthropic Claude, Google Gemini, Azure OpenAI, Mistral, OpenRouter та інші затверджені компанією сервіси;
• піднімати, налаштовувати та підтримувати local-hosted моделі через vLLM, Ollama, llama.cpp, TGI або аналогічні інструменти;
• підбирати моделі під конкретні бізнес-завдання з урахуванням якості, швидкості, вартості, latency, context window, доступності, безпеки та стабільності результату;
• налаштовувати параметри інференсу моделей: temperature, top_p, max tokens, context window, batching, streaming, concurrency, rate limits, retry logic;
• реалізовувати vector RAG-пайплайни: завантаження даних, очищення, chunking, embeddings, індексація, retrieval, reranking, генерація відповіді, оцінка якості;
• реалізовувати graph RAG / knowledge graph RAG-підходи для завдань, де потрібна робота зі зв'язками між сутностями, документами, користувачами, договорами, клієнтами або бізнес-процесами;
• работувати з векторними базами даних: Qdrant, Weaviate, Pinecone, Chroma, FAISS, pgvector;
• работувати з графовими базами та інструментами: Neo4j, NetworkX, GraphRAG-підходи;
• будувати агентні системи: single-agent, multi-agent, planner-executor, supervisor, tool-using agents, human-in-the-loop flows;
• реалізовувати tool/function calling, structured outputs, JSON schema validation, retry/fallback logic та безпечну обробку відповідей моделей;
• інтегрувати агентні системи з корпоративними інструментами: CRM, бази знань, документи, пошта, календар, Slack/Teams, Jira, Confluence, Google Drive, Microsoft 365, внутрішні API;
• проєктувати та впроваджувати AI workflow automation на базі n8n: webhooks, triggers, AI Agent nodes, HTTP nodes, credentials, error workflows, черги, інтеграції з зовнішніми системами;
• розробляти eval/regression-фреймворки для перевірки якості LLM-відповідей, промптів, RAG та агентних сценаріїв;
  налаштовувати observability та моніторинг ШІ-систем: Langfuse, LangSmith, PromptFoo, Ragas, DeepEval, Arize Phoenix, Helicone, OpenTelemetry;
• контролювати ключові метрики: latency, cost per request, token usage, groundedness, hallucination rate, relevance, accuracy, refusal rate, error rate, regression rate;
  проводити технічні експерименти з моделями, промптами, RAG-підходами, агентними патернами та параметрами інференсу;
• брати участь у завданнях з fine-tuning / model adaptation за наявності потреби: підготовка датасетів, навчання, валідація, порівняння результатів з baseline;
• спільно з Prompt Spec Engineer впроваджувати prompt/spec architecture в код, забезпечувати версіонування промптів, трасування, тестування та контроль якості;
• спільно з Product Manager переводити продуктові вимоги в технічну архітектуру, API-контракти, схеми даних та план реалізації;
• забезпечувати безпеку ШІ-сервісів: захист від prompt injection, контроль доступу, фільтрація чутливих даних, логування, аудит, безпечне зберігання секретів;
• підтримувати сервіси в production: аналізувати інциденти, виправляти помилки, оптимізувати продуктивність, знижувати вартість запитів, покращувати стабільність.

Що компанія пропонує:

• працюємо в сучасному та стильному офіс в ближньому центрі;
• безкоштовний корпоративний трансфер (дім-офіс-дім);
• забезпечуємо якісним та смачним кейтерингом прямо в офісі;
• корпоративні заняття йогою та медитацією + корпоративні знижки на здорове харчування;
• WELCOME bonus - фінансовий бонус від компанії на початку співпраці;
• релокейт пакет (оплата квитків у Львів + перший та останній місяць + рієлторські послуги).

Team Summary

Our distributed team is looking for an experienced Applied Scientist with a strong background in Large Language models to develop high-performance Generative AI features across Cloud and Edge environments.

Job Summary

In this role you will drive the transition from research to production by optimizing local inference through model compression and quantization for private, real-time Edge performance, while also engineering scalable RAG architectures and multi-agent systems for Cloud deployment. Your daily responsibilities encompass the full research lifecycle, including formulating hypotheses, generating synthetic datasets, fine-tuning LLMs, and validating safety and alignment, ultimately culminating in technical reports.

Responsibilities and Duties

— Design and implement advanced methods in prompt orchestration, fine-tuning (SFT/RLHF/DPO), and autonomous agentic workflows
— Curate high-quality training data from large-scale text and multi-modal sources
— Identify patterns in model hallucinations and visualize evaluation metrics for clear interpretation
— Tune hyperparameters and improve inference speed/accuracy through PEFT (LoRA/QLoRA) and advanced prompt engineering
— Collaborate with Product and Data Engineering teams to seamlessly integrate LLM features into the broader ecosystem
— Track and report progress using industry-standard benchmarks (MMLU, HumanEval, etc.) and custom internal KPIs
— Stay at the forefront of the field (e.g., State Space Models, new Transformer variants) and evaluate cutting-edge techniques for production readiness
— Engage in continuous technical growth and mentor junior colleagues to elevate the team's expertise

Qualifications and Skills

— 4+ years of commercial experience in Machine Learning, with a specific focus on the NLP or LLM domain
— Strong knowledge of Python3, NumPy, pandas, and modern text-processing libraries, PyTorch and Hugging Face (Transformers, PEFT, Accelerate)
— Proficiency in PEFT/LoRA and Reinforcement Learning techniques
— Deep understanding of attention mechanisms, tokenization, context window management, and embedding spaces 
— Practical experience in at least one of the following: Retrieval-Augmented Generation (RAG), — Fine-tuning, or Agentic frameworks
— Proven ability to manage and analyze massive datasets (>100GB) across text, image, and audio formats
— Hands-on experience crafting high-fidelity datasets and building robust data pipelines
— Expertise in prompt engineering, agentic framework design, and LLM pipeline orchestration
— Experience deploying LLMs to production environments using Triton Inference Server, vLLM, TGI, or ONNX
— Good written and spoken English

Nice to have

— Practical experience with Pinecone, Weaviate, Milvus, or Chroma 
— Advanced quantization (GGUF, AWQ, EXL2), pruning, and knowledge distillation
— Experience with LangChain, LlamaIndex, or AutoGen
— Basic understanding of web/client-server architecture and streaming API responses (Asyncio, aiohttp)
— Familiarity with RAGAS, DeepEval, or G-Eval
— Experience using Docker, Kubernetes, and cloud GPU orchestration (e.g., Run:ai, Lambda Labs)
— Knowledge of C++, Triton, or CUDA for custom kernel development

We offer multiple benefits that include

— The environment of equal opportunities, transparent and value-based corporate culture and an individual approach to each team member
— Competitive compensation and perks. Annual performance review
— Opportunity to receive a Performance Bonus for your individual achievements and a Loyalty Bonus recognizing your dedication to the company
— Gig-contract
— 21 paid vacation days per year, paid public holidays according to the Ukrainian legislation
— Development opportunities like corporate courses, knowledge hubs, and free English classes as well as educational leaves
— Medical insurance is provided from day one. Sick leaves and medical leaves are available
— Remote working mode is available within Ukraine only
— Free meals, fruits, and snacks when working in the office.

Team Summary

We are a distributed team that develops motion detection features for both Cloud and Edge environments, ensuring high performance and adaptability for diverse deployment needs. You can choose to focus on either Edge or Cloud solutions. Those interested in Edge will work on advanced computer vision algorithms and sensor-based detection methods to enable efficient real-time performance directly on devices. Those focusing on Cloud will develop scalable, high-performance motion detection solutions using cloud-based technologies, optimizing collaboration between Edge and Cloud for the best results.

You will be responsible for day-to-day research tasks, such as setting up hypotheses, gathering data for experiments, training and validating ML models, validating results, and writing a paper on your results.

Responsibilities and Duties

— Develop innovative machine learning algorithms. Implement advanced methods and technologies in model development

— Analyze large datasets to identify correlations and patterns. Visualize research results for clearer interpretation

— Tune hyperparameters and optimize algorithms. Improve models to enhance their performance and accuracy

— Provide consultations and collaborate with colleagues from other departments

— Report progress and project achievements to management

— Explore and evaluate new technologies in the field of machine learning. Implement cutting-edge ideas and techniques into production processes

— Engage in continuous self-improvement and technical skill development. Train and mentor junior colleagues to enhance the overall competence level within the team

Qualifications and Skills

— 4+ years in machine learning (computer vision domain)

— Practical experience in at least one of the following problems: classification, detection, segmentation

— Python3, NumPy, scikit-learn, pandas, SciPy

— Deep learning frameworks: PyTorch

— Experience in deploying machine learning models to production

— Good understanding of machine learning and deep learning concepts

— Good written and spoken English

Nice to have

— Practical experience with GANs, VAEs

— Probabilistic programming and bayesian framework

— Model optimization: pruning, quantization, knowledge distillation

— Basic understanding of web and client-server architecture

— asyncio, aiohttp, and other async libraries for back-end

— Basic understanding of Big Data, understanding of difference between MapReduce and in-memory processing

— Algorithms, data structures

— SQL, NoSQL

— Docker, Kubernetes, Kubeflow

— C++, Bash

We offer multiple benefits that include

— The environment of equal opportunities, transparent and value-based corporate culture and an individual approach to each team member

— Competitive compensation and perks

— Gig-contract

— 21 paid vacation days per year, paid public holidays according to the Ukrainian legislation

— Development opportunities like corporate courses, knowledge hubs, and free English classes as well as educational leaves

— Medical insurance is provided from day one. Sick leaves and medical leaves are available

— Remote working mode is available within Ukraine only

— Free meals, fruits, and snacks when working in the office.

About us:

EveryMatrix is a leading B2B SaaS provider delivering iGaming software, content and services. We provide casino, sports betting, platform and payments, and affiliate management to 200 customers worldwide.

But that's not all! We're not just about numbers, we're about people. With a team of over 1000 passionate individuals spread across twelve countries in Europe, Asia, and the US, we're all united by our love for innovation and teamwork.

EveryMatrix is a member of the World Lottery Association (WLA) and European Lotteries Association. In September 2023 it became the first iGaming supplier to receive WLA Safer Gambling Certification. EveryMatrix is proud of its commitment to safer gambling and player protection whilst producing market leading gaming solutions.

Join us on this exciting journey as we continue to redefine the iGaming landscape, one groundbreaking solution at a time.

We are looking for a passionate and dedicated AI Engineer to join our team in Lviv!

About the job:

We’re looking for an AI/ML Engineer to support and build AI-powered solutions that enhance automation, analytics, and intelligent workflows across our products. You’ll work with modern LLMs, AI agents, retrieval systems, and scalable backend services, taking ideas from prototype to production in a fast-moving environment and building scalable solutions in a high-impact domain. The ideal candidate for us has strong software engineering fundamentals, practical experience with generative AI systems, and hands-on experience building robust pipelines and production-grade solutions.

What You'll get to do:

• Design, develop, and deploy AI-powered applications and services.
• Integrate LLMs and AI APIs into production systems.
• Build and optimize RAG pipelines, embeddings workflows, and vector search solutions.
• Develop AI agents and workflow automation systems.
• Work with structured and unstructured data for AI-driven use cases.
• Collaborate with Data Engineers and Backend Engineers on scalable infrastructure.
• Monitor AI system performance, quality, latency, and cost efficiency.
• Experiment with prompt engineering, fine-tuning, and model evaluation techniques.
• Participate in architecture discussions and contribute to technical decision-making.

What You need to know:

• Degree in Computer Science, Mathematics, Engineering, or equivalent field.
• 3+ years of hands-on experience in applied AI-engineering.
• Strong programming skills in Python.
• Experience working with LLMs and modern AI frameworks such as LangChain, LlamaIndex, or similar.
• Understanding of RAG architectures, embeddings, vector databases, and semantic search.
• Experience integrating external APIs and cloud-based AI services.
• Knowledge of REST APIs, microservices, and scalable backend architectures.
• Familiarity with Docker, CI/CD, and cloud platforms, especially GCP.
• Strong problem-solving skills and ability to work independently.
• Interest in AI automation, intelligent systems, and applied generative AI solutions.
• Experience in Python backend engineering will be a plus.
   

Here's what we offer:

• Start with 22 days of annual leave, with 2 additional days added each year, up to 32 days by your fifth year with us.
• 3 sick leave days per year, no doctor's note required; 30 medical leave days with medical allowance
• Hybrid work schedule is available after the first three months of employment with 80/20 office/home format until the end of 2026. Starting from 2027, the policy will transition to primarily office-based work, with up to 10 work-from-home days per year with manager approval.
• Benefit from two Free Fridays each year, limited to one per quarter.
• Daily catered lunch or monthly lunch allowance. 
• Private Medical Subscription. 
• Access online learning platforms like Udemy for Business, LinkedIn Learning or O’Reilly, and a budget for external training.
• Gym allowance.
• Corporate English lessons.
• Support for New Parents:
• 21 weeks of paid maternity leave, with the flexibility to work from home full-time until your child turns 1 year old.
• 4 weeks of paternity leave, plus the flexibility to work from home full-time until your child is 13 weeks old.

Our office perks include on-site massages and frequent team-building activities in various locations.

At EveryMatrix, we're committed to creating a supportive and inclusive workplace where you can thrive both personally and professionally. Come join us and experience the difference!

We are looking for a Middle AI Engineer who will help us build, integrate, and scale AI-powered products that solve real business challenges.

This role is focused on creating production-ready AI solutions — from backend services and LLM integrations to RAG systems, AI agents, and workflow automation. You will work closely with Product Managers, developers, and business teams to transform ideas into reliable AI products that deliver measurable value.

What you will do:

• Develop production-ready AI services, backend components, APIs, and integrations for internal and external AI products.
• Design and implement AI solutions based on Large Language Models (LLMs), RAG architectures, AI agents, and workflow automation.
• Build and optimize Python-based services and backend infrastructure with a focus on scalability, reliability, and maintainability.
• Integrate and work with different types of AI models — including proprietary APIs (OpenAI, Anthropic, Gemini, etc.) and locally hosted models.
• Design and improve RAG pipelines: data processing, embeddings, vector search, retrieval optimization, knowledge bases, and AI response quality improvement.
• Develop AI agent systems and automation workflows, including integrations with external APIs, corporate systems, and internal tools.
• Conduct technical experiments with models, prompts, architectures, and inference parameters to identify the most effective solutions.
• Implement AI quality evaluation and monitoring approaches: analyze model performance, improve reliability, reduce errors, and optimize system efficiency.
• Collaborate with Product Managers and cross-functional teams to translate product requirements into technical solutions and scalable architectures.

• Ensure AI services are secure, stable, and production-ready by monitoring performance, resolving issues, and continuously improving systems.

   

What we expect from you

• 3+ years of commercial software development experience with strong Python expertise.
• Experience building backend services, APIs, and integrations using modern technologies.
• Strong understanding of software engineering principles: clean code, architecture patterns, testing, scalability, and maintainable solutions.
• Practical experience developing AI products based on Large Language Models (LLMs).
• Hands-on experience with RAG systems, embeddings, vector databases, retrieval optimization, and AI application development.
• Experience working with AI model integrations, including external APIs and/or locally deployed models.
• Understanding of AI agents, workflow automation, and approaches to building reliable AI systems.
• Experience with Docker, CI/CD, and production deployment processes.
• Ability to analyze AI system performance and improve quality, efficiency, and reliability.
• Upper-Intermediate English level (B2+) 

Will be a plus:

• Experience with fine-tuning or adapting AI models.
• Experience with MLOps / LLMOps practices.
• Knowledge of NLP approaches.
• Experience with cloud platforms and scalable infrastructure.

What we offer

• Competitive compensation up to $4,000, depending on your experience and expertise.
• Office-based work in Lviv with the possibility of a hybrid schedule.
• High level of technical ownership and the opportunity to solve challenging engineering problems.
• Professional development opportunities: company-sponsored courses, training, and access to necessary tools and resources.
• A team of experienced specialists who value expertise, initiative, and high-quality engineering.
• The opportunity to become one of the key engineers shaping the company’s AI direction.
• Relocation support for candidates from other cities, including assistance with moving and adaptation in Lviv.

Ми шукаємо Prompt Spec Engineer, який підсилить нашу команду розробки штучного інтелекту. Це роль не про "творче спілкування з ChatGPT", а про глибоку інженерну й системну роботу з архітектурою запитів, специфікаціями, метриками оцінки та автоматизацією тестування для забезпечення production-якості роботи LLM у складних продуктових сценаріях.
Вам доведеться проектувати логіку для АІ-асистентів, RAG-систем та автономних агентів, працюючи на стику продуктових вимог та чистої інженерії штучного інтелекту.

Локація: офіс у Львові
Зайнятість: Повна
 

Основні обов'язки:

• проектування архітектури запитів: розробка складної архітектури промптів та специфікацій для ШІ-продуктів, RAG-систем, агентських сценаріїв та workflow-автоматизацій;
• створення специфікацій (Spec-driven prompting): написання та підтримка детальних prompt spec-файлів для різних типів завдань (класифікація, вилучення даних, генерація, сумаризація, аналіз, діалоги);
• опис вхідних параметрів, JSON-схем, обмежень, метрик якості та fallback-логіки;
• розробка multi-step prompt chains: створення системних інструкцій та ланцюжків запитів (router, classifier, extraction, evaluator, critique prompts);
• тестування та оцінка якості (LLM Evaluation): Створення golden datasets, написання тест-кейсів, assertions та евал-конфігів в PromptFoo для перевірки LLM-виходів (фактологічність, безпека, валідація JSON-схем, семантичні перевірки);
• моніторинг та аналітика: робота з Langfuse для аналізу трейсів (traces), сесій, токенів, затримки (latency) та вартості. Формування error taxonomy (галюцинації, слабкий заземлення, неправильний формат тощо);
• оптимізація контексту (Context Engineering): виявлення context gaps (брак або надлишок контексту), формування рекомендацій для AI Engineer щодо покращення retrieval, reranking, tool calling та guardrails;
• крос-функціональна взаємодія: переклад бізнес-задач у технічні prompt-вимоги, комунікація з Product Managers, AI Engineers та QA для успішного релізу ШІ-фіч.

Вимоги до кандидата:

• досвід роботи від 2 років цільового досвіду в prompt engineering / LLM product / AI product operations / conversation design або AI evaluation на базі реального комерційного продукту;
• технологічна база LLM: глибоке розуміння instruction hierarchy, system/developer/user messages, context window, reasoning behavior, refusal behavior та безпекових фільтрів;
• робота зі Structured Outputs: досвід проектування детермінованих відповідей моделей (JSON mode, function calling, tool calling, schema validation, робота з Pydantic);
• розуміння сучасних AI-архітектур: базові знання принципів RAG (chunking, embeddings, hybrid search, reranking) та логіки агентських систем;

Знання інструментів:

• документація та формати: Markdown, YAML, JSON, JSON Schema, OpenAPI, Jinja2/Mustache/Handlebars;
• Dev-оточення: Git, GitHub/GitLab, VS Code;
• схеми та архітектура: Miro / FigJam;
• оцінка та моніторинг (Обов'язково): PromptFoo, Langfuse (знання LangSmith, OpenTelemetry, Ragas, DeepEval буде великим плюсом);
• фреймворки (як плюс): LangChain, LangGraph, LlamaIndex, Semantic Kernel;
• м'які навички: сильні навички технічного документування та здатність ефективно комунікувати складні технічні нюанси продуктовим менеджерам та бізнес-замовникам;
• рівень англійської мови: не нижче Upper-Intermediate (B2) - для написання точних промптів, аналізу документації моделей та підготовки специфікацій.

Що компанія пропонує:

• працюємо в сучасному та стильному офіс в ближньому центрі;
• безкоштовний корпоративний трансфер (дім-офіс-дім);
• забезпечуємо якісним та смачним кейтерингом прямо в офісі;
• корпоративні заняття йогою та медитацією + корпоративні знижки на здорове харчування;
• WELCOME bonus - фінансовий бонус від компанії на початку співпраці;
• релокейт пакет (оплата квитків у Львів + перший та останній місяць + рієлторські послуги).

Шукаємо досвідченого Python-розробника для роботи над AI-продуктами у сфері аналітики та автоматизації бізнес-процесів. Ти матимеш унікальний шанс долучитися до розробки дата платформи для всього Холдингу емоцій !FEST. Ми працюємо зі сучасними технологіями GCP і створюємо можливості для твого професійного зростання в галузі даних. У нашій команді цінується відповідальний підхід, і ми завжди відкриті до обґрунтованих ініціатив та готові втілювати їх у життя! Задачі різнопланові — від LLM-агентів і NL2Query до Computer Vision і парсингу даних, однак, ти зможеш обрати бажаний вектор роботи й розвитку.

Основні задачі:

1. Розробка та підтримка LLM-агентів і RAG-систем.

2. Інтеграція AI-модулів з аналітичним стеком (Looker, BigQuery).

3. Робота з CV-моделями — інтеграція, fine-tuning, деплой у production.

4. Обробка та трансформація даних (SQL, Pandas, Polars).

5. Деплой сервісів у Docker / GCP, участь у CI/CD процесах.

Вимоги:

1. Python 3.10+: асинхронне програмування, архітектурні патерни.

2. LLM-стек: досвід з RAG, Tool/Function Calling, prompt engineering; знання OpenAI / Gemini / Anthropic API.

3. Впевнений SQL, Pandas/Polars, розуміння аналітичних пайплайнів.

4. Cloud & DevOps — Docker, CI/CD; GCP є плюсом.

Буде перевагою:

1. Досвід з Looker / LookML.

2. Векторні БД (pgvector, ChromaDB, Pinecone).

3. Computer Vision: PyTorch або TensorFlow, OpenCV, досвід з YOLO або аналогами.

4. Досвід оптимізації вартості та латентності LLM-запитів.

5. Розуміння Self-Service Analytics і взаємодія з бізнес-користувачами.

Що ми пропонуємо:

1. Різнопланові технічні задачі: NLP, CV, аналітика в межах одного продукту.

2. Сучасний стек без легасі, самостійність в архітектурних рішеннях.

3. Команду з глибокою data-експертизою.

Якщо маєш бажання розвиватися та працювати в команді професіоналів — ця вакансія саме для тебе. Приєднуйся до нас!

We are looking for a Prompt Spec Engineer who will define how our AI systems communicate, reason, and deliver high-quality outputs across products powered by LLMs.
 

You will be responsible for designing prompt/spec architectures, building evaluation systems, and ensuring that AI responses are consistent, reliable, and production-ready across RAG systems, AI agents, and automation workflows.

What you will do:
 

• Design and evolve prompt/spec architecture for AI products, LLM services, RAG systems, and AI agents, defining prompt structures, model behavior rules, response formats, and quality criteria.
• Develop, optimize, and adapt prompts for different LLMs and use cases, considering output quality, context limitations, cost, and system stability.
• Build and maintain AI evaluation processes including test scenarios, golden datasets, regression testing, and A/B experiments for LLM performance measurement.
• Analyze AI outputs, identify root causes of issues (hallucinations, missing context, retrieval problems, incorrect or unsafe responses), and define improvements.
• Collaborate with AI Engineers and Product Managers to implement prompt solutions into production systems, RAG pipelines, AI agents, and automation workflows, translating business needs into technical specifications.
• Work with LLM evaluation and monitoring tools (such as PromptFoo, Langfuse, and similar solutions) to track metrics, prompt versions, response quality, and system performance.
• Create and maintain structured documentation: prompt specs, evaluation frameworks, usage guidelines, limitations, and best practices for safe and reliable AI behavior.

What we expect from you:
 

• 2+ years of experience in LLM-related roles such as Prompt Engineering, AI Product Operations, AI Evaluation, or similar.
• Hands-on experience designing and optimizing prompts for different LLMs with a strong understanding of model behavior, strengths, and limitations.
• Experience building prompt/spec systems including prompt structure design, behavior rules, response formatting, testing, and versioning.
• Strong experience in AI evaluation: test case design, output analysis, issue detection, and iterative improvement of model performance.
• Understanding of RAG systems, AI agents, structured outputs, tool calling, and principles of reliable LLM system design.
• Ability to collaborate with engineering and product teams, translate business requirements into AI specifications, and document solutions clearly and consistently.
• Upper-Intermediate (B2+) English 
   

What we offer

• Competitive compensation depending on experience
• Work on production-level AI systems (LLMs, RAG, AI agents, automation workflows)
• Office-based work in Lviv with the possibility of a hybrid schedule.
• Direct impact on AI product quality and system behavior
• Access to modern LLM tools and evaluation frameworks
• Professional growth in a fast-moving AI-focused environment
• Opportunity to shape prompt engineering standards inside the company
• Relocation support for candidates from other cities, including assistance with moving and adaptation in Lviv.