MLOps Engineer
to $5000
🪖 DefTech
Product
Ми шукаємо MLOps Engineer, який стане першим інженером нової функції MLOps в одній із найбільших мілтек-компаній України. Ви збудуєте її з нуля: закладете архітектуру, стандарти й процеси для виведення LLM- та ML-рішень у прод у масштабах великої компанії. Legacy немає, фундамент визначаєте ви. Разом із командою можна вирости до Lead / Head of MLOps.
Що ми пропонуємо:
- Повний LLM-стек: від API-провайдерів до власних моделей на GPU, а також RAG, агенти, eval-інфраструктура, оптимізація витрат, класичне ML і промислові кейси
- Реальний масштаб: рішення для фінансів, продажів, закупівель і виробництва
- Сильну інженерну культуру: без eval жоден проєкт не йде в прод, трейсинг вмикаємо з першого дня, post-mortem проводимо без пошуку винних, QA незалежний
- Матрицю компетенцій, бюджет на навчання й конференції
- Бронювання з першого дня працевлаштування
Обов'язки:
- Розгортати й підтримувати інфраструктуру для LLM-serving: власні моделі, квантизація, батчинг, автоскейлінг, керування GPU-ресурсами
- Будувати й підтримувати шлюз до LLM-провайдерів: роутинг запитів, фолбеки, rate limits, кешування, контроль витрат на inference
- Проєктувати й підтримувати CI/CD-пайплайни для DS- та LLM-сервісів, а також створювати шаблони деплою, за якими DS-команда розгортає сервіси самостійно
- Керувати інфраструктурою через Terraform: середовища, доступи, секрети, ізоляція середовищ
- Додавати в LLM-системи трейсинг, дашборди й алерти на погіршення якості, latency і вартості
- Будувати eval-інфраструктуру: автоматичний прогін golden datasets перед релізом і регресійні eval-и в CI
- Моніторити production-сервіси, реагувати на інциденти й проводити post-mortem
- Вести технічну документацію: runbook-и, архітектурні нотатки, інструкції для DS-команди
Вимоги:
- 3+ роки досвіду в MLOps, DevOps або Platform Engineering, з них щонайменше рік роботи з ML- чи LLM-навантаженнями в проді
- Впевнений Python: ви пишете production-код із тестами, а не лише скрипти
- Практичний досвід із Kubernetes і контейнеризацією: ви самостійно проєктували деплой сервісу (jobs, секрети, скейлінг)
- Досвід з інфраструктурою як кодом (Terraform)
- Досвід побудови й підтримки CI/CD-пайплайнів
- Досвід роботи хоча б з одним хмарним провайдером
- Розуміння специфіки LLM-навантажень: чим GPU-serving відрізняється від звичайного бекенду, що таке KV-cache і continuous batching, як міряти якість, крім latency
- Операційний досвід у продакшені: реальні інциденти, on-call, post-mortem, rollback
Буде перевагою:
- Azure
- Досвід із трейсингом LLM-систем (Langfuse або аналоги) та eval-інфраструктурою
- Досвід роботи у великій компанії: погодження з інформаційною безпекою, AD/Entra ID, сегментовані мережі, інтеграції з ERP та іншими системами-джерелами
- Досвід з on-prem або гібридною інфраструктурою, закритими мережами
Цікаво? Надсилайте CV ми з вами з'яжемось!!!
Required languages
Published 18 November
79 views · 11 applications
See stats of candidates who applied for this job 👀
📊
Average salary range of similar jobs in
analytics →
Loading...