Senior DevOps Engineer

Ми — українська мілтек компанія, яка спеціалізується на розробці defense-tech рішень, автономних платформ та спеціалізованого програмного забезпечення. 
 

Ми шукаємо досвідченого Senior DevOps Engineer, який готовий вийти за межі стандартних вебсерверів і долучитись до розбудови нашої AI-інфраструктури.

Основні задачі будуть стандартні девопсні, але інколи треба буде вкапуватись в AI-специфічну інфраструктуру. Ми не очікуємо що AI-повʼязані технології ти зразу будеш знати і розуміти, але в тебе має бути бажання з ними розібратись. Час і ресурси ми надамо.

Обовʼязки:

• Керування серверами та інфрою на них через автоматизацію (ansible, tf, etc).
• Розгортання та підтримка open-source LLM через сучасні фреймворки (vLLM, Ollama).
• Налаштування драйверів NVIDIA, CUDA-оточення та моніторинг навантаження відеопам’яті.
• Побудова процесів розгортання моделей та додатків (CI/CD).
• Налаштування моніторинг платформи для відстеження стану GPU, специфічних метрик LLM, стану додатків, баз даних та серверів.
• Приймати проактивну участь розбудові AI платформи.

Вимоги до кандидата:

• Глибокі знання linux. Знання ОС на рівні ядра, драйверів, мережевих протоколів та файлової системи.
• Docker та K8s. Впевнене володіння контейнеризацією 
• Серйозне ставлення до автоматизації. Досвід з Ansible, Terraform або подібними інструментами. Досвід написання складних python скриптів.
• Cloud. Досвід роботи з GCP або іншими клауд провайдерами.
• Моніторинг. Досвід розгортання моніторинг платформи grafana/loki/alloy/prometheus/ELK/etc.
• Архітектурне мислення. Вміння проєктувати таку системи яка здатна витримати навантаження та атаки. Це також стосується налаштування безпеки, сканування на вразливості, тощо.
• FinOps. Вміння оцінювати витрати та підлаштовувати рішення щоб вони були не тільки ефективними, але й економічними.
• Інтерес до AI. Але без фанатизму.
• Самостійність. Вміння самому знаходити проблеми та вирішувати їх.
• Продуктовий майндсет. Думати про своїх користувачів, а не тільки про технології.

Буде плюсом:

• Досвід роботи з NVIDIA Container Toolkit.
• Розуміння архітектури CUDA-ядер (хоча б теоретичне).
• Досвід з GPU-toolkit для Docker.