LLM Systems Engineer / AI Infrastructure Engineer $$$$

Ми — українська мілтек компанія, яка спеціалізується на розробці defense-tech рішень, автономних платформ та спеціалізованого програмного забезпечення. 

Компанія постійно зростає, розвивається та вдосконалює робочі процеси, тож зараз ми шукаємо LLM Systems Engineer / AI Infrastructure Engineer.

Необхідні навички та досвід:

• Впевнена робота з ОС, драйверами NVIDIA та оточенням.
• Розуміння принципів роботи відеопам’яті, CUDA-ядер та архітектури обчислень.
• Досвід розгортання локальних LLM моделей
• Впевнене володіння Docker/контейнеризацією та розуміння мережевих протоколів.

Твої обов’язки:

• розгортання локальних LLM на наших серверах
• оптимізація роботи моделей на GPU
• розгортання інфраструктури для ШІ систем (векторні бази даних, додатки які будуть виконувати RAG, ML пайплайни, тощо)
• загальне налаштування інфраструктури (функція «devops»)
• приймання участі в вибудові архітектури IT платформи
• налаштування моніторингу інфри (LLM, серверів, тощо)
• налаштування CI/CD