ML Engineer

Что за роль

В данной роли ML Engineer вы будете интегрировать LLM в продукты и сервисы, включая API и пайплайны обработки данных. Основная задача заключается в разработке и оптимизации prompt’ов и системных инструкций, а также в оценке качества ответов с использованием различных метрик. Вы будете также настраивать guardrails для обеспечения безопасности и соответствия требованиям, строить RAG-системы и оптимизировать инференс.
Что предстоит делать:
• Интегрировать LLM в продукты и сервисы (API, backend, пайплайны обработки данных)
• Разрабатывать и оптимизировать prompt’ы, CoT, системные инструкции
• Оценивать качество ответов (метрики + human eval)
• Настраивать guardrails: безопасность, фильтрация, соответствие требованиям
• Строить RAG-системы: индексация данных, работа с векторными БД, оптимизация поиска и генерации
• Оптимизировать инференс (стоимость, latency, batching, caching, квантизация)
• Участвовать в архитектурных решениях вместе с продуктовой и ML-командой
• Исследовать и внедрять новые подходы и модели
• При необходимости работать с мультимодальными моделями (текст, изображения, документы)

Что важно знать

Для успешного выполнения задач вам потребуется уверенное знание Python и опыт работы с LLM в продакшене. Также важно понимание prompt engineering, RAG-подходов и оценки качества моделей. Опыт деплоя ML/LLM решений с использованием Docker и Kubernetes будет преимуществом.

О компании Нетбелл

Нетбелл — аккредитованная ИТ-компания с интересным продуктом и современным стеком. Мы работаем с известными клиентами из ТОП-10 в своих сегментах и предлагаем возможность прокачки скиллов под руководством опытных лидов.