ML Engineer для LLM решений

Что за роль

Роль ML Engineer сосредоточена на интеграции LLM в продукты и сервисы компании. Вы будете работать с API, пайплайнами обработки данных, а также оптимизировать prompt’ы и оценивать качество ответов с помощью метрик и human eval.
Что предстоит делать:
— Интегрировать LLM в продукты и сервисы (API, backend, пайплайны обработки данных);
— Разрабатывать и оптимизировать prompt’ы, CoT, системные инструкции;
— Оценивать качество ответов (метрики + human eval);
— Настраивать guardrails: безопасность, фильтрация, соответствие требованиям;
— Строить RAG-системы: индексация данных; работа с векторными БД; оптимизация поиска и генерации;
— Оптимизировать инференс (стоимость, latency, batching, caching, квантизация);
— Участвовать в архитектурных решениях вместе с продуктовой и ML-командой;
— Исследовать и внедрять новые подходы и модели;
— При необходимости: работать с мультимодальными моделями (текст, изображения, документы).

Что важно знать

Для успешного выполнения задач требуется уверенное владение Python и опыт работы с LLM в продакшене. Также необходимо понимание prompt engineering, RAG-подходов и оценки качества моделей. Опыт деплоя ML/LLM решений с использованием Docker, Kubernetes и облачных технологий будет большим плюсом.

О компании Нетбелл

Компания является аккредитованным IT-игроком с интересным продуктом и современным стеком технологий. Она работает с известными клиентами из ТОП-10 в своих сегментах и предлагает возможности для профессионального роста под руководством опытных лидов.

Партнёрское размещение. ERID 2W5zFHoQEpH Партнёрское размещение. ERID 2W5zFJWuthw