ML Engineer

Что за роль

Роль ML Engineer в компании Нетбелл предполагает интеграцию LLM в продукты и сервисы, включая работу с API и backend. Вы будете отвечать за разработку и оптимизацию prompt’ов, а также за оценку качества ответов с помощью метрик и human eval. Ваша работа также будет включать настройку guardrails для обеспечения безопасности и соответствия требованиям.

Что предстоит делать:
— Интегрировать LLM в продукты и сервисы (API, backend, пайплайны обработки данных);
— Разрабатывать и оптимизировать prompt’ы, CoT, системные инструкции;
— Оценивать качество ответов (метрики + human eval);
— Настраивать guardrails: безопасность, фильтрация, соответствие требованиям;
— Строить RAG-системы: индексация данных; работа с векторными БД; оптимизация поиска и генерации;
— Оптимизировать инференс (стоимость, latency, batching, caching, квантизация);
— Участвовать в архитектурных решениях вместе с продуктовой и ML-командой;
— Исследовать и внедрять новые подходы и модели;
— При необходимости: работать с мультимодальными моделями (текст, изображения, документы).

Что важно знать

Необходимы уверенные навыки работы с Python и опыт работы с LLM в продуктивной среде. Знание prompt engineering и RAG-подходов, а также опыт деплоя ML/LLM решений (Docker, Kubernetes, cloud) будут вашими преимуществами. Опыт с векторными базами данных также будет полезен. В компании предусмотрены возможности для развития и прокачки скиллов под руководством опытных лидов.