Data Scientist по LLM/NLP

Что за роль

В этой роли вы будете заниматься интеграцией LLM в продукты и сервисы, включая API и пайплайны обработки данных. Вы будете оценивать качество ответов моделей, обеспечивать безопасность и соответствие этическим требованиям. Основные задачи включают:

• Интеграция LLM в продукты и сервисы (API, backend, пайплайны обработки данных)
• Оценка качества ответов моделей (автоматические метрики, human eval)
• Обеспечение безопасности и фильтрации (guardrails)
• Построение RAG-систем: индексация данных, работа с векторными БД
• Оптимизация производительности инференса (квантизация, batching, caching)
• Работа с мультимодальными моделями (текст, изображения, документы)
• Проектирование и дообучение LLM (fine-tuning, instruction tuning)

Что важно знать

Роль требует уверенного владения Python и SQL, а также знаний в области теории вероятностей и алгоритмов машинного обучения. Опыт деплоя ML/LLM решений с использованием Docker и Kubernetes будет плюсом. Вы будете работать в команде с продуктовой и ML-командой, что предполагает активное взаимодействие и участие в архитектурных решениях.