ML Engineer / LLM Engineer

Что за роль

Вакансия ML Engineer / LLM Engineer предполагает работу с современными моделями машинного обучения, где кандидат будет отвечать за полный цикл разработки и оптимизации LLM. Основное внимание уделяется fine-tuning, post-training и внедрению моделей, что требует глубокого понимания различных методов и технологий в области LLM.

Что предстоит делать

• Разработка и улучшение пайплайна LLM post-training: SFT, preference optimization, Offline / Online RL
• Улучшение instruction following и построение системы benchmarking / evaluation
• Обучение LoRA / QLoRA-адаптеров под различные домены и задачи
• Работа с reward models и reward functions для RL
• Разработка RAG-систем: retrieval, reranking, context construction и evaluation
• Оптимизация inference и serving моделей с использованием vLLM / SGLang

Что потребуется

• Практический опыт fine-tuning / post-training LLM
• Опыт с SFT и preference optimization: DPO / IPO / ORPO / SimPO
• Понимание reward models и LLM evaluation
• Уверенное владение Python, PyTorch, Hugging Face Transformers
• Опыт работы с GPU, distributed training и Linux / Docker / Git

Что важно знать

Кандидат должен иметь опыт самостоятельного обучения и адаптации LLM, а также понимание архитектуры современных LLM и особенностей их обучения. Это роль, требующая высокого уровня ответственности и самостоятельности в проведении экспериментов и анализе результатов.