LLM инженер

Описание роли

На позиции LLM инженера в HighSky вы возглавите ключевые этапы создания и обучения крупных языковых моделей (LLM). Основная задача заключается в instruction tuning для единого агента, способного решать широкий спектр задач: от вычислений и SQL-генерации до программирования. Вы будете участвовать во всех этапах работы с моделями: сбор и очистка данных, выбор архитектур и предобученных базовых LLM, настройка и объединение адаптеров.

Ваши ключевые обязанности:
* Проведение fine-tuning LLM: cross-domain generalization, trajectory fine-tuning, behavior cloning.
* Проведение экспериментов с методами обучения (SFT, DPO, PPO, GRPO, RLHF, PEFT, knowledge distillation).
* Сбор, фильтрация и аннотирование разнообразных датасетов для обучения и валидации моделей.
* Выбор и тестирование архитектур, интеграция различных pre-trained моделей.
* Объединение нескольких моделей и адаптеров в единую систему с учётом производительности.
* Оптимизация процессов обучения и inference, автоматизация рабочих циклов.

Эта роль идеально подойдёт специалистам с глубоким пониманием NLP и transformer-архитектур, готовым решать нестандартные задачи в области искусственного интеллекта и вносить вклад в разработку реального продукта с высоким уровнем качества.