ML-разработчик (Inference)

На позиции ML-разработчика (Inference) в Яндексе вы станете частью команды, занимающейся разработкой высокопроизводительных ML-сервисов. Вы будете работать с современными технологиями и иметь возможность оптимизировать и масштабировать инференс больших языковых моделей. Ваша роль будет включать следующие ключевые задачи: оптимизация throughput и latency при генерации LLM, внедрение техник speculative decoding и continuous batching, работа с фреймворками PyTorch и TensorRT, разработка распределённых систем для инференса, интеграция с Kubernetes и поддержка multi-node-сценариев. Также вы будете заниматься низкоуровневой оптимизацией CUDA/Triton и разработкой API и SDK для разработчиков. У вас будет возможность гибко распределять свое время между различными задачами в зависимости от ваших интересов и навыков. Мы ищем кандидатов с опытом работы с высоконагруженными сервисами и глубоким пониманием архитектуры трансформеров и LLM-инференса. Вы будете частью компании, которая активно развивает технологии и внедряет новые подходы в области машинного обучения. Яндекс предлагает конкурентные условия работы и возможность профессионального роста в команде, где ценится инновационный подход и сотрудничество. Работа в гибридном формате позволит вам сочетать удаленные и офисные дни, обеспечивая гибкость в организации рабочего времени. Вы получите доступ к современным инструментам и ресурсам для реализации ваших идей и проектов. В Яндексе вы сможете работать на стыке технологий и бизнеса, развивая передовые решения в области машинного обучения и искусственного интеллекта.

Партнёрское размещение. ERID 2W5zFHoQEpH Партнёрское размещение. ERID 2W5zFJWuthw