LLMOps Engineer

Описание роли

На позиции LLMOps Engineer вы будете ответственны за построение и сопровождение инфраструктуры для развёртывания и эксплуатации больших языковых моделей (LLM). Ваша основная задача – обеспечить надёжность, безопасность и масштабируемость LLM-пайплайнов в условиях реальных нагрузок. В работе вы будете взаимодействовать с командами Data Science и разработчиками, собирая требования и реализуя решения «под ключ».

Ключевые обязанности:
• Разработка и оптимизация CI/CD процессов для деплоя LLM-моделей с учётом требований к вычислительным ресурсам
• Контейнеризация и оркестрация (Docker, Kubernetes) компонентов для обработки и развёртывания моделей
• Интеграция инструментов мониторинга и алертинга для оценки производительности и доступности сервисов
• Управление облачными ресурсами (AWS, Azure, GCP), настройка auto-scaling и оптимизация затрат
• Обеспечение безопасности инфраструктуры: настройка прав доступа, аудит логов, защита данных моделей
• Анализ требований проекта и планирование отказоустойчивой архитектуры для высокон нагруженных LLM-систем

Что делает эту вакансию особенной

Вы присоединитесь к команде, специализирующейся на end-to-end продуктовом DevOps и MLOps. У вас будет свобода выбирать инструменты и технологии, экспериментировать с архитектурными решениями для генеративного ИИ и влиять на ключевые технические решения. Проект отличается:
• Фокусом на передовых LLM-решениях и generative AI
• Возможностью работать с мультиоблачными платформами и инструментами оптимизации затрат
• Удалённым форматом с гибким графиком и поддержкой обучения
• Связью с бизнес-целями заказчиков и прозрачными KPI

О компании Centicore

Centicore — российская технологическая компания полного цикла, которая разрабатывает и внедряет продукты для корпоративных клиентов. Наша миссия — автоматизировать сложные процессы с помощью современных облачных решений и ИИ-технологий. Среди наших клиентов — крупные банки и онлайн-сервисы, а проекты Centicore неоднократно отмечались профильными изданиями. Мы стремимся к созданию дружелюбной атмосферы, где каждый инженер может предложить собственные optimizations и расти профессионально.