Middle LLM-инженер

Что за роль

Мособлгаз ищет Middle LLM-инженера для разработки AI-агентов и решений на основе RAG для корпоративных систем и внутренних документов. В задачи входит полный цикл работы: от прототипирования и проверки качества до передачи решения в эксплуатацию. Среди интеграций — Bitrix, Jira, Alfresco, Exchange и 1С, а также базы данных MS SQL и PostgreSQL.

Что предстоит делать

• Разрабатывать агентов на LangGraph: настраивать вызов инструментов, многошаговые сценарии, human-in-the-loop и обработку ошибок.
• Строить RAG-пайплайны для PDF, DOCX, сканов и таблиц: организовывать разбиение документов, индексацию, гибридный поиск BM25 и dense, а также реранкинг.
• Создавать агентов для корпоративных систем, реализовывать text-to-SQL для MS SQL и PostgreSQL и интеграции через REST API.
• Анализировать трейсы и сбои агентов, формировать регрессионные наборы и отслеживать метрики качества.
• Собирать тестовые данные, выбирать метрики, проводить офлайн-оценку и сравнивать версии промптов и пайплайнов.
• Совместно с бизнес-заказчиками доводить решения от прототипа до передачи в эксплуатацию и готовить документацию.

Что потребуется

• От двух лет разработки на Python и от года работы над LLM-проектами с агентами, ассистентами или RAG.
• Практический опыт с asyncio, FastAPI, Pydantic и тестами; знакомство с LangGraph, LangChain или аналогами.
• Понимание function calling, structured output и агентных паттернов, включая ReAct, plan-and-execute и маршрутизацию.
• Опыт настройки RAG: chunking, эмбеддинги, векторный и гибридный поиск; знание Qdrant, pgvector или аналогов.
• Уверенный SQL, Docker или Docker Swarm и GitLab CI; умение объяснять ограничения LLM и выбирать подход с учётом качества, стоимости и надёжности.
• Навык общения с бизнес-заказчиками, формализации требований и подготовки понятной технической документации.

Что важно знать

В работе сочетаются разработка LLM-агентов, корпоративные интеграции и практическая оценка качества генеративных систем. Дополнительным преимуществом будут опыт деплоя open-weight моделей через vLLM, знакомство с российскими LLM, Langfuse или LangSmith, MCP и защитой от prompt injection. Также приветствуется классический ML для текстовой классификации, кластеризации и маршрутизации запросов.