Инженер по локальным LLM и автоматизации
Что за роль
Инженер будет развивать внутренний контур локальных LLM и автоматизации: разворачивать и сопровождать ИИ-серверы, подключать открытые модели к прикладным сценариям и доводить решения до рабочего состояния. В фокусе — автоматизация процессов, поддержка с поиском по базе знаний, обработка звонков и применение ИИ для ревью кода. Это инженерная прикладная работа, а не обучение моделей или создание ML-платформы.
Что предстоит делать
- Администрировать серверы и инструменты для локального запуска моделей, включая GPUStack, Ollama и Open WebUI или аналоги.
- Подбирать открытые модели под конкретные задачи и настраивать их для практического использования.
- Создавать автоматизированные сценарии в n8n или похожих системах: от клиентских чат-ботов до внутренних процессов.
- Настроить поддержку на базе чата с RAG, чтобы ответы формировались с опорой на корпоративную базу знаний.
- Собирать процессы транскрибации звонков и последующей обработки расшифровок.
- Реализовать модуль ревью кода через внутренний ИИ-сервер и настраивать его для полноценного использования.
- Писать парсеры и небольшие программы для сбора данных из открытых источников, а затем обрабатывать результаты с помощью локальных моделей.
Что потребуется
- Опыт работы с Linux, Docker, CI/CD и Git.
- Уверенное владение Python для написания рабочих скриптов и парсеров.
- Понимание REST, GraphQL, вебхуков и RPC, а также практический опыт работы с HTTP, JSON, HTML и сторонними SDK по документации.
- Опыт создания пайплайнов в n8n или аналогичном инструменте.
- Практика развёртывания локальных моделей, например через Ollama, Open WebUI или vLLM, и понимание выбора модели под задачу.
- Опыт создания RAG-сценария для ответов по документам и способность самостоятельно доводить задачу до рабочего контура.
Что важно знать
Среди дополнительных преимуществ — опыт с GPUStack, DataLens, Whisper, Telegram-ботами, FastAPI или Flask, SQL и векторными базами, такими как Qdrant и PGVector. Также пригодится опыт внедрения LLM во внутренние процессы. Работа сосредоточена на интеграции и сопровождении прикладных ИИ-сценариев; обучение моделей и построение ML-платформы не входят в её фокус.
Подписка TalentMove
Больше,
чем вакансии
→ TalentScanAI
Узнайте стоимость вашего опыта на рынке
→ Закрытое сообщество
Нетворкинг и инсайды рынка труда
→ Топ вакансии
Лучшие вакансии с доставкой в Telegram