Инженер по локальным LLM и автоматизации

Что за роль

Инженер будет развивать внутренний контур локальных LLM и автоматизации: разворачивать и сопровождать ИИ-серверы, подключать открытые модели к прикладным сценариям и доводить решения до рабочего состояния. В фокусе — автоматизация процессов, поддержка с поиском по базе знаний, обработка звонков и применение ИИ для ревью кода. Это инженерная прикладная работа, а не обучение моделей или создание ML-платформы.

Что предстоит делать

    • Администрировать серверы и инструменты для локального запуска моделей, включая GPUStack, Ollama и Open WebUI или аналоги.
    • Подбирать открытые модели под конкретные задачи и настраивать их для практического использования.
    • Создавать автоматизированные сценарии в n8n или похожих системах: от клиентских чат-ботов до внутренних процессов.
    • Настроить поддержку на базе чата с RAG, чтобы ответы формировались с опорой на корпоративную базу знаний.
    • Собирать процессы транскрибации звонков и последующей обработки расшифровок.
    • Реализовать модуль ревью кода через внутренний ИИ-сервер и настраивать его для полноценного использования.
    • Писать парсеры и небольшие программы для сбора данных из открытых источников, а затем обрабатывать результаты с помощью локальных моделей.

Что потребуется

    • Опыт работы с Linux, Docker, CI/CD и Git.
    • Уверенное владение Python для написания рабочих скриптов и парсеров.
    • Понимание REST, GraphQL, вебхуков и RPC, а также практический опыт работы с HTTP, JSON, HTML и сторонними SDK по документации.
    • Опыт создания пайплайнов в n8n или аналогичном инструменте.
    • Практика развёртывания локальных моделей, например через Ollama, Open WebUI или vLLM, и понимание выбора модели под задачу.
    • Опыт создания RAG-сценария для ответов по документам и способность самостоятельно доводить задачу до рабочего контура.

Что важно знать

Среди дополнительных преимуществ — опыт с GPUStack, DataLens, Whisper, Telegram-ботами, FastAPI или Flask, SQL и векторными базами, такими как Qdrant и PGVector. Также пригодится опыт внедрения LLM во внутренние процессы. Работа сосредоточена на интеграции и сопровождении прикладных ИИ-сценариев; обучение моделей и построение ML-платформы не входят в её фокус.

Оценка вакансии
7.2 / 10
В вакансии подробно описаны прикладные задачи и технические требования: от локального запуска моделей до RAG и автоматизации. Не указаны зарплата и географические ограничения для удалённой работы.
Опубликовано:

Будьте в курсе новых вакансий

Подпишитесь на наш Telegram-канал

TalentMove стал Жабкой

Встречайте
TalentMove 2.0

Удобнее искать. Проще выбирать.

Открыть Жабку