Инженер по безопасности AI/LLM

Что за роль

Инженер по безопасности AI/LLM отвечает за требования информационной безопасности для систем и проектов с искусственным интеллектом. В фокусе — анализ архитектуры и потоков данных, оценка угроз и подготовка AI-решений к тестовой и промышленной эксплуатации. Среди рассматриваемых сценариев — RAG, AI-агенты, MCP-интеграции и подключение внешних LLM-провайдеров.

Что предстоит делать

• Формировать, согласовывать и актуализировать требования ИБ к AI-системам и проектам.
• Анализировать архитектуру, сценарии использования и потоки данных, определять границы доверия и меры защиты.
• Устанавливать критерии допуска AI-решений к тестовой и промышленной эксплуатации.
• Сопровождать внедрение LLM Security Gate и координировать подключение моделей, приложений и команд.
• Разрабатывать и обновлять политики контроля запросов, ответов, контекста и действий AI-агентов.
• Разбирать события и журналы LLM Security Gate, выявлять ложные срабатывания и пропуски, корректировать политики и оценивать меры защиты.
• Контролировать риски утечки конфиденциальной информации, персональных данных и секретов, prompt injection, небезопасных ответов и неконтролируемых действий агентов.
• Готовить AI Security Playbook: требования ИБ, безопасные архитектурные шаблоны, чек-листы, модели угроз, сценарии испытаний и порядок обработки исключений.
• Работать с командами разработки, AppSec, DevSecOps, SOC, инфраструктурой и поставщиками; консультировать по безопасному внедрению AI.

Что потребуется

• Понимание устройства LLM-приложений, RAG, AI-агентов, MCP-интеграций и взаимодействия с внешними провайдерами моделей.
• Навыки анализа архитектуры и потоков данных, моделирования угроз и подготовки проверяемых требований ИБ.
• Знание угроз AI-систем, включая prompt injection, утечки данных и секретов, избыточные полномочия и небезопасные действия агентов.
• Понимание принципов работы LLM Security Gate и контроля запросов, ответов, контекста и вызовов инструментов.
• Опыт настройки политик безопасности, анализа журналов и событий, выявления ложно-положительных и ложно-отрицательных срабатываний.
• Навыки разработки сценариев испытаний, оценки защитных мер, подготовки моделей угроз и безопасных архитектурных шаблонов.
• Понимание разграничения доступа, защиты персональных данных и конфиденциальной информации, безопасного хранения и использования секретов.

Что важно знать

Вакансия объединяет прикладную безопасность и быстро развивающиеся архитектуры на базе LLM. Существенная часть работы — не только выявление рисков, но и настройка защитных политик, проверка их эффективности и согласование требований с техническими командами. Опыт работы, указанный в описании, — 3–6 лет; зарплата обсуждается на собеседовании.