Ведущий инженер по безопасности AI-систем

Что за роль

Ведущий инженер по безопасности AI-систем будет проверять ML/LLM-сервисы и их инфраструктуру на уязвимости, а также развивать инструменты и стандарты защиты. В зоне внимания — инференс-сервисы, RAG-пайплайны, агенты с доступом к инструментам, MCP-серверы и компоненты ML-платформы: модели, датасеты и фичестор. Около 20% времени отведено проектам по безопасности приложений.

Что предстоит делать

• Проводить аудиты безопасности AI-систем и проверять инференс-сервисы, RAG, агентные архитектуры, MCP-серверы и артефакты ML-платформы.
• Тестировать системы на прямой и косвенный prompt injection, джейлбрейки, утечки системных промптов и данных, злоупотребление tool calling и выход агентов за разрешённые границы.
• Искать риски отравления данных и моделей, а также уязвимости в цепочке поставки: весах, pickle, кастомных операторах и сторонних моделях.
• Развивать DAST для AI-эндпоинтов: создавать харнесс и сканер, автоматизированные наборы атак и регрессионные тесты моделей и защит.
• Встраивать проверки AI-систем в CI/CD и оценивать защитные механизмы: гарды входа и выхода, фильтры, лимиты, изоляцию инструментов и данных.
• Формировать модели угроз, чек-листы ревью и стандарты безопасной разработки AI-сервисов, включая правила для прав агентов, секретов и изоляции окружений.
• Писать инструменты автоматизации на Python или Go, интегрировать их с ASOC, Jira, CI/CD и SIEM; взаимодействовать с командами ML-платформы, разработки и инфраструктурной безопасности.

Что потребуется

• Знание уязвимостей веб-приложений и API на уровне OWASP Top 10: способность находить проблемы и объяснять их.
• Понимание жизненного цикла ML-моделей и ML-пайплайна: данные, обучение, хранение и сериализация весов, реестр моделей и инференс.
• Практическое понимание LLM, RAG, агентных архитектур и tool calling; опыт работы с API моделей и промпт-инжинирингом.
• Знание рисков AI-систем, включая prompt injection, отравление данных и атаки на цепочку поставки моделей.
• Базовое понимание операционных систем, сетей, контейнеров и Kubernetes.
• Самостоятельность и готовность выстраивать подходы в области, где методологии ещё не устоялись.

Что важно знать

Уровень зарплаты обсуждается на собеседовании. В описании указаны профильные задачи и требования, но не раскрыты конкретные условия занятости или дополнительные компенсации. Работа сочетает практический red teaming AI-систем, автоматизацию проверок и создание стандартов защиты.