Архитектор информационной безопасности AI-систем

Что за роль

Архитектор информационной безопасности отвечает за безопасность систем искусственного интеллекта — от проектирования архитектуры и интеграции со средствами защиты до сопровождения безопасной разработки и расследования инцидентов. Важная часть работы — учитывать специфические угрозы AI-систем, включая промпт-инъекции, отравление данных и атаки на модели, и переводить требования ИБ в решения, пригодные для промышленной эксплуатации.

Что предстоит делать

• Участвовать в проектировании информационных систем искусственного интеллекта и формировании требований информационной безопасности.
• Проектировать взаимодействие AI-систем с IAM/IDM, PAM, DLP, SIEM и другими системами защиты информации.
• Разрабатывать и актуализировать проектную и эксплуатационную документацию, участвовать в подготовке и согласовании локальных нормативных актов по ИБ.
• Участвовать в разработке специальных средств и методов защиты AI-компонентов от adversarial-атак, промпт-инъекций и утечек данных, а также в контроле целостности моделей.
• Сопровождать безопасную разработку: анализировать архитектуру и уязвимости, помогать командам принимать решения по защите приложений и инфраструктуры.
• Проводить сканирование уязвимостей, контролировать обновления и работоспособность средств защиты, вести инвентаризацию ресурсов.
• Анализировать события информационной безопасности и участвовать в расследовании инцидентов.
• Участвовать в выборе технологического стека и прототипировании AI-решений для задач ИБ, оценивая возможность их внедрения в продукт.
• Взаимодействовать с Data Scientist’ами, инженерами по данным, разработчиками и специалистами по кибербезопасности при переносе исследовательских решений в промышленные сервисы.

Что потребуется

• Понимание машинного обучения, MLOps и MLSecOps, а также принципов DevSecOps, AppSec и безопасной разработки.
• Знание требований ФСТЭК и ГОСТ в области ИБ, включая документы 21, 117 и 239, методику моделирования угроз и ГОСТ 56939-2024.
• Понимание подходов к моделированию угроз AI-систем, в том числе ФСТЭК, MITRE ATLAS и OWASP Top 10 X.
• Знание угроз и мер защиты AI-систем: отравление данных, модельная инверсия, состязательные примеры, контроль доступа к моделям и данным.
• Опыт проектирования интеграций с IAM/IDM/PAM/DLP/SIEM, ведения документации по требованиям ФСТЭК и ГОСТ, а также подготовки ЛНА по ИБ.
• Практический опыт сканирования уязвимостей, управления обновлениями, инвентаризации активов и контроля средств защиты; умение аргументировать архитектурные решения и взаимодействовать с разными техническими командами.

Что важно знать

Вакансия объединяет архитектуру кибербезопасности с защитой систем машинного обучения: здесь нужно учитывать как традиционные требования ИБ, так и специфические риски моделей и данных. Формат работы — гибридный. Уровень ответственности охватывает проектирование, технические меры защиты, документацию и взаимодействие с командами разработки и Data Science.