AI Security Engineer для DevSecOps для агентных систем

Что за роль

AI Security Engineer отвечает за проектирование и реализацию архитектуры безопасности для агентных систем, включая защиту от различных угроз и управление рисками. В этой роли вы будете работать с передовыми LLM и инструментами, обеспечивая безопасность на всех уровнях разработки и эксплуатации.

Что предстоит делать:
• Проектировать архитектуру безопасности агентных систем, включая песочницы для выполнения инструментов и изоляцию контуров.
• Защищать системы от угроз, таких как prompt injection и data exfiltration, на уровне архитектуры.
• Проводить red team упражнения против собственных агентов.
• Ревьюить агентские пайплайны от команды LLM-инженеров до выкатки в продакшн.
• Контролировать данные, которые уходят во внешние LLM-провайдеры.

Что важно знать

Роль предлагает уникальную возможность работать с реальными задачами в продакшене, а не только заниматься теоретической безопасностью. Ваша работа будет включать доступ к топовым LLM и бюджеты на эксперименты, что позволит вам влиять на развитие технологий в компании. Команда активно использует AI-агентов в своей работе, что делает эту позицию особенно интересной для специалистов, стремящихся к инновациям в области безопасности.