Руководитель направления исследований безопасности GenAI

Что за роль

В данной роли руководитель будет отвечать за исследования в области безопасности Generative AI (GenAI), формируя и развивая команду исследователей. Работа включает внедрение передовых практик разработки ПО с использованием ИИ, а также участие в международных CTF и хакатонах.

Что предстоит делать

• Исследование угроз GenAI и разработка инструментов для анализа и поиска угроз
• Внедрение практик AI PDLC и применение современных методов разработки ПО
• Управление командой исследователей, приоритизация исследований и защита решений
• Формирование и капитанство команды на международных CTF по AI/ML security
• Оформление результатов исследований и вклад в нормативные документы безопасности AI

Что потребуется

• Законченное высшее образование в области ИТ, компьютерных наук или смежных направлений
• Продвинутые навыки программирования и понимание принципов разработки ПО
• Опыт работы с DevOps инструментами и администрирования Linux
• Экспертное применение LLM для разработки ПО и понимание архитектуры агентов
• Английский на уровне чтения технической документации
• Практический опыт поиска уязвимостей в GenAI-моделях

Что важно знать

Роль предполагает активное участие в исследовательских проектах с высокой ответственностью за безопасность AI-систем. Команда будет заниматься актуальными угрозами и развивать новые методы защиты, что требует глубоких знаний и навыков в области AI и безопасности.