Research Engineer, Frontier Red Team (Autonomy)

Описание роли

На позиции Research Engineer в Frontier Red Team вы будете ключевым специалистом, разрабатывающим автономные AI-системы, которые способны использовать инструменты и действовать в различных средах. Вы будете участвовать в создании модельных организмов, которые помогут нам понять и защититься от сложных противников AI, разрабатывать защитные агенты для обнаружения и противодействия враждебным AI-системам. Эта роль требует сильных навыков программирования и способности к быстрому решению сложных задач в условиях неопределенности.
Ваши ключевые задачи:
• Проектирование и создание автономных AI-систем, способных работать в различных сценариях.
• Разработка учебных и оценочных сред для понимания поведения агентов.
• Создание защитных агентов, способных противодействовать враждебным AI.
• Интеграция Claude с аппаратными платформами для оценки рисков и защиты.
• Перевод технических находок в яркие демонстрации для информирования общественности и политиков.
• Сотрудничество с экспертами в области кибербезопасности и безопасности AI для определения направлений исследований.

Уникальность вакансии

Работа в Anthropic предоставляет уникальную возможность влиять на будущее технологий AI. Ваша работа будет не только технической, но и стратегической, требующей взаимодействия с высококвалифицированными специалистами в различных областях. Вы получите доступ к современным инструментам и ресурсам для реализации своих идей, а также будете работать в команде, которая ценит инновации и безопасность. Компания предлагает конкурентоспособную зарплату и возможность профессионального роста в передовой области AI.

О компании Anthropic

Anthropic — это ведущая компания в области разработки безопасных и надежных AI-систем. Мы сосредоточены на создании технологий, которые помогают человечеству безопасно использовать AI в различных сферах жизни. С более чем 400 сотрудниками и офисами в Сан-Франциско, мы стремимся к инновациям и постоянному обучению. Наша миссия — обеспечить, чтобы AI технологии были безопасными и полезными для всех.