Исследовательская позиция на стыке механистической интерпретируемости, машинного обучения и теории сложных систем. Главная задача — создавать синтетические данные с заранее известной иерархической структурой, обучать на них модели и проверять, насколько инструменты интерпретируемости способны обнаруживать заложенные в данных признаки. Лучшие наборы данных станут основой бенчмарков для исследований интерпретируемости.

Что предстоит делать

• Проектировать синтетические датасеты, структура которых моделирует иерархию от общих понятий к более частным.
• Использовать критическую перколяцию для генерации фрактальных кластеров разных масштабов и подклассов.
• Проводить научные вычисления на Python и обучать модели глубокого обучения на созданных данных.
• Проверять на контролируемых примерах, способны ли методы механистической интерпретируемости выявлять известную структуру данных.
• Отбирать наиболее полезные датасеты для создания бенчмарков, доступных исследователям в области интерпретируемости.
• Объяснять ход и результаты исследования аудитории с разным уровнем технической подготовки.

Что потребуется

• Опыт в mechanistic interpretability и выраженный интерес к AI Safety.
• PhD или сопоставимый исследовательский опыт в математике, физике, ML, нейробиологии, компьютерных науках либо теории сложных систем.
• Опыт научных вычислений на Python и обучения моделей глубокого обучения.
• Умение ясно доносить сложные идеи до нетехнической аудитории.

Что важно знать

Особенно полезны опыт ведения исследовательского направления и менторства, публикации в ML или точных науках, а также знания статистической физики — прежде всего перколяции и ренормализации. Среди других релевантных областей названы коалесцентные процессы, комбинаторика, теория сетей и графов, фракталы, законы масштабирования и когнитивистика. Работа удалённая; приоритет у кандидатов, готовых проводить значительное время в Лондоне или районе залива Сан-Франциско. Предусмотрены визовое спонсорство и бюджет на медицинскую страховку. Исследовательское направление ведёт специалист с PhD по астрофизике и опытом постдокторской работы в NASA.