OpenAI Fellows 2018: как программа готовила ML-исследователей

Что такое OpenAI Fellows

OpenAI Fellows — программа, которую лаборатория запустила в 2018 году для людей, которые хотят стать исследователями в области машинного обучения, но пришли из других дисциплин: физики, математики, разработки, нейронаук. Идея простая и при этом не тривиальная для рынка: талантливых инженеров и учёных много, а формального пути «переквалифицироваться в ML-ресёрчера» почти не существует. Курсы дают теорию, PhD занимает годы, а вакансии сразу требуют опыта публикаций. Fellows пытались закрыть этот разрыв за несколько месяцев работы внутри действующей лаборатории.

Набор осени 2018 года (Fall 2018) был вторым в истории программы — первый прошёл весной того же года. Ключевое отличие от стажировки в том, что фелло не выполнял вспомогательную работу, а вёл собственный исследовательский проект под руководством ментора из штата OpenAI.

Зачем это самой OpenAI

Здесь есть очевидная цена вопроса для лаборатории. Найм готового ML-исследователя в Сан-Франциско в 2018 году — это конкуренция с Google Brain, DeepMind и FAIR за узкий круг людей и зарплаты, которые обсуждались в прессе как сопоставимые с зарплатами спортсменов. Программа вроде Fellows — это способ вырастить кадры под себя и оценить кандидата в реальной работе, а не по резюме. Часть выпускников программ такого типа затем получали офферы в ту же организацию.

Fellows строились на ставке, что исследователя можно вырастить из сильного специалиста смежной области быстрее, чем принято думать — если дать ему ментора, вычислительные ресурсы и реальную задачу вместо учебной.

Как был устроен набор Fall 2018

Программа была очной, проходила в офисе OpenAI в Сан-Франциско и длилась несколько месяцев. Участникам платили стипендию — то есть это не бесплатное обучение и не оплачиваемая только частично интернатура, а работа с вознаграждением. Точные суммы и сроки OpenAI указывала на странице набора конкретного сезона; за годы условия менялись, поэтому фиксировать их как неизменную величину смысла нет.

Общая логика отбора и работы выглядела так:

1. Заявка. Кандидат подавал форму с описанием бэкграунда и интересов. От участника ждали сильную техническую базу — но не обязательно опыт именно в глубоком обучении.
2. Отбор. Технические интервью и оценка того, насколько человек способен вести исследование, а не только реализовывать чужие идеи.
3. Проект с ментором. Каждому фелло назначали наставника из исследовательского штата, вместе с которым определялось направление работы.
4. Результат. Целью была реальная исследовательская работа — эксперименты, а в удачном случае публикация или вклад в проект лаборатории.

Кому это подходило

Портрет типичного кандидата — человек с глубокой экспертизой в чём-то количественном, кто хочет сменить траекторию. Физик, уставший от академии. Инженер-программист, который дорос до потолка в продуктовой разработке. Выпускник PhD по математике без строчки про нейросети в резюме. Для таких людей проблема не в способностях, а в отсутствии входа: их не берут на ресёрч-позиции, потому что нет публикаций, а публикаций нет, потому что не берут.

Fellows на фоне других программ OpenAI

В 2018 году у OpenAI параллельно существовало несколько форматов входа для разных аудиторий. Их легко перепутать, хотя цели у них разные.

Разница между Fellows и Scholars — принципиальная. Scholars делали упор на расширение доступа к области для тех, кого в ней исторически мало, и включали образовательную часть. Fellows были ближе к «ускоренному входу в профессию» для уже состоявшихся специалистов.

Что стало с идеей дальше

Отдельные брендированные наборы Fellows и Scholars в прежнем виде OpenAI со временем свернула — лаборатория сместилась в сторону обычного найма исследователей и инженеров и работы с residency-подобными форматами, которые к тому моменту появились и у других компаний. Сама модель «резиденции для смены карьеры в ML» никуда не делась: аналогичные программы вели и ведут Google, Meta и другие. Так что Fall 2018 стоит воспринимать как один из ранних экспериментов индустрии с тем, как быстро масштабировать дефицитную профессию.

Если вы смотрите на подобные программы сейчас, вывод из истории Fellows практичный: смотрите не на бренд набора, а на три вещи — платят ли стипендию, дают ли реального ментора и есть ли на выходе публикация или проект, который можно показать. Именно это отличало Fellows от бесплатных онлайн-курсов и делало его входным билетом, а не строчкой в резюме.

Ниже — пояснение к термину, который встречается в тексте.

Ресёрчер (research scientist) ¹ — исследователь, который ставит собственные научные вопросы и ведёт эксперименты, а не только внедряет готовые решения. В ML это человек, чья работа измеряется публикациями и новыми методами, а не выпущенными фичами продукта.