OpenAI зовёт в совет директоров человека, боявшегося ИИ

Компания, чей ChatGPT собирает сотни миллионов пользователей в неделю и оценивается инвесторами в сотни миллиардов долларов, вводит в совет директоров человека, публично известного тревогой по поводу того, что мощный ИИ способен выйти из-под контроля. Это редкий кейс: разработчик передовых моделей сажает за стол принятия решений своего же критика. Разберём, что за этим стоит и почему это касается всех, кто пользуется продуктами OpenAI.

Что произошло

OpenAI управляется через связку из некоммерческого совета директоров и коммерческого подразделения. Совет — это орган, который формально контролирует миссию компании: «создать общий искусственный интеллект (AGI) на пользу всему человечеству». Именно этот совет в ноябре 2023 года на несколько дней уволил гендиректора Сэма Альтмана, после чего под давлением сотрудников и инвесторов вернул его обратно, а сам был почти полностью переизбран.

Появление в этом органе фигуры из лагеря так называемых думеров* — сигнал не столько технический, сколько политический. Совет отвечает не за код и не за релизы, а за то, чтобы коммерческая гонка не растоптала заявленную осторожность. Человек с репутацией скептика в этом кресле — это встроенный тормоз.

Пускать критика в совет директоров дешевле, чем объяснять регуляторам, почему в компании вообще нет никого, кто задаёт неудобные вопросы.

Почему это не просто кадровая новость

OpenAI одновременно продаёт скорость и обещает осторожность. Эти две вещи тянут в разные стороны. Разработчик, который выкатывает новую модель каждые несколько месяцев и берёт деньги за подписку, объективно заинтересован в том, чтобы выпускать больше и быстрее. Тот, кто отвечает за безопасность, заинтересован в паузах, проверках и красных линиях.

За последние два года из команд OpenAI, отвечавших за долгосрочные риски, ушёл ряд заметных исследователей, публично жаловавшихся, что безопасность проигрывает продуктовой гонке. На этом фоне назначение критика в совет читается как попытка вернуть баланс — или как минимум продемонстрировать его наличие.

Кто такие думеры и почему их взгляды важны рынку

Условно спор о будущем ИИ идёт между тремя лагерями. Понимание, к какому из них принадлежит новый член совета, помогает предсказать, за какие решения он будет голосовать.

На практике мало кто занимает крайнюю позицию в чистом виде. Но приход человека, которого пресса относит к думерскому лагерю, смещает центр тяжести совета в сторону осторожности — по крайней мере на бумаге.

Цена вопроса: что это меняет для пользователей и бизнеса

Совет директоров не пишет промпты и не настраивает API, но его состав определяет, как компания реагирует в кризисных ситуациях. Для тех, кто строит продукты на моделях OpenAI, важны несколько последствий.

• Скорость релизов. Более осторожный совет может означать более долгие внутренние проверки перед выходом новых моделей — то есть медленнее, но с меньшим риском откатов.
• Предсказуемость. Резкие внутренние конфликты вроде истории ноября 2023 года бьют по всем, кто зависит от API. Совет, где представлены разные лагеря, теоретически снижает вероятность внезапных переворотов.
• Регуляторный фон. Наличие в руководстве публичного скептика — аргумент в диалоге с регуляторами в США и ЕС, где обсуждаются правила для передовых моделей.

Что стоит сделать, если вы завязаны на OpenAI

1. Не держите единственного поставщика модели. Продумайте, как быстро вы сможете переключиться на альтернативу (Anthropic, Google, открытые модели), если политика OpenAI изменится.
2. Фиксируйте версии моделей в продакшене и следите за нотами о депрекации — смена приоритетов совета может ускорить вывод старых версий.
3. Читайте официальные заявления компании о безопасности, а не только пересказы: именно там появляются формулировки о новых ограничениях функциональности.

Почему к новости стоит относиться сдержанно

Совет директоров — не оперативное управление. Ежедневные решения о том, что выпускать и по какой цене, принимает менеджмент во главе с гендиректором. История с увольнением и возвращением Альтмана показала, где на самом деле сосредоточена сила: там, где деньги, сотрудники и крупный инвестор в лице Microsoft. Один критик в совете не превращает коммерческую компанию в аскетичную лабораторию безопасности.

Есть и обратное прочтение: приглашение видного скептика может быть способом нейтрализовать критику изнутри, а не снаружи. Человек, который вошёл в совет, связан обязательствами перед компанией и уже не так свободен в публичных заявлениях. Что из двух прочтений верно, покажут конкретные решения — например, как совет поведёт себя при следующем спорном релизе.

* Думер (от англ. doom — «гибель») — неформальное прозвище людей, считающих, что развитие сверхмощного ИИ несёт риск катастрофы для человечества и требует жёстких ограничений. Термин часто используют иронично; сами носители таких взглядов чаще называют себя сторонниками безопасности ИИ (AI safety).