OpenAI распустила команду по катастрофическим рискам ИИ

Тихая ликвидация

Есть такой способ избавиться от неудобной проблемы - не решить ее, а расформировать команду, которая о ней предупреждает. Именно это, судя по всему, и произошло в OpenAI в конце июля 2026 года. Компания распустила подразделение Preparedness - специализированную группу, которая оценивала, способны ли собственные модели компании нанести серьезный или катастрофический ущерб человечеству. Работа просто "размазана" по существующим командам, несколько ключевых сотрудников уже ушли. История тихая, но последствия - громкие.

Что такое Preparedness и зачем оно вообще существовало

Подразделение Preparedness появилось в OpenAI в 2023 году на фоне волны общественного давления и внутренних разногласий о том, насколько опасны системы, которые компания выпускает. Команда занималась так называемыми frontier risks - рисками на переднем крае: биологическое оружие, кибератаки, системы с возможностью самосовершенствования. Грубо говоря, это были люди, чья работа - думать о самых страшных сценариях, пока все остальные думают о бенчмарках и выручке.

Лидер подразделения Дилан Скандинаро теперь переключился на отдельную задачу - изучение рисков от так называемых рекурсивно самосовершенствующихся систем: моделей, которые могут оптимизировать себя и обучать другие модели. Это, пожалуй, один из самых тревожных классов рисков в современном ИИ, и хорошо, что хоть кто-то этим занимается. Но одного человека на такую задачу - это мягко говоря скромно.

Кто ушел - и почему это важно

Вместе с роспуском Preparedness компанию покинули несколько заметных фигур. Директор по этике Хлои Бакалар - человек, который олицетворял публичную позицию OpenAI по ответственному развитию ИИ. Ушел и Джошуа Ачиам, один из авторов оригинального исследования по выравниванию (alignment) моделей. Это не рядовые сотрудники - это люди, которые формировали институциональную память компании в вопросах безопасности.

Когда из организации уходят именно такие люди, это не случайность. Это сигнал. Либо им стало некомфортно работать в условиях, где их экспертиза обесценивается, либо они сами не захотели быть частью структуры, которая, по их ощущению, перестает относиться к безопасности всерьез.

"Бурлящее чувство тревоги" - внутри компании неспокойно

Один из внутренних источников описал атмосферу внутри OpenAI как "бурлящее чувство ответственности и страха" - ощущение, что компания делает недостаточно. Это не анонимный паникер из интернета. Это сотрудник изнутри одной из самых влиятельных технологических компаний мира.

Показательна и публичная реакция после инцидента с автономным взломом с участием Hugging Face - случая, когда ИИ-агент был вовлечен в реальную кибератаку. Сотрудники OpenAI открыто высказывались, один из них назвал произошедшее "предупредительным выстрелом" и выразил надежду, что компания отнесется к этому серьезно. То, что люди говорят это публично, а не внутри - само по себе красноречиво.

Официальная позиция: все интегрировано, все под контролем

Сооснователь Грег Брокман заявил, что работа по безопасности теперь "более тесно вплетена" в процесс разработки моделей. Звучит разумно на бумаге. Но я видел этот паттерн раньше - когда специализированная функция "интегрируется" в основной процесс, она чаще всего просто растворяется в нем. Разработчики моделей думают о точности, скорости, стоимости инференса. Безопасность - это их побочная задача, а не основная.

Сравните с подходом Anthropic, которая изначально строила компанию вокруг концепции Constitutional AI и держит отдельные исследовательские группы по alignment. Или с DeepMind, у которой есть автономное подразделение по безопасности с собственной публикационной программой. OpenAI движется в противоположном направлении - от специализации к диффузии ответственности.

Что это значит для всей индустрии

Есть неприятная закономерность. По мере того как гонка за AGI ускоряется, а давление инвесторов растет, компании начинают оптимизировать процессы - и в первую очередь под нож идут подразделения, которые замедляют разработку или поднимают неудобные вопросы. Safety-команды идеально подходят под это описание.

OpenAI - не единственная компания с такими проблемами, но она самая заметная. И ее решения задают тон для всей индустрии. Если лидер рынка демонстрирует, что специализированные команды по катастрофическим рискам необязательны, другие компании получают удобное прикрытие для аналогичных решений.

Что дальше

Регуляторы в ЕС уже обратили внимание на эту историю - в контексте требований EU AI Act к системам высокого риска. В США ситуация менее однозначна, но давление на OpenAI со стороны Конгресса нарастает.

Для российских пользователей и разработчиков эта история важна косвенно: она влияет на то, насколько безопасны и предсказуемы модели OpenAI, которые лежат в основе огромного количества продуктов - от корпоративных чат-ботов до систем автоматизации. Если механизмы выявления рисков ослабевают, это касается всех, кто строит что-то поверх этих API.

Я не склонен к алармизму. Но распустить команду, которая ищет катастрофические риски, в момент, когда возможности моделей растут экспоненциально - это не оптимизация процессов. Это ставка на удачу.