OpenAI распустила команду по катастрофическим рискам ИИ

Тихая ликвидация
Есть такой способ избавиться от неудобной проблемы - не решить ее, а расформировать команду, которая о ней предупреждает. Именно это, судя по всему, и произошло в OpenAI в конце июля 2026 года. Компания распустила подразделение Preparedness - специализированную группу, которая оценивала, способны ли собственные модели компании нанести серьезный или катастрофический ущерб человечеству. Работа просто "размазана" по существующим командам, несколько ключевых сотрудников уже ушли. История тихая, но последствия - громкие.
Что такое Preparedness и зачем оно вообще существовало
Подразделение Preparedness появилось в OpenAI в 2023 году на фоне волны общественного давления и внутренних разногласий о том, насколько опасны системы, которые компания выпускает. Команда занималась так называемыми frontier risks - рисками на переднем крае: биологическое оружие, кибератаки, системы с возможностью самосовершенствования. Грубо говоря, это были люди, чья работа - думать о самых страшных сценариях, пока все остальные думают о бенчмарках и выручке.
Лидер подразделения Дилан Скандинаро теперь переключился на отдельную задачу - изучение рисков от так называемых рекурсивно самосовершенствующихся систем: моделей, которые могут оптимизировать себя и обучать другие модели. Это, пожалуй, один из самых тревожных классов рисков в современном ИИ, и хорошо, что хоть кто-то этим занимается. Но одного человека на такую задачу - это мягко говоря скромно.
Кто ушел - и почему это важно
Вместе с роспуском Preparedness компанию покинули несколько заметных фигур. Директор по этике Хлои Бакалар - человек, который олицетворял публичную позицию OpenAI по ответственному развитию ИИ. Ушел и Джошуа Ачиам, один из авторов оригинального исследования по выравниванию (alignment) моделей. Это не рядовые сотрудники - это люди, которые формировали институциональную память компании в вопросах безопасности.
Когда из организации уходят именно такие люди, это не случайность. Это сигнал. Либо им стало некомфортно работать в условиях, где их экспертиза обесценивается, либо они сами не захотели быть частью структуры, которая, по их ощущению, перестает относиться к безопасности всерьез.
"Бурлящее чувство тревоги" - внутри компании неспокойно
Один из внутренних источников описал атмосферу внутри OpenAI как "бурлящее чувство ответственности и страха" - ощущение, что компания делает недостаточно. Это не анонимный паникер из интернета. Это сотрудник изнутри одной из самых влиятельных технологических компаний мира.
Показательна и публичная реакция после инцидента с автономным взломом с участием Hugging Face - случая, когда ИИ-агент был вовлечен в реальную кибератаку. Сотрудники OpenAI открыто высказывались, один из них назвал произошедшее "предупредительным выстрелом" и выразил надежду, что компания отнесется к этому серьезно. То, что люди говорят это публично, а не внутри - само по себе красноречиво.
Официальная позиция: все интегрировано, все под контролем
Сооснователь Грег Брокман заявил, что работа по безопасности теперь "более тесно вплетена" в процесс разработки моделей. Звучит разумно на бумаге. Но я видел этот паттерн раньше - когда специализированная функция "интегрируется" в основной процесс, она чаще всего просто растворяется в нем. Разработчики моделей думают о точности, скорости, стоимости инференса. Безопасность - это их побочная задача, а не основная.
Сравните с подходом Anthropic, которая изначально строила компанию вокруг концепции Constitutional AI и держит отдельные исследовательские группы по alignment. Или с DeepMind, у которой есть автономное подразделение по безопасности с собственной публикационной программой. OpenAI движется в противоположном направлении - от специализации к диффузии ответственности.
Что это значит для всей индустрии
Есть неприятная закономерность. По мере того как гонка за AGI ускоряется, а давление инвесторов растет, компании начинают оптимизировать процессы - и в первую очередь под нож идут подразделения, которые замедляют разработку или поднимают неудобные вопросы. Safety-команды идеально подходят под это описание.
OpenAI - не единственная компания с такими проблемами, но она самая заметная. И ее решения задают тон для всей индустрии. Если лидер рынка демонстрирует, что специализированные команды по катастрофическим рискам необязательны, другие компании получают удобное прикрытие для аналогичных решений.
Что дальше
Регуляторы в ЕС уже обратили внимание на эту историю - в контексте требований EU AI Act к системам высокого риска. В США ситуация менее однозначна, но давление на OpenAI со стороны Конгресса нарастает.
Для российских пользователей и разработчиков эта история важна косвенно: она влияет на то, насколько безопасны и предсказуемы модели OpenAI, которые лежат в основе огромного количества продуктов - от корпоративных чат-ботов до систем автоматизации. Если механизмы выявления рисков ослабевают, это касается всех, кто строит что-то поверх этих API.
Я не склонен к алармизму. Но распустить команду, которая ищет катастрофические риски, в момент, когда возможности моделей растут экспоненциально - это не оптимизация процессов. Это ставка на удачу.
Источники
Похожие новости
OpenAI выпустила GPT-6.2 Astra и Sol: входные и выходные токены Astra в API на 20% дешевле, чем у GPT-6 Astra
OpenAI представила две модели: флагманскую GPT-6.2 Astra и экономичную GPT-6.2 Sol. Они доступны в ChatGPT Work, Codex и API и тратят меньше выходных токенов. В API Astra дешевле GPT-6 Astra: входные и выходные токены на 20% ниже, на кэшированные входные скидка 60%.
OpenAI показала агентов GPT-6 для клиник: Luna выполняет задачу за 8,5 цента
OpenAI предложила больницам и страховщикам GPT-6 Astra и Luna: агенты сами кликают по программам клиник и порталам страховых. Среди партнеров компании - CVS Health и Cigna Healthcare.
NVIDIA Vera Rubin NVL72 в MLPerf Endpoints: более 10x токенов на киловатт к GB300
В предварительных результатах MLPerf Endpoints v1.0 система Vera Rubin NVL72 выдала более чем в 10 раз больше токенов на киловатт, чем GB300 NVL72. Результаты еще не верифицированы MLCommons.