OpenAI, Anthropic и Google несколько недель вели переговоры о безопасности ИИ

Несколько недель назад три компании, которые публично соревнуются за звание самой мощной ИИ-лаборатории мира, начали тихо переговариваться за закрытыми дверями. 15 сентября это перестало быть секретом: Крис Лехэйн, директор по глобальной политике OpenAI, подтвердил журналистам в Вашингтоне, что OpenAI, Anthropic и Google DeepMind уже несколько недель ведут совместную работу по вопросам безопасности ИИ.
По масштабу это беспрецедентно. Три лаборатории, которые в буквальном смысле борются за одних и тех же клиентов, одних и тех же инженеров и одни и те же государственные контракты, решили скоординироваться на уровне, которого прежде не было.
Что именно обсуждают
Согласно материалам The Information, компании работают над созданием отраслевого органа по стандартам ИИ. Речь о систематических аудитах, оценке рисков и стандартах тестирования - того, чего сейчас фактически не существует в формализованном виде.
При этом лидеры отрасли смотрят на будущий орган по-разному. Дарио Амодеи из Anthropic опубликовал в субботу эссе "We Must Pace the Frontier" с призывом замедлить разработку на переднем крае и избежать катастрофических рисков. Сэм Альтман и Демис Хассабис поддержали этот призыв: Альтман заявил, что OpenAI встроит сторонних аудиторов в свои процессы - по аналогии с тем, что предложил Anthropic. Хассабис в июле призвал США создать новый надзорный орган с полномочиями проверять наиболее передовые модели и координировать замедление разработки в масштабах отрасли. Альтман, по данным The Information, говорил сотрудникам, что такой орган придется строить без поддержки американского правительства.
Все стороны, судя по всему, хотят договориться до конца года. Смогут ли они согласовать структуру - открытый вопрос.
Антимонопольный риск
Лехэйн сам признал очевидное: координация конкурентов в вопросах, которые влияют на скорость разработки, теоретически может привлечь внимание антимонопольных регуляторов. Альтман ранее говорил о том же. Амодеи в своем эссе предложил запросить у правительства узкое изъятие из антимонопольного законодательства именно для координации по безопасности. Лехэйн, однако, заявил, что компании в таком изъятии не нуждаются.
Это рискованная позиция. Если договоренности окажутся достаточно детальными - например, согласованные сроки пауз в разработке или общие пороги для оценки опасности модели, - у регуляторов появятся основания для вопросов. Пока что лаборатории, судя по всему, рассчитывают на то, что безопасность как мотив достаточно убедительна, чтобы защититься от претензий.
Белый дом смотрит иначе
Пока лаборатории договариваются об осторожности, администрация Трампа движется в противоположном направлении. Президент публично назвал страхи вокруг безопасности ИИ надуманными и заявил, что любое торможение только поможет Китаю. Его советник по ИИ Дэвид Сакс - долгосрочный инвестор в несколько компаний отрасли - поддержал эту линию, охарактеризовав опасения об экзистенциальных рисках как преувеличенные.
В этом контексте инициатива лабораторий выглядит как попытка самостоятельно заполнить регуляторный вакуум. Лаборатории не стали ждать федерального законодательства.
Лехэйн при этом приехал в Вашингтон не только с рассказом о переговорах. Он заявил, что OpenAI поддерживает положение FRONTIER Act, которое обязало бы ведущие ИИ-лаборатории допустить к себе независимые организации-верификаторы для контроля за безопасностью разработки. Альтман со своей стороны пообещал, что OpenAI встроит сторонних аудиторов в свои процессы - по аналогии с тем, что предложил Anthropic.
Почему именно сейчас
Можно предположить, что толчком стала не только философия, но и конкретные технические реалии. Модели нового поколения - тот же Fable 5.1 от Anthropic, который показывает сильные результаты в ряде бенчмарков на автономные задачи, - рассчитаны на длительные многошаговые процессы с минимальным участием человека. Когда ИИ-агент самостоятельно принимает решения в таких рабочих циклах, вопрос о том, кто проверял эту модель перед деплоем, перестает быть абстрактным.
Для корпоративных покупателей это уже сейчас превращается в юридический и репутационный вопрос. Если появится сертификационный орган, его отметка может стать обязательным пунктом в процессе выбора вендора. Бизнесу стоит следить за тем, какая из моделей управления в итоге победит.
Что это меняет
Для разработчиков и компаний, которые строят продукты поверх GPT, Gemini или Claude, ближайшие месяцы могут оказаться показательными. Если лаборатории договорятся о стандартах предрелизной проверки, это затронет и скорость выхода новых моделей, и их доступность. Паузы в разработке - если они окажутся частью договоренностей - напрямую повлияют на графики обновлений API.
Для российских пользователей прямого практического эффекта прямо сейчас нет: доступ к API OpenAI и Google через посредников и VPN работает примерно так же, как и раньше. Но если отраслевой стандартизирующий орган заработает - а у него появится что-то вроде реестра сертифицированных пользователей или верифицированных деплойментов, - ситуация с доступом из России может стать еще более запутанной.
Похожие новости
OpenAI выпустила GPT-6.2 Astra и Sol: входные и выходные токены Astra в API на 20% дешевле, чем у GPT-6 Astra
OpenAI представила две модели: флагманскую GPT-6.2 Astra и экономичную GPT-6.2 Sol. Они доступны в ChatGPT Work, Codex и API и тратят меньше выходных токенов. В API Astra дешевле GPT-6 Astra: входные и выходные токены на 20% ниже, на кэшированные входные скидка 60%.
OpenAI показала агентов GPT-6 для клиник: Luna выполняет задачу за 8,5 цента
OpenAI предложила больницам и страховщикам GPT-6 Astra и Luna: агенты сами кликают по программам клиник и порталам страховых. Среди партнеров компании - CVS Health и Cigna Healthcare.
NVIDIA Vera Rubin NVL72 в MLPerf Endpoints: более 10x токенов на киловатт к GB300
В предварительных результатах MLPerf Endpoints v1.0 система Vera Rubin NVL72 выдала более чем в 10 раз больше токенов на киловатт, чем GB300 NVL72. Результаты еще не верифицированы MLCommons.