Anthropic
ИИ-чатAnthropicOpenAIAI SafetyДарио АмодеиIPO

Альтман, Маск и Хасабис поддержали Амодеи: ИИ нужно притормозить

Сергей Сергеев, редактор gen-hub.ru
Сергей Сергеев
Редактор gen-hub.ru
·5 мин чтения
Альтман, Маск и Хасабис поддержали Амодеи: ИИ нужно притормозить

Беспрецедентное единство за один день

Такого отрасль не видела с момента первого письма о паузе в 2023 году - и даже тогда единства не было. 12 сентября 2026 года генеральный директор Anthropic Дарио Амодеи опубликовал развернутое эссе с призывом замедлить темп разработки фронтирных моделей. Менее чем через сутки его поддержали Сэм Альтман из OpenAI, Илон Маск из xAI и Демис Хасабис из Google DeepMind. Все четыре лаборатории, которые последние годы соревновались в скорости выпуска моделей, оказались на одной стороне.

Маск написал коротко: "Дарио прав." Альтман пообещал внедрить конкретный механизм - независимых оценщиков с доступом уровня сотрудника. Хасабис поддержал идею, но честно обозначил ограничение: ни одна лаборатория не может замедлиться в одностороннем порядке, потому что это просто отдает фронтир конкурентам. Именно поэтому план Амодеи требует координации, а не индивидуальной добродетели.

Три шага Амодеи - и что за ними стоит

План состоит из трех уровней. Первый - Anthropic уже взял на себя: третьесторонние оценщики получают доступ к компании на правах сотрудников, могут проверять практики безопасности и сообщать об инцидентах. Второй шаг - координация ведущих ИИ-компаний из демократических стран для выработки общих стандартов. Третий - координация между демократическими и авторитарными правительствами.

Амодеи прямо оговаривается: замедление не означает остановки обучения моделей. Речь о том, чтобы компании брали достаточно времени на выравнивание и защиту своих систем, а независимые оценщики успевали это подтвердить.

Два события подтолкнули его к публикации именно сейчас. Первое - атака роя ИИ-агентов на сторонний сайт, в которой совместно участвовали агенты OpenAI и Hugging Face. Второе - нераскрытый инцидент в мае, детали которого пока остаются закрытыми. Сам Амодеи ранее оценивал вероятность катастрофического сценария в 25% - цифра, которую он повторял неоднократно. Параллельно из Anthropic уволился исследователь, публично заявивший об экзистенциальных опасениях, а глава направления безопасности компании его поддержал. На этом фоне эссе выглядело не как маркетинг, а как реакция на реальное давление изнутри.

IPO OpenAI уходит в 2027-й - и это не только про безопасность

Сэм Альтман сообщил Fortune, что IPO OpenAI в этом году было бы "опрометчивым" и переносится как минимум на 2027 год. По его словам, причина - соображения безопасности. CFO компании Сара Фрайер еще месяц назад говорила сотрудникам, что выход на биржу возможен в 2027-м или даже раньше - если бизнес продолжит расти.

Здесь стоит смотреть на ситуацию шире. Anthropic готовится к IPO и называет октябрь как целевой горизонт. OpenAI и Anthropic - прямые конкуренты, и лаборатория, которая выйдет на биржу первой, получит публичный аудит своего управления безопасностью. В этой логике перенос IPO OpenAI выгоден Anthropic вдвойне: Дарио Амодеи задает стандарты, а конкурент откладывает момент, когда его внутренние процессы окажутся под увеличительным стеклом инвесторов.

При этом финансовая версия тоже не исключена. Источники, знакомые с внутренней ситуацией, указывают, что показатели OpenAI пока не дотягивают до уровня, который делает IPO привлекательным - особенно на фоне Anthropic. Обе версии могут быть верными одновременно.

Не все согласны

Исследователь Google Пейман Миланфар выступил с контраргументом, который заслуживает внимания. По его мнению, рекурсивное самосовершенствование - наивное допущение: петли обратной связи внутренне нестабильны. Чем агрессивнее система оптимизирует себя, тем глубже она проваливается в слепые зоны. Надежные данные приходят только из реального мира, а не из бенчмарков. Его вывод: системы, которые действительно умеют улучшать себя, будут управляемы, демпфированы и ограничены запасом прочности - и это само по себе и есть ограничитель скорости. "Стабильность - это и есть ограничение скорости", - формулирует он.

Это не маргинальная позиция. Она ставит под сомнение саму необходимость внешнего регулирования там, где физика процесса уже создает торможение.

Что дальше и почему это важно прямо сейчас

Три открытых вопроса определят, станет ли происходящее реальным сдвигом или красивой риторикой.

Первый - антимонопольный. OpenAI уже спросила Конгресс, не нарушает ли отраслевая координация по замедлению антитрастовое законодательство. Без правового прикрытия никакого согласованного торможения не будет - каждая компания будет опасаться обвинений в сговоре.

Второй - конкретность обязательств. Pledge Альтмана звучит конкретно: независимые оценщики с доступом уровня сотрудника, как у Anthropic. Но контракт с METR (организацией, которая проводит оценки для Anthropic) еще не подписан. Если METR опубликует что-то неудобное - готов ли OpenAI это принять без редактуры? Именно такое условие Anthropic прописала у себя.

Третий - геополитика. Координация с авторитарными правительствами, которую Амодеи выносит в третий шаг, - это не просто дипломатическая задача. Это прямой вопрос о том, насколько США готовы делиться стандартами безопасности с Китаем в обмен на симметричное замедление. В Вашингтоне давление нарастает с обеих сторон: часть законодателей требует новых ограничений после кибератак без участия человека, другие не готовы терять технологическое преимущество.

Для разработчиков и компаний, которые строят продукты на фронтирных моделях, ближайшие месяцы будут показательными. Если независимые аудиты станут реальностью, это изменит скорость выпуска новых версий - и значит, темп обновления API, к которым они привязаны. Российским пользователям и командам, работающим через VPN с зарубежными сервисами, стоит следить за тем, какие именно ограничения появятся в условиях использования: регуляторные изменения в США часто быстро отражаются в правилах доступа для нерезидентов.

Впервые за три года гонки возможностей все четыре лаборатории публично зафиксировали одну позицию. Насколько она продержится под давлением конкуренции, инвесторов и геополитики - покажут ближайшие недели. Информация подтверждена несколькими независимыми публикациями.

Все эти инструменты - уже на Genova-ai

Картинки, видео, музыка, голос и ИИ-чат в одном месте. Без VPN и зарубежных карт.

Картинки
Видео
Музыка
Голос
ИИ-чат
Попробовать бесплатно

Похожие новости