Бывший исследователь Anthropic: Mythos можно переобучить на малой доле вычислений

Джейкоб Коксон, бывший исследователь OpenAI и Anthropic, написал в X, что одной из главных причин его ухода из Anthropic стал слайд из презентации компании для инвесторов перед IPO. В Anthropic он проработал около четырех месяцев. Об этом 14 ноября сообщило издание The Decoder.
Что показано на слайде
График называется "Pre-training compute multiplier" и показывает для кода, во сколько раз менялся множитель вычислений на предобучение. Период: с июля 2024 по октябрь 2026 года. Ось Y логарифмическая, поэтому рост в 10 и в 100 раз выглядит почти одинаково. Кривая при этом все равно идет круто вверх.
Именно это, по словам Коксона, и тревожит: эффективность алгоритмов растет не просто быстро, а с ускорением. "Это безумный график, и я удивлен, что они опубликовали его", - написал он. В подписи Anthropic оговаривает, что точки построены по внутренним оценкам и приведены только для иллюстрации.
Почему Mythos в этой картине
Mythos, модель, которая весной дала заметный скачок возможностей, Коксон считает не разовым отклонением, а "точкой на суперэкспоненте". Из этого он делает вывод: Anthropic уже сейчас могла бы переобучить Mythos на "малой доле" изначально нужных вычислений. Цифр он не приводит, и проверить это утверждение по открытым данным нельзя.
По его оценке, улучшения алгоритмов "вот-вот будут автоматизированы". Тогда прогресс пойдет еще быстрее, и контролировать его будет сложнее.
Требование паузы
Коксон по-прежнему призывает остановить разработку передовых моделей в следующем году, чтобы конкуренты успели догнать лидеров. Пауза, по его словам, "обесценит человеческий уровень интеллекта как товар" и навредит только OpenAI и Anthropic. Аргумент необычный: он строится не на страхе перед ИИ как таковом, а на том, что отрыв лидеров сам по себе опасен и держится на скорости.
В сентябре Коксон уже привлек внимание публичными предупреждениями о рисках продвинутых систем. Среди опасений, которые разделяют и другие участники индустрии, есть сценарий, когда самосовершенствующийся ИИ выходит из-под контроля.
Как читать эту историю
У нас один источник: слова самого Коксона в X и пересказ The Decoder. Anthropic его выводы не комментировала, по крайней мере в исходном материале. Сам график - иллюстрация на логарифмической шкале с внутренними оценками, и делать из нее строгий вывод о суперэкспоненте можно, только принимая интерпретацию автора. Но то, что компания показала инвесторам кривую именно такого вида, - факт, и после выхода Anthropic на биржу такие слайды будут разбирать намного пристальнее.
Источники
Похожие новости
OpenAI показала агентов GPT-6 для клиник: Luna выполняет задачу за 8,5 цента
OpenAI предложила больницам и страховщикам GPT-6 Astra и Luna: агенты сами кликают по программам клиник и порталам страховых. Среди партнеров компании - CVS Health и Cigna Healthcare.
NVIDIA Vera Rubin NVL72 в MLPerf Endpoints: более 10x токенов на киловатт к GB300
В предварительных результатах MLPerf Endpoints v1.0 система Vera Rubin NVL72 выдала более чем в 10 раз больше токенов на киловатт, чем GB300 NVL72. Результаты еще не верифицированы MLCommons.
OpenAI предоставила НАТО и агентствам ЕС доступ к Daybreak для кибербезопасности
OpenAI выдала НАТО и кибер-агентствам Европы доступ к моделям Daybreak. НАТО расходует до 300 млрд токенов в месяц, а ENISA нашла с их помощью четыре уязвимости.