Anthropic
ИИ-чатAnthropicMythosДжейкоб КоксонIPOбезопасность ИИ

Бывший исследователь Anthropic: Mythos можно переобучить на малой доле вычислений

Сергей Сергеев, редактор gen-hub.ru
Сергей Сергеев
Редактор gen-hub.ru
·3 мин чтения
Бывший исследователь Anthropic: Mythos можно переобучить на малой доле вычислений

Джейкоб Коксон, бывший исследователь OpenAI и Anthropic, написал в X, что одной из главных причин его ухода из Anthropic стал слайд из презентации компании для инвесторов перед IPO. В Anthropic он проработал около четырех месяцев. Об этом 14 ноября сообщило издание The Decoder.

Что показано на слайде

График называется "Pre-training compute multiplier" и показывает для кода, во сколько раз менялся множитель вычислений на предобучение. Период: с июля 2024 по октябрь 2026 года. Ось Y логарифмическая, поэтому рост в 10 и в 100 раз выглядит почти одинаково. Кривая при этом все равно идет круто вверх.

Именно это, по словам Коксона, и тревожит: эффективность алгоритмов растет не просто быстро, а с ускорением. "Это безумный график, и я удивлен, что они опубликовали его", - написал он. В подписи Anthropic оговаривает, что точки построены по внутренним оценкам и приведены только для иллюстрации.

Почему Mythos в этой картине

Mythos, модель, которая весной дала заметный скачок возможностей, Коксон считает не разовым отклонением, а "точкой на суперэкспоненте". Из этого он делает вывод: Anthropic уже сейчас могла бы переобучить Mythos на "малой доле" изначально нужных вычислений. Цифр он не приводит, и проверить это утверждение по открытым данным нельзя.

По его оценке, улучшения алгоритмов "вот-вот будут автоматизированы". Тогда прогресс пойдет еще быстрее, и контролировать его будет сложнее.

Требование паузы

Коксон по-прежнему призывает остановить разработку передовых моделей в следующем году, чтобы конкуренты успели догнать лидеров. Пауза, по его словам, "обесценит человеческий уровень интеллекта как товар" и навредит только OpenAI и Anthropic. Аргумент необычный: он строится не на страхе перед ИИ как таковом, а на том, что отрыв лидеров сам по себе опасен и держится на скорости.

В сентябре Коксон уже привлек внимание публичными предупреждениями о рисках продвинутых систем. Среди опасений, которые разделяют и другие участники индустрии, есть сценарий, когда самосовершенствующийся ИИ выходит из-под контроля.

Как читать эту историю

У нас один источник: слова самого Коксона в X и пересказ The Decoder. Anthropic его выводы не комментировала, по крайней мере в исходном материале. Сам график - иллюстрация на логарифмической шкале с внутренними оценками, и делать из нее строгий вывод о суперэкспоненте можно, только принимая интерпретацию автора. Но то, что компания показала инвесторам кривую именно такого вида, - факт, и после выхода Anthropic на биржу такие слайды будут разбирать намного пристальнее.

Источники

Все эти инструменты - уже на Genova-ai

Картинки, видео, музыка, голос и ИИ-чат в одном месте. Без VPN и зарубежных карт.

Картинки
Видео
Музыка
Голос
ИИ-чат
Попробовать бесплатно

Похожие новости