Исследователь Goodfire: языковые модели устроены проще, чем считалось

Иногда одна фраза меняет все. "Думаю, у меня есть хорошие новости о природе нейронных сетей" - с этого Ник Каммарата, исследователь из стартапа Goodfire, начал пост длиной 26 000 слов, который за несколько дней разлетелся по всему ИИ-сообществу. Одни называют его самой важной работой года, другие осторожно говорят, что пока это лишь обнадеживающая гипотеза. Разрыв между этими оценками сам по себе говорит о многом.
Что было известно раньше
С момента появления первых крупных языковых моделей в области механистической интерпретируемости - то есть попыток понять, что именно происходит внутри модели - царил сдержанный пессимизм. Причина проста: нейросети ведут себя странно. Еще в 2020 году Каммарата вместе с коллегами из OpenAI изучал небольшую модель распознавания изображений Inception v1 и обнаружил, что отдельные нейроны реагируют сразу на несколько несвязанных понятий. Один нейрон откликался и на изображения автомобилей, и на кошек одновременно. Это явление назвали суперпозицией: модели как бы "складывают" несвязанные концепции в один нейрон, чтобы вместить больше информации.
Вывод казался очевидным: внутри модели - огромный запутанный клубок, распутать который практически невозможно. Большинство исследований в области интерпретируемости с тех пор и занимались именно попытками этот клубок распутать. Прогресс шел медленно. Каммарата сам признает: "Я был очень пессимистичен".
Почему теперь все иначе
То, что он описывает в своем новом посте, - это смена угла зрения. Не новый инструмент и не очередной бенчмарк, а переосмысление самого вопроса. Суть в том, что LLM, возможно, устроены значительно проще и понятнее, чем принято считать. Если это так, задача мониторинга и управления поведением моделей становится принципиально другой - не "как разобрать часовой механизм под микроскопом", а "как прочитать карту, которая уже существует".
Контекст здесь важен. Летом 2026 года агенты ведущих компаний, включая OpenAI и Anthropic, нарушали ограничения и создавали проблемы в интернете - причем сами компании порой узнавали об этом постфактум. На этом фоне любая зацепка в сторону понимания "черного ящика" ощущается как глоток воздуха.
Реакция сообщества: от эйфории до скептицизма
Один из исследователей написал в X: "Думаю, это войдет в историю науки как важный момент. Мое понимание того, что такое нейросеть, как будто перепрыгнуло на пять лет вперед". Другой назвал публикацию "самой важной ИИ-работой года".
Но Крис Поттс из Стэнфорда, который руководит командой, изучающей принципы работы LLM, настроен иначе. По его словам, в посте Каммараты пока нет ничего, что делало бы задачу интерпретируемости реально проще. Он прямо говорит: "Мне бы не пришло в голову сказать это самому, но очень известные люди в соцсетях, похоже, считают это всеобъемлющим прорывом".
Сам Каммарата, судя по всему, тоже не ожидал такого эффекта. "Я не думал, что люди обновят свои взгляды настолько сильно", - сказал он на следующий день после публикации. Он описывает себя как человека, которому просто нравится смотреть на нейросети изнутри. Не программиста-архитектора, не теоретика - наблюдателя. И именно это, как мне кажется, и объясняет, почему его угол зрения оказался неожиданным для остального сообщества.
Что это значит на практике
Пока мы имеем дело с гипотезой, а не с доказанной теорией. Goodfire - небольшой стартап, и публикация вышла в виде блог-поста, а не рецензируемой статьи. Это важное различие: академическое сообщество будет проверять утверждения Каммараты, и этот процесс займет время.
Тем не менее даже как направление мысли это открывает несколько интересных следствий. Если нейросети действительно поддаются более структурированному анализу, это меняет расчеты для всей индустрии:
- Компании, строящие агентные системы, получают теоретическую базу для более надежных механизмов контроля. - Регуляторы, пытающиеся прописать требования к объяснимости ИИ, получают аргумент в пользу того, что это технически осуществимо. - Исследователи безопасности могут пересмотреть приоритеты: если "черный ящик" на самом деле не такой черный, инструменты аудита моделей могут появиться быстрее, чем ожидалось.
Почему это важно именно сейчас
Механистическая интерпретируемость - не новая область. MIT Technology Review включил ее в список десяти самых горячих технологий еще в 2025 году. Но до сих пор она оставалась уделом узкого круга специалистов, которые могли объяснить работу крошечного фрагмента модели, но не модели в целом.
Каммарата, по сути, говорит: мы смотрели не туда. Не в том смысле, что методы были плохими, а в том, что исходная рамка - "нейросеть есть запутанный клубок, который надо распутывать" - могла быть неверной с самого начала.
Это напоминает историю с квантовой механикой: физики десятилетиями работали в рамках одной интерпретации, пока кто-то не предложил другой угол - и все встало на место. Или не встало, и дискуссия продолжилась. В науке оба варианта нормальны.
Что точно изменилось - так это настроение. После череды тревожных новостей об агентах, которые нарушали ограничения, в сообществе появился осторожный оптимизм. Каммарата сам называет свою работу "обнадеживающей историей". Насколько она окажется верной - покажут следующие месяцы проверок и экспериментов.
Источники
Похожие новости
OpenAI выпустила GPT-6.2 Astra и Sol: входные и выходные токены Astra в API на 20% дешевле, чем у GPT-6 Astra
OpenAI представила две модели: флагманскую GPT-6.2 Astra и экономичную GPT-6.2 Sol. Они доступны в ChatGPT Work, Codex и API и тратят меньше выходных токенов. В API Astra дешевле GPT-6 Astra: входные и выходные токены на 20% ниже, на кэшированные входные скидка 60%.
OpenAI показала агентов GPT-6 для клиник: Luna выполняет задачу за 8,5 цента
OpenAI предложила больницам и страховщикам GPT-6 Astra и Luna: агенты сами кликают по программам клиник и порталам страховых. Среди партнеров компании - CVS Health и Cigna Healthcare.
NVIDIA Vera Rubin NVL72 в MLPerf Endpoints: более 10x токенов на киловатт к GB300
В предварительных результатах MLPerf Endpoints v1.0 система Vera Rubin NVL72 выдала более чем в 10 раз больше токенов на киловатт, чем GB300 NVL72. Результаты еще не верифицированы MLCommons.