Google: саморазвивающийся ИИ - это пока миф, а не завтрашний день

Пока одни исследователи пишут манифесты об "взрыве интеллекта", внутри самого Google DeepMind смотрят на цифры - и видят совсем другую картину.

Хейдн Белфилд, инженер DeepMind, опубликовал данные внутреннего мониторинга, которые прямо противоречат нарративу о скором наступлении саморазвивающегося ИИ. Никакого измеримого ускорения темпов ИИ-исследований, вызванного самим ИИ, в DeepMind не зафиксировано. Это не оговорка и не осторожность ради пиара - это вывод из реальных данных.

Что происходит с кодом

Цифры по автоматизации разработки действительно впечатляют: более 75% production-кода в DeepMind пишет ИИ. Казалось бы - вот оно, начало конца программистов. Но дьявол в деталях: 88% всех изменений по-прежнему требуют участия человека на этапе проверки. Каждое изменение проходит ревью живого разработчика перед отправкой.

Доля изменений, полностью делегированных ИИ без вмешательства человека, выросла с 7,5 до 11,9 процента. Рост есть, спорить не буду. Но это означает, что девять из десяти изменений все равно требуют человеческого взгляда. Разрыв между "ИИ пишет код" и "ИИ автономно разрабатывает ПО" огромный.

Закономерность прослеживается четко: чем сложнее и длиннее задача, тем меньше вероятность, что ИИ справится самостоятельно. Белфилд приводит данные по 1 389 запускам внутреннего агента Argon - успешность без участия человека резко падает по мере роста сложности.

Бенчмарк RE-Bench и реальные пределы

DeepMind использует собственный внутренний бенчмарк RE-Bench - 74 реалистичные задачи по ML-инжинирингу. Argon решает около половины из них. Это серьезный прыжок по сравнению с Gemini 3.7 Flash, который брал лишь 27 процентов тех же задач. Прогресс налицо.

Но вот в чем проблема: для полной автономии нужна не "половина", а результат близкий к 100%. Разрыв между 50% и тем порогом, при котором можно говорить об автономном ИИ-исследователе, колоссальный. Это как сказать, что машина "почти умеет ездить", потому что заводится в половине случаев.

Опрос двенадцати старших исследователей DeepMind показал ту же картину: автоматизация работает хорошо там, где задача четко сформулирована и результат проверяем. Творческое исследование, придумывание новых экспериментов, диагностика нестабильности при обучении моделей, долгосрочное планирование - все это по-прежнему остается за людьми.

General Capability Index: рост есть, ускорения нет

Чтобы отслеживать прогресс системно, команда построила General Capability Index (GCI) - индекс, охватывающий 123 модели и 92 бенчмарка. Gemini растет примерно на 0,1 пункта GCI в месяц. Ровно. Без ускорения.

Gemini 4 Argon чуть выше линии тренда - но команда объясняет это больше вычислительными мощностями и организационными инвестициями, а не тем, что ИИ начал самостоятельно улучшать себя. Разница принципиальная: масштаб против рекурсии.

Риск от автономной автоматизации ИИ-исследований DeepMind сейчас оценивает как низкий - но инфраструктуру для мониторинга возможного ускорения уже строит. Это разумная позиция: не паниковать сейчас, но не проспать момент.

Два лагеря, одна реальность

Выводы Белфилда согласуются с рядом недавних исследований, хотя не все в отрасли с ними согласны. Больше двадцати исследователей ИИ - среди них Джеффри Хинтон, Йошуа Бенжио и Якуб Пачоки из OpenAI - недавно предупредили о возможном "взрыве интеллекта". Они утверждают: ИИ способен автоматизировать всю ИИ-разработку за несколько лет, сжав годы прогресса в месяцы.

Я понимаю обе позиции. Аргумент лагеря "взрыва" - теоретический: если порог пройден, ускорение будет экспоненциальным. Аргумент DeepMind - эмпирический: мы смотрим на реальные данные прямо сейчас, и никакого ускорения нет.

Проблема с теоретическими аргументами о взрыве интеллекта в том, что они не фальсифицируемы до тех пор, пока взрыв не случился. Данные DeepMind конкретны, но их воспроизводимость независимыми исследователями пока не подтверждена - это внутренний мониторинг. Это не значит, что Хинтон неправ насчет будущего - это значит, что в настоящем его сценарий пока не подтверждается.

Что это значит на практике

Для разработчиков картина такая: ИИ уже берет на себя рутинный код, но не заменяет инженера на сложных задачах. Если вы пишете типовые функции, скрипты и CRUD - давление на рынке труда реально. Если занимаетесь архитектурными решениями, отладкой нестандартных сбоев или научными экспериментами - ИИ пока ваш помощник, а не замена.

Для бизнеса вывод простой: автоматизация разработки дает реальный выигрыш в скорости и стоимости на рутинных задачах, но требует сохранения экспертизы внутри команды. Компании, которые попытаются полностью убрать людей из петли проверки кода уже сейчас, рискуют получить красивые метрики и незаметные системные ошибки.

Главный вывод из всей этой истории такой: пропасть между "ИИ хорошо помогает" и "ИИ сам себя улучшает" пока не преодолена. И люди внутри Google, которые видят реальные данные каждый день, об этом говорят прямо.