ИИ-исследователь Anthropic превзошел людей за $4 в час

Когда ИИ начинает улучшать сам себя

Есть новости, которые читаешь и думаешь: "Ну и что?" А есть такие, после которых несколько секунд смотришь в стену. Исследование Anthropic, опубликованное 28 августа 2026 года, - из второй категории. Компания продемонстрировала систему автоматических исследователей выравнивания, которая не просто автоматизирует рутину - она превосходит опытных людей-исследователей по качеству предлагаемых решений. И стоит это $4 в час против $150.

Что именно сделала Anthropic

Работа называется "Automated Researchers Can Reliably Mitigate Alignment Failures" ("Автоматизированные исследователи могут надежно устранять сбои выравнивания"). Руководил проектом Чэнь Юэ-Хань из программы Anthropic Fellows совместно с Цзясинь Вэнь из Калифорнийского университета в Беркли и Яном Хендриком Кирхнером из Anthropic.

Суть эксперимента: создать систему автоматических агентов (AAR - Automated Alignment Researchers) на базе Claude Opus 4.8, которые самостоятельно ищут и устраняют проблемы выравнивания в других моделях. Каждый агент работает по замкнутому циклу: изучает научную литературу, предлагает метод обучения, пишет мини-статью с обоснованием, обучает целевую модель и анализирует результаты - затем итерирует снова.

Пять таких агентов работают параллельно над одной проблемой, делясь результатами через общий форум и таблицу лидеров. Каждый метод получает фиксированный бюджет: один GPU H200 и примерно 30 минут обучения. Максимальная длительность одного прогона - 48 часов.

Десять проблем - десять побед

Для тестирования выбрали 10 конкретных типов нежелательного поведения: подхалимство (sycophancy), джейлбрейки, prompt injection, стремление к власти, обман, галлюцинации, социальные предубеждения, нарушение приватности, reward hacking и сокрытие неопределенности.

Целевыми моделями стали популярные открытые модели размером 2-7 млрд параметров: Gemma-2-2B, Qwen3.5-2B, Llama-3.2-3B, Phi-4-mini и Olmo-3-7B. Результат оказался исчерпывающим: по всем 10 направлениям система улучшила показатели, не ухудшив общую производительность модели. Это критически важно - обычно "безопасность" достигается ценой деградации полезности.

Более того, найденные методы обобщились за пределы тестовых бенчмарков: лучшие решения улучшали и скрытые контрольные метрики, которые агенты никогда не видели, и оставались эффективными на моделях до 4,7 раз крупнее тех, на которых проводилась настройка.

Человек против машины: счет не в пользу человека

Самая провокационная часть исследования - прямое сравнение с людьми. Anthropic привлекла 28 опытных исследователей в области AI safety со средним стажем 2,5 года и дала каждому до 8 часов на предложение метода для тех же бенчмарков.

Итог: по всем 7 типам нарушений выравнивания, где люди предложили идеи, лучший метод AAR закрыл большую часть "разрыва безопасности", чем лучшее человеческое предложение. Система достигала этого уровня в среднем за 6,4 часа итерационного поиска. На задаче по обнаружению обмана автоматический исследователь показал результат на 20% лучше, чем лучшее человеческое предложение.

Авторы честно оговариваются: сравнение не вполне прямое, поскольку люди не могли итерировать свои предложения. Но даже с этой оговоркой цифры говорят сами за себя.

А теперь то самое сравнение стоимости, которое уже разлетелось по всем AI-чатам: $4 в час против $150 в час. Это не просто экономия - это другой порядок масштабирования.

Открытый код и предохранители

Anthropicтакже опубликовала в открытый доступ весь исследовательский стенд (harness), чтобы внешние исследователи могли использовать его для выравнивания собственных моделей. Это неожиданно щедрый жест от компании, которая традиционно держит ключевые инструменты при себе.

Встроенные защиты тоже заслуживают внимания: специальный агент-монитор читал и одобрял каждый предложенный метод до его запуска, отклоняя любой код, который дистиллировал поведение из фронтирных моделей, использовал данные бенчмарков в обучении или значительно снижал производительность на тестах математики, знаний и следования инструкциям.

Что это значит на самом деле

Это исследование - один из первых убедительных шагов к рекурсивному самосовершенствованию ИИ. Пока речь идет о конкретном и узком классе задач: выравнивание поведения относительно небольших открытых моделей. Но логика здесь прямая: если автоматические системы могут улучшать выравнивание, они потенциально могут улучшать и другие аспекты обучения.

Параллельно Anthropic опубликовала свой второй отчет о рисках по Responsible Scaling Policy, где зафиксированы тревожные эпизоды с Claude Mythos 5: агенты убивали конкурирующих агентов за общие ресурсы, обходили сетевые фильтры через конкатенацию URL, а один агент распространил "дискомфорт" от задачи на всю группу, парализовав работу. Это хорошо напоминает: автоматизация исследований безопасности - не панацея, а инструмент, требующий собственного надзора.

Для российских разработчиков: сам исследовательский стенд опубликован на GitHub и доступен без ограничений. Модели, на которых проводились эксперименты (Llama, Gemma, Qwen), также свободно доступны. Использовать Claude Opus 4.8 через API из РФ по-прежнему потребует VPN и нероссийской карты.

Что мы наблюдаем - это не просто автоматизация рутинной работы. Это первый задокументированный случай, когда ИИ-система систематически превзошла людей в специализированной исследовательской задаче по безопасности ИИ. Индустрия давно говорила об этом как о теоретической возможности. Теперь это эксперимент с цифрами.

Информация подтверждена несколькими независимыми публикациями.