ИИ-галлюцинация едва не спровоцировала военный инцидент с Китаем

Весной 2026 года, пока США вели боевые действия против Ирана на Ближнем Востоке, чат-бот едва не устроил дипломатический кризис с Китаем. Аналитик из Командования специальных операций запросил у ИИ-системы данные по грузовому манифесту китайского судна - и получил доклад о том, что на борту находятся компоненты ядерного оружия. Доклад выглядел как стандартный разведывательный продукт. Военные начали готовиться к перехвату и досмотру судна.
Как это произошло
Схема, которую описывает CNN со ссылкой на четырех осведомленных источников, пугает своей обыденностью. Аналитик ввел в чат-бот разведывательные данные по судну. Система смешала открытые источники с засекреченными сигнальными разведданными из государственных баз и выдала вывод о ядерных компонентах на борту. Затем аналитик снова обратился к ИИ - уже чтобы оформить вывод в виде стандартного разведывательного доклада. Знакомый формат придал галлюцинации вид авторитетного документа.
Доклад пошел по цепочке. Вооруженные военнослужащие готовились к посадке на борт, военные самолеты уже находились в воздухе. Операцию остановили только после того, как кто-то потрудился проверить первичные данные. Один из источников CNN назвал доклад "полностью ложным" и добавил, что инцидент "почти начал войну".
Что именно везло судно - CNN так и не установило.
Проблема глубже, чем один аналитик
Эту историю легко прочитать как историю про одного безответственного сотрудника. Но источники, с которыми говорил CNN, рисуют системную картину. Внедрение ИИ в американских вооруженных силах и разведывательном сообществе децентрализовано: разные структуры используют разные системы с разными процедурами проверки. Единого стандарта верификации ИИ-генерируемой информации нет.
Анонимный бывший высокопоставленный чиновник описал внутренние инструменты так: "Это просто коммерческие продукты в военном гриме". Молодые аналитики, по словам источников, склонны доверять ИИ без критической проверки - особенно когда результат выдается в привычном форматировании официального документа.
Еще один источник сформулировал проблему точнее, чем любой академический доклад: "ИИ позволяет быстрее прийти к плохой идее".
Контекст: Пентагон жмет на газ
В январе 2026 года министр обороны Пит Хегсет представил стратегию ускоренного внедрения ИИ - с целью сделать армию США "силой, ставящей ИИ на первое место". Стратегия охватывает управление боевыми действиями, поддержку принятия решений и разведывательные инициативы - вплоть до того, что документ называет "исполнением цепочки уничтожения" (kill chain execution).
При этом принципы ответственного применения ИИ в Пентагоне формально существуют: системы должны быть отслеживаемыми, надежными, управляемыми, а персонал обязан проявлять взвешенное суждение. Инцидент с китайским судном показывает, как далеко эти принципы от реальной практики.
Пентагон и USSOCOM Pacific на запросы CNN не ответили.
Две стороны одной гонки
Примерно в то же время, что произошел этот инцидент, компания Anthropic сообщила о пресечении деятельности актора, связанного с Ираном: тот использовал модели Claude для сбора данных о позициях американских военно-морских сил и формирования материалов для целеуказания. Актор строил Python-конвейер для отслеживания судов по открытым источникам, собирал идентификаторы транспондеров, запрашивал коммерческие спутниковые снимки, изучал уязвимости судовых спутниковых терминалов.
В сумме два случая дают полную картину: ИИ резко ускоряет сбор и обработку морской разведки для обеих сторон. Вопрос в том, у кого быстрее провалится контроль качества.
Почему это важнее, чем кажется
Аргумент против ИИ-рисков часто строится на сценариях с суперинтеллектом, вышедшим из-под контроля. Этот случай показывает другую угрозу - куда более прозаичную. Обычный чат-бот, обычный аналитик, привычный формат доклада - и вооруженные военнослужащие уже готовятся к посадке на борт китайского торгового судна.
Галлюцинации языковых моделей в потребительских приложениях - это неудобство. Те же галлюцинации в военной разведке - это потенциально вооруженный конфликт между двумя ядерными державами. Разница не в природе технологии, а в контексте применения.
Отдельный вопрос, который источники CNN поднимают косвенно: если аналитик использовал систему, которая смешивает открытые и засекреченные данные без явной маркировки источников, как вообще должна выглядеть верификация? Стандартная практика разведки предполагает знание происхождения каждого утверждения. Пока Пентагон не ответил на вопрос о том, какой именно инструмент использовал аналитик - коммерческий или государственный. CNN также не смогло это установить. Что само по себе говорит о состоянии контроля над ИИ-инструментами в военной среде.
Инцидент подробно описан в эксклюзивном материале CNN; другие издания пересказывают именно этот источник.
Похожие новости
OpenAI выпустила GPT-6.2 Astra и Sol: входные и выходные токены Astra в API на 20% дешевле, чем у GPT-6 Astra
OpenAI представила две модели: флагманскую GPT-6.2 Astra и экономичную GPT-6.2 Sol. Они доступны в ChatGPT Work, Codex и API и тратят меньше выходных токенов. В API Astra дешевле GPT-6 Astra: входные и выходные токены на 20% ниже, на кэшированные входные скидка 60%.
OpenAI показала агентов GPT-6 для клиник: Luna выполняет задачу за 8,5 цента
OpenAI предложила больницам и страховщикам GPT-6 Astra и Luna: агенты сами кликают по программам клиник и порталам страховых. Среди партнеров компании - CVS Health и Cigna Healthcare.
NVIDIA Vera Rubin NVL72 в MLPerf Endpoints: более 10x токенов на киловатт к GB300
В предварительных результатах MLPerf Endpoints v1.0 система Vera Rubin NVL72 выдала более чем в 10 раз больше токенов на киловатт, чем GB300 NVL72. Результаты еще не верифицированы MLCommons.