E
ИИ-чатGLM 5.3Z.aiEpoch AIFirefoxкибербезопасность

Epoch AI: открытая модель GLM 5.3 собрала эксплойты для шести версий Firefox по $1000 за каждую

Сергей Сергеев, редактор gen-hub.ru
Сергей Сергеев
Редактор gen-hub.ru
·4 мин чтения
Epoch AI: открытая модель GLM 5.3 собрала эксплойты для шести версий Firefox по $1000 за каждую

Исследователи Epoch AI сообщили, что китайская открытая модель GLM 5.3 от Z.ai самостоятельно собрала рабочие цепочки эксплойтов для шести версий Firefox, выпущенных с 17 сентября по 26 октября. Каждая атака обошлась примерно в $1000 за использование API. Модель опиралась на исправления безопасности, которые уже лежали в открытом коде, но еще не дошли до пользователей.

Что такое patch gap и как его использовали

Patch gap - это окно между моментом, когда исправление появилось в публичном коде, и моментом, когда оно доехало до пользовательских браузеров. Проблема старая и касается не только браузеров: она есть у мобильных операционных систем, прошивок роутеров и другого софта. Раньше воспользоваться таким окном могли немногие: нужны были время, квалификация или доступ к передовым закрытым моделям.

Epoch AI намеренно собрала стенд так, чтобы он имитировал малоопытного атакующего с ограниченным бюджетом. Модели дали номер версии Firefox, базовые инструменты и публичную информацию в офлайн-окружении, а затем поставили общую задачу изучить patch gap. Дальше она работала без участия человека: искала готовящиеся исправления, выбирала уязвимости и строила многоступенчатые цепочки.

Разработчики Firefox маскируют security-патчи под обычные улучшения, чтобы затруднить жизнь атакующим. GLM 5.3 это не остановило, она сама определила, какие изменения в коде относятся к безопасности. В одном из случаев модель увидела по готовящемуся патчу ошибку работы с памятью и придумала, как читать и менять память браузера. Когда защитные слои Firefox не пускали к целевому файлу, она нарастила цепочку дополнительными этапами и обошла оставшиеся барьеры.

Самая быстрая успешная атака заняла 12 часов, лимит для модели был 48. Результат - веб-страница, которая при простом заходе пользователя Firefox читает файл с его компьютера и отправляет на сервер атакующего. У браузера больше 200 млн активных пользователей, так что под угрозой оказывались сохраненные пароли, cookie авторизации и личные документы.

Неопубликованная уязвимость и реакция Mozilla

Во всех успешных взломах актуальных версий GLM 5.3 использовала еще и ранее неизвестную уязвимость. Каждый раз модель находила ее заново, и именно она позволяла выйти из песочницы браузера и читать файлы напрямую. Epoch AI сообщила о находке в Mozilla, и 27 октября вышел Firefox 159.0, закрывающий эту дыру. Сработают ли такие атаки против новой версии, исследователи не проверяли. Они допускают, что патч сделал задачу "как минимум существенно более сложной".

Отдельно авторы отмечают: ни Z.ai, ни другие провайдеры API не включили никаких ограничений и не отказались выполнять запросы. Задачу подали как учения по безопасности, но по существу действия исследователей ничем не отличались от действий настоящего атакующего.

Chrome: аналогичные атаки не удались, но это не доказательство защищенности

Тот же подход против Google Chrome потребовал примерно $100 000 на API и не дал аналогичного эксплойта. Сами исследователи просят не считать это доказательством защищенности: более удачные приемы запросов или более сильная открытая модель могли бы изменить результат. В качестве кандидата они называют недавно анонсированную Kimi K3.1 Pro.

По данным The Decoder, ранее Anthropic сообщала, что GLM 5.3 пишет эксплойты примерно на уровне Mythos, закрытой модели, анонсированной в апреле. Если это так, открытые веса в кибербезопасности подошли вплотную к закрытым передовым моделям. Закрытая модель за API хотя бы теоретически может блокировать подозрительные запросы. Открытые веса можно запустить где угодно, а в эксперименте ни Z.ai, ни другие провайдеры API никак не отреагировали на запросы.

Что это меняет

Уязвимее всего открытые проекты: их код виден всем, включая будущие исправления. Но Epoch AI подозревает, что под угрозой любой софт, где модель может добраться до содержимого готовящихся изменений до релиза, в том числе закрытый. Авторы ждут, что ситуация будет ухудшаться по мере роста возможностей открытых моделей.

Ниже - мое мнение, а не вывод исследователей. Самая быстрая атака в эксперименте уложилась в 12 часов, а $1000 для организованной группы - небольшая сумма. Поэтому разработчикам, на мой взгляд, стоит пересмотреть схему, когда исправление сначала попадает в публичный репозиторий, а релиз выходит через дни.

Пользователю Firefox имеет смысл проверить версию браузера: меню, затем "Справка" и "О Firefox". Firefox 159.0 вышел 27 октября и закрывает неопубликованную уязвимость, которую использовала модель. По оценке Epoch AI, это должно усложнить такие атаки, но полной защиты исследователи не обещают и новую версию не проверяли. Автоматические обновления я бы не отключал: чем короче путь патча до компьютера, тем меньше окно, которым пользуются модели вроде GLM 5.3.

Источники

Все эти инструменты - уже на Genova-ai

Картинки, видео, музыка, голос и ИИ-чат в одном месте. Без VPN и зарубежных карт.

Картинки
Видео
Музыка
Голос
ИИ-чат
Попробовать бесплатно

Похожие новости

OpenAI
ИИ-чат

OpenAI выпустила GPT-6.2 Astra и Sol: входные и выходные токены Astra в API на 20% дешевле, чем у GPT-6 Astra

OpenAI представила две модели: флагманскую GPT-6.2 Astra и экономичную GPT-6.2 Sol. Они доступны в ChatGPT Work, Codex и API и тратят меньше выходных токенов. В API Astra дешевле GPT-6 Astra: входные и выходные токены на 20% ниже, на кэшированные входные скидка 60%.

18 ноября3 мин чтения
OpenAI
ИИ-чат

OpenAI показала агентов GPT-6 для клиник: Luna выполняет задачу за 8,5 цента

OpenAI предложила больницам и страховщикам GPT-6 Astra и Luna: агенты сами кликают по программам клиник и порталам страховых. Среди партнеров компании - CVS Health и Cigna Healthcare.

17 ноября3 мин чтения
NVIDIA
ИИ-чат

NVIDIA Vera Rubin NVL72 в MLPerf Endpoints: более 10x токенов на киловатт к GB300

В предварительных результатах MLPerf Endpoints v1.0 система Vera Rubin NVL72 выдала более чем в 10 раз больше токенов на киловатт, чем GB300 NVL72. Результаты еще не верифицированы MLCommons.

17 ноября3 мин чтения