DeepMind с помощью ИИ формально проверила ключевые части протокола Signal за 4 недели

Google DeepMind опубликовала результат формальной верификации протокола Signal, выполненной с помощью агентной системы AlphaProof Code. Проект занял четыре недели, в нем участвовали пять человек и, по словам авторов, "довольно много токенов". Спецификацию и доказательство исследователи выложили в открытый доступ.
Что именно доказали
AlphaProof Code проверил постквантовое рукопожатие PQXDH и механизм Triple Ratchet. Доказательство подтверждает свойства, на которых держится защита переписки в libsignal: прямую секретность, аутентификацию, безопасность после компрометации ключей и секретность самого рукопожатия. Заявленная новизна в том, что ИИ впервые помог связать гарантии на уровне протокола с реальной, широко используемой криптографической реализацией. Проверка идет на уровне машинного кода, это отражено в названии статьи исследователей.
Процесс устроен так. Модели вместе с людьми превращают цели безопасности Signal в математическую спецификацию на Lean, и эту спецификацию проверяют люди. Затем агенты на базе Gemini пишут доказательства, а ядро Lean проверяет их на соответствие спецификации. После генерации идет аудит, в котором система помечает фрагменты для ручного разбора.
По объему у нас есть одна цифра, из The Register: агенты сгенерировали 6,5 миллиона строк кода на Lean, и только после этого начался аудит с пометкой фрагментов для ручного разбора.
Оговорки
Результат теоретический: он исходит из допущения об идеальной криптографии и не гарантирует вычислительную секретность отдельных байтов. Мобильное приложение Signal целиком не верифицировали. Новых уязвимостей в проверенных частях не нашли. Зато на старых версиях Signal с давно закрытыми известными ошибками система корректно показала, что верификация не проходит. Для инструмента такого класса это важная проверка: он умеет не только подтверждать, но и отвергать.
К тому же у команды был задел. Signal Foundation раньше уже проводила формальную верификацию меньших частей кода. Технический директор Signal Эрен Крет отметил, что подход DeepMind позволяет заметно расширить охват. Работа также приближает ответ на вызов Beneficial AI Foundation, которая в апреле предложила верифицировать протокол и приложение Signal на Lean.
Почему это важно и где предел
Для масштаба сравнения авторы приводят старые примеры: верификация микроядра seL4 потребовала 20 человеко-лет, а создание верифицированного компилятора CompCert - шесть лет. Прямо сопоставлять эти цифры с Signal нельзя: объекты и охват разные. Но порядок величин показывает, куда сместилась стоимость.
Самое интересное наблюдение принадлежит Сварату Чаудхури из DeepMind. По его словам, у формальных методов было тридцать-сорок лет работы над масштабированием самой проверки, и теперь она дешевеет. Остается вопрос, что именно проверять, и этот этап по-прежнему делают люди. Ошибка в спецификации даст аккуратное доказательство не того, что нужно. Поэтому человеческий аудит спецификации остается слабым и одновременно главным звеном.
Есть и открытый вопрос цены. Анализ Signal проведен бесплатно как исследовательский проект, Google не раскрыла его стоимость и не ответила, планирует ли коммерческий сервис верификации. Пока непонятно, выдержит ли подход код банковского уровня и целые цепочки поставок. Пушмит Коли, главный научный сотрудник Google Cloud, говорит, что банки и другие компании смогут заявлять "я могу доказать эти свойства". Чаудхури связывает цель с ростом наступательных возможностей ИИ: небезопасных систем много, и их будут эксплуатировать.
Нам кажется, что главная ценность работы сейчас не в самом Signal, который и без того один из самых проверенных протоколов. Это публичная точка отсчета: четыре недели, пять человек, открытые артефакты. Если другие команды повторят подход на менее изученном коде и покажут сопоставимую цену, формальная верификация перестанет быть уделом проектов вроде seL4.
Похожие новости
Vercel Labs выпустила UI SDK: 50+ поведений интерфейса для ИИ-агентов
Vercel Labs открыла бета-версию UI SDK под Apache-2.0: набор из 50+ поведений интерфейса, из которых агенты собирают доступные компоненты для React, Vue, Svelte, Solid и Web Components.
llama.cpp и ggml вышли в версии 1.0.0 и перешли на семантическое версионирование
Команда ggml-org выпустила llama.cpp и ggml v1.0.0. Теперь поломки API и ABI будут отмечать повышением мажорной версии, а сборки появятся в Homebrew, Winget, conda-forge и других каналах.
Amplitude оценивает срок выпуска доработок с агентом Wave в 1-2 дня, раньше уходил месяц
Amplitude рассказала, что ее агент Wave на моделях OpenAI сокращает путь от идеи до релиза с примерно месяца до 1-2 дней. В тесте на своей главной странице число сообщений через карточки-подсказки через день выросло на 160% относительно контрольной группы.