Phonon: 31 млн параметров, 64 МБ и голос за 7 мс без интернета

Когда голосовые ассистенты стали нормой, почти все они тянутся в облако за каждой фразой. Latency, стоимость запроса, зависимость от сети - это плата, которую разработчики платят молча. Gradium решила изменить это уравнение и 21 октября 2026 года на NVIDIA GTC в Берлине открыла веса Phonon.
Что такое Phonon и откуда он взялся
Gradium основали выходцы из французской исследовательской лаборатории Kyutai - той самой, что первой показала жизнеспособность компактных on-device TTS-моделей через проект Pocket TTS. Phonon строится на той же архитектуре: flow-matching трансформер предсказывает аудиолатенты кадрами по 80 мс, а декодер Mimi переводит их в аудио с частотой 24 кГц. Декодирование идет параллельно с генерацией, поэтому воспроизведение начинается до того, как модель дочитала фразу до конца.
Модель выходит в двух вариантах. Phonon 31m - 31 млн параметров, 64,5 МБ в формате Q8, лицензия Apache 2.0, только английский. Phonon 40m - 40 млн параметров, до 74,6 МБ, есть отдельные языковые версии (английский, французский, немецкий, испанский, португальский) и единая мультиязычная модель с теми же весами; лицензия CC BY-NC, то есть для коммерческого использования нужно договариваться с Gradium отдельно.
Важный нюанс для тех, кто хочет строить продукт: бесплатно коммерчески использовать можно только 31m English. Все 40m-варианты - только для исследований или по договору.
Цифры, которые сложно игнорировать
Gradium приводит собственные бенчмарки, и они выглядят убедительно - хотя независимой проверки пока нет.
По скорости: 7 мс до первого звука на CPU ноутбука (MacBook Air M5, 4 потока, реальное значение 6,9 мс). Kokoro в том же сценарии - 517 мс, притом что он не поддерживает стриминг вообще. На Raspberry Pi 5 Phonon выдает первый звук за 38 мс при скорости 3,7x реального времени. На Snapdragon 8 Elite Gen 5 - 7,5 мс и 24x реального времени. На Arm CPU с ядрами KleidiAI - 28 мс и 15x реального времени.
По точности: WER 1,7% на сложном тестовом наборе (телефоны, email-адреса, почтовые индексы, версии ПО - 500 фраз на язык, набор опубликован на Hugging Face). Kokoro на том же наборе - 3,5%, NeuTTS Nano - 8,71%. Для 40m-версии WER чуть выше: 2,22%. По слепым пользовательским оценкам (Elo, 468 участников, 8290 голосований) Phonon 40m-en набрал 2117 очков и вышел первым среди открытых моделей.
На GPU картина еще интереснее: CUDA-бэкенд на NVIDIA L40S дает первый звук за 5 мс против 43 мс на AMD EPYC 7413. Это 8x ускорение относительно CPU.
Зачем это разработчикам
Архитектура поддерживает больше десяти аппаратных платформ: CPU Intel и Arm, WebAssembly, GPU через CUDA, Vulkan, Metal и WebGPU, NPU через Apple Core ML и Qualcomm Snapdragon. Интеграции с нуля: Rust, Python, Swift, браузер через WebAssembly. Партнеры при запуске - Hugging Face, Arm, Qualcomm, LM Studio, Ollama, MLX Audio.
Практически это означает, что один и тот же код работает на телефоне Android, в Safari через WebGPU, на встраиваемом устройстве с Jetson и на сервере с H100. Модель нужно выбрать по идентификатору репозитория, язык и голос задать отдельно - и дальше рантайм сам выбирает оптимальный бэкенд.
Голосов в базе: более 100 встроенных (среди них Harper, Sterling, Freya, Toby). Плюс клонирование голоса и voice design - через Gradium API.
Сравнение с конкурентами
Kokoro долгое время был эталоном open-source on-device TTS: 82 млн параметров, широко используется, хорошее качество. Phonon 31m весит примерно вдвое меньше и при этом обгоняет его и по скорости, и по точности на сложных текстах. Это смена соотношения размер/качество.
Pocket TTS от Kyutai открыл направление, Gradium его развила: добавила мультиязычность, расширила аппаратную поддержку и выложила собственный рантайм вместо того, чтобы опираться на llama.cpp. По заявлению компании, их рантайм быстрее llama.cpp-решений на том же железе.
ElevenLabs и другие облачные TTS-сервисы в этом сравнении вообще не участвуют - они решают другую задачу. Phonon интересен именно там, где облако неприемлемо: офлайн-приложения, встраиваемые системы, медицинские устройства, автомобили, инструменты доступности.
Где взять
Модель доступна на Hugging Face (gradium/phonon-31m-en) и GitHub (gradium-ai/xn-ptts) под Apache 2.0. Клонирование голоса и voice design доступны через Gradium API на gradium.ai.
Что это значит для рынка
CTO Gradium Лоран Мазаре говорит прямо: голос становится основным интерфейсом взаимодействия с устройствами, и только on-device модели могут обеспечить доступность, приватность и стоимость при таком уровне ежедневного использования. Это инженерная позиция, которую Phonon подкрепляет конкретными цифрами.
Открытые веса под Apache 2.0 означают, что любой разработчик может встроить качественный TTS в свое приложение без роялти и без зависимости от внешнего API. Это меняет экономику голосовых приложений - особенно для небольших команд и стартапов, которым облачные счета делали voice-фичи нерентабельными.
Похожие новости
Edge0 открыла TTS-модель на 0,6 млрд параметров с клонированием голоса на 23 языках
Edge0 выложила Audio8-TTS-Realistic под Apache 2.0: модель клонирует голос по одной записи, знает русский и обходит Qwen3-TTS-1.7B на бенчмарке CV3 по средней ошибке.
AssemblyAI выпустила первую TTS-модель: $15 за миллион символов, 6 языков
AssemblyAI запустила AssemblyAI-TTS-1, синтез речи для голосовых агентов. Цена $15 за 1 млн символов без годового контракта и без отдельной платы за параллельные сессии, но SSML и управления скоростью пока нет.
Ollama v0.40.11-rc0: каталог голосов Phonon и что было в предыдущем релизе
Ollama выпустил release candidate v0.40.11 с обновлением каталога голосов Phonon. Синтез речи и модели d3 появились раньше - в v0.40.9 от 22 октября.