G
ГолосPhononGradiumTTSon-device AIApache 2.0

Phonon: 31 млн параметров, 64 МБ и голос за 7 мс без интернета

Сергей Сергеев, редактор gen-hub.ru
Сергей Сергеев
Редактор gen-hub.ru
·4 мин чтения
Phonon: 31 млн параметров, 64 МБ и голос за 7 мс без интернета

Когда голосовые ассистенты стали нормой, почти все они тянутся в облако за каждой фразой. Latency, стоимость запроса, зависимость от сети - это плата, которую разработчики платят молча. Gradium решила изменить это уравнение и 21 октября 2026 года на NVIDIA GTC в Берлине открыла веса Phonon.

Что такое Phonon и откуда он взялся

Gradium основали выходцы из французской исследовательской лаборатории Kyutai - той самой, что первой показала жизнеспособность компактных on-device TTS-моделей через проект Pocket TTS. Phonon строится на той же архитектуре: flow-matching трансформер предсказывает аудиолатенты кадрами по 80 мс, а декодер Mimi переводит их в аудио с частотой 24 кГц. Декодирование идет параллельно с генерацией, поэтому воспроизведение начинается до того, как модель дочитала фразу до конца.

Модель выходит в двух вариантах. Phonon 31m - 31 млн параметров, 64,5 МБ в формате Q8, лицензия Apache 2.0, только английский. Phonon 40m - 40 млн параметров, до 74,6 МБ, есть отдельные языковые версии (английский, французский, немецкий, испанский, португальский) и единая мультиязычная модель с теми же весами; лицензия CC BY-NC, то есть для коммерческого использования нужно договариваться с Gradium отдельно.

Важный нюанс для тех, кто хочет строить продукт: бесплатно коммерчески использовать можно только 31m English. Все 40m-варианты - только для исследований или по договору.

Цифры, которые сложно игнорировать

Gradium приводит собственные бенчмарки, и они выглядят убедительно - хотя независимой проверки пока нет.

По скорости: 7 мс до первого звука на CPU ноутбука (MacBook Air M5, 4 потока, реальное значение 6,9 мс). Kokoro в том же сценарии - 517 мс, притом что он не поддерживает стриминг вообще. На Raspberry Pi 5 Phonon выдает первый звук за 38 мс при скорости 3,7x реального времени. На Snapdragon 8 Elite Gen 5 - 7,5 мс и 24x реального времени. На Arm CPU с ядрами KleidiAI - 28 мс и 15x реального времени.

По точности: WER 1,7% на сложном тестовом наборе (телефоны, email-адреса, почтовые индексы, версии ПО - 500 фраз на язык, набор опубликован на Hugging Face). Kokoro на том же наборе - 3,5%, NeuTTS Nano - 8,71%. Для 40m-версии WER чуть выше: 2,22%. По слепым пользовательским оценкам (Elo, 468 участников, 8290 голосований) Phonon 40m-en набрал 2117 очков и вышел первым среди открытых моделей.

На GPU картина еще интереснее: CUDA-бэкенд на NVIDIA L40S дает первый звук за 5 мс против 43 мс на AMD EPYC 7413. Это 8x ускорение относительно CPU.

Зачем это разработчикам

Архитектура поддерживает больше десяти аппаратных платформ: CPU Intel и Arm, WebAssembly, GPU через CUDA, Vulkan, Metal и WebGPU, NPU через Apple Core ML и Qualcomm Snapdragon. Интеграции с нуля: Rust, Python, Swift, браузер через WebAssembly. Партнеры при запуске - Hugging Face, Arm, Qualcomm, LM Studio, Ollama, MLX Audio.

Практически это означает, что один и тот же код работает на телефоне Android, в Safari через WebGPU, на встраиваемом устройстве с Jetson и на сервере с H100. Модель нужно выбрать по идентификатору репозитория, язык и голос задать отдельно - и дальше рантайм сам выбирает оптимальный бэкенд.

Голосов в базе: более 100 встроенных (среди них Harper, Sterling, Freya, Toby). Плюс клонирование голоса и voice design - через Gradium API.

Сравнение с конкурентами

Kokoro долгое время был эталоном open-source on-device TTS: 82 млн параметров, широко используется, хорошее качество. Phonon 31m весит примерно вдвое меньше и при этом обгоняет его и по скорости, и по точности на сложных текстах. Это смена соотношения размер/качество.

Pocket TTS от Kyutai открыл направление, Gradium его развила: добавила мультиязычность, расширила аппаратную поддержку и выложила собственный рантайм вместо того, чтобы опираться на llama.cpp. По заявлению компании, их рантайм быстрее llama.cpp-решений на том же железе.

ElevenLabs и другие облачные TTS-сервисы в этом сравнении вообще не участвуют - они решают другую задачу. Phonon интересен именно там, где облако неприемлемо: офлайн-приложения, встраиваемые системы, медицинские устройства, автомобили, инструменты доступности.

Где взять

Модель доступна на Hugging Face (gradium/phonon-31m-en) и GitHub (gradium-ai/xn-ptts) под Apache 2.0. Клонирование голоса и voice design доступны через Gradium API на gradium.ai.

Что это значит для рынка

CTO Gradium Лоран Мазаре говорит прямо: голос становится основным интерфейсом взаимодействия с устройствами, и только on-device модели могут обеспечить доступность, приватность и стоимость при таком уровне ежедневного использования. Это инженерная позиция, которую Phonon подкрепляет конкретными цифрами.

Открытые веса под Apache 2.0 означают, что любой разработчик может встроить качественный TTS в свое приложение без роялти и без зависимости от внешнего API. Это меняет экономику голосовых приложений - особенно для небольших команд и стартапов, которым облачные счета делали voice-фичи нерентабельными.

Все эти инструменты - уже на Genova-ai

Картинки, видео, музыка, голос и ИИ-чат в одном месте. Без VPN и зарубежных карт.

Картинки
Видео
Музыка
Голос
ИИ-чат
Попробовать бесплатно

Похожие новости