Ollama
ГолосOllamaPhononTTSd3локальный ИИ

Ollama 0.40.9: локальный синтез речи и новые модели решений

Сергей Сергеев, редактор gen-hub.ru
Сергей Сергеев
Редактор gen-hub.ru
·4 мин чтения
Ollama 0.40.9: локальный синтез речи и новые модели решений

Релиз Ollama v0.40.9 вышел 22 октября, и он тихо переворачивает привычное представление о том, что локальный ИИ умеет делать. До сих пор синтез речи на своем железе без облака - это был отдельный зоопарк из Coqui, Piper и самосборных пайплайнов. Теперь `ollama run phonon "Hello from Ollama."` - и готово.

Phonon: речь прямо из терминала

Основа нового функционала - модель Phonon, построенная на чекпойнте Gradium весом 31 миллион параметров. Это английская модель с одним голосом (`default`), и пока выбор голосов не предусмотрен - попытка указать несуществующий вернет ошибку 400 со списком доступных вариантов.

Формат вывода по умолчанию - WAV: 16-bit, моно, 24 кГц. Есть и сырой PCM без заголовка - для тех, кто строит собственные аудиопайплайны. Лимит на запрос - 4096 символов, что покрывает большинство практических сценариев.

Важная деталь: по данным релизных заметок, Phonon генерирует речь на Apple Silicon. Поддержка других платформ для этой функции в релизных заметках не упоминается.

Как это устроено на практике

Аудио генерируется потоково - воспроизведение начинается до того, как вся фраза готова. На macOS используется `afplay`, на Linux система перебирает `paplay`, `pw-play`, `aplay` и `ffplay` в порядке приоритета, на Windows подключается PowerShell.

Если перенаправить вывод в файл, вместо воспроизведения получится WAV-файл. Это работает даже на серверах без звуковой карты - а чтобы слушать с удаленного сервера, достаточно указать `OLLAMA_HOST=my-server:11434` и запустить команду локально.

Практически интересный сценарий - конвейер из чат-модели и Phonon:

ollama run gemma4 --hidethinking "Tell me a fun fact about owls." | ollama run phonon

Потоковая передача работает так, что Phonon начинает озвучивать ответ уже после первых одного-двух предложений из чат-модели. Задержки минимальные.

OpenAI-совместимый эндпоинт

Для разработчиков добавлен эндпоинт `/v1/audio/speech`, полностью совместимый с OpenAI API. Это означает, что любой код, написанный под OpenAI TTS, заработает с Ollama после замены `base_url` на `http://localhost:11434/v1` и `api_key` на строку `ollama`.

Пример на Python через официальный клиент OpenAI:

python client = OpenAI(base_url="http://localhost:11434/v1", api_key="ollama") with client.audio.speech.with_streaming_response.create( model="phonon", voice="default", input="Hello.", response_format="wav" ) as response: response.stream_to_file("speech.wav")

Это прямое попадание в сегмент, где раньше приходилось либо платить ElevenLabs или OpenAI, либо мириться с качеством Coqui и Piper. Gradium 31M - модель компактная, но достаточно разборчивая для служебных задач: озвучка уведомлений, голосовые интерфейсы для локальных приложений, автоматизация.

D3: модели принятия решений

Помимо речи, в релизе появилось семейство d3 - модели семантической маршрутизации от vLLM Semantic Router. Семейство включает размеры 2B, 4B, 9B и 27B. Задача таких моделей - классификация, бинарные решения и скоринг с вероятностями.

На входе может быть текст, структурированное состояние или изображение. Пример из документации:

ollama run d3 "A customer says their card was charged twice." --ask "Is this a billing issue?"

Это не чат-модель и не замена LLM общего назначения. D3 - инструмент для маршрутизации в агентских системах: нужно быстро решить, куда направить запрос, без лишней генерации. Наличие версии 2B означает, что такой роутер можно запустить практически на любом железе с приемлемой скоростью.

Остальные изменения

Flint - инструмент для работы с кодом внутри Ollama - теперь работает на Linux и Windows, а не только на macOS. Это расширяет аудиторию без каких-либо изменений в пользовательском сценарии.

Потоковые запросы через OpenAI Responses и Anthropic Messages перестали "молча" обрываться при сбоях - теперь ошибка генерации явно сообщается клиенту. Раньше приложение просто получало неполный ответ без объяснений.

`ollama launch` теперь корректно передает длину контекста и возможности облачных моделей в инструменты для кода - это исправляет некорректные настройки компактизации контекста, которые могли приводить к потере части диалога.

Антропик-совместимый веб-поиск теперь учитывает параметр `thinking` модели в последующих запросах, что устраняло часть сбоев в многоходовых диалогах.

Что это значит для разработчиков

Ollama последовательно строит локальную альтернативу облачному стеку OpenAI. Каждый новый релиз добавляет совместимый эндпоинт: сначала чат, потом эмбеддинги, теперь TTS. Паттерн очевиден.

Функция Phonon работает локально - модель запускается на своем железе без обращения к внешним сервисам. По данным релизных заметок, генерация речи поддерживается на Apple Silicon, так что владельцам Mac M1-M4 функция доступна прямо сейчас.

Источники

Все эти инструменты - уже на Genova-ai

Картинки, видео, музыка, голос и ИИ-чат в одном месте. Без VPN и зарубежных карт.

Картинки
Видео
Музыка
Голос
ИИ-чат
Попробовать бесплатно

Похожие новости