Ollama 0.40.12 добавила семейство Liquid AI LFM3, пока только для Apple
Ollama 27 октября выпустила версию v0.40.12, главное в ней - семейство малых моделей Liquid AI LFM3. Они рассчитаны на локальных агентов, вызов инструментов и структурированный вывод. Работают модели пока только на Apple-железе.
Что за LFM3
Liquid AI построила семейство на новой архитектуре, которую называет tri-hybrid. Подробностей о ее устройстве в описании релиза нет, поэтому судить о ней рано. Зато понятно, как семейство разложено по задачам:
- lfm3 - текстовая модель на 1,7 млрд параметров с окном контекста 256 тысяч токенов; - lfm3-vl - то же с пониманием изображений; - lfm3-audio - распознавание речи, перевод и синтез речи на 18 языках; - lfm3-omni - текст, картинки и звук в одной модели.
Запуск обычный: `ollama run lfm3`. Насколько качественно модель работает на длинных входах, в описании релиза не сказано. Замеров в источнике нет, так что 256K пока остаются просто цифрой из релиза.
Модели d1
Отдельно Ollama добавила d1 от Liquid AI в размере 2B, построенную на LFM3. Это модель для принятия решений по тексту и изображениям. Версия d1-omni понимает еще и звук. В примере из релиза модель получает обращение клиента "I was charged twice for order 4417" и вопрос "Is this a billing issue?". На мой взгляд, это похоже на работу классификатора. Команда: `ollama run d1:2b` с ключом `--ask`.
Мое мнение: для маршрутизации обращений и фильтрации такой формат может оказаться удобнее большой чат-модели. Ответ на вопрос вроде приведенного короткий, а данные остаются на машине. Проверять это на своих задачах придется самим, в релизе таких сравнений нет.
Ограничение по платформам
lfm3 и d1 2B в этой версии поддерживаются только на Apple-оборудовании. Поддержку Linux и Windows в Ollama обещают "скоро", сроков не называют. Владельцам видеокарт Nvidia или AMD придется ждать, а сравнивать LFM3 с другими малыми моделями на своем железе - позже.
Остальные изменения
Список небольшой, но полезный для пользователей Mac:
- быстрее обработка промпта на Apple silicon для Gemma 4, а также для моделей Flint и Laguna; - спекулятивное декодирование на MLX теперь работает с черновыми моделями DFlash2; - Gemma 4 сохраняет больше деталей на маленьких изображениях; - `ollama launch` совместим с OpenCode v2; - исправлена ошибка с ходами ассистента, где были только вызовы инструментов, при работе с Kimi CLI; - обновлены MLX и llama.cpp.
Это мое наблюдение, а не заявление разработчиков: в релизе LFM3 и ускорение для Gemma 4 вышли вместе, и оба изменения касаются прежде всего Apple silicon.
Если у вас Mac, LFM3 можно пробовать уже сейчас. Остальным разумнее дождаться выхода версии с поддержкой Linux и Windows.
Источники
Похожие новости
OpenAI выпустила GPT-6.2 Astra и Sol: входные и выходные токены Astra в API на 20% дешевле, чем у GPT-6 Astra
OpenAI представила две модели: флагманскую GPT-6.2 Astra и экономичную GPT-6.2 Sol. Они доступны в ChatGPT Work, Codex и API и тратят меньше выходных токенов. В API Astra дешевле GPT-6 Astra: входные и выходные токены на 20% ниже, на кэшированные входные скидка 60%.
OpenAI показала агентов GPT-6 для клиник: Luna выполняет задачу за 8,5 цента
OpenAI предложила больницам и страховщикам GPT-6 Astra и Luna: агенты сами кликают по программам клиник и порталам страховых. Среди партнеров компании - CVS Health и Cigna Healthcare.
NVIDIA Vera Rubin NVL72 в MLPerf Endpoints: более 10x токенов на киловатт к GB300
В предварительных результатах MLPerf Endpoints v1.0 система Vera Rubin NVL72 выдала более чем в 10 раз больше токенов на киловатт, чем GB300 NVL72. Результаты еще не верифицированы MLCommons.