Ollama
ИИ-чатOllamaLiquid AILFM3локальные моделиApple silicon

Ollama 0.40.12 добавила семейство Liquid AI LFM3, пока только для Apple

Сергей Сергеев, редактор gen-hub.ru
Сергей Сергеев
Редактор gen-hub.ru
·3 мин чтения

Ollama 27 октября выпустила версию v0.40.12, главное в ней - семейство малых моделей Liquid AI LFM3. Они рассчитаны на локальных агентов, вызов инструментов и структурированный вывод. Работают модели пока только на Apple-железе.

Что за LFM3

Liquid AI построила семейство на новой архитектуре, которую называет tri-hybrid. Подробностей о ее устройстве в описании релиза нет, поэтому судить о ней рано. Зато понятно, как семейство разложено по задачам:

- lfm3 - текстовая модель на 1,7 млрд параметров с окном контекста 256 тысяч токенов; - lfm3-vl - то же с пониманием изображений; - lfm3-audio - распознавание речи, перевод и синтез речи на 18 языках; - lfm3-omni - текст, картинки и звук в одной модели.

Запуск обычный: `ollama run lfm3`. Насколько качественно модель работает на длинных входах, в описании релиза не сказано. Замеров в источнике нет, так что 256K пока остаются просто цифрой из релиза.

Модели d1

Отдельно Ollama добавила d1 от Liquid AI в размере 2B, построенную на LFM3. Это модель для принятия решений по тексту и изображениям. Версия d1-omni понимает еще и звук. В примере из релиза модель получает обращение клиента "I was charged twice for order 4417" и вопрос "Is this a billing issue?". На мой взгляд, это похоже на работу классификатора. Команда: `ollama run d1:2b` с ключом `--ask`.

Мое мнение: для маршрутизации обращений и фильтрации такой формат может оказаться удобнее большой чат-модели. Ответ на вопрос вроде приведенного короткий, а данные остаются на машине. Проверять это на своих задачах придется самим, в релизе таких сравнений нет.

Ограничение по платформам

lfm3 и d1 2B в этой версии поддерживаются только на Apple-оборудовании. Поддержку Linux и Windows в Ollama обещают "скоро", сроков не называют. Владельцам видеокарт Nvidia или AMD придется ждать, а сравнивать LFM3 с другими малыми моделями на своем железе - позже.

Остальные изменения

Список небольшой, но полезный для пользователей Mac:

- быстрее обработка промпта на Apple silicon для Gemma 4, а также для моделей Flint и Laguna; - спекулятивное декодирование на MLX теперь работает с черновыми моделями DFlash2; - Gemma 4 сохраняет больше деталей на маленьких изображениях; - `ollama launch` совместим с OpenCode v2; - исправлена ошибка с ходами ассистента, где были только вызовы инструментов, при работе с Kimi CLI; - обновлены MLX и llama.cpp.

Это мое наблюдение, а не заявление разработчиков: в релизе LFM3 и ускорение для Gemma 4 вышли вместе, и оба изменения касаются прежде всего Apple silicon.

Если у вас Mac, LFM3 можно пробовать уже сейчас. Остальным разумнее дождаться выхода версии с поддержкой Linux и Windows.

Источники

Все эти инструменты - уже на Genova-ai

Картинки, видео, музыка, голос и ИИ-чат в одном месте. Без VPN и зарубежных карт.

Картинки
Видео
Музыка
Голос
ИИ-чат
Попробовать бесплатно

Похожие новости

OpenAI
ИИ-чат

OpenAI выпустила GPT-6.2 Astra и Sol: входные и выходные токены Astra в API на 20% дешевле, чем у GPT-6 Astra

OpenAI представила две модели: флагманскую GPT-6.2 Astra и экономичную GPT-6.2 Sol. Они доступны в ChatGPT Work, Codex и API и тратят меньше выходных токенов. В API Astra дешевле GPT-6 Astra: входные и выходные токены на 20% ниже, на кэшированные входные скидка 60%.

18 ноября3 мин чтения
OpenAI
ИИ-чат

OpenAI показала агентов GPT-6 для клиник: Luna выполняет задачу за 8,5 цента

OpenAI предложила больницам и страховщикам GPT-6 Astra и Luna: агенты сами кликают по программам клиник и порталам страховых. Среди партнеров компании - CVS Health и Cigna Healthcare.

17 ноября3 мин чтения
NVIDIA
ИИ-чат

NVIDIA Vera Rubin NVL72 в MLPerf Endpoints: более 10x токенов на киловатт к GB300

В предварительных результатах MLPerf Endpoints v1.0 система Vera Rubin NVL72 выдала более чем в 10 раз больше токенов на киловатт, чем GB300 NVL72. Результаты еще не верифицированы MLCommons.

17 ноября3 мин чтения