Ollama
ИИ-чат

Ollama 0.34: ChatGPT Desktop теперь можно запускать на локальных моделях

Сергей Сергеев, редактор gen-hub.ru
Сергей Сергеев
Редактор gen-hub.ru
·5 мин чтения
Ollama 0.34: ChatGPT Desktop теперь можно запускать на локальных моделях

Если вы следили за тем, как Ollama методично встраивается в популярные AI-клиенты, то новость про v0.34.0 вас не удивит - но порадует. Релиз-кандидат rc0 вышел 4 сентября, стабильный v0.34.0 - 5 сентября. В нем появилась интеграция с ChatGPT Desktop. Это уже вторая крупная десктопная интеграция за последние две недели: в конце августа Ollama добавила поддержку Claude Desktop.

Паттерн очевиден: Ollama планомерно превращается в универсальный слой между локальными моделями и любым AI-приложением, которым вы уже пользуетесь.

Как это работает

Ollama не модифицирует приложение ChatGPT. Переключить источник моделей можно одним тоглом прямо в интерфейсе Ollama. Согласно официальной документации, модели Ollama появляются в ChatGPT Desktop в режиме Codex - это существенное уточнение: речь не о полной замене всех сценариев работы с ChatGPT, а о конкретном режиме.

Для сравнения: в интеграции с Claude Desktop Ollama использует встроенный в клиент шлюз сторонних провайдеров (third-party inference gateway) и не трогает само приложение. Отключить и вернуться к облаку можно так же быстро - тоглом обратно.

Не только Claude и ChatGPT

Здесь начинается самое интересное. В выводе `ollama launch --help` сейчас числится 19 интеграций: ChatGPT, Claude Desktop, Codex, Cline, GitHub Copilot, VS Code Hermes, OpenCode, Kimi, Qwen и другие. То есть речь не про точечные партнерства с двумя вендорами, а про системный подход - Ollama хочет стать переключателем моделей для всего экосистемного слоя AI-инструментов.

Практически это означает: если у вас есть рабочий процесс вокруг какого-то конкретного клиента - его UI, его интеграции с файлами, его плагины - вам больше не нужно менять клиент ради смены модели. Меняется только модель.

Зачем это нужно обычному пользователю

Главный аргумент - лимиты бесплатных планов. Бесплатный ChatGPT ограничивает количество запросов к GPT-4o, а платная подписка стоит $20 в месяц. С Ollama-интеграцией логика меняется: исчерпал лимит - переключился на локальную модель и продолжил работу в том же окне.

Для разработчиков ценность другая - приватность. Промпты с кодом, внутренними API-ключами или корпоративной логикой не уходят на серверы OpenAI. При локальном запуске данные остаются на устройстве и не передаются Ollama.

Аккаунт при этом не обязателен. На экране установки есть опция "No thanks, I'll use Ollama locally" - она пропускает регистрацию.

Какие модели реально работают без GPU

Вот что показывает практика на слабом железе - i3-8100 без дискретной видеокарты. Четыре модели на одном и том же запросе:

- gemma4:e2b (7.2 ГБ) - 12.3 токена/сек, лучшее качество ответа - qwen3.5:2b (2.7 ГБ) - 9.8 токена/сек, но в ответах появляются китайские иероглифы - qwen3.5:4b (3.4 ГБ) - 6.1 токена/сек, грамматика нормальная, фактура страдает - qwen3.5:9b (6.6 ГБ) - 3.65 токена/сек, точно, но медленно

Результат контринтуитивный: самая большая по объему модель оказалась быстрее и точнее моделей меньшего размера. Причина - архитектурная особенность gemma4:e2b, которая загружает веса целиком, но при генерации активирует только часть параметров. На CPU без GPU-ускорения это дает заметное преимущество.

Отдельный момент про thinking-модели: если не отключить режим "рассуждений", та же задача занимает 7 минут 51 секунду против 9 секунд - разница в 50 раз. Модель генерирует 4066 токенов внутренних рассуждений вместо 91 токена финального ответа. Для бытовых задач thinking нужно выключать.

Что это значит для рынка

Ollama сейчас делает то, что в другом контексте называют "платформизацией". Она не конкурирует с OpenAI или Anthropic напрямую - она становится инфраструктурным слоем между пользователем и любой моделью. Чем больше популярных клиентов поддерживают ее шлюз, тем сложнее любому вендору удерживать пользователей только за счет своего интерфейса.

Для российских пользователей: ChatGPT Desktop сам по себе в РФ требует обходных путей. Если вы уже пользуетесь им через VPN, Ollama-интеграция в режиме Codex не добавляет новых ограничений - при работе с локальной моделью запросы обрабатываются на вашем компьютере.

Репозиторий Ollama на GitHub собрал 180 тысяч звезд - для open-source инструмента это серьезная отметка, и темп набора не замедляется.

Все эти инструменты - уже на Genova-ai

Картинки, видео, музыка, голос и ИИ-чат в одном месте. Без VPN и зарубежных карт.

Картинки
Видео
Музыка
Голос
ИИ-чат
Попробовать бесплатно

Похожие новости

OpenAI
ИИ-чат

OpenAI выпустила GPT-6.2 Astra и Sol: входные и выходные токены Astra в API на 20% дешевле, чем у GPT-6 Astra

OpenAI представила две модели: флагманскую GPT-6.2 Astra и экономичную GPT-6.2 Sol. Они доступны в ChatGPT Work, Codex и API и тратят меньше выходных токенов. В API Astra дешевле GPT-6 Astra: входные и выходные токены на 20% ниже, на кэшированные входные скидка 60%.

18 ноября3 мин чтения
OpenAI
ИИ-чат

OpenAI показала агентов GPT-6 для клиник: Luna выполняет задачу за 8,5 цента

OpenAI предложила больницам и страховщикам GPT-6 Astra и Luna: агенты сами кликают по программам клиник и порталам страховых. Среди партнеров компании - CVS Health и Cigna Healthcare.

17 ноября3 мин чтения
NVIDIA
ИИ-чат

NVIDIA Vera Rubin NVL72 в MLPerf Endpoints: более 10x токенов на киловатт к GB300

В предварительных результатах MLPerf Endpoints v1.0 система Vera Rubin NVL72 выдала более чем в 10 раз больше токенов на киловатт, чем GB300 NVL72. Результаты еще не верифицированы MLCommons.

17 ноября3 мин чтения