Gemma 4 12B: мультимодальный ИИ Google на обычном ноутбуке

Когда "большой" ИИ умещается в рюкзак

Еще год назад запустить мультимодальную языковую модель на обычном MacBook казалось задачей из разряда "может быть, когда-нибудь". 3 июня 2026 года Google DeepMind сделала это "когда-нибудь" сегодняшним днем: Gemma 4 12B - полноценная мультимодальная модель, которая обрабатывает текст, изображения и аудио одновременно, и при этом умещается в 16 ГБ оперативной или видеопамяти.

Я слежу за линейкой Gemma с самого начала, и этот релиз - качественный скачок, а не косметическое обновление. Разберем, почему.

Архитектура без энкодеров: не маркетинг, а реальный прорыв

Большинство мультимодальных моделей устроены по принципу "конвейер": отдельный энкодер переводит изображение в векторы, другой - аудио, и только потом все это попадает в языковую модель. Такая схема добавляет латентность, жрет память и создает архитектурные костыли.

Google DeepMind пошла другим путем. В Gemma 4 12B энкодеры убраны полностью. Для зрения - легкий модуль из одного матричного умножения, позиционного эмбеддинга и нормализации. Для аудио - сырой сигнал проецируется напрямую в то же пространство, что и текстовые токены. Никаких промежуточных трансформаций, никаких лишних слоев.

Результат: меньше памяти, меньше задержек, более тесная интеграция модальностей. Это не просто "мы добавили картинки" - это принципиально иной способ думать о мультимодальности.

Производительность: меньше размер, почти те же результаты

Цифры говорят сами за себя. На бенчмарках GPQA Diamond, MMLU Pro и DocVQA Gemma 4 12B вплотную приближается к модели 26B - то есть к модели вдвое большего размера. При этом она уверенно обходит Gemma 3 27B - предыдущее поколение, которое было крупнее нынешней 12B.

Это то, что инженеры называют "пробивает выше своей весовой категории". Занимая меньше половины памяти от 26B MoE, модель дает сопоставимые результаты в рассуждениях, понимании документов и профессиональных вопросах. Для локального запуска - это принципиально важно.

Отдельно стоит выделить Multi-Token Prediction (MTP) drafters - механизм спекулятивного декодирования, встроенный прямо в модель. Он снижает латентность при генерации, что критично для агентных сценариев, где модель должна быстро реагировать.

Что умеет: от видеоанализа до голосового редактирования

Gemma 4 12B - первая модель среднего размера в линейке Gemma с нативной обработкой аудио. На практике это открывает целый спектр применений:

- Видеоанализ: модель может разбирать многоминутные ролики, одновременно анализируя кадры и звук. В демо Google она обработала пятиминутный клип с Google I/O - 313 кадров с частотой один в секунду плюс аудиодорожку. - Распознавание речи и голосовое редактирование: приложение Google AI Edge Eloquent теперь работает на macOS полностью офлайн. Можно выделить абзац, сказать "переструктурируй в резюме для руководителя" - и получить результат без отправки данных в облако. По заявлению команды, качество выросло более чем на 60% по сравнению с предыдущими моделями. - Генерация и выполнение кода: через приложение Google AI Edge Gallery на macOS модель пишет Python-скрипты, запускает их локально и возвращает визуализации. В одном из демо она самостоятельно рендерила 3D-объект через trimesh, исправляя собственные ошибки в процессе.

Где запустить и как получить

Модель доступна на Hugging Face и Kaggle (веса для скачивания), а также через Ollama, LM Studio, llama.cpp, MLX, SGLang и vLLM. Лицензия - Apache 2.0, то есть коммерческое использование без ограничений.

Для российских разработчиков: Hugging Face в большинстве случаев доступен без VPN, Ollama - опенсорсный инструмент, работающий локально. Скачать модель и запустить ее на своей машине можно без каких-либо платежных данных или аккаунтов в американских сервисах - достаточно базовых инструментов разработчика.

Требования к железу: 16 ГБ unified memory (на Apple Silicon) или 16 ГБ VRAM (на дискретных GPU). MacBook Pro с M3 Pro/Max, любая RTX 4080/4090 или профессиональные карты уровня A10 - все это подходит.

Контекст: 150 миллионов загрузок и конкуренция с Meta

Google сообщает, что семейство Gemma 4 перешагнуло отметку в 150 миллионов загрузок - цифра, демонстрирующая, что открытые модели компании действительно используются, а не просто существуют для галочки.

Главный конкурент в нише локальных открытых моделей - Llama 4 Scout от Meta, который тоже позиционируется как мультимодальная модель для локального запуска. Прямое сравнение бенчмарков покажет нюансы, но архитектурный подход Gemma 4 12B с отсутствием энкодеров - потенциально более эффективное решение с точки зрения памяти и скорости.

Что это значит для индустрии

Гемма 4 12B - это сигнал о том, что граница между "облачным ИИ" и "локальным ИИ" стремительно размывается. Еще недавно мультимодальность была прерогативой дата-центров. Сегодня она запускается на ноутбуке в кафе.

Для бизнеса это означает возможность строить полностью офлайн-пайплайны с обработкой изображений, аудио и текста - без отправки чувствительных данных в облако. Для разработчиков - новый базовый уровень для агентных приложений. Для обычных пользователей - умный ассистент, который работает без интернета и не передает ваши разговоры никуда.

Информация о релизе подтверждена несколькими независимыми публикациями, включая официальный блог Google DeepMind и технические разборы специализированных изданий.