ZML из Парижа выпустила бесплатный движок LLMD для любых AI-чипов

Когда один чип — уже не ответ на все вопросы

Есть такой момент в истории любой технологической монополии, когда рынок начинает искать выходы — не потому что лидер плох, а потому что зависимость от одного поставщика становится слишком дорогой. Именно в этот момент появляются компании вроде ZML. Парижский стартап из 20 человек только что выпустил ZML/LLMD — бесплатный сервер инференса, который позволяет запускать открытые языковые модели на чём угодно: Nvidia, AMD, Google TPU, Apple Metal и Intel Arc. Одновременно. Без переписывания кода.

Это не просто технический релиз. Это заявка на передел рынка инференса, который сейчас переживает то, что аналитики уже называют «золотой лихорадкой».

Что такое LLMD и почему это важно

ZML/LLMD — это LLM inference server, задача которого — убрать «силосы» между разными аппаратными платформами. Сейчас большинство систем инференса заточены под конкретный чип: взял Nvidia — пишешь под CUDA, взял AMD — переходишь на ROCm, хочешь TPU — отдельная история. Это создаёт vendor lock-in, который стоит предприятиям реальных денег.

Основатель ZML Стив Морен сформулировал идею просто: дать людям возможность строить собственные системы и добиваться реального роста эффективности. По его словам, цель — не просто поддержать разные чипы, а выжать из каждого из них максимальную скорость, а иногда и превзойти её.

Технически LLMD впечатляет. Контейнер весит всего 2,4 ГБ — это означает быстрый запуск и эффективное автомасштабирование. Из коробки он включает Flash Attention 3 для Nvidia и AITER-ядра для AMD. Развернуть его можно буквально за пять минут: монтируешь модель, запускаешь контейнер. Разработчики уже тестировали LLMD на Hugging Face Inference Endpoints с моделью Qwen3-8B на видеокарте NVIDIA L4 — всё завелось без танцев с бубном.

Отдельный факт, который понравится гикам: движок написан на языке Zig — редкий выбор, говорящий о том, что команда ставит на низкоуровневую производительность и предсказуемость поведения.

Бесплатно сейчас — чтобы понять, за что платить потом

В отличие от первого публичного проекта ZML — ML-фреймворка с открытым исходным кодом, выпущенного в 2024 году, — LLMD не является open source. Но запускается как бесплатный продукт. Морен объяснил логику прямо: лучше сначала измерить реальное использование, а монетизировать там, где это будет наиболее эффективно, не тормозя рост жадностью на старте.

Когда LLMD станет платным и в каком формате — пока открытый вопрос. Но судя по тому, кто стоит за спиной стартапа, ставки высоки.

Звёздный состав поддержки

ZML поднял $20 млн от ряда венчурных фондов, включая 20VC Гарри Стеббингса, Kima Ventures Ксавье Ньеля, LocalGlobe и Kindred Capital. Морен пришёл с серьёзным бэкграундом: он был VP of Engineering в Zenly — приложении, которое Snapchat купил за девятизначную сумму в 2017 году.

Но самое интересное — в таблице капитализации. Среди инвесторов Ян ЛеКун (лауреат премии Тьюринга, ныне в AMI Labs), Соломон Хайкс (основатель Docker и Dagger), а также Клеман Делангю и Жюльен Шомон из Hugging Face. Когда люди, создавшие инфраструктуру современного AI, лично вкладывают деньги в стартап из 20 человек — это сигнал.

Конкуренты и контекст

Rынок инференса сейчас горячий. Среди прямых конкурентов — Baseten с оценкой $13 млрд, Inferact от создателей vLLM и RadixArk, коммерческая компания за SGLang. И vLLM, и SGLang частично пересекаются с LLMD по функциональности.

Но Морен смотрит шире. Его амбиции — не просто оптимизировать инференс, а со-проектировать кремний. ZML уже работает с рядом европейских чипмейкеров: Axelera, Fractile, Kalray, OLIX, Q.ANT, SiPearl, SpiNNcloud и VSORA. Это позиционирует компанию не как очередную обёртку над существующими решениями, а как потенциального архитектора новой аппаратно-программной экосистемы.

При этом Морен не настроен враждебно к Nvidia — у ZML с гигантом хорошие отношения. Это умная позиция: Nvidia никуда не денется в обозримом будущем, но мир становится более разнообразным в плане железа.

Что это значит для российских разработчиков

ZML/LLMD — это Docker-контейнер с открытым API, совместимым со стандартом OpenAI. Развернуть его можно на любом сервере с поддерживаемым GPU. Никакой привязки к конкретному облаку нет — что само по себе ценно для тех, кто работает с отечественной инфраструктурой или арендует серверы в нейтральных юрисдикциях.

Текущие ограничения технического превью: поддерживаются только архитектуры Llama и Qwen3, запуск только на одном GPU (шардирование на несколько карт пока недоступно). Для продакшн-нагрузок с большими моделями это пока барьер, но для экспериментов и средних задач — вполне рабочий вариант уже сейчас.

Европа как точка сборки

Морен говорит, что не смог бы создать ZML нигде, кроме Парижа. И это не патриотический пафос — это наблюдение о концентрации таланта, инвесторов и партнёров в определённом месте. ZML становится ещё одним аргументом в пользу того, что европейская AI-экосистема способна рождать инфраструктурные проекты мирового уровня, а не только потребительские приложения.

Двадцать человек. Двадцать миллионов долларов. Движок, который может запустить LLM на чипе, о котором год назад никто не слышал. Посмотрим, как быстро «золотая лихорадка» инференса принесёт им первую реальную выручку.

*Информация подтверждена несколькими независимыми публикациями и техническими обзорами.*