ZML из Парижа выпустила бесплатный движок LLMD для любых AI-чипов

Когда один чип - уже не ответ на все вопросы

Есть такой момент в истории любой технологической монополии, когда рынок начинает искать выходы - не потому что лидер плох, а потому что зависимость от одного поставщика становится слишком дорогой. Именно в этот момент появляются компании вроде ZML. Парижский стартап из 20 человек только что выпустил ZML/LLMD - бесплатный сервер инференса, который позволяет запускать открытые языковые модели на чем угодно: Nvidia, AMD, Google TPU, Apple Metal и Intel Arc. Одновременно. Без переписывания кода.

Это не просто технический релиз. Это заявка на передел рынка инференса, который сейчас переживает то, что аналитики уже называют "золотой лихорадкой".

Что такое LLMD и почему это важно

ZML/LLMD - это LLM inference server, задача которого - убрать "силосы" между разными аппаратными платформами. Сейчас большинство систем инференса заточены под конкретный чип: взял Nvidia - пишешь под CUDA, взял AMD - переходишь на ROCm, хочешь TPU - отдельная история. Это создает vendor lock-in, который стоит предприятиям реальных денег.

Основатель ZML Стив Морен сформулировал идею просто: дать людям возможность строить собственные системы и добиваться реального роста эффективности. По его словам, цель - не просто поддержать разные чипы, а выжать из каждого из них максимальную скорость, а иногда и превзойти ее.

Технически LLMD впечатляет. Контейнер весит всего 2,4 ГБ - это означает быстрый запуск и эффективное автомасштабирование. Из коробки он включает Flash Attention 3 для Nvidia и AITER-ядра для AMD. Развернуть его можно буквально за пять минут: монтируешь модель, запускаешь контейнер. Разработчики уже тестировали LLMD на Hugging Face Inference Endpoints с моделью Qwen3-8B на видеокарте NVIDIA L4 - все завелось без танцев с бубном.

Отдельный факт, который понравится гикам: движок написан на языке Zig - редкий выбор, говорящий о том, что команда ставит на низкоуровневую производительность и предсказуемость поведения.

Бесплатно сейчас - чтобы понять, за что платить потом

В отличие от первого публичного проекта ZML - ML-фреймворка с открытым исходным кодом, выпущенного в 2024 году, - LLMD не является open source. Но запускается как бесплатный продукт. Морен объяснил логику прямо: лучше сначала измерить реальное использование, а монетизировать там, где это будет наиболее эффективно, не тормозя рост жадностью на старте.

Когда LLMD станет платным и в каком формате - пока открытый вопрос. Но судя по тому, кто стоит за спиной стартапа, ставки высоки.

Звездный состав поддержки

ZML поднял $20 млн от ряда венчурных фондов, включая 20VC Гарри Стеббингса, Kima Ventures Ксавье Ньеля, LocalGlobe и Kindred Capital. Морен пришел с серьезным бэкграундом: он был VP of Engineering в Zenly - приложении, которое Snapchat купил за девятизначную сумму в 2017 году.

Но самое интересное - в таблице капитализации. Среди инвесторов Ян ЛеКун (лауреат премии Тьюринга, ныне в AMI Labs), Соломон Хайкс (основатель Docker и Dagger), а также Клеман Делангю и Жюльен Шомон из Hugging Face. Когда люди, создавшие инфраструктуру современного AI, лично вкладывают деньги в стартап из 20 человек - это сигнал.

Конкуренты и контекст

Рынок инференса сейчас горячий. Среди прямых конкурентов - Baseten с оценкой $13 млрд, Inferact от создателей vLLM и RadixArk, коммерческая компания за SGLang. И vLLM, и SGLang частично пересекаются с LLMD по функциональности.

Но Морен смотрит шире. Его амбиции - не просто оптимизировать инференс, а со-проектировать кремний. ZML уже работает с рядом европейских чипмейкеров: Axelera, Fractile, Kalray, OLIX, Q.ANT, SiPearl, SpiNNcloud и VSORA. Это позиционирует компанию не как очередную обертку над существующими решениями, а как потенциального архитектора новой аппаратно-программной экосистемы.

При этом Морен не настроен враждебно к Nvidia - у ZML с гигантом хорошие отношения. Это умная позиция: Nvidia никуда не денется в обозримом будущем, но мир становится более разнообразным в плане железа.

Что это значит для российских разработчиков

ZML/LLMD - это Docker-контейнер с открытым API, совместимым со стандартом OpenAI. Развернуть его можно на любом сервере с поддерживаемым GPU. Никакой привязки к конкретному облаку нет - что само по себе ценно для тех, кто работает с отечественной инфраструктурой или арендует серверы в нейтральных юрисдикциях.

Текущие ограничения технического превью: поддерживаются только архитектуры Llama и Qwen3, запуск только на одном GPU (шардирование на несколько карт пока недоступно). Для продакшн-нагрузок с большими моделями это пока барьер, но для экспериментов и средних задач - вполне рабочий вариант уже сейчас.

Европа как точка сборки

Морен говорит, что не смог бы создать ZML нигде, кроме Парижа. И это не патриотический пафос - это наблюдение о концентрации таланта, инвесторов и партнеров в определенном месте. ZML становится еще одним аргументом в пользу того, что европейская AI-экосистема способна рождать инфраструктурные проекты мирового уровня, а не только потребительские приложения.

Двадцать человек. Двадцать миллионов долларов. Движок, который может запустить LLM на чипе, о котором год назад никто не слышал. Посмотрим, как быстро "золотая лихорадка" инференса принесет им первую реальную выручку.

*Информация подтверждена несколькими независимыми публикациями и техническими обзорами.*