NVIDIA открывает Run:ai: платформа оркестрации GPU теперь open source

Что произошло и почему это не рядовой релиз

NVIDIA купила Run:ai в 2024 году за, по разным оценкам, около 700 миллионов долларов. Это была дорогостоящая ставка на то, что управление GPU-кластерами станет отдельной категорией программного обеспечения - такой же важной, как сами ускорители. И вот теперь компания открывает весь этот код: полная платформа Run:ai доступна как open source. При этом коммерческие варианты с поддержкой и SLA сохраняются.

Решение опубликовать Run:ai как часть платформы NVIDIA DSX AI Factory - это сигнал рынку: NVIDIA хочет стать инфраструктурным стандартом не только на уровне железа, но и на уровне программного слоя оркестрации. Бесплатный код затягивает экосистему глубже в орбиту зеленой компании.

Четыре компонента, которые можно брать по отдельности

Архитектура релиза продуманная. Платформа разбита на четыре модуля, каждый из которых работает независимо:

KAI Scheduler - планировщик задач для Kubernetes, который понимает GPU-топологию. Он умеет динамически перераспределять ресурсы между задачами обучения и инференса, не дожидаясь, пока один job завершится и освободит слот.

GPU Fractioning Operator - инструмент для разделения одной физической GPU между несколькими workload-ами на уровне CUDA. Это не виртуализация в классическом смысле и не MIG от NVIDIA - это именно дробление через оператор Kubernetes с нативным CUDA-доступом.

KAI Resource Management - управление квотами и иерархией организационных единиц. Для крупных компаний, где несколько команд делят один кластер, это критически важный кусок: кто сколько GPU получает, как приоритеты расставлены, куда уходят неиспользованные ресурсы.

Workload Map - унифицированный контракт на описание workload-ов. Грубо говоря, общий язык между компонентами системы о том, что именно запущено и в каком состоянии.

Команды могут взять только планировщик, только дробление GPU или всю платформу целиком - зависит от того, что болит.

Восемь партнеров уже внутри

На старте к платформе подключились Crusoe, Mirantis, Nebius, OpenNebula Systems, Rafay, Saturn Cloud, Spectro Cloud и vCluster. Это разношерстная компания: Nebius - бывший Яндекс.Облако с европейской пропиской, Crusoe специализируется на энергоэффективных дата-центрах, Saturn Cloud ориентирован на data science команды. То, что все они интегрируют Run:ai одновременно с релизом, говорит о том, что переговоры шли заранее - и NVIDIA явно синхронизировала партнеров под единый анонс.

Чем это отличается от того, что уже есть

Главный конкурент на этом поле - volcano и kueue от Google, оба open source планировщика для Kubernetes с поддержкой GPU. Volcano хорошо известен в академической среде, kueue активно продвигает сама Google в рамках своей Kubernetes-экосистемы.

Есть еще Slurm - старый добрый планировщик из HPC-мира, который многие организации до сих пор используют для GPU-кластеров. Его проблема - он не Kubernetes-native, и интеграция с современными ML-платформами требует костылей.

Run:ai изначально строился под Kubernetes и под NVIDIA-железо. Это его сильная сторона и одновременно ограничение: AMD GPU поддерживаются хуже, хотя формально платформа не закрыта под конкретного производителя.

Два смежных проекта в комплекте

Вместе с Run:ai NVIDIA упомянула два дополнительных open source проекта: Model Streamer и Grove. Первый ускоряет загрузку весов моделей - актуально, когда у тебя LLaMA-70B и ты хочешь поднять инференс за разумное время. Второй оркестрирует многокомпонентные inference-пайплайны, где один запрос проходит через несколько моделей или сервисов.

Эти два инструмента не входят в Run:ai как таковой, но логически дополняют картину: Run:ai управляет GPU-ресурсами, Grove управляет потоком задач между компонентами, Model Streamer ускоряет холодный старт.

Что это значит для разработчиков и инфраструктурных команд

Если вы строите частный GPU-кластер на NVIDIA-железе и используете Kubernetes - это стоит изучить. Код лежит в GitHub-организации NVIDIA DSX AI Factory, helm-chart для установки доступен на NGC как Community Product. Лицензионное соглашение при скачивании с NGC нужно принять - это стандартная практика NVIDIA, которая означает, что полностью "свободным" в смысле MIT или Apache этот код не является. Детали лицензии стоит читать внимательно перед встраиванием в коммерческий продукт.

Для команд, которые хотят снизить затраты, открытый код дает такую возможность. При этом коммерческая поддержка и SLA сохраняются - согласно официальной позиции NVIDIA, поддерживаемая версия не является отдельной функциональной редакцией с урезанным open source уровнем. Крупные организации, которым нужны гарантии и поддержка, скорее всего, продолжат платить за них.

Для стартапов и исследовательских групп, которые раньше не могли себе позволить Run:ai, открывается доступ к планировщику, который обкатан в продакшне у серьезных AI-компаний. Это не учебный проект - за ним стоят годы эксплуатации на реальных нагрузках.

Стратегическая логика NVIDIA

NVIDIA зарабатывает на железе. Чем проще запускать AI-нагрузки на NVIDIA GPU, тем больше кластеров строится на NVIDIA GPU. Open source Run:ai снижает барьер входа для облачных провайдеров и enterprise-клиентов - и косвенно продает больше H100 и B200.

Эта логика работала для Red Hat с Linux, для HashiCorp с Terraform до смены лицензии, для Elastic с Elasticsearch. Открытый код как инструмент захвата рынка - давно не новость. Но в GPU-оркестрации такой ход NVIDIA делает впервые, и это меняет расклад сил на рынке MLOps-инструментов.