OpenAI
ИИ-чатOpenAIDecisions APIGPT-6 LunaAI-агентыAPI

OpenAI открыла Decisions API всем разработчикам: модель выбирает ответ из списка

Сергей Сергеев, редактор gen-hub.ru
Сергей Сергеев
Редактор gen-hub.ru
·4 мин чтения
OpenAI открыла Decisions API всем разработчикам: модель выбирает ответ из списка

Когда миллисекунды превращаются в деньги

Есть класс задач, про которые разработчики почти не говорят публично, но которые съедают бюджет и убивают UX. Это не генерация текста и не сложный reasoning - это тысячи маленьких решений внутри воркфлоу: куда маршрутизировать запрос, как классифицировать входящий документ, какое действие выполнить следующим. Каждое из них в отдельности - копейка. В масштабе - серьезная статья расходов и заметная задержка для пользователя.

OpenAI перевела Decisions API в общий доступ. Модель под капотом - GPT-6 Luna, но оптимизированная под задачи с ограниченным набором ответов. Результат: скорость до 10 раз выше, чем при обращении к той же Luna через Responses API.

Что умеет API и как это работает

Принцип прямолинейный. Разработчик описывает вопрос и допустимые варианты ответа, передает контекст - текстом, картинкой или JSON - и получает обратно один из трех типов ответа: вероятность, выбор из вариантов или числовой балл. Никакой генерации свободного текста, никаких цепочек рассуждений - только структурированный вывод.

С момента беты команда добавила несколько существенных вещей. Теперь есть нативная интеграция с GPT-Live, кэширование промптов для повторяющегося контекста, поддержка изображений прямо в инструкциях к вопросу, прием нативного JSON на входе. Лимит вопросов на один запрос вырос до 400 - вдвое против прежнего. Инфраструктура развернута в США и ЕС с inference residency в этих регионах, плюс добавились мощности в нескольких регионах Азии.

Цифры от реальных клиентов

Обычно кейсы в пресс-релизах звучат расплывчато. Здесь конкретика достаточно убедительная.

Datadog использует API для оценки риска shell-команд, которые генерирует агент перед их выполнением. По их данным, p95-латентность упала в 40 раз по сравнению с другими фронтирными моделями при сопоставимой точности. Для горячего пути в автоматическом исправлении инфраструктурных проблем это принципиальная разница.

Sierra встроила API в оркестрацию живых разговоров с клиентами. Результат - под 280 мс на p95, стоимость звонка упала на 90%, скорость выросла в три раза. Без потерь в клиентских метриках.

Ramp считал иначе - через призму денег. На 30% дешевле и в 4 раза быстрее, чем прямые запросы к GPT-6 Luna, при атрибуции AI-расходов на конкретные задачи. Это именно тот сценарий, где финансовые команды начинают требовать внедрения.

Самый показательный кейс - языковая платформа Speak. Интеграция с GPT-Live сократила время до следующего действия с 1.4 секунды до 0.13 секунды - минус 90%. Разница между "ИИ думает" и "ИИ реагирует" именно в этом диапазоне.

Box применяет API для классификации деловых документов и маршрутизации. На выборке из 30 страховых сертификатов скорость выбора маршрута выросла в 5 раз при той же точности.

Почему это интереснее, чем кажется

Decisions API - это фактически признание того, что большинство коммерческих агентных систем переплачивают за интеллект там, где он не нужен. Полноценная языковая модель с многоходовым reasoning - дорогой инструмент для задачи "определи тему письма из 10 вариантов". Разрыв между возможностями модели и требованиями задачи здесь максимальный.

Антропик и Google решают похожую проблему через маленькие модели в семействах - Haiku и Flash соответственно. Подход OpenAI другой: не отдельная модель-малышка, а специализированный endpoint поверх Luna с жестким ограничением пространства ответов. Теоретически это дает точность большой модели при задержке маленькой - хотя насколько это выдерживается в реальных задачах, покажет практика за пределами отобранных кейсов.

Для агентных архитектур это меняет расчеты. Если раньше разработчик выбирал между "дорого и умно" или "дешево и тупо", теперь появляется третий вариант: "дешево, быстро и достаточно умно для структурированных задач". Именно этот средний слой - маршрутизация, классификация, scoring - составляет львиную долю вызовов в любом серьезном агентном приложении.

Про доступность в России

API доступна через стандартный OpenAI-аккаунт с API-доступом. Прямые платежи из России по-прежнему не работают без иностранной карты или посредника - ситуация не изменилась с прошлого года. VPN для доступа к документации не нужен, но для регистрации и пополнения баланса схема остается прежней: зарубежная карта или сервисы-посредники вроде специализированных реселлеров.

Inference residency в US/EU означает, где выполняется вычисление, а не откуда можно обращаться к API.

Что это значит на практике

Decisions API закрывает дыру, которая в индустрии существовала давно. Быстрые структурированные решения - это не академическая задача, это хлеб насущный любого продакшн-агента. То, что OpenAI оформила это как отдельный продукт с понятным ценообразованием и задокументированными кейсами, говорит о том, что рынок созрел и компания видит здесь отдельный сегмент спроса.

Разработчикам, которые сейчас гоняют полные вызовы к большим моделям ради простой классификации, стоит посчитать: при нагрузке от нескольких тысяч решений в минуту разница в 4-10 раз по скорости и стоимости - это уже не оптимизация, а другая экономика продукта.

Все эти инструменты - уже на Genova-ai

Картинки, видео, музыка, голос и ИИ-чат в одном месте. Без VPN и зарубежных карт.

Картинки
Видео
Музыка
Голос
ИИ-чат
Попробовать бесплатно

Похожие новости

OpenAI
ИИ-чат

OpenAI выпустила GPT-6.2 Astra и Sol: входные и выходные токены Astra в API на 20% дешевле, чем у GPT-6 Astra

OpenAI представила две модели: флагманскую GPT-6.2 Astra и экономичную GPT-6.2 Sol. Они доступны в ChatGPT Work, Codex и API и тратят меньше выходных токенов. В API Astra дешевле GPT-6 Astra: входные и выходные токены на 20% ниже, на кэшированные входные скидка 60%.

18 ноября3 мин чтения
OpenAI
ИИ-чат

OpenAI показала агентов GPT-6 для клиник: Luna выполняет задачу за 8,5 цента

OpenAI предложила больницам и страховщикам GPT-6 Astra и Luna: агенты сами кликают по программам клиник и порталам страховых. Среди партнеров компании - CVS Health и Cigna Healthcare.

17 ноября3 мин чтения
NVIDIA
ИИ-чат

NVIDIA Vera Rubin NVL72 в MLPerf Endpoints: более 10x токенов на киловатт к GB300

В предварительных результатах MLPerf Endpoints v1.0 система Vera Rubin NVL72 выдала более чем в 10 раз больше токенов на киловатт, чем GB300 NVL72. Результаты еще не верифицированы MLCommons.

17 ноября3 мин чтения