Ai2 открыла AstaBrief 8B: научные отчеты за 51 секунду

Есть такой класс задач, где скорость важнее идеальности. Научный исследователь, которому нужен обзор литературы по конкретному вопросу прямо сейчас, а не через три минуты ожидания - это именно такой случай. Институт Аллена по ИИ (Ai2) выпустил в открытый доступ AstaBrief 8B - модель, которая закрывает эту нишу с конкретными цифрами на руках.

Что за модель и откуда она взялась

AstaBrief 8B построена на базе Qwen3-8B и натренирована специально под задачу генерации научных отчетов. Берет на вход исследовательский вопрос плюс выдержки из найденной литературы - и выдает структурированный отчет с проставленными ссылками. Лицензия Apache 2.0, веса открыты полностью.

Модель уже работает в продакшне: в платформе Asta она стала режимом "Fast" рядом с существующим режимом "Thinking", который работает на Claude. Два режима, два сценария использования - это честная архитектура, без маркетинговых заявлений про полную замену.

51,1 секунды в среднем на полный отчет против 178,5 секунды у Claude-режима. Разница - примерно 3,5 раза. Ai2 называет это "почти на порядок быстрее" по сравнению с проприетарными моделями, которые они использовали раньше - формулировка немного натянутая, но суть понятна: скорость реально другая.

Как ее учили

Технически интереснее всего выбор рецепта обучения. Ai2 рассматривали обучение с подкреплением - их собственная работа DR Tulu показывала, что RL улучшает качество длинных отчетов для открытых моделей. Но в итоге выбрали более простой путь: сначала supervised fine-tuning, потом DPO (direct preference optimization). Причина прагматичная - RL нестабилен и дорог в отладке, а команде нужна была схема, которую легко итерировать.

Для SFT собрали 47 тысяч примеров из реальных пользовательских запросов через платформу ScholarQA. Синтетические таргеты генерировали целым ансамблем: Claude 3.5 Sonnet, Claude 3.7 Sonnet, o3, o4-mini, GPT-4.1. Это дорого, но разово - и дает хорошее покрытие разных стилей ответов.

Для DPO взяли отдельный пул запросов, сгенерировали пары "хороший/плохой" отчет, потом два судьи - GPT-4.1 и DeepSeek-R1 - выбирали победителя в каждой паре. Судьи совпали с человеческими предпочтениями в 95% случаев, в финальный датасет попали только пары с консенсусом обоих судей. Итого около 6 тысяч DPO-примеров. Тренировка проходила на 8xH100 в open-instruct фреймворке Ai2.

Исходный пул запросов - 90 тысяч реальных исследовательских вопросов из логов системы. Их фильтровали по качеству, убирали запросы от ботов и бета-тестеров, слишком короткие промпты, не-английские запросы, ненаучные темы и все, что содержало персональные данные.

Почему это важно для тех, кто занимается наукой серьезно

Открытые веса - не просто возможность запустить у себя. Ai2 прямо говорит: институты могут поднять модель на собственном железе, за своим файрволом. Для исследований, где вопросы касаются неопубликованных данных или чувствительных тем, это не опция - это требование. Никто не хочет, чтобы незавершенная работа утекла через API к чужому провайдеру.

Архитектурное решение модели тоже заслуживает внимания. AstaBrief пишет полный отчет за один проход, минуя этапы суммаризации и кластеризации фрагментов, которые использует Claude-режим. Ai2 утверждает, что это не ударило по качеству - и судя по тому, что они решились выкатить это в продакшн рядом с Claude, скорее всего не лукавят.

Что с этим делать разработчикам

Ai2 выложили пример рабочего пайплайна в репозитории ai2-scholarqa-lib на GitHub. Там можно взять готовый workflow и адаптировать под свои PDF-ки. Это снижает порог входа с "надо разобраться как это вообще работает" до "надо потратить полдня на адаптацию".

Сравнивая с другими открытыми моделями для работы с научными текстами - скажем, с различными вариантами дообученных Mistral или Llama для RAG-пайплайнов - AstaBrief выглядит узкоспециализированным инструментом. Это плюс и минус одновременно. Плюс - она заточена под конкретную задачу и показывает конкретные цифры. Минус - за пределами научного репортинга с цитатами она, скорее всего, не особо полезна.

Доступность для российских пользователей

Веса модели распространяются через Hugging Face. Доступ к Hugging Face из России работает нестабильно, периодически требует VPN. Сам репозиторий ai2-scholarqa-lib на GitHub открыт. Платформа Asta, где Fast-режим уже работает в продакшне, - это веб-сервис Ai2; условия оплаты для российских пользователей стоит уточнять отдельно. Но поскольку веса открыты под Apache 2.0, можно развернуть локально - для этого нужна машина с GPU уровня A100 или H100 для комфортной работы с 8B параметрами в full precision, или потребительская карта при квантизации.

Для академических групп и корпоративных R&D-отделов, которые работают с научной литературой, это реальный инструмент для внедрения. Не потому что он лучший в мире, а потому что он открытый, быстрый, специализированный - и за ним стоит институт с серьезной репутацией в NLP.