Netflix убивает ручную логику рекомендаций: GenRec на языковой модели

Конец эпохи ручных фичей

Представьте себе команду инженеров, которая годами вручную прописывала тысячи параметров — жанровые предпочтения, время просмотра, реакция на трейлеры, поведение в выходные против будних дней. Это и есть то, как Netflix строил свои рекомендации последние годы. Теперь компания говорит: хватит. Внутренний проект GenRec показал, что языковая модель справляется лучше — и при этом требует в 40 раз меньше размеченных данных на ключевом этапе обучения.

Это не просто технический эксперимент. Это сигнал всей индустрии о том, куда движется персонализация.

Что такое GenRec и как это работает

GenRec — не ChatGPT, встроенный в каталог. Это двухэтапная система, выстроенная поверх неназванной открытой языковой модели. На первом этапе модель дообучается на данных Netflix — она начинает «понимать» каталог, поведение пользователей, специфику платформы. На втором этапе из неё делают конкретно ранжировщик рекомендаций, и этот этап обновляется значительно чаще, чтобы успевать за новинками и меняющимися вкусами аудитории.

Главный трюк — в том, как представляются данные о пользователе. Вместо плотных числовых векторов и хитро сконструированных признаков история просмотров превращается в обычный текст. Досмотрел сериал до конца за два дня — это одна фраза. Поставил лайк, но бросил на третьей серии — другая. Netflix фильтрует эти события агрессивно: длинные сессии передаются в деталях, случайные клики и беглые скроллы отбрасываются, марафоны сжимаются. Модель сама улавливает паттерны — жанровые предпочтения, смену интересов со временем — без того, чтобы кто-то их явно прописывал.

Техническая изящность: один проход, без галлюцинаций

Одна из главных проблем с обычными языковыми моделями в роли рекомендательных систем — они начинают советовать контент, которого не существует. Hallucinations в контексте каталога — это катастрофа. Netflix решил это отдельным компонентом, который ограничивает модель только реальными позициями каталога. Модель не генерирует текст — она скорит существующие варианты за один проход, используя vLLM в специальном режиме. Это радикально снижает вычислительные затраты.

Интересный нюанс с контекстным окном: Netflix обнаружил, что за пределами определённой длины каждое дополнительное событие в промпте почти не улучшает качество ранжирования, но добавляет вычислительные расходы. То есть существует практический оптимум — и компания его нашла.

Цифры: скромно, но убедительно

Результаты офлайн-тестирования показали улучшение качества ранжирования примерно на 1,6% по сравнению с продакшн-системой, которую полировали годами. Звучит не сенсационно, но в масштабе Netflix с его ~300 миллионами подписчиков даже полпроцента улучшения — это десятки миллионов долларов дополнительной выручки через удержание аудитории.

Четырёхнедельный A/B-тест на реальных пользователях — примерно 10% трафика — подтвердил офлайн-результаты. Это принципиально: часто модели хорошо выглядят в лабораторных условиях и разочаровывают в продакшне. Здесь корреляция сохранилась.

Отдельно впечатляет экономия на разметке данных. В 40 раз меньше примеров для второго этапа обучения — это означает, что систему можно быстрее адаптировать к новым типам контента: играм, подкастам, живым трансляциям. Именно это узкое место убивало старую архитектуру — каждый новый формат требовал новых вручную прописанных признаков.

Почему это важнее, чем кажется

Я слежу за рекомендательными системами давно, и вот что меня здесь цепляет: Netflix по сути признаёт, что годы инвестиций в hand-crafted feature engineering достигли потолка. Это честное и смелое признание. Большинство компаний держатся за legacy-системы из инерции и корпоративной политики.

Сравните с тем, что делают конкуренты. Spotify уже несколько лет экспериментирует с трансформерами для музыкальных рекомендаций. YouTube использует двухбашенные нейросети, где одна башня кодирует пользователя, другая — контент. Но перевод всего поведения пользователя в plain text как интерфейс — это более радикальный шаг, чем кажется. Это означает, что можно использовать общие достижения в обучении языковых моделей напрямую, без специальной архитектурной работы.

Для разработчиков рекомендательных систем это сигнал пересмотреть свои стеки. Если у вас есть приложение с историей взаимодействий — игра, маркетплейс, стриминг — текстовое представление событий может оказаться неожиданно мощным.

Ограничения и честность Netflix

Компания сама называет GenRec «ранним, но многообещающим» направлением. Это не полная замена существующей системы — скорее параллельный трек, который пока тестируется на части трафика. Вопросы масштабируемости, задержек и стоимости инференса в полном продакшне остаются открытыми.

Также стоит понимать: 40-кратная экономия на размеченных данных относится конкретно ко второму этапу обучения — не ко всему пайплайну. Первый этап, адаптация базовой языковой модели к данным Netflix, требует своих ресурсов, о которых компания публично не говорит.

Что дальше

Netflix прямо заявляет, что видит в этом часть более широкого перехода к универсальным языковым моделям вместо специализированных архитектур. Это логично: по мере того как базовые модели становятся мощнее и дешевле, тонкая настройка под конкретную задачу становится всё более привлекательной альтернативой строительству с нуля.

Для российских разработчиков и исследователей: подход GenRec воспроизводим с открытыми моделями — Llama, Mistral, Qwen. Главная ценность здесь не в конкретной модели, а в архитектурном решении: текстовое представление поведения пользователя плюс двухэтапное обучение плюс ограничение выдачи реальным каталогом. Это можно адаптировать для любого рекомендательного сервиса, работающего в любой юрисдикции.