GenPage: Netflix Заменя Традиционните Препоръчителни Системи с Генеративен Изкуствен Интелект
Netflix обяви радикална промяна в начина, по който изгражда своята начална страница. В официална публикация в инженерния си блог [1], компанията представи GenPage – нов, напълно генеративен подход, който замества традиционния, многостепенен препоръчителен конвейер с единен Transformer модел, оптимизиран да създава двумерното оформление на страницата авторегресивно, елемент по елемент.
Традиционно, началната страница на стрийминг гиганта се е генерирала чрез сложна верига от алгоритми за селекция на кандидати и системи за класиране – първо на ниво "редове" (напр. "Комедии"), а след това на ниво "заглавия" във всеки ред. Тази архитектура често е страдала от разминаване в целите между отделните етапи и необходимост от интензивно ръчно дефиниране на характеристики (feature engineering).
Изображение: Svetni.me / Авторско изображение
Парадигмата Prompt-Response в Препоръките
Вдъхновени от успеха на големите езикови модели (LLM), инженерите на Netflix са обучили единствен генеративен модел, отговарящ на въпроса: „Имайки предвид всичко, което знаем за този потребител и тази заявка, каква начална страница трябва да генерираме, за да максимизираме потребителската удовлетвореност?“
GenPage третира потребителската история и контекста на заявката като входен промпт (prompt) и авторегресивно генерира цялата начална страница като отговор. За да постигне това с висока ефективност, Netflix не използва стандартни текстови токенизатори (като тези в GPT моделите), а разработва собствен токенизатор, специфичен за домейна. Вместо дълги текстови описания, събитията се компресират в няколко токена (напр. [ID_на_заглавие], [Тип_действие], [Време]), което значително намалява дължината на входната последователност и съответно – изчислителните разходи.
Обучение: От Имитация към Цялостна Оптимизация
Процесът на обучение на GenPage следва рецептата на LLM моделите:
- Предварително обучение (Pretraining): Моделът първо се учи да предвижда следващия токен въз основа на исторически данни от успешни импресии, създадени от старата система.
- Фина настройка (Post-training): Тук Netflix експериментира с два подхода – претеглена двоична класификация (WBC) и Обучение с подсилване (Reinforcement Learning - RL).
Обучението с подсилване (чрез вариация на алгоритъма GRPO) отключва най-същественото предимство на GenPage: оптимизация на цялата страница (Whole-page optimization). За разлика от предишните модели, които са класирали всяко заглавие изолирано, RL позволява на системата да разбира взаимодействията между различните редове. Например, поставянето на ред „Продължете да гледате“ най-отгоре задоволява моментното желание на потребителя, но може да намали изследователското разглеждане надолу по страницата.
Интересен феномен, наблюдаван по време на офлайн тестовете, е, че обучението с RL увеличава общото разнообразие на предложеното съдържание на страницата, въпреки че разнообразието не е било изрично зададено като цел в награждаващата функция.
Справяне с Продуктовите Предизвикателства
Интегрирането на генеративен модел в реално време в мащаба на Netflix е изисквало решаването на специфични инженерни проблеми:
- Cold Start за нови филми: Новите заглавия нямат история на гледаемост, затова техните токени се обогатяват с метаданни (жанр, актьорски състав) и се сливат семантично, за да може моделът да ги препоръчва ефективно от първия ден.
- Стриктни бизнес правила: Тъй като генеративните модели понякога "халюцинират", Netflix използва ограничено декодиране (constrained decoding). При генерирането на всеки токен се прилага филтър, който позволява генерирането само на заглавия, които отговарят на бизнес логиката (напр. в ред "Комедии" не може да бъде предложен хорър).
- Хибридно декодиране на редовете: За да се намали латентността, GenPage генерира авторегресивно само първите няколко заглавия в даден ред (тези, които привличат най-голямо внимание). Останалите се избират с едно минаване (single forward pass) въз основа на контекста на вече генерирания префикс.
Резултати и Бъдещо Развитие
Противно на опасенията, че генеративните модели са по-бавни за обслужване в реално време (inference), GenPage е успял да намали общата латентност с 20% спрямо старата многостепенна система. Това се дължи на премахването на тежките изчисления на характеристики (feature engineering) и консолидирането на процеса в един единствен модел. В реални A/B тестове, системата е отчела статистически значимо подобрение в основната метрика за потребителска ангажираност.
Забележително откритие от експериментите е, че обогатяването на контекста (подаването на повече и по-добри данни като промпт) е довело до много по-голямо подобрение в качеството на препоръките, отколкото простото увеличаване на размера на модела (от 120M до 900M параметри).
GenPage представлява фундаментална промяна в архитектурата на препоръчителните системи, доближавайки ги архитектурно и концептуално до съвременните LLM екосистеми.
Източници:
[1]: GenPage: Towards End-to-End Generative Homepage Construction at Netflix - Netflix Technology Blog
[2]: How Netflix Built GenPage: a Single GenAI Model to Build Personalized Homepages - InfoQ