Как менялся ARGUS и где начинаются генеративные рекомендации
Суточное обновление и один вектор пользователя ограничивают свежесть и выразительность модели. Многоступенчатый стек также сложно оптимизировать целиком. Николай Савушкин разделяет улучшения ARGUS внутри действующих систем и эксперименты с единой генеративной моделью.
Видео · на русском
Генеративные рекомендательные технологии в Яндексе / Николай СавушкинНиколай Савушкин · Опубликовано: 20 октября 2025 г.
Исходный доклад · Открыть оригинал
Генеративное обучение не означает генеративную выдачу
Первые версии ARGUS предобучались на последовательностях, но затем работали как признаки ранжирования или источники кандидатов в обычном каскаде. Такой способ внедрения сохраняет зрелую инфраструктуру продукта.
Отдельная цель — модель, которая сразу формирует выдачу. В докладе эти два направления разведены: нельзя по наличию предобучения заключить, что все рекомендации уже выдаёт одна сеть.
Цели обучения и способы применения ARGUS.
Источник: Кадр из докладаКонтекст и задержки доставки событий
Контекстная версия теснее связывает историю с текущей задачей. При обучении важно учитывать, что события попадают в распределённые хранилища с задержкой. Иначе модель привыкает к информации, которой ещё нет при реальном запросе.
Сложные маски замедляли обучение. Практическим компромиссом стало предобучение без временного разрыва и его моделирование на стадии обучения под конечную задачу. Выигрыш особенно заметен в зависимых от контекста поиске и рекламе.
Проблемы первых внедрений.
Источник: Кадр из докладаДополнительные домены и упрощение целей
К истории добавляют события других сервисов с отдельной обработкой их признаков. Далее можно учить предсказание следующего события в каждом домене.
При проверке рецепта выяснилось, что отдельная цель предсказания реакции на предобучении не всегда нужна: в актуальном варианте от неё отказались ради устойчивости. При этом выбор отрицательных примеров для предобучения и для отбора кандидатов различается. Нельзя механически переносить одно решение на обе задачи.
Кодирование данных разных сервисов.
Источник: Кадр из докладаКак исследуют единую модель
Простое воспроизведение старой системы уже может упростить инфраструктуру, но не обещает лучшего качества. Для улучшения рассматривают обучение на удачных выдачах, задание желаемого результата условием и обучение с наградой.
В описанном эксперименте условие передают через cross-attention. Это помогает переиспользовать предобученную модель при смене определения успешной сессии, вместо дорогого обучения заново. Полный переход остаётся отдельным исследовательским направлением.
27:00 — фрагмент доклада