Маркет AI: от диалога о покупке до быстрого ответа
Покупателю нужны и советы о выборе, и конкретные товары под его условия. Обычный поиск оставляет соединение этих двух задач человеку. Ассистент переформулирует диалог в запросы к интернету и каталогу, затем собирает ответ с подходящими товарами.
Видео · на русском
Маркет AI: как мы создали AI-ассистента в маркетплейсе / Олег НайдинОлег Найдин · Опубликовано: 4 декабря 2025 г.
Исходный доклад · Открыть оригинал
Не всякий выбор начинается с названия товара
Олег Найдин показывает разные сценарии: характеристики микроволновки, сравнение моделей и подарок по интересам человека. Для подарка полезнее несколько направлений выбора, чем подробная карточка единственного товара. Поэтому качество ответа включает не только правильный текст, но и подходящую форму результата.
02:00 — фрагмент докладаДва поиска и две роли языковой модели
В базовой схеме одна модель превращает диалог в несколько поисковых запросов. Это нужно и для поиска информации в интернете, и для каталога Маркета: сами поисковые API не понимают всю историю разговора. Вторая модель собирает из результатов ответ.
Сценарии заказа и платежей спикер обсуждает как расширение набора инструментов. Их нельзя считать уже работающими только потому, что они присутствуют на схеме планов.
Инструменты и базовые инструкции для ассистента.
Источник: Кадр из докладаМультиагентный прототип помогает искать продукт
Граф из агентов удобно менять: добавить сравнительную таблицу, перестроить карточки, попробовать другую последовательность поиска. Но каждый дополнительный вызов модели увеличивает ожидание. Прототип, который хорошо отвечает на нескольких примерах, ещё не готов к нагрузке.
Для итераций нужны репрезентативные наборы запросов и сравнение ответов. Спикер отдельно предупреждает, что ручная проверка на пяти любимых примерах легко создаёт ложное ощущение прогресса.
09:00 — фрагмент докладаДообучение начинается с качества разметки
Сначала готовят инструкцию и хорошие ответы, затем обучают модель воспроизводить нужное поведение. Для обучения предпочтениям сравнивают пары ответов. В реальной работе инструкции и ответы приходится многократно исправлять: даже подготовленные людьми примеры не становятся качественными автоматически.
Специализация позволяет упростить цепочку. Переформулирование запроса можно поручить небольшой модели, а сложный итоговый ответ — более мощной. Найдин подчёркивает, что это практический выбор при текущих ограничениях, а не вечное преимущество дообучения над готовыми моделями.
15:00 — фрагмент докладаСкорость — часть пользовательского опыта
Среди технических средств — уменьшение точности весов и спекулятивное декодирование: маленькая модель предлагает продолжение, большая проверяет. Их обсуждение в докладе не сопровождается единым измеренным ускорением Маркет AI.
Потоковая выдача позволяет читать начало ответа до завершения генерации. Промежуточные сообщения о поиске также объясняют ожидание. Эти возможности стоит закладывать заранее: добавлять их в уже запущенный монолит сложнее.
21:00 — фрагмент доклада