LifePay ML System Design: RAG, поиск и реранжирование

ML System Design-собеседование про поисковую/RAG-систему: загрузка документов, hybrid поиск, реранжирование, признаки и метрики качества offline/online.

Пройти собеседование

Аудио и материалы

Выводы и как готовиться

Кейс удобно разбирать как production search: документы, индексы, права, поиск, реранжирование и ответ.
Для RAG отдельно нужны поиск-метрики и проверка groundedness ответа.
Источник разобран по YouTube auto-captions, поэтому границы приблизительные.

LifePay ML System Design: RAG, поиск и реранжирование

Аудио и материалы

Переход к ML System Design-кейсу

Архитектура RAG/поисковой системы для документов

Когда нужен hybrid retrieval

Какие признаки дать поисковому реранкеру

Метрики и A/B для поиска/RAG

Выводы и как готовиться