Банк вопросов из реальных собеседований

A product transcribes medical consultations and uses an LLM for summarization and clinical notes, but the general model confuses medical terms. How would you improve domain understanding?

Нужно построить систему, которая ищет по внутренним документам и помогает отвечать на вопросы. Какой пайплайн спроектировать?

Как устроены энкодер и декодер Transformer, механизм самовнимания, Q/K/V, позиционное кодирование и чем архитектуры GPT и BERT отличаются друг от друга?

Из каких блоков состоит агент на основе языковой модели, где хранится его состояние и как он безопасно вызывает внешние инструменты?

Из каких блоков состоит агент на основе языковой модели, где хранится его состояние и как он безопасно вызывает внешние инструменты?

Как разложить панель CTR в реальном времени на приём событий, потоковую агрегацию, хранилище и API?

Чем двунаправленный энкодер BERT отличается от причинного декодера GPT и почему эти архитектуры подходят для разных задач?

Нужно сделать блок рекомендаций в корзине для 10 млн пользователей и 100 тыс. товаров. Как построить простой базовый вариант по статистике совместных покупок?

Как безопасно выкатить новую версию ONNX-модели в production: какие проверки сделать до релиза, как включать трафик, что мониторить и как быстро откатиться?

Как связать бизнес-метрики продукта с offline-метриками рекомендательной модели?

Какие способы строить предварительные токены применяются в обслуживании LLM и чем различаются их стоимость, память и зависимость от основной архитектуры?

Чем векторный поиск отличается от полнотекстовый поиск и почему часто нужен hybrid?

Как сравнивать архитектурные варианты recommender-системы и выбрать устойчивый вариант?

Как выбрать FAISS, HNSW-based CPU индекс, Redis, Qdrant или Elasticsearch для поиска ближайших embedding? Какие параметры и метрики смотреть?

Как выбирать промышленную модель цены или рекомендаций, если более сложный вариант показывает лучшую офлайн-метрику?

Есть модель отклика для нескольких вариантов условий доставки. Как по её прогнозам выбрать итоговую стоимость или минимальную сумму заказа?

В MoE LLM где обычно находится Mixture of Experts: в каком слое Transformer и зачем это делают?

Как построить архитектуру поиска: от первичных кандидатов до финального ранжирования?

Где провести границу между продуктовым backend, ML-сервисом, feature store и business rules?

Где заканчивается рекомендация по составу корзины и начинается персонализированный рекомендатель, использующий историю пользователя?

Курьеры закреплены за точкой и зоной, а ценовая система не управляет расписанием. Как это ограничение должно повлиять на дизайн ML-решения?

Какие группы признаков стоит назвать в RecSys ML System Design: user, item, context и инженерные фичи?

Где брать positive/negative examples для рекомендательной системы и что считать ground truth?

Где брать positive/negative examples для рекомендательной системы и что считать ground truth?