Назад к тренажеру

Банк вопросов из реальных собеседований

Направления, темы и вопросы из записей интервью. Фильтры ниже сохраняются в ссылке.

Найти понятие

Метрики и A/B

101 вопрос из реальных интервью

Открыть в общем банке
Темы
Сложность
Компания
Язык
Метрики и A/BСредняя
Эффект rich-get-richer в matching-рекомендациях

В дейтинге или matching-продукте топ-профили получают львиную долю показов, а остальные растворяются. Как диагностировать и смягчить этот перекос, не убив вовлеченность?

Метрики моделейЭксперименты и A/B-тесты
GamerAM
Метрики и A/BСложная
A/B-тест и бизнес-метрики видео-ленты

Как проверить, что новая рекомендательная лента работает, и как понять, сколько держать A/B-тест?

Метрики моделейЭксперименты и A/B-тестыПродуктовые метрики
Самокат
Метрики и A/BСложная
Баланс платного продвижения и релевантности

В маркетплейсе есть бесплатные и платные объявления. Как дать платным объявлениям дополнительную экспозицию, не ухудшив релевантность и справедливость для остальных продавцов?

Метрики моделей
OLX
Метрики и A/BСложная
Бизнес-метрики функции на основе языковой модели

Как оценивать функцию на основе языковой модели или агента, если обычная точность не отражает её пользу для пользователя и бизнеса?

Метрики моделейЭксперименты и A/B-тесты
Flametree
Метрики и A/BСложная
Бюджет локальной LLM для разбора выписок

За ночь нужно обработать около 10 тысяч страниц ста банков на одном CPU-сервере, а данные нельзя выносить наружу. На какие случаи тратить дорогую локальную языковую модель?

Tochka
Метрики и A/BСложная
Доля оборота с подозрительными контрагентами

Как по выпискам разных банков рассчитать долю исходящего оборота, связанную с подозрительными контрагентами, и проверить правильность знаменателя?

Метрики моделей
Tochka
Метрики и A/BСложная
Как отделить эффект модели от эффекта интерфейса

Новая карусель или промо-метка дали прирост метрик. Как проверить, что его вызвала модельная релевантность, а не сам факт появления нового элемента интерфейса?

Метрики моделей
OLX
Метрики и A/BСложная
Метрическое обучение для похожих товаров

Как обучить модель эмбеддингов, чтобы поиск по фотографии возвращал товарно релевантные результаты, а не просто визуально похожие изображения?

Метрики моделей
Wildberries
Метрики и A/BСложная
Обучение pointwise-ранкера без утечек и перекоса в популярные товары

Вы обучаете boosting-ранкер для рекомендаций по кликам и связкам образов. Как собрать датасет, сделать разбиение данных и не переобучиться на популярные товары и старые показы?

Метрики моделей
T-Bank
Метрики и A/BСложная
Оптимизировать прибыль, а не только покупки

Модель учится на purchase target и поднимает дешевые товары со скидками. Как ранжировать так, чтобы больше зарабатывать?

Метрики моделейПродуктовые метрики
Constructor
Метрики и A/BСложная
Поиск недвижимости по текстовому запросу: метрики и признаки

Спроектируйте поиск недвижимости без явных фильтров: пользователь вводит свободный текст. Как на первом шаге определить метрики, признаки объявлений, контекст запроса и пользователя, а также базовую схему поиска и ранжирования?

Метрики моделей
CIAN
Метрики и A/BСложная
Порог автоматической модерации фотографий автомобиля

Система сравнивает характеристики автомобиля из объявления с фотографиями. Мошенничество редко, а ошибочная блокировка вредит продавцу. Как обучить модель, проверить её и выбрать порог автоматического отказа?

Метрики моделей
Tochka
Метрики и A/BСложная
Порог автоматической модерации фотографий автомобиля

Система сравнивает характеристики автомобиля из объявления с фотографиями. Мошенничество редко, а ошибочная блокировка вредит продавцу. Как обучить модель, проверить её и выбрать порог автоматического отказа?

Метрики моделей
Компания не указана
Метрики и A/BСложная
Почему еду на подносе сложно распознавать

На тарелке может быть несколько блюд, они перемешиваются и перекрывают друг друга. Почему segmentation или metric learning не решают задачу автоматически?

Метрики моделей
CV catering
Метрики и A/BСложная
Рекомендации между вертикалями в супераппе

В супераппе inDrive есть несколько вертикалей: такси, доставка, междугородние поездки, грузовые перевозки и курьеры. Как рекомендовать активному пользователю одной вертикали попробовать другую? Разберите метрики, данные, модель, offline-оценку и A/B-тест.

Метрики моделейЭксперименты и A/B-тесты
inDrive
Банк вопросов из реальных собеседований — ML Mentor