Как выбирать число предварительно предложенных токенов в спекулятивной генерации и почему слишком длинный блок может замедлить систему?
Банк вопросов из реальных собеседований
Направления, темы и вопросы из записей интервью. Фильтры ниже сохраняются в ссылке.
Все вопросы
737 вопросов из реальных интервью
Какие слабые места есть у рекомендаций по совместной встречаемости товаров: длинный хвост, новые товары, смещение к популярному и недостаток новизны?
Чем доска объявлений отличается от интернет-магазина с точки зрения моделей цены, ранжирования и рекомендаций?
Почему похожее кольцо рядом с уже добавленным кольцом может быть хуже товара из дополняющей категории? Как различать заменители и дополнения?
Заказчик может удалить предложенных поставщиков и добавить своих. Как объяснить ценность рекомендательной системы в таком продукте и какие метрики из этого следуют?
What mechanisms would you add so important ML datasets do not disappear because of human error or operational mistakes?
Как объяснить ускорение FlashAttention через иерархию памяти GPU, не уходя в детали реализации ядер?
After ASR, how would you choose and evaluate an LLM that extracts branch, date and time as JSON from a call transcript?
Как внедрить тяжёлую визуально-языковую модель в продукт с ограничениями по задержке и стоимости?
Как будет выглядеть runtime pipeline для новой закупочной заявки и что делать с новыми заказчиками, новыми поставщиками и редкими категориями?
Если embeddings, scores или recommendation lists считаются offline и лежат в S3/DWH, как безопасно передать эти результаты backend/serving-слою?
Как визуальный энкодер превращает изображение в токены и как они подключаются к языковой модели вместе с текстом?
Модель уже умеет предсказывать вероятность возврата. Как ее применить в продукте и где хранить признаки?
Explain how LLM tool/function calling works end to end: tool schema in the prompt, model output, real tool execution and final user response.
Команда хочет добавить новые признаки или модель в ранжирующий сервис. Как сделать это безопасно?
Для статьи нужно показать короткие suggest-вопросы или подсказки. Как получить их из текста статьи и не ухудшить качество поиска?
Как сравнивать модели прогноза, если LLM-extractor может знать будущие факты из pretraining?
Как оценивали качество: насколько хорошо получается вести диалог, отвечать на вопрос или искать нужные документы?
Как понять, что система поиска по статьям или RAG работает хорошо? Какие offline и online метрики использовать?
В casino-продукте sales-команде нужно как можно раньше понять, станет ли новый игрок VIP по депозитам и обороту. Как сформулировать ML-задачу, target, горизонт прогноза и бизнес-действие?
Как технически построить модель, которая по аудио определяет событие: лай собаки, звук двери, разбитое стекло и похожие классы?
Нужно построить систему, где рекламодатель смотрит CTR кампаний. Дано 200 млрд показов в день и CTR около 1%. Как начать system design с чисел?
В продукте есть база статей. Пользователь может видеть подсказки или задавать свободный вопрос. Как разделить эти два режима в дизайне поиска?
Для moderation-модели нужны классы и данные. Как собрать labels, обработать дисбаланс и не смешать разные политики в один шумный датасет?