Банк вопросов из реальных собеседований

Explain the difference between a Kubernetes pod, service, deployment and node.

Explain the difference between a Kubernetes pod, service, deployment and node.

What is data drift, how would you detect it in production, and what can you do when it starts hurting an ML model?

Какие логи, метрики и алерты нужны после запуска рекомендательной модели?

Расскажи, какие классы моделей есть в рекомендательных системах и где они обычно применяются.

You have a multi-GPU server and want to host one or more open-source LLMs. What software stack and design choices would you use?

Корзина меняется в текущей сессии. Как сервис рекомендаций должен учитывать добавление и удаление товаров, инвалидировать кеш и выбирать резервный ответ?

Как оценить требуемый объём данных для распознавания аудиособытий и решить, когда устройству следует включать более дорогой режим обработки?

What does it mean to take an ML model from training to production, and which pieces should an ML engineer be able to own?

Где возникают основные затраты и ошибки при создании симуляций редких сценариев и как безопасно использовать их в поисковой модели?

Какие подходы к рекомендациям можно использовать и как выбирать между заранее посчитанными результатами и онлайн-инференсом, если важны задержка, RPS и качество?

Как организовать онлайн-инференс тяжёлой рекомендательной модели и уложиться в заданный бюджет задержки?

Модели стоимости доставки нужен свежий признак нагрузки курьеров. Из каких событий и состояний его рассчитывать, чтобы использовать непосредственно в момент принятия решения?

A neural network inference pipeline is too slow. What optimizations would you consider before changing the model architecture?

Как последовательно оптимизировать маршрутизацию, пакетирование, задержку, пропускную способность и стоимость сервиса языковой модели?

The call-processing pipeline works but inference is too expensive. What would you optimize first?

What main architecture families are used for generative models, and where are they commonly applied?

Что должен сделать ML-инженер, чтобы довести модель до production-сервиса: интерфейс, артефакт, Docker, мониторинг и обновления?

Your punctuation model has good validation metrics, but users complain that some outputs are strange. What could be happening and how would you debug it?

Чем отличаются recall@K, precision@K, coverage и NDCG в оценке рекомендаций? Как они ведут себя при изменении K?

Чем отличаются recall@K, precision@K, coverage и NDCG в оценке рекомендаций? Как они ведут себя при изменении K?

Чем отличаются recall@K, precision@K, coverage и NDCG в оценке рекомендаций? Как они ведут себя при изменении K?

How would you evaluate the full search pipeline and its individual components offline and online?

Чем отличаются первичная обработка входа и пошаговая генерация LLM и почему для них нужны разные способы оптимизации?