Банк вопросов из реальных собеседований

Explain how dropout behaves during training and inference. Why does the implementation need scaling, and what is inverted dropout?

Что такое receptive field в CNN? Какой receptive field у одной свертки 5x5 и у двух последовательных 3x3, и где меньше параметров?

Назовите специфичные для нейросетей способы борьбы с переобучением. Какие способы аугментации данных можно использовать в Computer Vision?

Как бороться с переобучением модели? Чем может быть опасна синтетика и зачем нужен разбиение данных?

Что такое семантическая сегментация? Чем она отличается от instance segmentation? Как работает свертка в CNN?

Что такое токенизация и зачем она нужна в задачах обработки текста? Чем отличаются Bag of Words, TF-IDF и эмбеддинги, например word2vec?

Интервьюер спрашивает: если рассматривать логистическую регрессию, чем она похожа на линейную и чем отличается?

Чем bagging отличается от boosting, где применяются random forest и gradient boosting, и что сказать про склонность к переобучению?

Чем отличаются bagging и gradient boosting? Что будет, если убрать одно дерево из Random Forest и из gradient boosting, и как деревья могут переобучаться на редких категориальных признаках?

Почему Random Forest обычно снижает variance по сравнению с одним деревом и какие trade-offs остаются?

Как CatBoost кодирует категориальные признаки и почему это не дает leakage?

Для задачи матчинга фото еды и категорий что выбрать: CLIP-подход или supervised multilabel classifier?

Как работает CLIP-модель и как она обучается? В чем на верхнем уровне отличие SigLIP от классического CLIP?

Есть модель для first-person VR/fisheye, а нужно работать на flat third-person видео. Как переносить качество?

Почему feature importance может обманывать, если признаки сильно коррелируют?

Как использовать графовые модели в рекомендациях? В чем отличие GCN от GraphSAGE и neighbor sampling подходов?

В детекции объектов почему для регрессии рамок часто используют loss на основе IoU, а не обычный MSE по координатам углов рамки?

Как сделать рекомендации сочетаемой одежды: embeddings, ограничения по категориям, nearest neighbors и reranker?

Когда выбирать линейную модель, а когда tree-based model или boosting?

Как построить logo detection для множества брендов и вариантов логотипов, если ручная bbox-разметка дорогая?

Опиши механизм LoRA. Если LoRA и classic adapters дают одинаковое качество, что выбрать для inference?

Что такое LoRA? Почему она полезна для дообучения больших моделей? Как обычно инициализируют низкоранговые матрицы, чтобы не исказить базовую модель на старте?

Чем LoRA отличается от полного fine-tuning, какие ограничения появляются при multi-GPU обучении LLM и чем RLHF-подход отличается от классического RL?

Как бороться с переобучением модели? Объясните L1/L2, dropout 0.5 и что происходит с dropout на inference.