Банк вопросов из реальных собеседований

Почему даже с FlashAttention обучение на сотнях тысяч токенов может не помещаться в GPU и какие классы решений уменьшают память и вычисления?

Что нужно проверить в построении признаков и разбиении временного ряда, чтобы найти утечку будущих данных?

Одна из голов многометочной модели работает плохо. Как проверить признаки, разметку, временную обработку и собрать полезные сложные примеры?

Есть много дорожных логов без меток и мало примеров редких событий. Какие задачи самообучения помогут подготовить последовательную модель?

Как работает масштабированное скалярное внимание, какова его вычислительная сложность и что меняют GQA, MQA и ограниченное окно внимания?

Компания строит текстовые профили пользователей по их истории с помощью генеративной модели. Как безопасно использовать такие профили в поиске кандидатов и ранжировании?

Спроектируйте систему, которая ищет в интернете потенциальные нарушения бренда и фильтрует массу нерелевантных результатов для 1000+ клиентов.

Как сформулировать целевую переменную для прогноза будущего движения средней цены по сделкам и биржевому стакану?

Whisper performs poorly on a target language such as Vietnamese or Uzbek. How would you adapt the system and collect data for this appointment-extraction task?

Как объяснить сложность алгоритма и формальное определение O-большого через константы и размер входа?

Как найти H-index за O(n), почему значения можно обрезать сверху числом статей и что меняется, если разрешено модифицировать входной массив?

На собеседовании спросили: сколько нулей в конце числа 100!, и как это аккуратно посчитать без вычисления самого факториала?

На собеседовании спросили: сколько нулей в конце числа 100!, и как это аккуратно посчитать без вычисления самого факториала?

Как рассуждать о сложности алгоритма, когда допустим жадный выбор, и как получить честный случайный бит, если доступна только монета с неизвестным смещением?

Когда использовать async, threading и multiprocessing в Python, и как GIL влияет на этот выбор?

Сравните bagging и boosting, объясните смысл p-value и покажите, как формула Байеса обновляет вероятность гипотезы после наблюдения.

Нужно устно спроектировать простой in-memory векторный поиск: add, search top-K, cosine similarity, stats. На что обратить внимание?

Что сказать про линейное программирование, simplex-метод и жадные алгоритмы, если спрашивают на техническом ML-интервью?

Какие базовые runtime-вопросы по Python часто идут после алгоритмической задачи?

Опишите алгоритм reservoir sampling для одного элемента из потока и объясните, почему каждый увиденный элемент выбирается с одинаковой вероятностью.

Compare REST and gRPC at a high level. Then explain what a database index does and what simple data structures can back an index.

Для moderation-модели нужны классы и данные. Как собрать labels, обработать дисбаланс и не смешать разные политики в один шумный датасет?

Как связаны матричная запись линейной регрессии, метод наименьших квадратов, градиентный спуск и регуляризация L1/L2?

Как меняется распределение выбранных чисел, если для каждого query выбирать число с максимальным XOR?