Понятия и вопросы из реальных собеседований

Линейная модель для числовой целевой переменной и связь квадратичной ошибки с MLE.

Линейная комбинация признаков, преобразованная в вероятность класса через sigmoid.

Рекурсивные разбиения пространства признаков и регуляризация структуры дерева.

Ансамбль деревьев на bootstrap-выборках со случайным подмножеством признаков.

Последовательный ансамбль, исправляющий ошибки через градиенты функции потерь.

Метрики ранжирования и принятия решений при разных ошибках и дисбалансе.

Проверка модели на данных, имитирующих будущее применение без информации из будущего.

Разложение ошибки, связывающее сложность модели и устойчивость к данным.

Базовые вероятностные инструменты для обновления вероятностей и оценки параметров.

Ограничение исполнения Python bytecode в обычной сборке CPython и его практические границы.

Выбор модели параллелизма по типу нагрузки, памяти и стоимости взаимодействия.

Кооперативное переключение задач для большого числа I/O-bound операций.

Подсчёт ссылок, циклические ссылки и диагностика удержания объектов.

Жизненный цикл объектов, доступ к атрибутам и поведение значений по умолчанию.

Протокол последовательного обхода и ленивые вычисления с сохранением состояния функции-генератора.

Композиция поведения функций и классов через функции-обёртки.

Протокол гарантированного получения и освобождения ресурсов.

Архитектурная база современных LLM и вычислительные свойства attention.

Хранение K/V прошлых токенов, чтобы на каждом шаге decode не пересчитывать префикс.

Две фазы LLM inference с разными профилями вычислений и latency.

Динамическое планирование активных последовательностей на каждом шаге decode.

Ускорение decode через дешёвое предложение токенов и параллельную проверку основной моделью.

Снижение разрядности весов и активаций ради памяти и скорости с контролем качества.

Блочное управление KV cache, уменьшающее фрагментацию и упрощающее совместное использование и вытеснение блоков.

Системные метрики LLM inference по фазам запроса, очередям и числу одновременных запросов.

Разреженная FFN-архитектура, активирующая часть экспертов для каждого токена.

Системы, объединяющие планировщик, batching, GPU-ядра и управление KV cache.

Формулировка того, кому, в каком сценарии и ради какого полезного действия система строит рекомендации.

Каскад, где быстрые источники сокращают каталог, а более точная модель строит итоговый порядок.

Рекомендации по структуре взаимодействий пользователей и объектов без обязательного понимания содержимого товара.

Обучаемые представления пользователей и товаров для быстрого поиска кандидатов в векторном индексе.

Построение обучающей выборки из показов и действий с учётом доступности признаков и смещения прошлой выдачи.

Модели, которые используют порядок действий, сессионный контекст или граф связей между пользователями и объектами.

Обучение функции порядка выдачи через поточечные, попарные или списочные функции потерь.

Offline-метрики попадания и порядка, дополненные online-метриками поведения и бизнеса.

Работа с новыми пользователями, товарами и пустыми кандидатами через содержательные сигналы, контекст и безопасные резервные источники.

Систематические искажения логов и выдачи, из-за которых система усиливает прошлые показы и сужает выбор.

Сочетание заранее рассчитанных кандидатов и быстрого online-реранжирования в рамках бюджета по latency и RPS.

Формализация пользователя, решения, метрик и ограничений до выбора модели и инфраструктуры.

Проектирование обучающей выборки с учётом доступности признаков, происхождения разметки и смещений.

Простая первая версия и проверка, которая отделяет ценность решения от сложности модели.

Выбор модели, функции потерь и порогов с учётом данных, качества, задержки, стоимости и сложности эксплуатации.

Расчёт и доставка признаков с едиными контрактами для обучения, batch inference и online serving.

Ограниченный по времени критический путь от запроса и признаков до предсказания и безопасного ответа.

Версионирование и поэтапный запуск модели с проверками совместимости, качества и возможностью быстрого отката.

Наблюдаемость сервиса, данных, предсказаний, отложенного качества и продуктового результата.

Расчёт нагрузки и архитектурные решения для пиков, частичных отказов и контролируемой стоимости.

Распространение производных через вычислительный граф и устойчивость сигнала в глубокой сети.

Правила обновления параметров по градиентам и накопленным оценкам направления и масштаба.

Ограничение сложности и проверка обобщения нейросети через данные, штрафы и стохастические методы.

Стабилизация масштаба активаций и короткие пути для сигнала и градиента.

Локальные фильтры с разделяемыми весами для построения пространственной иерархии признаков.

Модели, которые учитывают порядок и историю: от рекуррентного состояния до self-attention.

Преобразование текста в последовательность идентификаторов с компромиссом между словарём и длиной контекста.

От разреженных частотных признаков до контекстных плотных представлений предложений и документов.

Предсказание метки для каждого слова или токена без генеративного переписывания исходного текста.

Поиск проверяемого внешнего контекста и генерация ответа на основе найденных источников.

Проверка качества, критических ошибок, связи с источниками, latency и стоимости на репрезентативных сценариях.

Выбор между инструкциями, retrieval и обучением адаптеров в зависимости от природы ошибки и доступных данных.

Локальная обработка изображения общими фильтрами и построение иерархии визуальных признаков.

Локализация объектов рамками или масками с one-to-one matching и метриками по порогам.

Построение выборки и преобразования изображений, которые расширяют покрытие, не ломая разметку.

Векторное представление изображений и пар изображение-текст для поиска, сравнения и кластеризации.

Эксплуатация CV-модели с ограничениями по разрешению, задержке, памяти, риску ошибок и устройству выполнения.

Описание случайной величины через вероятности, функцию распределения, плотность и числовые характеристики.

Асимптотическое распределение оценки и интервал, показывающий совместимые с данными значения эффекта.

Формальное сравнение наблюдаемой статистики с распределением при нулевой гипотезе.

План причинного эксперимента с заранее заданной гипотезой, метрикой, мощностью и единицей рандомизации.

Инструменты оценки неопределённости и отдельные методы, реально повышающие чувствительность эксперимента.

Оценка изменения исхода из-за действия, а не простой корреляции в наблюдавшихся данных.

Логический порядок обработки запроса и различие фильтрации строк, групп и объединения результатов.

Вычисления по связанным строкам без схлопывания результата до одной строки на группу.

Диагностика медленного запроса через фактический план, оценки кардинальности и стоимость операций.

Колонночное хранение и физическая организация данных для быстрых фильтров и агрегаций по большим таблицам.

Безопасная проверка синтаксиса, доступа, плана и соответствия сгенерированного SQL намерению пользователя.