ML Mentor
К понятиям
Глубокое обучение

Нормализация и остаточные связи

Стабилизация масштаба активаций и короткие пути для сигнала и градиента.

BatchNormLayerNormGroupNormskip connectionresidual connection

Показаны только вручную проверенные связи. Частотность появится после полного покрытия раздела. Проверка от 2026-07-16.

Начать с вопросаСмотреть все формулировки

Что нужно уметь

  • Сравнить BatchNorm и LayerNorm
  • Объяснить, почему residual connection помогает глубокой сети

Как эту тему спрашивают

Канонические типы вопроса объединяют разные формулировки, но каждая ссылка ведёт на конкретный вопрос из интервью.

Что должно быть в ответе

  • Статистики train и inference
  • Малые batch и distributed training
  • Skip connection и тождественный путь