ML Mentor
К тренажёру
Проверенная карта знаний

Понятия и вопросы из реальных собеседований

Найдите тему, конкретный вопрос или компанию. Для каждого понятия собраны типовые формулировки, реальные вхождения и собеседования, где тему проверяли.

По запросу «спекулятивный декодинг»: 7 результатов

Очистить поиск

Темы

1
LLM inference и serving10 понятийАрхитектура Transformer и системные подходы, определяющие память, latency и throughput LLM-сервисов.

Понятия

1
Спекулятивный декодингLLM inferenceУскорение decode через дешёвое предложение токенов и параллельную проверку основной моделью.

Типовые вопросы

2
Настроить спекулятивный декодингСпекулятивный декодингСвязать длину блока и долю принятых токенов с реальным ускорением.Объяснить спекулятивный декодингСпекулятивный декодингПроверить работу draft-модели с основной моделью и корректное принятие токенов.

Реальные собеседования

2
Huawei: Техническое собеседованиеHuaweiTransformer и attention · KV cache · Prefill и decode · Continuous batchingHuawei: Техническое собеседованиеHuaweiTransformer и attention · KV cache · Prefill и decode · Спекулятивный декодинг

Компании

1
HuaweiTransformer и attention · KV cache · Prefill и decode2 собеседования · 15 вопросов в проверенной подборке
Понятия и вопросы из реальных ML-собеседований — ML Mentor