К тренажёру
Проверенная карта знаний
Понятия и вопросы из реальных собеседований
Найдите тему, конкретный вопрос или компанию. Для каждого понятия собраны типовые формулировки, реальные вхождения и собеседования, где тему проверяли.
По запросу «KV cache»: 14 результатов
Очистить поискТемы
1Понятия
3KV cacheLLM inferenceХранение K/V прошлых токенов, чтобы на каждом шаге decode не пересчитывать префикс.Paged attentionLLM inferenceБлочное управление KV cache, уменьшающее фрагментацию и упрощающее совместное использование и вытеснение блоков.Системы LLM servingLLM inferenceСистемы, объединяющие планировщик, batching, GPU-ядра и управление KV cache.
Типовые вопросы
4Объяснить KV cacheKV cacheПроверить переиспользование K/V на шаге decode.Оценить память KV cacheKV cacheПроверить зависимость от batch, длины последовательности, числа слоёв, KV-голов и типа данных.Выбрать движок и стек LLM servingСистемы LLM servingСравнить vLLM, SGLang, TensorRT-LLM, TGI и простой Transformers loop.Объяснить paged attentionPaged attentionПроверить управление блоками KV cache и фрагментацией памяти.
Реальные собеседования
3Техническое собеседование в FlameTree: LLM, агенты, Python и backendFlameTreeGIL · Потоки и процессы · asyncio · ДекораторыHuawei: Техническое собеседованиеHuaweiTransformer и attention · KV cache · Prefill и decode · Continuous batchingSber / GigaChat: LLM inference и распределённое обучениеСберTransformer и attention · KV cache
Компании
3СберGIL · Потоки и процессы · Память и GC в Python2 собеседования · 6 вопросов в проверенной подборкеFlameTreeGIL · Потоки и процессы · asyncio1 собеседование · 9 вопросов в проверенной подборкеHuaweiTransformer и attention · KV cache · Prefill и decode1 собеседование · 7 вопросов в проверенной подборке