К тренажёру
Проверенная карта знаний
Понятия и вопросы из реальных собеседований
Найдите тему, конкретный вопрос или компанию. Для каждого понятия собраны типовые формулировки, реальные вхождения и собеседования, где тему проверяли.
По запросу «KV cache»: 25 результатов
Очистить поискТемы
1Понятия
3KV cacheLLM inferenceХранение K/V прошлых токенов, чтобы на каждом шаге decode не пересчитывать префикс.Paged attentionLLM inferenceБлочное управление KV cache, уменьшающее фрагментацию и упрощающее совместное использование и вытеснение блоков.Системы LLM servingLLM inferenceСистемы, объединяющие планировщик, batching, GPU-ядра и управление KV cache.
Типовые вопросы
4Объяснить KV cacheKV cacheПроверить переиспользование K/V на шаге decode.Оценить память KV cacheKV cacheПроверить зависимость от batch, длины последовательности, числа слоёв, KV-голов и типа данных.Выбрать движок и стек LLM servingСистемы LLM servingСравнить vLLM, SGLang, TensorRT-LLM, TGI и простой Transformers loop.Объяснить paged attentionPaged attentionПроверить управление блоками KV cache и фрагментацией памяти.
Реальные собеседования
9Apriori: Техническое собеседованиеAprioriKV cache · Квантизация · Latency и throughput · Системы LLM servingFashion AI startup, не подтверждено: Техническое собеседованиеFashion AI startup, не подтвержденоTransformer и attention · KV cache · Continuous batching · Paged attentionFlameTree Technical: Agents, NLP, LLM и Python backendFlameTreeGIL · Потоки и процессы · asyncio · ДекораторыHuawei: Техническое собеседованиеHuaweiTransformer и attention · KV cache · Prefill и decode · Continuous batchingHuawei: Техническое собеседованиеHuaweiTransformer и attention · KV cache · Prefill и decode · Спекулятивный декодингSamsung LLM Inference Screening: adaptive GPU routingSamsungKV cache · Latency и throughput · Системы LLM servingSber / GigaChat: LLM подробный разбор, inference и distributed trainingСберTransformer и attention · KV cacheToloka AI: Алгоритмическая секцияToloka AITransformer и attention · KV cache · Paged attention · Mixture of ExpertsLLM-роль в Dubai, компания не подтверждена: Техническое собеседованиеLLM-роль в Dubai, компания не подтвержденаContinuous batching · Paged attention · Системы LLM serving · Аналитические хранилища
Компании
8СберGIL · Потоки и процессы · Память и GC в Python4 собеседования · 18 вопросов в проверенной подборкеAprioriKV cache · Квантизация · Latency и throughput1 собеседование · 4 вопроса в проверенной подборкеFashion AI startup, не подтвержденоTransformer и attention · KV cache · Continuous batching1 собеседование · 3 вопроса в проверенной подборкеFlameTreeGIL · Потоки и процессы · asyncio1 собеседование · 9 вопросов в проверенной подборкеHuaweiTransformer и attention · KV cache · Prefill и decode2 собеседования · 15 вопросов в проверенной подборкеSamsungKV cache · Latency и throughput · Системы LLM serving1 собеседование · 1 вопрос в проверенной подборкеToloka AITransformer и attention · KV cache · Paged attention2 собеседования · 6 вопросов в проверенной подборкеLLM-роль в Dubai, компания не подтвержденаContinuous batching · Paged attention · Системы LLM serving1 собеседование · 2 вопроса в проверенной подборке