Прямой вопросSatel Generation
Промышленный RAG: API, векторная база, ранжирование и инференс
Satel Generation: RAG, evaluation и production ownership
К понятиям
LLM inference и serving
Системы LLM serving
Системы, объединяющие планировщик, batching, GPU-ядра и управление KV cache.
vLLMSGLangTensorRT-LLMTGIllama.cpp
Показаны только вручную проверенные связи. Частотность появится после полного покрытия раздела. Проверка от 2026-07-16.
Что нужно уметь
- Выбрать движок под оборудование и SLO
- Объяснить отличие от простого цикла генерации через Transformers
Как эту тему спрашивают
Канонические типы вопроса объединяют разные формулировки, но каждая ссылка ведёт на конкретный вопрос из интервью.
Что должно быть в ответе
- Планировщик и batching
- Управление KV cache
- Оборудование и эксплуатационные ограничения
Прямой вопросLLM-роль в Dubai, компания не подтверждена
Обслуживание LLM с открытым исходным кодом на сервере с несколькими GPU
LLM-роль в Dubai, компания не подтверждена: Техническое собеседование
Прямой вопросFashion AI startup, не подтверждено
Увеличение размера порции LLM на том же GPU
Fashion AI startup, не подтверждено: Техническое собеседование
Прямой вопросSamsung
адаптивная маршрутизация по GPU для LLM serving
Samsung LLM Inference Screening: adaptive GPU routing
Прямой вопросUnimatch
- время ожидания, качество и экономичность LLM-сервиса
Unimatch: агенты, генерация презентаций из текста и LLM в продакшене
Прямой вопросApriori
LLM математические вычисления и квантование памяти для модели 72B
Apriori: Техническое собеседование