ВопросСредняяПроектирование ML-системВопрос про production ML на техническом собеседовании · ChinorChinor
Оптимизация стоимости вывода для обработки вызовов ASR и LLM
Конвейер обработки вызовов работает, но логический вывод слишком дорог. Что бы вы оптимизировали в первую очередь?
Ответьте как на собеседовании
Ответьте вслух или запишите короткие тезисы. Поле необязательно — разбор откроется после попытки.