Варианты спекулятивной генерации
Какие способы строить предварительные токены применяются в обслуживании LLM и чем различаются их стоимость, память и зависимость от основной архитектуры?
Ответьте как на собеседовании
Ответьте вслух или запишите короткие тезисы. Поле необязательно — разбор откроется после попытки.