Идея FlashAttention
Как объяснить ускорение FlashAttention через иерархию памяти GPU, не уходя в детали реализации ядер?
Ответьте как на собеседовании
Ответьте вслух или запишите короткие тезисы. Поле необязательно — разбор откроется после попытки.
Как объяснить ускорение FlashAttention через иерархию памяти GPU, не уходя в детали реализации ядер?
Ответьте вслух или запишите короткие тезисы. Поле необязательно — разбор откроется после попытки.