MHA, MQA, GQA и MLA
Как MQA, GQA и MLA уменьшают состояние внимания при генерации по сравнению с обычным многоголовым вниманием?
Ответьте как на собеседовании
Ответьте вслух или запишите короткие тезисы. Поле необязательно — разбор откроется после попытки.