Архитектура Transformer и механизм внимания
Как устроены энкодер и декодер Transformer, механизм самовнимания, Q/K/V, позиционное кодирование и чем архитектуры GPT и BERT отличаются друг от друга?
Ответьте как на собеседовании
Ответьте вслух или запишите короткие тезисы. Поле необязательно — разбор откроется после попытки.