BERT: encoder, pretraining и attention
Что такое BERT, чем encoder отличается от decoder и какие pretraining-механизмы у BERT?
Ответьте как на собеседовании
Ответьте вслух или запишите короткие тезисы. Поле необязательно — разбор откроется после попытки.