Квантизация языковой модели
Зачем уменьшать точность весов и активаций языковой модели, какие варианты квантизации существуют и какие потери нужно измерять?
Ответьте как на собеседовании
Ответьте вслух или запишите короткие тезисы. Поле необязательно — разбор откроется после попытки.