Скачали модель в Q4, она отвечает нормально — но где-то в голове сидит вопрос: а что именно она теперь делает хуже? Термин «квантование» звучит как чёрная магия с процентами точности из чужих таблиц, которые непонятно как применить к своей задаче. На деле механика простая: разберём, что физически происходит с весами модели при сжатии, почему это почти не портит обычный диалог и портит именно то, что портит, — а не всё подряд.
Подробнее →