Вокруг малых языковых моделей — тех, что укладываются в 1-4 миллиарда параметров, — сложилось два одинаково нездоровых лагеря. Одни считают их игрушкой, недостойной серьёзных задач. Другие поверили маркетингу и пытаются поставить такую модель туда, где нужна широкая эрудиция и сложное рассуждение, а потом разочаровываются. Истина прозаичнее: малая модель — это инструмент под конкретный класс задач, и если вы понимаете границы этого класса, она экономит вам деньги и время не хуже, а иногда и лучше, чем модель в десять раз крупнее.
Подробнее →