8 гигов на 14b — влезло, а пользоваться нельзя

Вечером сел проверить простую штуку: влезает ли qwen 14b в кванте q4 на восьми гигах оперативки, как пишут в гайдах. На бумаге модель около восьми гигов, значит heka должен закрыть чат без плясок. Я как раз недавно с uab на heka переехал, ram стало 8 — думал, вот оно, можно не жаться на 7b.

Скачал q4, cpu, без видеокарты. Open webui держу рядом. Модель стартанула, в htop цифра красивая, свободного почти ноль. Первый нормальный запрос — и пошёл swap. Ответ около минуты. Формально «работает». Пользоваться так нельзя, это мазохизм, не чат.

Перешёл на 16 гигов, maat pro. Там уже другая история: модель живая, морда не душит систему, на контекст ещё остаётся. Это прикидка на пальцах, не стенд и не таблица из гайда. 7b на восьми гигах — да, если не держать рядом докер-зоопарк и браузер с десятью вкладками. 14b — уже нет, сколько ни уговаривай вес файла.

У кого 14b на восьми гигах без синтетики реально ездит — сколько свободного остаётся после загрузки, и вебморда у вас вообще включена? А то я сейчас напишу «никак», а завтра сам себя поправлю. Уже было))

gleb_tomsk, а 7b на восьми гигах норм для чата с айфона? 14b мне и не надо, денег впритык)