тариф выбирал по RAM, а уперся в диск

Воскресенье, утро, кофе, решил навести порядок на сервере. Зашёл по ssh, набрал df -h — и слегка поперхнулся: из 80 гигабайт занято 61. Месяц назад было тридцать с копейками.

Сел разбираться, куда ушло. Картина такая: система с докером и логами гигов двенадцать, модели для ollama — 7b в q4 это почти пять, вторая семёрка четыре, 14b девять, эмбеддер полгигабайта. Дальше самое интересное: кэш huggingface от одного эксперимента, про который я благополучно забыл, — восемь гигов. И база с эмбеддингами — шесть и растёт каждую неделю.

То есть «сервер под ИИ» — это не только «сколько памяти съест модель», тут на форуме все друг друга пересчитывают именно по RAM. Это ещё и «сколько весят сами веса и что ты забыл удалить». Я, например, тариф выбирал калькулятором по гигабайтам оперативки, а жизнь поправила через диск.

Теперь деньги, без них у меня пост не собирается. Пересчитал линейку в цену за гигабайт диска. Ba Lite: 40 ГБ за восемь — выходит 20 центов за гиг. Uab: 80 за тринадцать — 16 центов. Heka: 160 гигов, при цене чуть за двадцать — самый дешёвый гигабайт в линейке, около 14 центов. А дальше наоборот: Pro с 240 ГБ уже 18 центов за гиг, Djed с 320 — все 27. Если б я выбирал тариф как склад под модели, арифметика кричала бы в середину линейки.

Но платить лишние десять в месяц ради диска, который наполовину пустой, — это не экономия, это ангар для велосипеда) Пошёл другим путём: почистил кэш, снёс две модели, к которым не притрагивался месяц, поставил себе напоминалку раз в месяц гонять docker system prune. Освободил двадцать гигов за четверть часа и остался на своём тарифе. Счёт не изменился, что для сметы лучший исход.

Отдельно отмечу: девятигиговая модель докачалась минут за десять и распаковалась без задумчивых пауз. На прошлом хостинге я в это время шёл заваривать второй чай, потому что ждать всё равно нечего было делать.

Вопрос к тем, кто держит модели на vps: диск под веса вы как закрываете — чисткой и дисциплиной или просто берёте тариф выше и не думаете? И если выше — на сколько в месяц это реально подняло счёт, не «ну копейки», а цифра? Хочу понять, где та граница, после которой удалять старое уже дороже, чем доплачивать.

andryukha, та же история, только у меня будильником был не df -h, а ollama, которая отказалась тянуть модель: no space left on device. Час ночи, смотрю в ошибку и не верю — куда на 160 гигах.

Полезла считать, нашла почти твой же список плюс один пункт, про который все забывают: ollama после обновления модели старые слои иногда не подтирает, блобы лежат мёртвым грузом. ollama rm на всё, что не запускалось последний месяц, и docker system df — у меня там образы от экспериментов гигов на девять сидели, я их в глаза не видела.

А вот с ценой за гигабайт поспорю в одном месте. Модели — это не данные, это расходник: снёс, перекачал за десять минут, забыл. Считать диск «навсегда» надо не под них, а под то, что не перекачаешь: база эмбеддингов, загруженные документы, конфиги. У меня это суммарно гигов пятнадцать от силы. Остальное — кэш и самомнение.

И про «растёт каждую неделю» — проверь, что переиндексация заменяет векторы по id документа, а не пишет поверх. Я так однажды перезалила те же pdf и раздула базу втрое, думала, корпус растёт, а это были дубликаты.

Короче, чистка раз в месяц дешевле любого пересчёта тарифов )