Выбор GPU-сервера на арендованном GPU по часам

MAATRIX

Видеокарта уровня A100 стоит как подержанный автомобиль, а нужна вам, может быть, на десять часов в неделю. Выбор GPU-сервера на арендованном GPU по часам — это способ платить только за реально отработанное время, а не за простаивающее железо. Разберём, когда почасовая модель выгоднее помесячной аренды и покупки, как честно посчитать стоимость задачи и где почасовка превращается в ловушку.

Как устроена почасовая аренда GPU

В почасовой модели вы платите за время, пока сервер запущен и карта закреплена за вами. Тарификация обычно посекундная или поминутная с округлением, счёт капает, пока инстанс активен.

• Запустили сервер, обучили модель шесть часов, выключили — заплатили за шесть часов.
• Карта не закреплена постоянно: освободили — платить перестали.
• Нет долгого контракта: можно взять мощную карту на один эксперимент и отпустить.

Ключевой нюанс: счёт идёт не за вычисления, а за удержание ресурса. Забытый включённым сервер с простаивающей картой тарифицируется так же, как работающий. Именно на этом почасовка чаще всего и «съедает» бюджет.

Полезно понимать разницу между почасовой арендой и «бессерверным» инференсом, который иногда путают. В бессерверной модели вы платите только за секунды реального вычисления, но платите дороже за единицу и почти не контролируете окружение. В почасовой аренде GPU вы получаете полноценную машину с root-доступом, ставите любые версии драйверов и фреймворков, держите данные локально между запусками одной сессии — но отвечаете за то, чтобы вовремя её выключить. Для исследовательской работы и дообучения второй вариант обычно удобнее: нужен полный контроль над средой, а не только «прогнать готовую модель».

Когда почасовая аренда выгоднее

Почасовая модель раскрывается на нерегулярной и пиковой нагрузке.

• Разовые и редкие задачи. Дообучить модель раз в неделю, прогнать эксперимент, отрендерить датасет — брать карту в постоянную аренду ради этого невыгодно.
• Дорогое железо на короткую задачу. Нужен H100 на четыре часа? Почасовка даёт доступ к топовой карте без покупки за сотни тысяч.
• Непредсказуемый спрос. Стартап на стадии проверки гипотез не знает, сколько GPU-часов понадобится, — почасовка не запирает в контракт.
• Масштабирование под пик. Разово взять восемь карт на большой прогон и вернуться к одной.

Общий признак: если карта загружена меньше, чем примерно на треть суток в среднем, почасовая аренда почти всегда дешевле постоянной.

Когда почасовка проигрывает

Честно о минусах: при высокой утилизации почасовая модель становится дороже.

• Постоянная нагрузка. Если карта занята 20+ часов в сутки, помесячная аренда или выкуп на дистанции дешевле — вы фактически арендуете её круглосуточно, но по «дорогому» тарифу.
• Забытые инстансы. Оставленный включённым сервер тарифицируется за простой. Без дисциплины и автоматического выключения счёт растёт впустую.
• Холодный старт. Каждый запуск — это загрузка окружения, весов, данных. Для очень коротких частых задач накладные расходы времени ощутимы.

Вывод: почасовка — инструмент нерегулярной нагрузки. Для круглосуточного продакшн-инференса считайте помесячную стоимость.

Как посчитать стоимость задачи

Чтобы выбрать между почасовой и постоянной моделью, переведите всё в деньги за конкретную работу. Простая методика:

• Оцените время задачи в GPU-часах: длительность прогона × число карт.
• Умножьте на почасовой тариф карты — получите стоимость одного прогона.
• Прикиньте частоту: сколько таких прогонов в месяц.
• Сравните месячную сумму по почасовке с ценой помесячной аренды той же карты.

Точка безубыточности обычно лежит в районе 200–300 GPU-часов в месяц на карту. Ниже — выгоднее почасовка, выше — постоянная аренда. Разберём это на живом примере. Допустим, вы дообучаете модель дважды в неделю, каждый прогон занимает четыре часа на одной карте. Это восемь GPU-часов в неделю, около 35 в месяц — глубоко в зоне почасовой выгоды: платить за постоянную аренду карты, которая работает 35 часов из 720, бессмысленно. Теперь другой сценарий: вы держите инференс-сервис, который отвечает на запросы круглосуточно. Это под 700 GPU-часов в месяц — тут почасовой тариф суммарно выйдет дороже помесячного, и переходить на постоянную аренду выгоднее. Сравним модели по критериям:

Как не переплачивать за простой

Главный источник лишних трат в почасовке — включённый, но не работающий сервер. Дисциплина решает почти всё.

• Выключайте инстанс сразу после задачи, а не «оставлю на потом».
• Автоматизируйте: скрипт, который гасит сервер по завершении job или по таймауту неактивности.
• Отделяйте хранение данных от вычислений: держите датасеты и чекпойнты на дешёвом постоянном диске, а дорогую GPU-машину поднимайте только на время расчёта.
• Мониторьте расход: регулярно сверяйте GPU-часы с ожиданием.

Эти привычки превращают почасовку из «дорого и непредсказуемо» в точный инструмент под задачу. Отдельно стоит наладить учёт по проектам: если под одной командой крутится несколько инициатив, полезно помечать, какой прогон к какому проекту относится, и раз в неделю сводить GPU-часы. Так становится видно, где деньги уходят на реальные результаты, а где — на бесконечную «донастройку», которую пора остановить. Прозрачный учёт часов дисциплинирует лучше любых запретов и помогает честно распределять затраты между направлениями.

Как выбрать конфигурацию под почасовую работу

Подбирайте карту под конкретную задачу, а не «максимальную».

• Инференс и эксперименты со средними моделями — 24 ГБ VRAM (RTX 4090, A5000) хватает и стоит дешевле в час.
• Дообучение и модели покрупнее — A6000 48 ГБ или A100.
• Разовые тяжёлые прогоны крупных моделей — H100 на несколько часов: почасовка делает топовую карту доступной без выкупа.

MAATRIX даёт GPU-серверы с оплатой из России картой, СБП, криптовалютой или токеном MAAT. Под нерегулярную нагрузку это удобно: берёте нужную карту на время задачи, не запираясь в долгий контракт.

Частые вопросы