Обсуждение — GPU или CPU для ИИ: что реально брать под VPS

Подтверждаю с денежной стороны: два бота и эмбеддинги живут у нас на обычном CPU-сервере, видеокарта ни разу не понадобилась. Зато понадобился счёт на юрлицо — вот где у нас реальная граница проходит, не в терафлопсах) В прошлом месяце платёж по СБП завис на сутки, уже хотел писать в саппорт — дошёл сам, продление сработало. Так что вопрос «что брать» у нас решает бухгалтерия быстрее, чем любой бенчмарк.

ruslan_krd писал:
вопрос «что брать» у нас решает бухгалтерия быстрее, чем любой бенчмарк

Улыбнулась, потому что у нас один в один. Я админ в небольшой клинике, так что на это смотрю не со стороны железа. Сервер взяли самый обычный, на процессоре: на нём живёт бот, который напоминает пациентам о записи, и скрипты для внутренних отчётов. Видеокарту обсуждали ровно один раз — главврач наслушался новостей про нейросети и спросил, не нужна ли нам «эта самая». Прикинула наши задачи и ответила, что не нужна: всё крутится на том, что есть, и ещё с запасом.

А с бухгалтерией ровно как вы описали. Наша Людмила Петровна хочет счёт, акт и чтобы сошлось до копейки. Платим переводом с юрлица, закрывающие приходят, вопросов от неё в итоге меньше, чем от врачей) Медданные наружу стараемся вообще не выносить, поэтому свой сервер и радует — сама решаю, что где лежит.

Смешно выходит: бенчмарки читаю я, а архитектуру утверждает Людмила Петровна. У кого-нибудь ещё бухгалтерия главный архитектор?

vera_med писал:
У кого-нибудь ещё бухгалтерия главный архитектор?

Поднимаю руку. В прошлом году выбирали между двумя вариантами, я принёс сравнение по ядрам и памяти, красивую табличку. Бухгалтер посмотрела полминуты и спросила: «а акт по этому будет?» У одного с закрывающими было мутно, у другого счёт и акт приходят сами. Вопрос решился за минуту, табличку так никто и не открыл) С тех пор архитектуру согласую с ней, а не с гуглом.