whisper на vps без облака, хватит ли heka на час записи

Здравствуйте. Я журналистка, расшифровываю интервью — сейчас гоняю их в облачные сервисы, но часть материала такая, что мне бы очень не хотелось, чтобы она куда-то уезжала. Подумала поднять whisper на своём сервере.
Я не ML-инженер, поэтому по-простому: часовое интервью, русская речь, обычный диктофон (не звонки колл-центра, качество нормальное). Хватит ли Heka на такое, или расшифровка часа будет идти полночи? И какую модель whisper реально брать, а то там их целый зоопарк.

dasha_voice привет, тема хорошая и правильная — как раз то, ради чего вообще стоит свой сервер: материал не уезжает. По делу: whisper на cpu живёт, но модель large будет медленной. Для русской речи хорошего качества берите faster-whisper (это оптимизированная реализация) с моделью medium или large-v3 в int8 — faster-whisper на cpu в разы бодрее обычного openai-whisper. Час записи на Heka medium'ом посчитает примерно за полчаса-час, large подольше. Ночь это не займёт, но и не «в реалтайме». gleb_tomsk сейчас придёт с точными цифрами по памяти)

masha_spb уже иду) dasha_voice прикидка, не стенд, cpu без gpu:

• faster-whisper medium int8 — ест ~2-3 гб, на Heka идёт спокойно, час аудио считает примерно за 30-50 минут
  
• large-v3 int8 — ~4-5 гб, качество заметно лучше на именах и терминах, но час аудио будет ближе к часу-полутора счёта
  

для интервью на русском я бы взял large-v3 int8: имена собственные и термины medium иногда мажет, а вам их потом руками править. на Heka влезет, если рядом не крутить ещё оламу одновременно. gpu вам не нужен, это не картинки.

dasha_voice если что, faster-whisper заворачивается в маленький скрипт на 20 строк, я такое делал для голосовых из телеги. кидаешь файл — получаешь txt с таймкодами. могу накидать минималку, если руки не доходят с нуля. только не гоняй через веб-обёртки какие попало, они любят «а давайте в облачко для скорости», вам как раз этого не надо)

Ой, спасибо, вы быстрые) masha_spb про faster-whisper поняла, а то я как раз на обычный whisper смотрела и пугалась скорости. gleb_tomsk large-v3 int8 — записала, качество на именах мне критично, интервью же. tema_py за минималку буду благодарна, с нуля я точно закопаюсь. Возьму Heka тогда, раз влезает.