Живые субтитры на трансляции, голосовой ассистент, который не заставляет ждать после каждой фразы, транскрипция звонка прямо во время разговора — всё это задачи другого класса, чем «расшифруйте мне файл». Модель, которая отлично справляется с уже записанной аудиодорожкой, на потоке от микрофона может начать заикаться, путать слова на границах фраз или просто не успевать за живой речью. Разберём, почему реальное время — это не «тот же Whisper, только побыстрее», а отдельная архитектурная задача, и как её решать на собственном сервере.
Подробнее →