Сообщество / Новая тема

Обсуждение статьиПервый комментарий откроет обсуждение — дальше все вопросы по этой статье будут собираться здесь

Об статье:
Phi-4 на VPS: установка и запуск модели Microsoft

Толковая модель нужна, а видеокарты на сервере нет — и большинство разборов молчаливо предполагают именно её. Ставите Llama или Qwen покрупнее на обычный VPS с процессором — и получаете либо OOM при загрузке весов, либо генерацию по два токена в секунду, на которую без раздражения смотреть невозможно. Phi-4 от Microsoft — как раз тот случай, когда компактность не побочный эффект, а исходная цель: модель разрабатывали для рассуждений и кода, рассчитывая уместить её в скромное железо без потери адекватности ответов. Разберём, что это за семейство, какие…

Подробнее →