Сообщество / Новая тема
Обсуждение статьиПервый комментарий откроет обсуждение — дальше все вопросы по этой статье будут собираться здесь
Об статье:
text-generation-webui на VPS: установка и запуск
text-generation-webui (oobabooga) — швейцарский нож для локальных LLM: десятки форматов моделей, вкладки для чата и тонкой настройки генерации, встроенный OpenAI-совместимый API. Разбираем установку на сервере. Это веб-интерфейс, который объединяет разные бэкенды инференса под одной крышей и даёт полный контроль над параметрами генерации.
Подробнее →