Сообщество / Новая тема
Обсуждение статьиПервый комментарий откроет обсуждение — дальше все вопросы по этой статье будут собираться здесь
Об статье:
LiteLLM на сервере: частые ошибки и решения
LiteLLM разворачивается за пять минут, а дальше начинается интересное: клиент получает «LLM Provider NOT provided», OpenAI отвечает 403 «по стране», стриминг обрывается ровно на шестидесятой секунде, а через неделю диск съедает таблица логов. Ошибки LiteLLM на сервере повторяются от установки к установке, и почти каждая чинится одной строкой в конфиге. Разберём их по схеме «симптом — причина — решение».
Подробнее →