Кто-то в компании посчитал расходы на OpenAI API за квартал и решил, что пора переезжать на свою модель. Звучит как техническая мелочь — поменять эндпоинт в конфиге. На практике это ревизия всего слоя интеграции с LLM: от формата запросов до того, кто теперь отвечает за то, что сервер с моделью не упал в пятницу вечером. Разберём по пунктам, что реально придётся переписать и где вас поджидают компромиссы, о которых лучше знать заранее, а не после переезда.
Подробнее →