Классический сценарий: в промпт дописывается «ответь строго в формате JSON, без лишнего текста», код с надеждой вызывает json.loads() на ответе — и падает с JSONDecodeError, потому что модель заботливо добавила «Конечно! Вот запрошенный JSON:» перед скобкой или обернула объект в блок ``json``. В проде на сотнях запросов эта надежда превращается в процент ошибок, который приходится чем-то закрывать — регулярками, повторными запросами, страхом деплоя. Хорошая новость в том, что задача давно решена не на уровне промпта, а на уровне API: строгий structured…
Подробнее →