Если в вашей RAG-системе любое изменение одного файла в базе знаний запускает пересчёт эмбеддингов и перестройку индекса для всего корпуса — вы сидите на бомбе с часовым механизмом. Пока документов пятьсот, полный цикл занимает пару минут и никто не замечает проблемы. Когда их пятьдесят тысяч и обновления прилетают каждый час, та же операция растягивается на часы, съедает GPU или CPU впустую и в какой-то момент просто перестаёт успевать за темпом изменений. Ниже — рабочий подход к инкрементальному обновлению индекса: что отслеживать, что удалять, что…
Подробнее →