Векторный поиск находит вроде бы похожие фрагменты, а модель отвечает мимо вопроса — знакомая картина, если вы уже собрали RAG и он «вроде работает, но как-то не очень». Причина часто не в эмбеддере и не в чанкинге, а в том, что косинусное сходство — не то же самое, что релевантность вопросу. Reranker — вторая модель, которая пересматривает уже найденных кандидатов и расставляет их заново, ближе к тому, что человек назвал бы «действительно по делу». Разбираемся, почему это работает, когда окупается и как встроить в свой пайплайн.
Подробнее →