Задача обычно ставится наоборот: не «сколько памяти нужно под миллион векторов», а «у меня сервер на 32 ГБ — сколько документов туда влезет, прежде чем начнутся проблемы». Ответ зависит не только от количества эмбеддингов, но и от их размерности, от накладных расходов индекса и от того, включено ли квантование. Ниже — как посчитать этот потолок заранее, а не выяснить его по факту падения сервиса.
Подробнее →