Одной видеокарты хватает не всегда: большая модель не влезает в память, обучение тянется сутками, а инференс упирается в пропускную способность. Выбор GPU-сервера с несколькими видеокартами решает эти задачи — но только если карты соединены правильно, а питание и охлаждение выдерживают полную нагрузку. Разберём, сколько карт брать, как они должны общаться между собой и на что смотреть, чтобы не переплатить за простаивающее железо.
Подробнее →