«Почему нейросети вообще нужна видеокарта, это же не игра» — вопрос, который рано или поздно задаёт себе каждый, кто впервые пытается запустить локальную модель и утыкается в требование поставить GPU. Ответ не в маркетинге NVIDIA и не в том, что «так принято» — он в том, как физически устроены CPU и GPU внутри и что именно делает нейросеть на каждом шаге вычислений. Разберём это на пальцах, без формул пропускной способности памяти — просто посмотрев, из чего состоят оба типа процессоров и какая работа им поручается.
Подробнее →