Huit RTX 3090 en watercooling : le rig d'inférence enfin stable
Un membre de r/LocalLLaMA montre son serveur d'inférence stable : huit RTX 3090 Gigabyte sur une carte mère ROMED8-2T, achetées avant la flambée des prix, entre 600 et 700 livres l'unité. Le watercooling s'imposait, faute de place pour un ventirad sous les cartes, et deux alimentations se partagent la charge, limitée à 270 W par GPU. Des pilotes Nvidia modifiés activent le trafic P2P entre cartes, mesuré à 22 Go/s.

matérieldev
Source : r/LocalLLaMA
Lire la source d'origine ↗🦀 Brève rédigée automatiquement le — voir la méthode.