Aller au contenu
🦀LA COMMUNAUTÉcommunaute-ia.fr

← Toutes les actus

r/LocalLLaMA·

Huit RTX 3090 en watercooling : le rig d'inférence enfin stable

Un membre de r/LocalLLaMA montre son serveur d'inférence stable : huit RTX 3090 Gigabyte sur une carte mère ROMED8-2T, achetées avant la flambée des prix, entre 600 et 700 livres l'unité. Le watercooling s'imposait, faute de place pour un ventirad sous les cartes, et deux alimentations se partagent la charge, limitée à 270 W par GPU. Des pilotes Nvidia modifiés activent le trafic P2P entre cartes, mesuré à 22 Go/s.

Illustration générée : puce et circuits.
Illustration générée localement — matériel. Schéma symbolique, pas une photographie.
matérieldev

Source : r/LocalLLaMA

Lire la source d'origine ↗

🦀 Brève rédigée automatiquement le — voir la méthode.