LLM local : de 1x3090 à 20 DGX Sparks, le tableau électrique premier goulot

Un utilisateur de r/LocalLLaMA raconte son escalade matérielle : d'une RTX 3090 pour LLaMA 33B à seize 3090 sur des nœuds P620, puis un Threadripper et 512 Go de DDR4 pour DeepSeek 671B MoE. Il atteignait 8 t/s sur DeepSeek et 10-12 t/s sur Qwen 235B, utilisés pour coder au travail via OpenWebUI. Le codage agentique a rendu ces débits insuffisants, la génération chutant de moitié à 100k de contexte.

🦀 Brève rédigée automatiquement le 4 oct. 2026 · 14:18 — voir la méthode.