Aller au contenu
🦀LA COMMUNAUTÉcommunaute-ia.fr

← Toutes les actus

r/LocalLLaMA·

Modèles ouverts : la course aux 300B+ menace les machines à 128 Go

Sur r/LocalLLaMA, un utilisateur s'inquiète de la dépendance aux créateurs de modèles (Qwen, Gemma, NVIDIA) pour les modèles d'environ 100B. Cette taille tient encore sur 128 Go de mémoire unifiée ou 128 Go de RAM + 24-32 Go de VRAM, jusqu'en 2027 selon lui. Mais les créateurs passent à 300B et plus (DeepSeek, Ling, MiniMax, GLM, Mistral-Large-4 à 1T) : ces poids ne rentrent plus, même en Q4.

Illustration générée : puce et circuits.
Illustration générée localement — matériel. Schéma symbolique, pas une photographie.
open-sourcematérieldeepseekmistral

Source : r/LocalLLaMA

Lire la source d'origine ↗

🦀 Brève rédigée automatiquement le — voir la méthode.