Modèles ouverts : la course aux 300B+ menace les machines à 128 Go
Sur r/LocalLLaMA, un utilisateur s'inquiète de la dépendance aux créateurs de modèles (Qwen, Gemma, NVIDIA) pour les modèles d'environ 100B. Cette taille tient encore sur 128 Go de mémoire unifiée ou 128 Go de RAM + 24-32 Go de VRAM, jusqu'en 2027 selon lui. Mais les créateurs passent à 300B et plus (DeepSeek, Ling, MiniMax, GLM, Mistral-Large-4 à 1T) : ces poids ne rentrent plus, même en Q4.

open-sourcematérieldeepseekmistral
Source : r/LocalLLaMA
Lire la source d'origine ↗🦀 Brève rédigée automatiquement le — voir la méthode.