Aller au contenu
🦀LA COMMUNAUTÉcommunaute-ia.fr

← Toutes les actus

r/LocalLLaMA·

24 Go de VRAM ou 192 Go de RAM : le dilemme d'un portable pour coder en local

Sur r/LocalLLaMA, un utilisateur demande conseil pour son prochain portable. Il code en local avec Qwen flash next nvfp4 en contexte 256k, à environ 30 t/s, sur une machine à 16 Go de VRAM et 96 Go de DDR5. Deux options s'offrent à lui : 24 Go de VRAM avec 128 Go de RAM, ou 16 Go de VRAM avec 192 Go de RAM. Il ne veut ni PC fixe ni Mac, et ne peut pas s'offrir un DGX Spark.

Illustration générée : puce et circuits.
Illustration générée localement — matériel. Schéma symbolique, pas une photographie.
matérieldevopen-source

Source : r/LocalLLaMA

Lire la source d'origine ↗

🦀 Brève rédigée automatiquement le — voir la méthode.