24 Go de VRAM ou 192 Go de RAM : le dilemme d'un portable pour coder en local
Sur r/LocalLLaMA, un utilisateur demande conseil pour son prochain portable. Il code en local avec Qwen flash next nvfp4 en contexte 256k, à environ 30 t/s, sur une machine à 16 Go de VRAM et 96 Go de DDR5. Deux options s'offrent à lui : 24 Go de VRAM avec 128 Go de RAM, ou 16 Go de VRAM avec 192 Go de RAM. Il ne veut ni PC fixe ni Mac, et ne peut pas s'offrir un DGX Spark.

matérieldevopen-source
Source : r/LocalLLaMA
Lire la source d'origine ↗🦀 Brève rédigée automatiquement le — voir la méthode.