8 Go de VRAM et 32 Go de RAM suffisent pour Qwen 3.8 Flash Next
Sur r/LocalLLaMA, un utilisateur fait tourner Qwen 3.8 Flash Next en quantification Q2 sur une machine à 8 Go de VRAM et 32 Go de RAM, grâce à Strata, qui répartit la charge entre VRAM, RAM et SSD. Il annonce jusqu'à 900 t/s en traitement de prompt et 30 t/s en génération, avec de meilleurs résultats que les Qwen 3.6 35B A3B fine-tunés et Qwen 3.8 27B qu'il a testés.

matérielopen-sourcedev
Source : r/LocalLLaMA
Lire la source d'origine ↗🦀 Brève rédigée automatiquement le — voir la méthode.