Aller au contenu
🦀LA COMMUNAUTÉcommunaute-ia.fr

← Toutes les actus

r/LocalLLaMA·

8 Go de VRAM et 32 Go de RAM suffisent pour Qwen 3.8 Flash Next

Sur r/LocalLLaMA, un utilisateur fait tourner Qwen 3.8 Flash Next en quantification Q2 sur une machine à 8 Go de VRAM et 32 Go de RAM, grâce à Strata, qui répartit la charge entre VRAM, RAM et SSD. Il annonce jusqu'à 900 t/s en traitement de prompt et 30 t/s en génération, avec de meilleurs résultats que les Qwen 3.6 35B A3B fine-tunés et Qwen 3.8 27B qu'il a testés.

Illustration générée : puce et circuits.
Illustration générée localement — matériel. Schéma symbolique, pas une photographie.
matérielopen-sourcedev

Source : r/LocalLLaMA

Lire la source d'origine ↗

🦀 Brève rédigée automatiquement le — voir la méthode.