Qwen3.8-Flash-Next sur Steam Machine : 18 t/s en décodage avec 8 Go de VRAM
Sur r/LocalLLaMA, un utilisateur a mesuré Qwen3.8-Flash-Next (variante Gyro S) sur une Valve Steam Machine sous SteamOS 3.9.5 : GPU AMD Navi 33 de 8 Go, 32 Go de RAM, moteur Strata, 128K de contexte. En configuration par défaut, il obtient 219 à 240 t/s en prefill et 15,1 à 15,9 t/s en décodage. Avec resident-budget-gib passé à 64, le décodage grimpe à 17,3-19,8 t/s. Aucun OOM, le swap ne bouge que de 0,2 à 0,3 Go.

open-sourcematérieldev
Source : r/LocalLLaMA
Lire la source d'origine ↗🦀 Brève rédigée automatiquement le — voir la méthode.