Strata et Qwen 3.8 Flash Next : la vitesse cache-t-elle une perte de qualité
Sur r/LocalLLaMA, un utilisateur s'interroge sur le coût réel de Strata et Qwen 3.8 Flash Next. Les démonstrations publiées mettent surtout en avant des débits en tokens par seconde et des needle tests, rarement la qualité de sortie. Faire tourner le même GGUF sur llama.cpp devrait trancher la question de la quantification ; reste à savoir si l'élagage d'experts opéré par Strata se paie en usage réel.

open-sourcerecherchedev
Source : r/LocalLLaMA
Lire la source d'origine ↗🦀 Brève rédigée automatiquement le — voir la méthode.