Aller au contenu
🦀LA COMMUNAUTÉcommunaute-ia.fr

← Toutes les actus

r/LocalLLaMA·

Astuce de décodage sur Qwen 3.8 Flash Next : jusqu'à +55 % en changeant --adapt-every

Sur r/LocalLLaMA, un utilisateur rapporte des gains de vitesse de décodage sur Qwen 3.8 Flash Next en passant le paramètre --adapt-every de la valeur calibrée 1 à 6. Sur quatre prompts consécutifs en slovaque, dont un décrivant 20 000 tokens de code source, les mesures vont de +9 % à +55 % selon la quantification utilisée. Les tests tournent sur un i7-11700F et une RTX 4070 Ti Super.

Illustration générée : puce et circuits.
Illustration générée localement — matériel. Schéma symbolique, pas une photographie.
open-sourcematérieldev

Source : r/LocalLLaMA

Lire la source d'origine ↗

🦀 Brève rédigée automatiquement le — voir la méthode.