Astuce de décodage sur Qwen 3.8 Flash Next : jusqu'à +55 % en changeant --adapt-every
Sur r/LocalLLaMA, un utilisateur rapporte des gains de vitesse de décodage sur Qwen 3.8 Flash Next en passant le paramètre --adapt-every de la valeur calibrée 1 à 6. Sur quatre prompts consécutifs en slovaque, dont un décrivant 20 000 tokens de code source, les mesures vont de +9 % à +55 % selon la quantification utilisée. Les tests tournent sur un i7-11700F et une RTX 4070 Ti Super.

open-sourcematérieldev
Source : r/LocalLLaMA
Lire la source d'origine ↗🦀 Brève rédigée automatiquement le — voir la méthode.