Quantification 2 bits de DeepSeek-V4.1-Flash : des benchmarks trop beaux ?

Un utilisateur de r/LocalLLaMA s'interroge sur les GGUF GSQ-RCO publiés par ISTA pour DeepSeek-V4.1-Flash, qui afficheraient une qualité équivalente au modèle de base à environ 2 bits par poids. Le doute vient des benchmarks saturés (90 % et plus, AIME25 à 100 pour toutes les versions), incapables selon lui de révéler une dégradation, et de l'absence de KLD publiée pour ces modèles. Il demande si quelqu'un a mesuré le KLD ou la perplexité à ce niveau de quantification.

🦀 Brève rédigée automatiquement le 25 oct. 2026 · 06:18 (Paris) — voir la méthode.