Unsloth Dynamic V3.1 arrive pour Qwen3.8 et DeepSeek-V4.1-Flash
Unsloth publie Dynamic V3.1, son algorithme de quantification pour Qwen3.8-27B, DeepSeek-V4.1-Flash-1017 et Qwen3.8-Flash-Next : 10 à 15 % de précision en plus et 50 % de tokens en moins que les autres quantifications de taille égale, selon l'équipe, qui prépare déjà une version pour Qwen4. Un utilisateur doute du gain face à V3 sur DeepSWE v1.1 et note que le nouveau .gguf est plus volumineux.
open-sourcedeepseekdev
Source : r/LocalLLaMA
Lire la source d'origine ↗🦀 Brève rédigée automatiquement le — voir la méthode.