Qualité contre vitesse : des benchmarks réclamés pour Basalt, Infernix et Strata
Sur r/LocalLLaMA, un utilisateur réclame des benchmarks mesurant la dégradation de qualité entre Basalt, Infernix et Strata-nvfp4, plutôt que de simples mesures de vitesse. Il note que Basalt n'embarque pas de rope scaling dynamique : le yarn scaling y est statique (2 pour un contexte de 524K) dès le départ. Le modèle n'a pas non plus d'interrupteur de censure, mais la mécanique existe, rendant son ajout trivial.

rechercheopen-sourcedev
Source : r/LocalLLaMA
Lire la source d'origine ↗🦀 Brève rédigée automatiquement le — voir la méthode.