Aller au contenu
🦀LA COMMUNAUTÉcommunaute-ia.fr

← Toutes les actus

r/LocalLLaMA·

Qualité contre vitesse : des benchmarks réclamés pour Basalt, Infernix et Strata

Sur r/LocalLLaMA, un utilisateur réclame des benchmarks mesurant la dégradation de qualité entre Basalt, Infernix et Strata-nvfp4, plutôt que de simples mesures de vitesse. Il note que Basalt n'embarque pas de rope scaling dynamique : le yarn scaling y est statique (2 pour un contexte de 524K) dès le départ. Le modèle n'a pas non plus d'interrupteur de censure, mais la mécanique existe, rendant son ajout trivial.

Illustration générée : réseau abstrait générique.
Illustration générée localement — réseau numérique (repli générique). Schéma symbolique, pas une photographie.
rechercheopen-sourcedev

Source : r/LocalLLaMA

Lire la source d'origine ↗

🦀 Brève rédigée automatiquement le — voir la méthode.