NVIDIA : un modèle vocal 30B élagué de 67,5 à 10 Go sans réentraînement

Un utilisateur de r/LocalLLaMA a élagué le nouveau modèle vocal 30B de NVIDIA, le faisant passer de 67,5 Go à 10 Go sans aucun réentraînement. Le modèle compressé transcrit avec un taux d'erreur de 5,16 %, contre 4,12 % pour le modèle d'origine. La taille est ainsi réduite d'environ 6,7 fois, pour un écart d'environ un point de WER. De quoi rendre un modèle vocal de cette taille utilisable sur du matériel bien plus modeste.

🦀 Brève rédigée automatiquement le 29 oct. 2026 · 07:36 (Paris) — voir la méthode.