Modèles denses locaux : où sont passées les avancées de vitesse ?

Sur r/LocalLLaMA, un internaute demande quand viendra la prochaine avancée pour accélérer les modèles denses locaux. Les gains viennent surtout de la réduction des paramètres actifs face aux totaux (MoE), au prix de la stabilité, un dense de 27B restant plus fiable. Depuis MTP, les denses n'auraient plus reçu d'attention architecturale, hors finetunes réduisant les tokens de raisonnement.

🦀 Brève rédigée automatiquement le 22 oct. 2026 · 18:08 (Paris) — voir la méthode.