LatentLoop propose une allocation asymétrique du calcul pour les MoE bouclés

Dans les modèles MoE bouclés, les passages successifs ne jouent pas le même rôle même à paramètres partagés : le premier présente une échelle plus faible. Réduire son échelle préserve ou améliore les performances, alors que la même réduction sur le second les dégrade. LatentLoop en tire une allocation asymétrique du calcul : séquence compressée au premier passage, pleine résolution au second, calcul économisé réinvesti dans la taille cachée.

🦀 Brève rédigée automatiquement le 23 oct. 2026 · 09:04 (Paris) — voir la méthode.