Un article propose de réordonner les couches d'un transformer à l'exécution
Sur r/LocalLLaMA, un utilisateur relaie un article référencé 2611.03526 et intitulé « Library of Layers (LoL): Adaptively Ordering Transformer Layers at Runtime ». Le travail porte sur l'ordonnancement adaptatif des couches d'un transformer au moment de l'exécution. Le fil renvoie à la publication et à sa discussion.

recherchedev
Source : r/LocalLLaMA
Lire la source d'origine ↗🦀 Brève rédigée automatiquement le — voir la méthode.