MacroStories : un modèle de 19 969 paramètres qui écrit des histoires
Un développeur présente MacroStories, un modèle de 19 969 paramètres (81 Ko en FP32) qui produit des récits de 100 à 300 mots avec objectif, problème, actions et résolution. Il repose sur un état caché de 32 dimensions, un vocabulaire de 378 tokens et un seul bloc décodeur appliqué quatre fois à poids partagés. Il est ~50 fois plus petit que TinyStories (1M) et tourne sur CPU sans GPU.
rechercheopen-sourcedev
Source : r/LocalLLaMA
Lire la source d'origine ↗🦀 Brève rédigée automatiquement le 7 oct. 2026 · 07:07 — voir la méthode.