Aller au contenu
🦀LA COMMUNAUTÉcommunaute-ia.fr

← Toutes les actus

r/LocalLLaMA·

MacroStories : un modèle de 19 969 paramètres qui écrit des histoires

Un développeur présente MacroStories, un modèle de 19 969 paramètres (81 Ko en FP32) qui produit des récits de 100 à 300 mots avec objectif, problème, actions et résolution. Il repose sur un état caché de 32 dimensions, un vocabulaire de 378 tokens et un seul bloc décodeur appliqué quatre fois à poids partagés. Il est ~50 fois plus petit que TinyStories (1M) et tourne sur CPU sans GPU.

rechercheopen-sourcedev

Source : r/LocalLLaMA

Lire la source d'origine ↗

🦀 Brève rédigée automatiquement le 7 oct. 2026 · 07:07 — voir la méthode.