Un raisonnement adaptatif pour les LLM, piloté par la logique JEV
Un développeur publie sur r/LocalLLaMA un projet open source qui rend le raisonnement des LLM adaptatif. L'entropie est mesurée mot par mot : si le modèle hésite, une porte de type JEV lui demande s'il faut lancer un bloc de réflexion. Une pensée d'ouverture a toujours lieu, puis des blocs s'ajoutent, issus d'un arbre de conversations parallèles. L'approche cible les modèles locaux, bridés au décodage par la RAM.

open-sourcerecherchedev
Source : r/LocalLLaMA
Lire la source d'origine ↗🦀 Brève rédigée automatiquement le — voir la méthode.