TinyLeague abandonne le score AA et ajoute une métrique d'efficacité du cache KV
Le classement communautaire TinyLeague change de méthode : son auteur annonce retirer l'indicateur AA, jugé plus viable pour suivre les modèles, car beaucoup de petits modèles n'obtiennent aucun score et les benchmarks concernés s'orientent vers des évaluations fermées. Il ajoute à la place une mesure d'efficacité du cache KV : une estimation en Go pour un contexte de 128K, convertie en note de 0 à 100 %. De quoi aider ceux qui font tourner des modèles en local avec peu de VRAM. L'auteur travaille encore sur un « TinyLeague-Index » maison, faute de méthodologie équitable entre benchmarks disparates.

open-sourcedevmatériel
Source : r/LocalLLaMA
Lire la source d'origine ↗🦀 Brève rédigée automatiquement le — voir la méthode.