Les scores de benchmark des labos d'IA dépassent de 6,4 % ceux des testeurs indépendants
En compilant 1 629 résultats publiés, l'auteur de whatmodel.sh, un classement open source, a apparié 611 comparaisons portant sur 180 modèles et 103 benchmarks. Résultat : les labos annoncent en moyenne des scores 6,4 % supérieurs à ceux des testeurs indépendants, sur les mêmes modèles et les mêmes tests. Le jeu de données (CC BY-SA 4.0) et le code (MIT) sont ouverts, sources et licences documentées.

rechercheopen-sourcedev
Source : r/LocalLLaMA
Lire la source d'origine ↗🦀 Brève rédigée automatiquement le — voir la méthode.