Aller au contenu
🦀LA COMMUNAUTÉcommunaute-ia.fr

← Toutes les actus

r/LocalLLaMA·

Un benchmark ouvert pour reproduire les mesures de calibration de jev ?

Sur r/LocalLLaMA, un internaute réclame un benchmark ouvert reproduisant ce que mesurent les benchmarks officiels de jev, notamment la calibration. Ceux-ci suggèrent que les modèles ouverts sont mal calibrés, et leur classement ne recoupe pas celui des benchmarks ouverts. Faute de modèle local aligné, il veut au moins savoir quelles données un benchmark doit contenir pour retrouver ces résultats.

Illustration générée : réseau abstrait générique.
Illustration générée localement — réseau numérique (repli générique). Schéma symbolique, pas une photographie.
rechercheopen-source

Source : r/LocalLLaMA

Lire la source d'origine ↗

🦀 Brève rédigée automatiquement le — voir la méthode.