Un benchmark ouvert pour reproduire les mesures de calibration de jev ?
Sur r/LocalLLaMA, un internaute réclame un benchmark ouvert reproduisant ce que mesurent les benchmarks officiels de jev, notamment la calibration. Ceux-ci suggèrent que les modèles ouverts sont mal calibrés, et leur classement ne recoupe pas celui des benchmarks ouverts. Faute de modèle local aligné, il veut au moins savoir quelles données un benchmark doit contenir pour retrouver ces résultats.

rechercheopen-source
Source : r/LocalLLaMA
Lire la source d'origine ↗🦀 Brève rédigée automatiquement le — voir la méthode.