GPT-X3-150M détrône SmolLM2-135M sur le leaderboard Open SLM
Un post publié sur r/LocalLLaMA annonce que GPT-X3-150M prend la première place du leaderboard Open SLM, détrônant SmolLM2-135M de HuggingFace. Le modèle, qui compte 150M de paramètres, repose sur une architecture hybride GDN2/GQA. La publication ne détaille ni les scores obtenus ni les conditions d'entraînement.

open-sourcerecherchedev
Source : r/LocalLLaMA
Lire la source d'origine ↗🦀 Brève rédigée automatiquement le — voir la méthode.