CrowdGPT veut entraîner un modèle d'1 milliard de paramètres en collaboratif
Un développeur présente CrowdGPT, un modèle d'un milliard de paramètres entraîné collaborativement, sans datacenter ni budgets de plusieurs millions de dollars. Chacun peut entraîner sur son PC et verser sa contribution au modèle global. Le projet publie 100 % des données d'entraînement et les poids, et laisse les contributeurs orienter ses directions.

open-sourcerecherchesociété
Source : r/LocalLLaMA
Lire la source d'origine ↗🦀 Brève rédigée automatiquement le — voir la méthode.