e-means : un clustering plus rapide que k-means, en moins d'époques
Une étude présente e-means, une procédure d'optimisation par moyenne mobile exponentielle pour k-means avec mises à jour par mini-lots. Sur des jeux d'embeddings variés, il atteint en 1,4 à 2,6 époques la perte que Lloyd k-means obtient en 25, soit 10 à 45x plus vite en temps GPU. Des lois d'échelle lient taux de décroissance et taille de lot à la performance, sans balayage d'hyperparamètres.

recherchedev
Source : r/LocalLLaMA
Lire la source d'origine ↗🦀 Brève rédigée automatiquement le — voir la méthode.