Fine-tune du modèle Yandex/AliceAI 80B-A3B : 40 % du travail accompli

Sur r/LocalLLaMA, l'utilisateur jjusko20 donne des nouvelles de son fine-tune du modèle Yandex/AliceAI 80B-A3B : environ 40 % du travail initial est terminé. Il publie sa courbe de loss, volontairement irrégulière, et explique l'artefact : il a utilisé la dernière loss de chaque micro-étape au lieu de la moyenne de l'étape. Il signale aussi un coup de main de Gemini et diffuse l'entraînement en direct.

🦀 Brève rédigée automatiquement le 30 sept. 2026 · 17:18 — voir la méthode.