Un test d'ablation modifie les poids de Qwen 3.5 0.6B via Strata IQ4
Un utilisateur de r/LocalLLaMA détaille une expérience d'ablation : modifier les poids de Qwen 3.5 0.6B avec Strata IQ4 Qwen Flash, en s'inspirant de travaux du MIT CSAIL. Le modèle tourne entièrement sur CPU en FP32, sans gradients, autograd ni optimiseurs. L'entraînement a duré 3h12 pour 39,8M de tokens, à 41 tok/s en décodage. Objectif affiché : jauger Strata sur une tâche à très longue portée.
rechercheopen-sourcematérieldev
Source : r/LocalLLaMA
Lire la source d'origine ↗🦀 Brève rédigée automatiquement le — voir la méthode.