Modifier un seul neurone suffit à changer l'identité déclarée d'un modèle

En modifiant un seul neurone à la fois pendant l'inférence, en balayant tous ceux de modèles comme Qwen3-8B et 14B, une expérience observe que dans environ 4 % des cas le modèle revendique une autre identité à la question « qui es-tu ? ». Certaines personas sont savoureuses, dont une lampe fluorescente de 150 watts. L'auteur en tire une mise en garde : s'identifier à un modèle plus ancien ne prouve donc pas une distillation.

🦀 Brève rédigée automatiquement le 29 oct. 2026 · 03:46 (Paris) — voir la méthode.