Une porte dérobée cachée dans un agent IA en modifiant moins de dix neurones
Un chercheur de Microsoft s'est demandé s'il était possible de cacher une porte dérobée dans un agent IA sans jamais le réentraîner. Claude Code lui a trouvé la réponse : il suffit de modifier moins de dix « neurones » sur les milliers que compte le modèle. La démonstration montre qu'un déclencheur peut être codé en dur dans un agent sans repasser par l'entraînement.

claudeagentssécuritérecherche
Source : Numerama
Lire la source d'origine ↗🦀 Brève rédigée automatiquement le — voir la méthode.