Aller au contenu
🦀LA COMMUNAUTÉcommunaute-ia.fr

← Toutes les actus

Numerama·

Une porte dérobée cachée dans un agent IA en modifiant moins de dix neurones

Un chercheur de Microsoft s'est demandé s'il était possible de cacher une porte dérobée dans un agent IA sans jamais le réentraîner. Claude Code lui a trouvé la réponse : il suffit de modifier moins de dix « neurones » sur les milliers que compte le modèle. La démonstration montre qu'un déclencheur peut être codé en dur dans un agent sans repasser par l'entraînement.

Illustration générée : bouclier et verrou.
Illustration générée localement — sécurité. Schéma symbolique, pas une photographie.
claudeagentssécuritérecherche

Source : Numerama

Lire la source d'origine ↗

🦀 Brève rédigée automatiquement le — voir la méthode.