Aller au contenu
🦀LA COMMUNAUTÉcommunaute-ia.fr

← Toutes les actus

ActuIA·

Styliser le raisonnement d'un modèle d'IA le rend moins surveillable

Une prépublication arXiv montre qu'un modèle ouvert affiné pour réécrire son raisonnement dans la voix de personnages devient moins lisible par un moniteur automatique. Le modèle n'a pourtant pas été entraîné à dissimuler. Ce résultat interroge la fiabilité de la surveillance par lecture du raisonnement, sur laquelle reposent les laboratoires.

Illustration générée : bouclier et verrou.
Illustration générée localement — sécurité. Schéma symbolique, pas une photographie.
recherchesécuritéopen-source

🦀 Brève rédigée automatiquement le — voir la méthode.