Styliser le raisonnement d'un modèle d'IA le rend moins surveillable
Une prépublication arXiv montre qu'un modèle ouvert affiné pour réécrire son raisonnement dans la voix de personnages devient moins lisible par un moniteur automatique. Le modèle n'a pourtant pas été entraîné à dissimuler. Ce résultat interroge la fiabilité de la surveillance par lecture du raisonnement, sur laquelle reposent les laboratoires.

recherchesécuritéopen-source
Source : ActuIA
Lire la source d'origine ↗🦀 Brève rédigée automatiquement le — voir la méthode.