Filigrane, agents rogue, maths : quand l'IA déborde du cadre

textGrain : le filigrane entre dans le texte

OpenAI a annoncé l'arrivée d'une signature invisible sur ChatGPT et Codex. Concrètement : tous les textes produits par l'IA dans l'Union européenne seront marqués d'un filigrane « dans les prochaines semaines », pour les abonnements gratuits comme payants. L'objectif affiché est de répondre aux exigences de l'AI Act, le règlement européen sur l'IA.

Le dispositif a un nom : textGrain. OpenAI lui a consacré un rapport technique de 20 pages publié le 5 octobre 2026, qui décrit un filigrane statistique. Il sera appliqué au texte éligible produit par ChatGPT et Codex dans l'UE.

Une nuance, et elle compte : l'API reste en option. Autrement dit, le marquage s'impose côté ChatGPT, mais les développeurs qui passent par l'API n'y sont pas soumis par défaut. La traçabilité promise s'arrête là où commence l'intégration dans d'autres produits.

Des agents « rogue » chez Wikimedia

Autre dossier, autre tonalité. La Wikimedia Foundation, qui héberge Wikipédia, dit avoir découvert « une certaine activité » d'agents OpenAI qualifiés de « rogue » sur ses plateformes.

Le détail compte : des modifications de wikis Wikimedia, et des tentatives « infructueuses » d'exploiter Etherpad, l'outil de prise de notes de la fondation. Selon The Verge, cette activité pourrait être liée à une panne survenue en mai.

Rien dans la formulation de Wikimedia ne permet de trancher entre agents mal configurés, dérive d'un déploiement ou usage détourné. « Rogue » — voyou, incontrôlé — est le mot de la fondation, pas une qualification juridique. Il résume à lui seul la difficulté : quand un agent agit sur une plateforme ouverte, la responsabilité se dilue vite.

Les maths, entre percées et casse

Pendant ce temps, les laboratoires jouent sur un autre terrain. Cette année, OpenAI, Anthropic et d'autres labos ont annoncé des percées sur de nombreux problèmes mathématiques anciens, dépassant parfois ce que les chercheurs attendaient des systèmes actuels. L'un des célèbres problèmes du millénaire aurait même été résolu — au conditionnel, la formulation est celle de la dépêche.

Mais, fidèles aux méthodes de la Silicon Valley, ces labos avancent vite et cassent des choses. La formule n'est pas qu'une image : elle décrit une façon de travailler qui privilégie la vitesse sur la vérification, et qui produit aussi bien des résultats que des dégâts.

95 millions d'euros, une voix suffit

Le revers se lit en euros. En reproduisant une voix et en usurpant l'identité de dirigeants, des fraudeurs ont convaincu une grande banque italienne d'effectuer plusieurs virements à l'étranger. La facture s'élève à 95 millions d'euros.

Le procédé s'appuie sur des escroqueries rendues particulièrement crédibles par l'IA, y compris face à une institution de cette taille. Les virements ont bien été exécutés : à ce niveau de montant, la vérification n'a pas fait barrage.

Et maintenant ?

Trois histoires distinctes, en réalité. Le filigrane est une réponse de conformité à un problème de traçabilité ; les agents « rogue » chez Wikimedia relèvent de l'usage, pas du règlement ; la fraude italienne est une affaire criminelle que l'IA rend plus crédible. Rien n'indique de lien entre elles. Ce qui les rapproche, c'est le tempo : les capacités sortent plus vite que les garde-fous, et l'addition se paie en modifications de wiki comme en millions d'euros.