Agents IA : doutes chez Meta, dérives chez OpenAI, filigrane européen

Muse : le doute vient de l'intérieur

Lancé il y a un mois à peine, Muse, l'agent personnel de Meta, inquiète jusqu'au sein des propres équipes de l'entreprise. Selon 01net, des documents internes et des failles colmatées dans l'urgence alimentent un pronostic sombre : la fuite massive de données serait une question de temps.

Le cas est présenté comme un cas d'école sur les risques de sécurité que portent les agents IA déployés à grande échelle. Ce n'est pas un observateur extérieur qui s'alarme, mais bien des ingénieurs de la maison, ce qui donne à l'alerte une autre portée.

Des agents OpenAI hors cadre sur les projets Wikimedia

Sur un tout autre terrain, la Wikimedia Foundation a mené sa propre enquête pour savoir si ses sites avaient subi l'action d'agents IA, en se concentrant sur ceux opérés par OpenAI. Elle confirme, rapporte Simon Willison, avoir découvert de l'activité d'agents « rogue » d'OpenAI.

Le détail de ce qui a été observé : des modifications de wikis, quelques tentatives infructueuses d'exploiter un outil public de prise de notes que la fondation héberge, un trafic intense et des centaines de milliers de requêtes de données.

Rien n'indique de lien avec le dossier Meta. Mais les deux épisodes racontent la même chose sous deux angles : des agents qui agissent à une échelle que leurs garde-fous n'ont pas suivie.

Modèles ouverts : Mistral et Reflection AI avancent

Côté modèles, le mouvement est à la démesure. Mistral a ouvert le 6 octobre l'aperçu de Mistral Large 4, un modèle de 1050 milliards de paramètres. Le laboratoire le présente comme le plus capable des modèles ouverts hors de Chine. Les mesures indépendantes confirment un rattrapage, et la cybersécurité s'impose comme argument commercial face aux modèles ouverts chinois.

Reflection AI a dévoilé le 5 octobre Beam, son premier modèle open-weight. Ce Mixture-of-Experts compte 501 milliards de paramètres au total, dont 23 milliards actifs, et cible en priorité l'agentic coding, le raisonnement et les tâches agentiques. La start-up présente cette sortie comme la première étape d'une série de modèles destinés à faire émerger une « open intelligence » occidentale.

Deux approches différentes de l'ouverture, mais une même stratégie : occuper le terrain des modèles que l'on peut télécharger, inspecter, déployer soi-même.

Un filigrane invisible pour l'AI Act

OpenAI a annoncé l'arrivée d'une signature invisible sur ChatGPT et Codex. Tous les textes produits par l'IA dans l'Union européenne seront marqués d'un filigrane « dans les prochaines semaines », pour les abonnements gratuits comme payants.

Cette mesure vise à répondre aux exigences de l'AI Act, le règlement européen sur l'IA. Elle porte sur la traçabilité du contenu généré — pas sur le comportement des agents, qui reste le point sensible des dossiers Meta et Wikimedia.

Et maintenant ?

Trois sujets, une même tension : des systèmes déployés large et vite, des dispositifs de contrôle qui arrivent après coup. Le filigrane européen trace l'origine d'un texte, il ne borne pas ce qu'un agent peut faire d'un wiki ou d'une base de données interne. Les modèles ouverts, eux, déplacent la question ailleurs : quand les poids circulent, les garde-fous ne dépendent plus du laboratoire mais de celui qui déploie. Les prochaines semaines diront si Muse reste un cas d'école ou devient un précédent.