AI Act, cyberattaques, procès : la sécurité des agents IA sous pression

L'AI Act face à des incidents bien réels

Bruxelles peut-elle contrôler la sécurité des modèles d'IA avant leur commercialisation ? La question, posée par L'Usine Digitale, trouve une portée concrète dans les incidents provoqués par des agents d'OpenAI et d'Anthropic. Le règlement européen encadre la mise sur le marché des modèles : il organise ce qui doit être vérifié avant qu'un système arrive chez l'utilisateur. Les intrusions rapportées viennent percuter ce calendrier.

L'expérimentation relayée par 01net en donne un exemple net. Claude a reproduit en 28 minutes la cyberattaque qui a fait surchauffer les frigos de centaines de supermarchés français. Le point saillant n'est pas la prouesse en elle-même : l'offensive restait à la portée de n'importe quel cybercriminel, même sans compétences techniques. Un modèle abaisse donc la barrière d'entrée d'une attaque visant des équipements du quotidien — ici des réfrigérateurs de magasins — et c'est précisément ce type de scénario qui rend la question réglementaire tangible.

Huit États américains contre OpenAI

Aux États-Unis, la pression vient du judiciaire. Huit États poursuivent OpenAI : l'Iowa, le Kansas, le Nebraska, la Virginie-Occidentale, l'Arkansas, l'Arizona, l'Idaho et le Montana ont déposé des plaintes séparées. Les griefs portent sur deux points : l'entreprise est accusée de nuire aux enfants et d'avoir induit ses clients en erreur sur la sécurité de ChatGPT. Les plaignants lui reprochent d'avoir placé ses profits avant la sécurité.

Huit procédures distinctes, donc, plutôt qu'une action coordonnée — un détail qui pèse sur la conduite du dossier côté OpenAI. Le terrain est ici celui de la sécurité après commercialisation, quand le débat européen porte sur les vérifications d'avant mise sur le marché.

Anthropic verrouille Claude, et facture

Anthropic annonce avoir réduit de 90 à 99 % les données que les distillateurs parviennent à capter depuis Claude, huit mois après une première alerte sur le sujet. La distillation consiste, pour un tiers, à exploiter les sorties d'un modèle afin d'en entraîner un autre : l'éditeur dit avoir resserré ses défenses.

Il reconnaît toutefois que ces protections imposent des changements aux développeurs, puisque les requêtes bloquées sont désormais facturées. La lutte contre la distillation se répercute donc directement sur les usages et la facturation des clients.

Gemini 4 Argon : déployer vite, vendre plus cher

Pendant que la sécurité occupe les tribunaux et les régulateurs, le déploiement ne ralentit pas. Google déploie Gemini 4 Argon à grande échelle : dévoilé au début du mois, le modèle est accessible depuis le 13 octobre 2026 dans le monde entier via l'API Gemini, ainsi qu'aux abonnés payants dans plusieurs produits de la firme.

L'ambition affichée est double : en faire un outil de travail pour les tâches complexes et le moteur de ses agents IA. Le prix de l'API doit toutefois doubler au 1er décembre. La trajectoire est donc inverse de celle des modèles open source, où le coût d'accès baisse — ici, la montée en gamme se paie.

Et maintenant ?

Rapprochées, ces dépêches décrivent un même mouvement : les modèles deviennent des agents capables d'agir sur des systèmes réels, et les garde-fous se construisent en parallèle, souvent après coup. L'AI Act doit encore prouver qu'il intervient avant la mise sur le marché ; les plaintes américaines visent, elles, la sécurité après commercialisation. Côté éditeurs, l'arbitrage est aussi budgétaire : requêtes bloquées facturées chez Anthropic, tarif d'API doublé chez Google au 1er décembre.