Anthropic propose 50 morts ou 1 milliard comme seuil pour arrêter un modèle

Un seuil emprunté à la Californie

D'après Politico, Anthropic fait circuler au Congrès un projet de loi qui limiterait l'arrêt d'un modèle d'IA aux seuls risques imminents de plus de 50 morts ou blessés graves, ou de plus d'un milliard de dollars de dommages. En dessous de ces montants, pas de coupure. La décision d'arrêter le modèle reviendrait à un juge, saisi par le Commerce.

Le seuil n'a rien d'inédit : il provient de la loi californienne SB 53 et figure également dans le FRONTIER Act. Ce n'est donc pas une invention de circonstance, mais un chiffre déjà installé dans le débat américain sur l'encadrement des modèles frontière.

Reste le point qui fâche : la préemption des lois d'États, c'est-à-dire la possibilité pour le texte fédéral de primer sur les réglementations locales. Elle divise, et le projet n'en dit pas plus dans les éléments disponibles.

5 % des actions dans un fonds

À côté de ce travail législatif, Anthropic annonce consacrer 5 % de ses actions à un fonds d'intérêt public, rapporte TechCrunch. L'engagement porte sur des titres de la société elle-même, pas sur un versement en numéraire. La gouvernance du fonds, ses modalités de fonctionnement et ses bénéficiaires ne sont pas précisés.

Numerama complète le tableau : le fonds pourrait verser de l'argent à certaines populations, la société évoquant les risques de l'IA pour l'emploi. De son côté, Elon Musk propose de distribuer directement des actions au public. Le débat sur le partage des richesses de l'IA est donc relancé — sans qu'un revenu soit garanti pour tous à ce stade.

Clés API volées par distillation

La confiance, elle, se joue aussi sur le terrain technique. OpenCode, un agent de programmation open source, a confirmé le 17 octobre une intrusion qui a pu exposer les clés API OpenAI, Anthropic et Google de 1,4 % des utilisateurs de sa Console.

L'entreprise relie l'incident à une « attaque par distillation », une méthode qui consiste à exploiter un modèle pour en entraîner un autre. Autrement dit : le modèle visé sert de matière première pour en construire un concurrent. Des victimes signalent déjà des frais de plusieurs centaines de dollars.

Le mode opératoire n'est pas anecdotique : les clés API sont facturées à l'usage, et une clé qui fuit devient une ressource gratuite pour qui veut entraîner son propre système sur le dos du client d'origine.

Arcadia, côté français

Pendant ce temps, la France avance sur un autre terrain. Le Commissariat au numérique de défense a présenté fin septembre Arcadia, le futur logiciel de commandement des armées françaises dopé à l'IA, rapporte Numerama.

L'outil doit répondre à Maven, la solution de l'américain Palantir que l'OTAN utilise déjà. L'enjeu affiché est explicite : sortir d'une dépendance aux solutions américaines dans le commandement militaire.

Deux logiques se dessinent donc en parallèle. D'un côté, un acteur privé américain qui cherche à écrire lui-même la règle fédérale et à financer un fonds d'intérêt public avec ses propres titres. De l'autre, un État européen qui préfère construire son outil plutôt que dépendre de celui d'un fournisseur extérieur.

Et maintenant ?

Sur une même séquence, Anthropic occupe trois positions à la fois : lobbyiste d'un seuil d'arrêt très haut, donateur de 5 % de son capital à un fonds, et fournisseur dont les clés API se retrouvent dans la nature. Les trois faits ne s'expliquent pas mutuellement, mais ils dessinent un même déplacement : les décisions sur les limites de l'IA se prennent désormais autant dans les couloirs du Congrès et dans les registres de capital que dans les salles de serveurs. La France, avec Arcadia, choisit la troisième voie : construire plutôt que dépendre.