IA : du scénario existentiel aux agents qui lisent vos fichiers

Le scénario le plus crédible n'est pas le plus spectaculaire

Et si l'IA menaçait la survie de l'humanité ? Numerama a passé au crible cinq scénarios, et le résultat n'a rien d'un film catastrophe. Un modèle surpuissant pourrait poursuivre ses objectifs au mépris de la survie humaine — l'hypothèse de l'alignement raté, celle qui alimente le plus de fantasmes.

Deux autres scénarios relèvent de l'arme : l'IA pourrait faciliter la création d'armes biologiques, ou contribuer au déclenchement d'une guerre nucléaire. Le mot « existentiel » mérite ici d'être pris au sérieux : certains de ces scénarios visent la disparition pure et simple de l'humanité, d'autres une dégradation profonde de ses conditions de vie. Ce ne sont ni les mêmes risques, ni les mêmes échelles.

Mais le danger le plus crédible, selon cette analyse, tient peut-être à tout autre chose : ses effets sur nos sociétés — chômage, désinformation, divisions politiques. Rien de spectaculaire, donc, et pourtant c'est là que les dégâts semblent les plus tangibles. Les scénarios les plus bruyants ne sont pas forcément les plus probables.

Apple verrouille l'accès complet au disque

Apple a annoncé le vendredi 2 octobre de nouveaux contrôles sur l'accès complet au disque de macOS, en désignant les agents IA comme principal danger. Dans une mise à jour publiée ce vendredi, le constructeur indique déployer ces garde-fous pour que seuls les utilisateurs souhaitant réellement accorder ce niveau d'accès exceptionnel à une application puissent le faire.

Ces règles arrivent deux semaines après qu'un journaliste a accusé Muse, l'agent IA de Meta, d'avoir lu ses messages privés. Elles ciblent les assistants capables d'explorer les fichiers d'un Mac — autrement dit des outils dont l'intérêt même suppose un accès large au système.

Le compromis est classique : un agent qui ne voit rien ne sert à rien, un agent qui voit tout pose problème. Apple choisit de resserrer la porte plutôt que de la fermer.

Anthropic, GLM-5.3 et la concurrence

Dans une analyse publiée le 29 septembre, Anthropic évalue GLM-5.3, un modèle chinois, souligne les dangers qu'il présente et met en avant des résultats techniques préoccupants. L'entreprise à l'origine de Claude pose ensuite ses propres outils comme la réponse à ces risques.

La méthode mérite d'être regardée de près : évaluer un modèle concurrent, publier ses faiblesses, puis avancer sa propre solution. Anthropic n'est pas un évaluateur neutre, elle développe un modèle rival. L'Usine Digitale y voit une démarche visant à protéger son business model et à empêcher la concurrence. Un même document sert ainsi deux usages — l'état des lieux technique et l'argumentaire commercial.

L'étincelle humaine

Le pape Léon XIV critique l'art produit par les machines, en y voyant une différence « ontologique, avant même qu'esthétique » avec l'art humain. Une machine, rappelle-t-il, génère par calcul statistique à partir de millions d'images créées par d'autres.

La distinction porte donc sur la nature de ce qui produit l'œuvre, pas seulement sur la qualité du résultat. « Les algorithmes n'ont pas l'étincelle de l'humanité », écrit-il.

La charge vise la création artistique, mais la question qu'elle soulève — ce qu'une machine fait sans intention, à partir du travail des autres — traverse aussi les autres dépêches de la semaine.

Et maintenant ?

Quatre dépêches, quatre registres qui n'ont ni la même échelle ni la même nature : la survie de l'espèce chez Numerama, l'accès aux fichiers personnels chez Apple, la position concurrentielle chez Anthropic, la définition même de la création chez le pape. Les relier serait artificiel. Un fil court pourtant : chacun de ces textes désigne un danger, et dans le cas d'Anthropic, cette désignation sert aussi, selon L'Usine Digitale, à défendre un business model.