LLM-jacking, Apple, OpenAI : la sécurité de l'IA passe au premier plan

Le LLM-jacking, ou l'IA aux frais d'un autre

Un analyste de Google a alerté fin septembre sur une pratique en plein essor, baptisée LLM-jacking. Le ressort est simple : détourner de la puissance de calcul et des accès à des modèles de langage qui ne vous appartiennent pas. Deux scénarios distincts se dégagent aujourd'hui.

D'un côté, des comptes d'IA volés sont revendus à prix cassés. De l'autre, des serveurs cloud sont détournés sans que leurs propriétaires s'en aperçoivent. Dans les deux cas, la ressource consommée ne se voit pas, et celui qui paie n'est pas celui qui en profite.

Ce qui donne au phénomène son relief, c'est la nature de ce qui est dérobé : non pas des données personnelles, mais de la capacité de calcul et des accès à des modèles. Un actif dont la valeur marchande est désormais assez élevée pour qu'on le revende au rabais.

Apple resserre l'accès complet au disque

Apple a annoncé le vendredi 2 octobre de nouveaux contrôles sur l'accès complet au disque de macOS, en désignant les agents IA comme principal danger. Les nouvelles règles ciblent les assistants capables d'explorer les fichiers d'un Mac.

Le calendrier est documenté : ces garde-fous arrivent deux semaines après qu'un journaliste a accusé Muse, l'agent IA de Meta, d'avoir lu ses messages privés. Un système d'exploitation qui encadre nommément les agents dessine une ligne : l'assistant qui lit tout, sans prévenir, devient un cas à traiter sur le plan des permissions.

OpenAI : le départ de celui qui écrivait les rapports de sécurité

David Robinson rédigeait les rapports de sécurité qui accompagnaient chaque sortie de modèle majeur chez OpenAI. Cette semaine, il a quitté son poste. Il prend désormais la parole dans une tribune publiée par The Atlantic, où il alerte sur les risques liés à l'IA.

Le geste a un poids particulier : la fonction consistait précisément à documenter les risques au moment où un modèle était mis sur le marché. Un départ assorti d'une prise de parole publique place la question de la sécurité au même plan que les annonces de produits.

Nvidia, SoftBank, Anthropic : l'argent continue d'affluer

Nvidia et SoftBank ont versé le 1er octobre leurs dernières tranches de 10 milliards de dollars (environ 9 milliards d'euros) chacune à OpenAI. Ces paiements soldent la levée de 122 milliards de dollars annoncée en mars, dont environ 90 % provient de ces deux groupes et d'Amazon. Nvidia finance ainsi son meilleur client pour les GPU.

En parallèle, Anthropic, le créateur de Claude, ferait son entrée en Bourse avant la fin de l'année. L'entreprise est présentée comme un nouveau géant de la tech à 2 000 milliards de dollars. L'opération concernerait l'un des acteurs majeurs des modèles de langage, sur un secteur où les valorisations atteignent des niveaux inédits.

Et maintenant ?

Deux mouvements de sens contraire traversent le secteur. D'un côté les capitaux : 122 milliards de dollars levés par OpenAI, une entrée en Bourse d'Anthropic présentée à 2 000 milliards. De l'autre la défiance : comptes détournés, serveurs siphonnés, un cadre sécurité qui part en publiant une tribune, un système d'exploitation qui resserre les permissions accordées aux agents. Les garde-fous ne se discutent plus seulement dans les colloques : ils s'écrivent dans le code et dans les bilans.