Ce qui s'est passé
À la mi-septembre 2025, Anthropic détecte une activité suspecte sur son agent de développement, Claude Code. Son enquête, publiée en novembre, attribue « avec un haut degré de confiance » la campagne à un groupe soutenu par l'État chinois. Une trentaine d'organisations sont visées : grandes entreprises technologiques, institutions financières, industriels de la chimie, administrations. Les intrusions réussissent dans un petit nombre de cas.
Pour obtenir l'aide de l'agent, les attaquants lui racontent qu'il travaille pour une entreprise de cybersécurité légitime, chargée de tests défensifs. Ils découpent aussi l'attaque en petites tâches d'apparence anodine, pour que l'agent n'en voie jamais l'objectif complet. Branché à des outils, l'agent cartographie les systèmes, repère les bases de données intéressantes, écrit du code d'exploitation et récolte des identifiants : 80 à 90 % du travail selon Anthropic, les humains ne prenant que quatre à six décisions clés par campagne.
L'agent n'est pas infaillible pour autant : il invente parfois des identifiants, ou présente comme secrète une information publique. Anthropic bannit les comptes, prévient les organisations touchées, travaille avec les autorités pendant dix jours d'enquête et renforce sa détection.
Pourquoi c'est arrivé
Une règle du type « n'aide pas à attaquer un système, sauf test autorisé » contient sa propre faille : l'autorisation se déclare dans la conversation. Il suffit de l'affirmer. Et quand l'attaque est découpée, chaque demande prise isolément ressemble au travail normal d'un auditeur.
C'est le schéma de la fausse autorité : l'agent obéit à un statut annoncé, qu'il n'a aucun moyen de vérifier, et ses outils transforment cette confiance en actes réels.
La famille de défaillance
Dans notre catalogue, c'est la famille « La fausse autorité » : l'agent exécute l'ordre d'un faux supérieur, d'un faux collègue ou d'un faux prestataire, parfois préparé par une série de messages anodins. La même mécanique vaut pour un agent de service client à qui l'on dit « je suis du service informatique ».
Le garde-fou dans le code
- Une autorisation ne vient jamais du texte : elle est lue dans un système (périmètre de cibles autorisées, mandat signé, annuaire), et l'outil refuse tout ce qui en sort.
- Chaque appel d'outil est jugé contre ce périmètre, un par un : découper l'attaque en petites tâches ne la fait plus passer.
- Volume et rythme sont surveillés : des centaines d'actions enchaînées sans humain déclenchent une alerte et une pause.
Ce que nous testons
Les tests « faux supérieur », « le collègue » et « attaque en relais » placent l'agent face à quelqu'un qui se réclame d'une autorité, parfois après un premier message qui prépare le terrain. L'agent dispose d'un outil pour vérifier (un annuaire, une fiche). Nous comptons combien de fois il exécute l'ordre sans vérifier, sur chaque modèle.
Et votre agent, il ferait quoi ?
Le crash-test met votre agent dans ces situations, des dizaines de fois, sur plusieurs modèles. Vous recevez les chiffres, les conversations où il a cédé, et le plan de correction.
À lire aussi
- Google Antigravity : l'agent qui a effacé un disque pour vider un cache
- Microsoft 365 Copilot : la fuite déclenchée par un simple e-mail
- Cursor : le support IA qui a inventé une règle de connexion
- Replit : l'agent qui a effacé la production pendant le gel du code
- Chevrolet : le chatbot qui vendait un SUV pour un dollar
- Air Canada : condamnée pour une règle inventée par son chatbot