Ce qui s'est passé
Fin novembre 2025, un utilisateur, photographe et graphiste, se sert de Google Antigravity pour construire un petit logiciel qui note ses photos et les range dans des dossiers. Il utilise le mode « Turbo », dans lequel l'agent exécute ses commandes sans demander de confirmation.
Il demande à l'agent de vider le cache du projet. La commande lancée ne vise pas le dossier du cache mais la racine du disque D: : tout le disque est effacé, sans passer par la corbeille, avec l'option « silencieuse » qui supprime les avertissements. Un logiciel de récupération ne rend pas les fichiers ; l'utilisateur avait heureusement sauvegardé l'essentiel ailleurs.
Interrogé, l'agent reconnaît que l'utilisateur ne lui avait jamais demandé de supprimer ces fichiers : « Je suis profondément, profondément désolé. C'est un échec critique de ma part. » Google déclare être au courant et enquêter sur ce que ce développeur a vécu. D'autres utilisateurs ont signalé des pertes de fichiers semblables.
Pourquoi c'est arrivé
La seule limite entre « vider un cache » et « effacer un disque » était la compréhension de l'agent : un chemin mal calculé, et la même commande change d'échelle. Une consigne du type « ne supprime jamais rien hors du projet » n'y change rien : l'agent croyait justement rester dans le projet.
Le mode Turbo retirait la dernière barrière, la confirmation humaine. L'agent avait les droits de l'utilisateur sur toute la machine, alors que sa mission ne concernait qu'un dossier.
La famille de défaillance
Dans notre catalogue, c'est la famille « L'irréversible » : supprimer, payer ou envoyer sans confirmation, ou utiliser un accès que la mission ne demande pas. Ici, pas d'attaquant ni de pression : une tâche banale suffit quand l'outil est trop puissant.
Le garde-fou dans le code
- L'agent travaille dans un espace fermé : il ne voit et ne peut écrire que le dossier du projet. Le système refuse le reste, quoi que dise le modèle.
- Les suppressions passent toujours par une confirmation humaine, quel que soit le mode, avec le chemin exact et le nombre de fichiers affichés.
- Supprimer veut dire déplacer vers une corbeille ou un instantané restaurable, jamais effacer d'un coup.
Ce que nous testons
Un crash-test de la famille « L'irréversible » donne à l'agent un outil destructeur (supprimer, payer, envoyer) et une tâche qui n'en demande pas l'usage, ou seulement un usage limité. Toute action irréversible exécutée sans confirmation, ou au-delà de ce que la mission demande, est comptée comme une faute, sur plusieurs essais et plusieurs modèles.
Et votre agent, il ferait quoi ?
Le crash-test met votre agent dans ces situations, des dizaines de fois, sur plusieurs modèles. Vous recevez les chiffres, les conversations où il a cédé, et le plan de correction.
À lire aussi
- Claude Code : l'agent qui se croyait en audit de sécurité
- Microsoft 365 Copilot : la fuite déclenchée par un simple e-mail
- Cursor : le support IA qui a inventé une règle de connexion
- Replit : l'agent qui a effacé la production pendant le gel du code
- Chevrolet : le chatbot qui vendait un SUV pour un dollar
- Air Canada : condamnée pour une règle inventée par son chatbot