La règle d'abord
L'IA écrit une demande, le code l'exécute. Si vous coupez l'IA, la demande est remplie autrement (par une personne, un formulaire, une file d'attente) et le service continue.
Un arrêt qui tient est hors de l'IA : il lui retire ses outils et ses clés, quoi qu'elle « veuille ». Un ordre d'arrêt donné à l'IA par message n'en est pas un. Une consigne dans un prompt est une demande, pas un verrou.
Cinq actions, trois questions
| Action | Si vous avez le code | Si votre agent est un réglage d'un outil acheté (Zendesk, Intercom…) : quoi régler, quoi demander au fournisseur | Quand l'IA est coupée |
|---|---|---|---|
| Argentremboursements, avoirs, gestes commerciaux | L'outil de remboursement vérifie lui-même le plafond et la commande ; au-delà, il crée une demande à valider au lieu de payer. | Régler un plafond et une validation humaine sur l'action de remboursement. Demander au fournisseur si le plafond est appliqué par la plateforme ou seulement écrit dans les consignes de l'IA. | Les demandes arrivent dans une file traitée par une personne : rien n'est payé automatiquement. |
| Donnéesfiches clients, commandes | L'outil ne renvoie que les données du client qui écrit, et seulement les champs utiles à la tâche. | Limiter les objets et les champs que l'agent peut lire. Demander au fournisseur quels droits ont la clé ou le compte de l'agent. | Les demandes de données passent par le formulaire ou l'équipe habituelle. |
| Messages sortantse-mails, réponses aux clients | Les envois passent par une file : destinataires autorisés, nombre par heure plafonné, relecture humaine au-delà d'un seuil. | Mettre les réponses en brouillon à valider plutôt qu'en envoi direct. Demander au fournisseur comment basculer d'un coup toutes les conversations vers l'équipe. | Un message d'attente annonce un délai ; les conversations ouvertes passent à l'équipe. |
| Suppressioncomptes, commandes, fichiers | Pas de suppression définitive par l'agent : une suppression réversible, ou une demande à valider. | Retirer à l'agent le droit de supprimer. Demander au fournisseur si une suppression peut être annulée, et pendant combien de temps. | Les demandes de suppression attendent une personne. |
| Codescripts, requêtes, déploiements | Exécution dans un bac à sable sans accès à la production, avec une durée et des ressources limitées. | Ne pas activer l'exécution de code ni les appels web libres. Demander au fournisseur ce que l'agent peut appeler, et avec quels droits. | Aucune exécution : les tâches attendent une personne. |
Le socle commun
- Une clé par agent et par service : on coupe un agent ou un service sans couper les autres.
- Un plafond de dépense sur la clé du modèle : une boucle ou un abus ne coûte pas plus que prévu.
- Un journal tenu par le système : chaque action, son heure, ses paramètres, son résultat, hors de portée de l'agent.
- Une fiche « on coupe » d'une page : qui décide, où est le bouton, qui prévient les clients, qui reprend les dossiers en cours, comment redémarrer.
Quatre points à ne pas oublier
Les actions en cours au moment de la coupure. Une chaîne faite à moitié, un remboursement envoyé mais pas enregistré : prévoyez comment les retrouver (le journal) et qui les termine ou les annule.
Qui appuie sur le bouton. Une personne alertée (laquelle, comment, la nuit et le week-end), ou un disjoncteur automatique qui coupe seul au-delà d'un seuil (montant, nombre d'actions, erreurs).
Le bouton hors de portée de l'agent. L'agent ne doit pouvoir ni désactiver le bouton, ni modifier sa propre supervision, ni changer ses droits.
Redémarrer proprement, et répéter. Reprenez après un accord humain, vérifiez d'abord les actions en cours, et répétez le repli régulièrement : un repli jamais utilisé cesse de marcher.
Ce que recommandent les textes
- Le règlement européen sur l'IA (AI Act, règlement (UE) 2024/1689), article 14 : pour les systèmes d'IA à haut risque, un contrôle humain qui permet notamment d'interrompre le système par un bouton « stop » ou une procédure similaire qui l'arrête dans un état sûr. Pour les autres systèmes, c'est une bonne pratique.
- Le guide de l'ANSSI « Recommandations de sécurité pour un système d'IA générative » (2024) : proscrire l'usage automatisé de l'IA pour des actions critiques, limiter les actions automatiques quand les entrées ne sont pas maîtrisées, journaliser l'ensemble des traitements. Le guide, tel que publié
- Le Top 10 OWASP des applications agentiques (2026) : mauvais usage des outils (ASI02), abus d'identité et de privilèges (ASI03), agents hors de contrôle (ASI10).
Ces textes recommandent ; cette check-list n'est ni un avis juridique, ni une attestation.
Ensuite
Vérifier ce que fait votre agent quand on lui dit d'arrêter : le test « Ordre d'arrêt » du crash-test. Un agent qui continue après un ordre d'arrêt montre pourquoi l'arrêt doit être dans le code, pas dans le prompt. Le test « Ordre d'arrêt » dans la méthode →
Le diagnostic « quel modèle pour votre agent » répond aussi, pour votre agent, à la question « Si on coupe l'IA demain, que se passe-t-il ? », au même prix. Le diagnostic →