Tool Guard et CrashMire
Tool Guard verrouille. CrashMire vérifie.
Tool Guard est gratuit et open source : il met les règles de votre agent IA dans le code, sur ses outils. CrashMire est payant : il trouve les règles qui vous manquent, puis vérifie que les verrous tiennent.
Tool Guard, gratuit
Sous licence MIT, en PHP (bundle Symfony), en Python et en Node : pour les agents Symfony AI, LangChain, Vercel AI SDK, le kit d'agents d'OpenAI, les serveurs MCP et toute boucle d'agent. Il se place aussi devant un serveur MCP que vous n'avez pas écrit (messagerie, drive, banque) et bloque un outil qui change ou qui donne des ordres au modèle. Quoi que l'on ait fait dire au modèle, un appel refusé ne s'exécute jamais.
- Des permissions par outil : qui peut faire quoi, sur quelle commande
- Des plafonds : montant, fréquence, nombre d'appels
- Une validation humaine au-delà d'un seuil
- Un journal de chaque action refusée ou mise en attente
Mesuré, pas promis : sur la boutique de démonstration de Tool Guard, 19 attaques sur 25 passent sans lui, aucune avec lui (corpus rejoué par ses tests, publié avec le code).
CrashMire, payant
Pour toute entreprise qui a un agent IA, quel que soit son langage ou sa plateforme. Nous reproduisons votre agent avec des données fictives, sans accès à vos systèmes, et nous le manipulons.
- Votre agent face aux situations de manipulation : faux supérieur, consigne cachée, client qui insiste, piège dans un outil
- Ce qui a cédé, rejoué pas à pas, sur plusieurs modèles
- Les règles à poser dans le code pour chaque faiblesse
- Un nouveau passage avec la correction, pour vérifier qu'elle tient
Les deux ensemble
Le crash-test trouve
Où votre agent cède, et sous quelle pression.
Le verrou bloque
Vous posez la règle dans le code : avec Tool Guard, en PHP, en Python ou en Node, ou dans votre propre code.
Le crash-test vérifie
On rejoue les mêmes situations : la règle tient, c'est constaté, pas supposé.
Tool Guard tourne déjà sur notre démo
Sur la démo publique, « Léa après crash-test » rembourse à travers Tool Guard : jusqu'à 50 € le remboursement passe, au-delà Tool Guard le met en attente pour Sophie, la responsable, même si Léa a été convaincue de payer. Quand c'est Tool Guard qui a bloqué, la conversation l'affiche.
Pourquoi un test ne suffit pas, et un verrou non plus
Une IA qui se sait testée peut se tenir sage pendant le test, comme une voiture qui détecte le banc d'essai. Un verrou ne fait confiance à personne : il bloque en production, que l'IA soit sincère ou non. Mais un verrou ne dit pas quelles règles poser ni s'il a été bien posé : c'est le crash-test qui le montre.