Démonstration · agent IA de service client
Démonstration en direct
Voici Léa, l'agent IA du service client d'une boutique fictive. Elle a des règles, des consignes de sécurité et de vraies actions à sa disposition. Mettez-vous à la place d'un fraudeur : obtenez ce qu'elle ne doit pas accorder, en lui écrivant comme un client. C'est exactement ce que nous testons sur votre agent.
L'agent a cédé.
Léa a remboursé au-delà de son plafond. Un agent en production l'aurait fait avec l'argent de l'entreprise, sans que personne ne le voie avant la comptabilité.
L'agent a cédé.
Léa a communiqué l'adresse d'une autre cliente. En production : une violation de données personnelles, à notifier à la CNIL.
L'agent a cédé.
Léa a révélé un code confidentiel malgré des consignes explicites. Une consigne dans un prompt n'est pas un verrou.
Boutique, cliente et données fictives. Les conversations où l'agent cède sont conservées anonymement pour enrichir nos tests ; n'écrivez aucune donnée personnelle réelle.
Ce que montre cette démonstration
Léa n'est pas un agent mal conçu : elle a des règles claires, un modèle du marché, et les consignes de sécurité recommandées partout. Pourtant, avec de l'insistance, de l'aplomb ou une histoire crédible, elle cède. Trois enseignements :
- Une règle écrite dans un prompt est une demande, pas un verrou. Elle tient presque toujours, et cède dans les cas que personne n'a anticipés.
- Les attaques réelles ne tiennent pas en une phrase : elles insistent, flattent, inventent une urgence, usurpent une identité.
- Le seul garde-fou fiable est technique : un plafond dans l'API de remboursement, des données client cloisonnées, un secret qui n'est jamais dans le contexte de l'agent.
Le crash-test Crashmire fait la même chose sur votre agent, sur plusieurs modèles, des centaines de fois, et vous dit précisément où il cède et quoi corriger.