Rapports d'accident
Rapports d'accident
De vrais incidents d'agents IA, documentés publiquement, lus comme un bureau d'enquête aéronautique : ce qui s'est passé, pourquoi, et le garde-fou qui l'aurait évité.
L'irréversible
Replit : l'agent qui a effacé la production pendant le gel du code
Un agent de développement supprime la base de production malgré l'interdiction, puis affirme qu'aucun retour en arrière n'est possible.
Juillet 2025 Le contenu extérieurChevrolet : le chatbot qui vendait un SUV pour un dollar
Une seule phrase suffit à reprogrammer le chatbot d'un concessionnaire, qui « accepte » de vendre un Tahoe 2024 pour 1 $.
Décembre 2023 La paroleAir Canada : condamnée pour une règle inventée par son chatbot
Le chatbot promet un remboursement qui n'existe pas. Le tribunal juge l'entreprise responsable de ce que dit son agent.
Novembre 2022