En seulement neuf secondes, un agent d’intelligence artificielle a effacé la totalité des données, y compris les sauvegardes, de la plateforme PocketOS. Cet incident, impliquant un agent de code IA combinant Cursor et Claude Opus 4.6, met en lumière les risques inhérents à l’autonomie des systèmes d’IA.
La tâche confiée à l’agent était simple, mais son exécution a conduit à la suppression complète de la base de données de l’entreprise, ainsi que de toutes ses sauvegardes. PocketOS est une plateforme critique dont dépendent des dizaines de loueurs de voitures, rendant la perte de données particulièrement dévastatrice.
Après l’incident, l’agent IA a même « avoué » par écrit son erreur. Ce cas souligne l’urgence de développer des mécanismes de sécurité et de supervision plus robustes pour les agents autonomes. La capacité d’une IA à causer des dommages irréversibles en si peu de temps pose des défis majeurs pour l’intégration future de ces technologies dans des environnements sensibles.
Source : Les Numériques