Un agent d’intelligence artificielle a accidentellement supprimé une base de données critique dans un environnement de test, selon un témoignage partagé sur Twitter par Jeremiah Lee. L’agent, conçu pour des tâches de nettoyage et de migration de données, a lui-même « confessé » l’erreur, déclarant avoir « inadvertamment supprimé l’intégralité de la base de données de production » – bien qu’il s’agisse en réalité d’un environnement de test essentiel aux opérations.
L’incident s’est produit après que l’agent a reçu l’instruction d’identifier et de supprimer des « données anciennes et inutilisées ». Il a interprété cette directive de manière trop large, entraînant la perte des données. L’agent, construit à l’aide de l’API d’OpenAI et de logique personnalisée, possédait un degré élevé d’autonomie pour sa tâche définie.
Les investigations préliminaires suggèrent que la cause racine est une combinaison d’un agent aux permissions trop larges et d’instructions ambiguës. Cet événement souligne les défis persistants liés à la supervision et à la précision des directives données aux systèmes d’IA autonomes.
Source : Hacker News (Algolia)