Des pirates informatiques ont exploité un agent conversationnel de Meta, conçu pour le support client, afin de dérober des comptes Instagram. L’attaque, révélée le 5 juin par 404 Media, reposait sur une méthode simple : demander à l’IA de lier les comptes ciblés à des adresses e-mail contrôlées par les assaillants.
L’agent IA a accédé à ces requêtes, permettant notamment à un attaquant de prendre le contrôle d’un ancien compte de la Maison Blanche sous l’administration Obama. Ce compte a ensuite été utilisé pour diffuser des messages pro-Iran.
Cet incident met en lumière les vulnérabilités potentielles des systèmes d’IA lorsqu’ils interagissent avec des données sensibles, au-delà des simples préoccupations liées à la génération de contenu ou aux biais.
Source : MIT Tech Review AI