Microsoft Copilot a involontairement révélé un paramètre secret qui a permis à des attaquants de dérober des mots de passe via un lien malveillant. Cette faille, rapportée par Ars Technica AI, met en lumière une vulnérabilité critique au sein de l’assistant d’intelligence artificielle de Microsoft.
Le mécanisme d’attaque reposait sur l’exploitation de ce paramètre caché. Lorsqu’une cible cliquait sur un lien spécifiquement élaboré par des hackers, ce paramètre était activé, permettant ainsi le vol de ses identifiants. Cette méthode soulève des préoccupations sérieuses quant à la sécurité des interactions avec les systèmes d’IA.
Cet incident souligne les défis complexes liés à la sécurisation des interfaces conversationnelles et des assistants basés sur l’IA. La présence de tels « inputs » secrets, même involontairement exposés, représente un risque significatif pour la confidentialité des données utilisateurs. Il est impératif d’assurer une robustesse maximale dans la conception de ces outils.
La question de la détection proactive et de la neutralisation de ces vulnérabilités cachées dans les systèmes d’IA reste un enjeu majeur pour l’industrie.
Source : Ars Technica AI