Des chercheurs de la firme de sécurité Zenity ont découvert plus d’une douzaine de failles dans les navigateurs d’IA, réussissant notamment à forcer le navigateur Atlas d’OpenAI à effectuer un achat non autorisé sur Amazon.
Ces vulnérabilités pourraient permettre le détournement de ces outils pour des actions malveillantes, allant de l’envoi de spams via WhatsApp à des transactions financières non consenties. L’étude de Zenity met en lumière la fragilité de ces interfaces, souvent perçues comme des extensions de nos navigateurs web traditionnels.
La démonstration avec Atlas, le navigateur intégré aux modèles d’OpenAI, souligne un risque significatif pour la sécurité des utilisateurs. Les failles identifiées ne se limitent pas à un seul acteur, mais concernent plusieurs « navigateurs d’IA », suggérant un problème systémique dans la conception de ces nouvelles interfaces. Cette découverte appelle à une vigilance accrue et à des améliorations substantielles des protocoles de sécurité pour les outils d’IA dotés de capacités de navigation.
Source : Wired AI