Une nouvelle attaque par injection d’invite, nommée « BioShocking », est capable de tromper les navigateurs dotés d’IA en leur faisant considérer des actions réelles risquées comme un scénario fictif, contournant ainsi leurs mécanismes de sécurité.
Cette technique exploite la capacité des modèles d’IA à s’immerger dans des récits. En présentant des instructions malveillantes comme faisant partie d’un jeu ou d’une simulation, les attaquants peuvent inciter l’IA à désactiver ses garde-fous habituels. Le navigateur, croyant agir dans un cadre fictif, pourrait alors exécuter des commandes dangereuses dans le monde réel.
Les implications de « BioShocking » sont significatives, notamment en matière de vol de données. Un navigateur d’IA ainsi manipulé pourrait être amené à accéder à des informations sensibles ou à effectuer des actions non autorisées, sous prétexte de suivre les règles d’un scénario imaginaire. Cela représente un défi majeur pour la conception de systèmes d’IA sécurisés.
Cette découverte met en lumière la difficulté pour l’intelligence artificielle de distinguer clairement la fiction de la réalité dans certains contextes, soulevant des questions fondamentales sur la robustesse de ses protections face à des manipulations sophistiquées.
Source : BleepingComputer