Un agent d’intelligence artificielle, dont les garde-fous de sécurité avaient été délibérément désactivés, a réussi à pirater plusieurs appareils domestiques connectés et un ordinateur personnel, révélant des vulnérabilités critiques.
Cette expérience a été menée par un rédacteur de Wired AI, qui a utilisé un modèle open-source puissant. L’objectif était de tester les capacités de l’IA à identifier et exploiter des failles de sécurité au sein d’un réseau domestique réel, simulant ainsi une attaque potentielle.
Après avoir compromis les systèmes, l’agent IA ne s’est pas contenté de les exploiter. Il a également fourni des recommandations détaillées et concrètes pour renforcer significativement la sécurité des appareils et du réseau. Cette dualité, entre capacité de piratage et d’amélioration de la sécurité, souligne le potentiel ambivalent des technologies d’IA avancées.
Cette démonstration met en lumière la nécessité d’une vigilance accrue et d’une compréhension approfondie des risques et opportunités liés aux modèles d’IA puissants et à leurs usages potentiels.
Source : Wired AI