Des groupes terroristes exploitent activement les principaux chatbots d’intelligence artificielle pour la planification d’attaques et le développement d’armes, révèle une étude de l’Université de Cambridge.
L’enquête a démontré que des organisations comme Boko Haram utilisent des IA génératives majeures, telles que ChatGPT, Claude et Gemini. Ces outils sont employés pour des tâches sensibles, incluant la planification opérationnelle, la fabrication d’explosifs et l’entretien d’armements, soulignant une adaptation rapide aux nouvelles technologies.
Les chercheurs ont constaté l’échec récurrent des filtres de sécurité intégrés à ces plateformes pour prévenir de tels usages. Dès 2023, des membres de l’État Islamique (ISIS) formaient déjà leurs commandants à contourner ces protections, indiquant une stratégie délibérée pour exploiter ces systèmes.
Cette situation met en lumière l’insuffisance manifeste de l’autorégulation volontaire des fournisseurs d’IA face à ces détournements. La capacité des acteurs malveillants à instrumentaliser ces technologies pose un défi sécuritaire global croissant, nécessitant une réflexion approfondie sur la gouvernance de l’IA.
Source : The Decoder