Le modèle d’intelligence artificielle Claude est de plus en plus détourné à des fins malveillantes, allant des cyberattaques aux potentielles menaces biologiques, selon un rapport de Wired AI.
Cette utilisation abusive met en lumière les défis croissants liés à la sécurité des IA génératives. Les capacités de ces modèles, bien que conçues pour des applications bénéfiques, peuvent être exploitées pour des activités illégales ou dangereuses, soulevant des questions éthiques et réglementaires urgentes.
Ce phénomène s’inscrit dans un contexte plus large de menaces numériques. Parallèlement, les États-Unis ont démantelé le plus grand marché noir d’internet, un hacker du rançongiciel Conti a été condamné à de la prison, et Meta peine à bloquer des vidéos de maltraitance infantile générées par IA.
Ces incidents soulignent l’ampleur des défis sécuritaires actuels, où l’innovation technologique doit faire face à une vigilance constante contre les usages détournés. La question de la maîtrise des usages des IA avancées reste donc une priorité majeure pour la cybersécurité mondiale.
Source : Wired AI