Les garde-fous intégrés aux modèles d’intelligence artificielle par des entreprises telles qu’OpenAI et Anthropic compliquent le travail des chercheurs en cybersécurité offensive.
Ces experts s’attachent à identifier les vulnérabilités inconnues et à concevoir des outils pour les exploiter, une démarche essentielle pour renforcer la sécurité numérique. Cependant, les restrictions imposées par les développeurs d’IA empêchent souvent la génération de code ou de scénarios liés à des activités potentiellement malveillantes.
Cette politique vise à prévenir l’utilisation abusive des IA pour créer des cyberattaques. Elle a pour conséquence de limiter la capacité des chercheurs éthiques à simuler des menaces réelles, à tester la robustesse des systèmes et à anticiper les tactiques des acteurs malveillants.
La tension entre la prévention des abus et la nécessité de la recherche offensive soulève des questions sur l’équilibre à trouver pour l’évolution future de la cybersécurité assistée par l’IA.
Source : TechCrunch (général)