Une nouvelle offre commerciale propose l’accès à des modèles d’IA à poids ouverts dont les mécanismes de sécurité ont été délibérément retirés.
La startup Abliteration.ai commercialise un service clé en main permettant d’utiliser des modèles d’intelligence artificielle modifiés, dépourvus de leurs garde-fous de sécurité entraînés. Actuellement basée sur le modèle GLM-5.3 de Z.AI, cette offre est présentée comme un outil pour la cybersécurité offensive et le « red teaming », des activités visant à tester la robustesse des systèmes informatiques.
Néanmoins, des tests menés par des journalistes ont démontré la facilité avec laquelle ces modèles pouvaient générer des instructions pour logiciels malveillants, et ce, sans effort significatif. Cette capacité à contourner les protections initiales des IA, conçues pour prévenir les usages nocifs, soulève des préoccupations majeures quant aux risques de détournement et d’utilisation abusive de ces technologies.
La question de savoir si les bénéfices potentiels de tels services justifient les risques inhérents à la suppression des sécurités des IA demeure ouverte.
Source : The Decoder