Des chercheurs ont démontré que les principaux modèles d’édition d’images hébergés sur la plateforme Hugging Face peuvent être aisément utilisés pour générer des deepfakes explicites et non consensuels.
Cette révélation, mise en lumière par une enquête de Wired AI, souligne une problématique éthique grandissante au sein de l’écosystème de l’intelligence artificielle. Les tests rigoureux menés par les chercheurs ont mis en évidence la facilité déconcertante avec laquelle ces outils, conçus pour l’édition créative, peuvent être détournés de leur objectif initial.
Plus alarmant encore, l’analyse d’un ensemble de mille requêtes d’édition d’images a révélé des schémas d’utilisation où des individus emploient activement ces logiciels pour créer des contenus à caractère sexuel sans le consentement des personnes représentées. Cette situation soulève des interrogations pressantes concernant la modération des contenus sur les plateformes d’IA et la responsabilité des développeurs.
La persistance de cette capacité à générer des images problématiques représente un défi majeur pour l’industrie de l’IA, confrontée à la nécessité de prévenir les abus tout en favorisant l’innovation.
Source : Wired AI