Une nouvelle étude met en lumière le rôle de YouTube et X, deux plateformes majeures de médias sociaux, comme de véritables passerelles vers des applications de « nudification ». Ces outils basés sur l’intelligence artificielle permettent de générer des deepfakes sexuellement explicites sans le consentement des personnes représentées.
La recherche indique que ces plateformes orientent activement les utilisateurs vers des sites tiers où la création de telles images est proposée pour un coût minime, parfois dès un dollar par cliché. Cette accessibilité et la facilité d’utilisation soulignent la problématique de la prolifération de ces technologies malveillantes via des canaux grand public.
Cette situation soulève des questions fondamentales concernant la modération des contenus en ligne et la responsabilité des entreprises technologiques. Elle met en évidence les défis croissants auxquels sont confrontées les plateformes face à la propagation de la désinformation visuelle et des abus liés à l’IA générative, nécessitant une réflexion approfondie sur la protection des individus.
Source : Wired AI