Hugging Face, plateforme majeure d’hébergement de modèles d’intelligence artificielle, abriterait des centaines d’outils de génération de contenu sexuel non consenti, selon une enquête d’AI Forensics.
Hébergeant des millions de modèles d’IA et des milliers de jeux de données, Hugging Face est un acteur central de l’écosystème. L’étude d’AI Forensics révèle l’absence de mécanismes concrets de modération pour prévenir ou retirer ces outils illicites, qui facilitent la création d’images explicites sans consentement.
Cette situation soulève des questions cruciales sur la responsabilité des plateformes d’IA. Elle survient tandis que l’Union européenne progresse sur son règlement sur l’intelligence artificielle (AI Act) et d’autres textes législatifs visant à encadrer l’usage et le développement de l’IA, notamment sur les aspects éthiques et de sécurité.
La pression s’intensifie sur les acteurs de l’IA pour qu’ils renforcent leurs politiques de modération et leurs outils de détection face à ces dérives.
Source : Next.ink