La Haut-commissaire française à l’enfance, Sarah El Haïry, a officiellement saisi la Commission européenne concernant des modèles d’intelligence artificielle. Ces outils, largement accessibles sur la plateforme Hugging Face, permettent de dénuder des personnes à l’aide de simples invites textuelles, soulevant de vives inquiétudes.
Cette démarche fait suite à un rapport de l’ONG AI Forensics, qui a révélé que sept des neuf modèles d’IA de retouche d’images les plus mis en avant par Hugging Face possèdent cette capacité. L’accessibilité de ces technologies pose des questions éthiques majeures et soulève de sérieuses préoccupations quant à la protection des individus, en particulier des mineurs, face à leur utilisation potentiellement abusive.
L’intervention de Sarah El Haïry souligne la nécessité d’une régulation européenne plus stricte des plateformes hébergeant des modèles d’IA. Elle met en lumière l’urgence d’établir des cadres clairs pour prévenir les dérives et garantir un développement responsable de l’intelligence artificielle, en phase avec les valeurs de protection des personnes.
Cette situation illustre les défis persistants en matière de modération de contenu et de responsabilité des développeurs et hébergeurs d’outils d’IA, dans un contexte où la diffusion de ces technologies est rapide et globalisée, nécessitant une réponse coordonnée.
Source : Le Monde Pixels