La ville de San Francisco a formellement enjoint Meta de cesser la diffusion de publicités à caractère pédocriminel générées par intelligence artificielle sur ses plateformes.
Le bureau du procureur de la ville a demandé à Meta de fournir des explications sur la manière dont ces publicités nuisibles ont pu être diffusées de manière répétée sur Facebook et Instagram. Cette injonction souligne une préoccupation croissante concernant la modération de contenu et l’utilisation de l’IA pour générer des images illégales.
En réponse, l’entreprise technologique a affirmé que ces publicités ne relèvent pas de la juridiction de la ville. Cette position soulève des questions sur la responsabilité des plateformes face aux contenus illicites, en particulier lorsque ceux-ci sont produits par des technologies émergentes comme l’IA générative.
L’incident met en lumière les défis persistants pour les géants du numérique dans la gestion des contenus illégaux et la protection des utilisateurs. Il illustre également la tension entre les régulateurs locaux et les entreprises mondiales concernant l’application des lois sur le contenu en ligne. Comment les autorités parviendront-elles à encadrer efficacement ces nouvelles formes de criminalité numérique ?
Source : Wired AI