La ville de San Francisco a officiellement sommé Apple et Google de retirer de leurs boutiques d’applications des outils d’intelligence artificielle permettant de « dénuder » des personnes.
Le bureau du procureur de la ville a envoyé cette semaine des lettres de mise en demeure aux géants technologiques. Il leur demande de cesser immédiatement de tirer profit de 13 applications de « face-swap » (échange de visages) qui exploitent l’IA. Ces applications sont spécifiquement conçues pour modifier des images et créer des représentations explicites non consensuelles.
Ces outils sont majoritairement employés pour cibler des femmes et des jeunes filles, transformant leurs photos en contenus à caractère sexuel sans leur consentement. La ville de San Francisco insiste sur le fait qu’Apple et Google ne devraient pas bénéficier financièrement de la distribution de telles technologies, considérées comme préjudiciables et potentiellement illégales, et qu’elles doivent agir pour protéger leurs utilisateurs.
Cette démarche souligne la pression croissante sur les plateformes pour qu’elles assument pleinement leur responsabilité face aux dérives éthiques et légales de l’intelligence artificielle générative, et la nécessité d’une régulation plus stricte des contenus disponibles.
Source : Wired AI