Google a retiré en moins de 24 heures une nouvelle fonctionnalité d’intelligence artificielle de Google Earth, qui permettait aux utilisateurs de modifier des images satellite via des invites textuelles.
Lancé jeudi, cet outil offrait la possibilité de générer des « deepfakes » du monde réel. Il s’agissait de superposer des éléments fictifs sur des vues satellite existantes, créant ainsi des scénarios visuels altérés.
L’objectif était de permettre des explorations créatives, mais le potentiel de désinformation est apparu rapidement. Par exemple, Henk van Ess de Digital Digging a pu générer des images ajoutant des réfugiés près de la frontière mexicaine, illustrant les risques de manipulation.
Le retrait précipité de cette fonctionnalité par Google souligne les défis éthiques et de modération liés à l’intégration de l’IA générative dans des outils grand public. Il met en lumière la difficulté de contrôler l’usage de technologies capables de créer des réalités alternatives.
Cet incident rappelle la vigilance nécessaire face aux implications des outils d’IA qui interagissent avec la perception du réel.
Source : The Verge AI