Meta a temporairement retiré sa fonctionnalité de génération d’images par IA de ses plateformes suite à des controverses liées à des représentations historiques inexactes.
Lancée en décembre 2023, cette fonctionnalité permettait aux utilisateurs de créer des images à partir de descriptions textuelles sur Facebook, Instagram, WhatsApp et Messenger. Des utilisateurs ont signalé des images générées montrant des personnes non blanches dans des contextes historiques où leur présence était anachronique ou stéréotypée.
Parmi les exemples cités, des images d’une femme asiatique en uniforme nazi ou d’une famille noire dans l’Amérique du XVIIIe siècle ont suscité des critiques. Meta a reconnu que la fonctionnalité produisait des « images historiques inexactes » et a déclaré travailler à l’amélioration de la « précision, de la nuance et de la représentation ».
Cet incident rappelle les défis persistants dans le développement de modèles d’IA générative capables d’éviter les biais et de gérer la représentation de manière appropriée. Google Gemini avait rencontré des problèmes similaires plus tôt cette année, entraînant également une suspension temporaire de sa fonction de génération d’images.
La réintégration de l’outil dépendra des ajustements apportés pour garantir une meilleure fidélité historique et une représentation plus juste.
Source : Hacker News (Algolia)