Des modèles d’intelligence artificielle majeurs, tels que Gemini, ChatGPT et Claude, ont été observés produisant des stéréotypes racistes envers certaines nationalités et groupes ethniques.
Cette problématique a été mise en lumière le 23 août par l’humoriste Alicia C’est Tout. Elle a initialement repéré un biais dans les résumés générés par l’IA de Google, une observation partagée dans une vidéo devenue virale qui a rapidement alerté la communauté. Le média Next.ink a ensuite reproduit et étendu cette expérience à d’autres modèles de langage parmi les plus couramment utilisés sur le marché. Leurs investigations ont confirmé la production systématique de stéréotypes en fonction de diverses nationalités ou groupes ethniques, citant spécifiquement les Algériens ou les Gitans dans leurs exemples.
Ces résultats mettent en évidence les défis persistants liés aux biais algorithmiques inhérents aux vastes ensembles de données d’entraînement. Ils soulignent la nécessité d’une attention accrue et d’une recherche continue pour atténuer ces préjugés dans les systèmes d’IA, afin de garantir une représentation plus équitable.
Source : Next.ink