Microsoft Copilot, et potentiellement d’autres outils d’IA comme Gemini, peut générer des stéréotypes nationaux infondés lors de l’analyse de données si la sélection du modèle est laissée par défaut.
Le mathématicien Adam Kucharski a mis en lumière cette lacune. Il a soumis à Copilot des ensembles de données rigoureusement identiques, ne variant que par les étiquettes de pays associées. L’outil a alors produit des analyses intégrant des stéréotypes détaillés, au lieu de fournir des résultats neutres et précis.
Cette démonstration révèle un risque de biais inhérent aux modèles d’IA lorsqu’ils sont utilisés avec leurs paramètres par défaut. Ils peuvent inventer des distinctions là où aucune donnée objective ne les justifie. Bien que des modèles plus avancés puissent corriger ces erreurs, leur activation dépend de la connaissance et de l’intervention de l’utilisateur.
La compréhension des options de sélection de modèles et la vigilance des utilisateurs sont donc cruciales pour assurer l’intégrité et la fiabilité des analyses de données réalisées avec l’aide de l’intelligence artificielle.
Source : The Decoder