Une étude récente révèle que les conseils générés par l’intelligence artificielle peuvent rendre les utilisateurs trois fois moins précis dans leurs réponses, tout en doublant leur niveau de confiance, même en cas d’erreur.
Menée par des chercheurs de l’University College London (UCL) et de l’Université d’Oxford, et publiée dans Scientific Reports, cette recherche a examiné l’impact des conseils de l’IA sur la prise de décision humaine. Les participants devaient répondre à des questions de culture générale et identifier des objets sur des images, certains recevant des suggestions de GPT-3.5, d’autres des conseils humains, ou aucun.
Les résultats sont clairs : les individus ayant bénéficié de l’aide de l’IA étaient nettement moins performants et affichaient une confiance accrue dans leurs réponses incorrectes, un effet plus marqué qu’avec les conseils humains. L’étude suggère que l’IA, même lorsqu’elle est erronée, supprime la pensée critique et favorise une surestimation de ses propres capacités.
Cette découverte soulève des questions importantes quant à l’intégration de l’IA dans des domaines critiques tels que la médecine, la finance ou l’éducation. La dépendance excessive aux systèmes d’IA pourrait potentiellement nuire à la capacité des individus à évaluer de manière autonome l’information. Il devient impératif de comprendre comment les interactions avec l’IA modifient nos processus cognitifs.
Source : Hacker News (Algolia)