De nombreux modèles d’intelligence artificielle interprétant des radiographies médicales affichent une confiance excessive, même lorsqu’ils fournissent des diagnostics erronés, selon les résultats du benchmark RadLE 2.0.
Le test RadLE 2.0 a été conçu pour évaluer la capacité des systèmes d’IA en radiologie à identifier les situations où ils devraient déléguer le diagnostic à un professionnel humain. Cette aptitude est fondamentale pour garantir la sécurité des patients et une intégration éthique de l’IA dans le domaine médical.
Les observations du benchmark sont claires : une proportion significative de modèles d’IA émet des conclusions incorrectes avec une certitude totale. En comparaison, les radiologues humains surpassent largement ces systèmes, notamment par leur discernement face aux cas ambigus ou complexes.
Pour que l’IA puisse un jour diagnostiquer de manière autonome, elle doit impérativement développer la capacité à reconnaître ses propres incertitudes. Apprendre à « ne rien dire » ou à demander une expertise humaine en cas de doute est une étape cruciale avant toute application clinique généralisée.
Cette capacité à reconnaître ses propres limites représente un défi majeur pour l’intégration future de l’IA dans la pratique médicale.
Source : The Decoder