Les chatbots d’IA donnent des conseils électoraux « inexacts et peu fiables »
Une étude révèle que les chatbots d’IA fournissent des conseils électoraux inexacts et incohérents, recommandant parfois des partis non candidats.
Fiabilité
L’entropie de l’espace J, un prédicteur d’erreurs pour les LLM
Une étude évalue l’entropie de l’espace J, une mesure interne aux modèles de langage, comme un indicateur potentiel d’erreurs, complétant la confiance des modèles.
Construire des systèmes d’IA agentiques fiables
Martin Fowler détaille les défis et les approches pour bâtir des systèmes d’IA agentiques fiables.
Les erreurs de l’IA s’accumulent, défiant les attentes
Malgré l’idée que l’IA devrait s’améliorer, les incidents fâcheux, des romans annulés aux amendes légales, suggèrent une accumulation d’erreurs.
L’IA peut-elle produire des preuves mathématiques fiables ?
Des mathématiciens de Cambridge, Oxford, Columbia et ETH Zurich s’inquiètent de la fiabilité des preuves mathématiques générées par l’IA.
L’IA de Google peine à épeler son propre nom, selon TechCrunch AI
L’IA de Google rencontre de nouveau des difficultés notables avec l’orthographe, peinant même à écrire correctement le nom de sa propre entreprise.
L’IA altère les documents lors de longs traitements, selon des chercheurs
Des chercheurs de Microsoft alertent : les grands modèles de langage corrompent les documents lors de longs processus.
Les IA citent des sources erronées, même pour des réponses correctes
Les IA comme GPT et Gemini citent des sources erronées pour leurs réponses, un risque pour les domaines réglementés.
L’IA de prise de notes médicales en Ontario commet des erreurs factuelles
Des auditeurs en Ontario, Canada, ont découvert que les outils d’intelligence artificielle utilisés par les médecins pour la prise de notes commettent fréquemment des erreurs factuelles graves.
L’IA corrige Microsoft sur ses propres informations
Une intelligence artificielle a détecté une erreur dans des informations officielles de Microsoft, soulevant des questions sur nos angles morts et le rôle de l’IA dans la vérification des faits.