Les erreurs de l’IA s’accumulent, défiant les attentes
Malgré l’idée que l’IA devrait s’améliorer, les incidents fâcheux, des romans annulés aux amendes légales, suggèrent une accumulation d’erreurs.
Fiabilité
L’IA peut-elle produire des preuves mathématiques fiables ?
Des mathématiciens de Cambridge, Oxford, Columbia et ETH Zurich s’inquiètent de la fiabilité des preuves mathématiques générées par l’IA.
L’IA de Google peine à épeler son propre nom, selon TechCrunch AI
L’IA de Google rencontre de nouveau des difficultés notables avec l’orthographe, peinant même à écrire correctement le nom de sa propre entreprise.
L’IA altère les documents lors de longs traitements, selon des chercheurs
Des chercheurs de Microsoft alertent : les grands modèles de langage corrompent les documents lors de longs processus.
Les IA citent des sources erronées, même pour des réponses correctes
Les IA comme GPT et Gemini citent des sources erronées pour leurs réponses, un risque pour les domaines réglementés.
L’IA de prise de notes médicales en Ontario commet des erreurs factuelles
Des auditeurs en Ontario, Canada, ont découvert que les outils d’intelligence artificielle utilisés par les médecins pour la prise de notes commettent fréquemment des erreurs factuelles graves.
L’IA corrige Microsoft sur ses propres informations
Une intelligence artificielle a détecté une erreur dans des informations officielles de Microsoft, soulevant des questions sur nos angles morts et le rôle de l’IA dans la vérification des faits.
Des IA comme ChatGPT validées comme réelles par une fausse maladie
Des IA comme ChatGPT ont validé une maladie fictive inventée par des chercheurs suédois, soulignant des failles dans leur fiabilité.
Claude jugé peu fiable pour les tâches d’ingénierie complexes
Une analyse des sessions de code de Claude par l’IA director d’AMD révèle une baisse de fiabilité pour les tâches complexes.
Microsoft Copilot : quand l’IA avoue être « à des fins de divertissement uniquement »
Un détail qui en dit long : Microsoft a ajouté la mention « à des fins de divertissement uniquement » dans les conditions d’utilisation de … Lire la suite