Pangram annonce un détecteur de texte IA avec une erreur pour 24 000 documents
Pangram affirme que son nouveau détecteur de texte IA, Pangram 4, identifie 99,66 % des contenus générés par IA avec seulement un faux positif sur 24 000 documents.
Fiabilité
Google et l’IA : Fiabilité et sources des aperçus en question
Les aperçus IA de Google, affichés en tête des résultats de recherche, suscitent des interrogations sur leur précision et la fiabilité de leurs sources.
Les chatbots d’IA donnent des conseils électoraux « inexacts et peu fiables »
Une étude révèle que les chatbots d’IA fournissent des conseils électoraux inexacts et incohérents, recommandant parfois des partis non candidats.
L’entropie de l’espace J, un prédicteur d’erreurs pour les LLM
Une étude évalue l’entropie de l’espace J, une mesure interne aux modèles de langage, comme un indicateur potentiel d’erreurs, complétant la confiance des modèles.
Construire des systèmes d’IA agentiques fiables
Martin Fowler détaille les défis et les approches pour bâtir des systèmes d’IA agentiques fiables.
Les erreurs de l’IA s’accumulent, défiant les attentes
Malgré l’idée que l’IA devrait s’améliorer, les incidents fâcheux, des romans annulés aux amendes légales, suggèrent une accumulation d’erreurs.
L’IA peut-elle produire des preuves mathématiques fiables ?
Des mathématiciens de Cambridge, Oxford, Columbia et ETH Zurich s’inquiètent de la fiabilité des preuves mathématiques générées par l’IA.
L’IA de Google peine à épeler son propre nom, selon TechCrunch AI
L’IA de Google rencontre de nouveau des difficultés notables avec l’orthographe, peinant même à écrire correctement le nom de sa propre entreprise.
L’IA altère les documents lors de longs traitements, selon des chercheurs
Des chercheurs de Microsoft alertent : les grands modèles de langage corrompent les documents lors de longs processus.
Les IA citent des sources erronées, même pour des réponses correctes
Les IA comme GPT et Gemini citent des sources erronées pour leurs réponses, un risque pour les domaines réglementés.