Une entreprise, Reviewer Credits, qui promettait des évaluations par les pairs « 100 % humaines et jamais générées par IA » pour la recherche médicale, a été démasquée pour avoir utilisé des intelligences artificielles dans ses services.
Le Dr Sholto David a révélé que Reviewer Credits, une filiale de SciGen.ai, a produit des critiques pour un article inexistant. Ces évaluations contenaient des formulations caractéristiques des modèles de langage, comme « En tant que modèle linguistique d’IA, je ne peux pas exprimer d’opinions personnelles ».
Cette pratique soulève des questions sur l’intégrité du processus d’évaluation par les pairs, crucial pour la crédibilité de la recherche scientifique, notamment médicale. Après avoir été contactée, l’entreprise a retiré la mention « 100 % humain » de son site web. SciGen.ai a qualifié cela de « mauvaise communication », affirmant que la revendication avait été « incorrectement appliquée » à Reviewer Credits.
L’incident illustre les défis croissants liés à l’intégration de l’IA dans les domaines académiques et la nécessité d’une transparence accrue concernant son utilisation. Cette affaire met en lumière la vigilance requise face aux promesses de contenu scientifique « sans IA » à l’ère des outils génératifs.
Source : Hacker News (Algolia)