ArXiv, la plateforme de prépublications académiques, va désormais bannir les chercheurs soumettant des articles contenant des « résidus d’IA » non vérifiés, afin de préserver l’intégrité scientifique.
Cette nouvelle politique vise à contrer la prolifération de contenus générés par des modèles de langage (LLM) sans supervision humaine adéquate. Si un article présente des « preuves irréfutables que les auteurs n’ont pas vérifié les résultats de la génération par LLM », il sera rejeté et ses auteurs pourront être bannis.
Les preuves incluent des références bibliographiques inventées ou des « méta-commentaires » laissés par un LLM. Cette mesure souligne l’importance cruciale de la vérification humaine dans la recherche, même lorsque des outils d’IA sont utilisés pour l’assistance à la rédaction ou à la synthèse.
L’initiative d’ArXiv met en lumière les défis croissants posés par l’intégration de l’intelligence artificielle dans le processus de publication scientifique. Elle pourrait inciter d’autres plateformes et revues à renforcer leurs propres protocoles de contrôle.
Reste à voir comment cette politique sera appliquée et quel impact elle aura sur la vitesse et la qualité des publications scientifiques à l’avenir.
Source : The Verge AI