Les grands modèles de langage (LLM) peuvent introduire des altérations dans les documents lorsqu’ils sont utilisés pour des processus de traitement étendus. C’est la conclusion d’une étude menée par trois chercheurs de Microsoft, qui ont testé dix-neuf modèles linguistiques majeurs.
Ces travaux mettent en lumière un risque potentiel lié à l’automatisation de tâches complexes impliquant la manipulation de données sur la durée. L’étude suggère que la fidélité des informations traitées par l’IA n’est pas garantie dans tous les scénarios.
Ces découvertes soulèvent des questions sur la fiabilité des LLM pour des applications critiques nécessitant une intégrité documentaire absolue, et appellent à une vigilance accrue quant à leur déploiement.
Source : La Revue du Digital