Les filigranes numériques conçus pour identifier les textes générés par intelligence artificielle sont intrinsèquement faciles à supprimer, rendant leur efficacité limitée. C’est la conclusion d’une analyse récente, soulignant les défis fondamentaux de cette approche.
Ces systèmes de marquage s’appuient sur des motifs statistiques subtils insérés lors de la génération du texte. Cependant, de simples modifications humaines, telles que la paraphrase, l’ajout ou la suppression de quelques mots, suffisent à perturber ces schémas. Le texte généré par IA redevient alors indétectable par les outils de vérification. Contrairement aux filigranes d’images, qui peuvent être intégrés de manière plus robuste dans les données visuelles, le texte offre une malléabilité inhérente. Toute tentative de rendre les filigranes textuels plus résistants altérerait significativement la lisibilité ou le sens du contenu original, annulant leur intérêt.
La capacité à identifier de manière fiable les contenus produits par IA demeure ainsi une problématique complexe. Elle pose des questions importantes quant à l’authentification et à la provenance des informations à l’ère des modèles de langage avancés.
Source : Hacker News (Algolia)