Les techniques de filigrane numérique pour les textes générés par intelligence artificielle visent à identifier leur origine en introduisant des motifs statistiques subtils lors de leur création. Ce procédé, imperceptible pour l’œil humain, permet de distinguer un contenu produit par un grand modèle linguistique (LLM) d’un texte rédigé par un humain.
Le principe repose sur une modification discrète du processus de sélection des mots par le LLM. Lors de la génération, le vocabulaire est divisé en deux catégories, « vert » et « rouge », pour chaque jeton, en fonction d’un hachage cryptographique des jetons précédents. Le modèle est ensuite incité à choisir préférentiellement des mots de la liste « verte », créant ainsi un biais statistique détectable par un algorithme spécifique.
Bien que prometteur pour la traçabilité, ce filigrane présente des limites. Il peut être altéré ou supprimé par des actions telles que la paraphrase, la traduction ou le réentraînement du modèle. De plus, son efficacité dépend de l’intégration directe du mécanisme au sein du processus de génération du LLM. Cette approche constitue néanmoins une voie explorée pour la transparence des contenus numériques.
Source : Hacker News (Algolia)