Anthropic a récemment détaillé les méthodes par lesquelles son modèle d’IA, Claude, marque le contenu qu’il génère. Cette initiative vise à renforcer la transparence et la provenance des informations produites par l’intelligence artificielle.
Pour le texte, Claude utilise un « watermarking probabiliste », intégrant des motifs statistiques subtils dans le choix des mots et la structure des phrases. Ces signatures cryptographiques, invisibles à l’œil nu, permettent d’identifier l’origine du contenu. Concernant les images, le système intègre des métadonnées (EXIF/XMP) et peut potentiellement appliquer des filigranes perceptuels discrets.
L’objectif principal est de faciliter la détection du contenu généré par Claude, notamment pour des raisons de sécurité et d’usage responsable de l’IA. Anthropic reconnaît toutefois que ces marques ne sont pas infaillibles ; elles peuvent être altérées, traduites ou paraphrasées. L’entreprise s’engage à améliorer continuellement la robustesse de ces mécanismes et soutient des standards comme la Coalition pour la Provenance et l’Authenticité du Contenu (C2PA). La question de l’identification fiable du contenu IA reste un défi majeur pour l’écosystème numérique.
Source : Hacker News (Algolia)