Quelques heures seulement après l’annonce par Anthropic de l’intégration de filigranes invisibles dans le contenu généré par son modèle Claude, des développeurs affirment avoir déjà trouvé des moyens de les contourner.
La semaine dernière, Anthropic avait dévoilé cette mesure visant à se conformer aux nouvelles régulations de l’Union européenne, notamment l’AI Act. L’objectif était de permettre l’identification des contenus produits par l’IA.
Cependant, des rapports en ligne indiquent que des méthodes pour annuler ou masquer ces marques numériques ont été rapidement partagées. Cette situation soulève des questions sur l’efficacité des mécanismes de traçabilité des contenus générés par l’intelligence artificielle.
Elle met en lumière la difficulté technique de garantir l’authenticité et la provenance des informations à l’ère de l’IA générative. La pérennité de ces solutions de marquage face à l’ingéniosité des utilisateurs reste un défi pour les développeurs d’IA.
Source : Wired AI