Un développeur logiciel affirme avoir réussi à rétro-ingénierer le système de filigrane numérique SynthID de Google DeepMind. Cette allégation suggère qu’il serait possible de retirer les marques d’identification des images générées par intelligence artificielle ou d’en insérer manuellement dans d’autres créations.
Le développeur, connu sous le pseudonyme Aloshdenny, a publié son travail en open-source sur GitHub, détaillant le processus qu’il prétend avoir utilisé. Il documente comment, selon lui, les filigranes conçus pour authentifier le contenu IA pourraient être manipulés, offrant ainsi de nouvelles perspectives sur la traçabilité des œuvres numériques.
Cependant, Google conteste fermement cette affirmation. L’entreprise a déclaré que la revendication du développeur n’est pas avérée, remettant en question la validité de la méthode présentée. Cette controverse met en lumière les défis persistants liés à la fiabilité des systèmes de marquage numérique.
La robustesse des outils d’authentification du contenu généré par IA demeure un enjeu majeur pour l’écosystème numérique, soulevant des questions sur la capacité à garantir l’origine des créations à l’ère de l’intelligence artificielle générative.
Source : The Verge AI