Le système de détection de contenu généré par intelligence artificielle d’Instagram est de nouveau en proie à des dysfonctionnements, attribuant des étiquettes erronées à des images non synthétiques.
Instagram, propriété de Meta, a déployé des étiquettes visibles pour permettre aux utilisateurs d’identifier rapidement les contenus créés par IA. L’intention est de distinguer d’un coup d’œil les images synthétiques. Or, ces dernières semaines, de nombreux utilisateurs ont signalé que le système s’était emballé.
Selon The Verge AI, Meta applique automatiquement l’étiquette « Contenu IA » à des photos que les utilisateurs n’ont ni générées ni éditées avec des outils d’intelligence artificielle. Cette situation a créé une confusion notable, le système étant décrit comme « hors de contrôle » par les retours des utilisateurs.
Ces erreurs de classification remettent en question la fiabilité des mécanismes de détection d’IA et leurs répercussions sur la modération de contenu. La capacité d’Instagram à faire la distinction entre les créations humaines et les productions algorithmiques semble actuellement compromise, nécessitant une réévaluation.
Source : The Verge AI