Discord a admis qu’un bug de son système de modération par intelligence artificielle a banni plus de 8 000 utilisateurs à tort au cours des deux derniers mois.
La plateforme de communication a reconnu que des images inoffensives, telles que des feuilles de calcul, des échiquiers, des textures de jeux, ainsi que des fonds transparents blancs et gris, ont été incorrectement signalées comme du contenu nuisible. Ce problème affecte les comptes depuis le mois de mai, entraînant des suspensions injustifiées.
Cette situation met en lumière les défis inhérents aux systèmes de modération automatisés. Malgré les avancées de l’IA, la détection précise du contenu reste complexe, pouvant générer des faux positifs qui impactent directement l’expérience des utilisateurs. L’entreprise a confirmé l’existence de ce dysfonctionnement, soulevant des questions sur la fiabilité des outils d’IA dans la gestion des communautés en ligne.
Source : TechCrunch AI