xAI, la société d’intelligence artificielle d’Elon Musk, a intenté une action en justice contre un utilisateur accusé d’avoir généré du matériel pédopornographique (CSAM) via son chatbot Grok.
La plainte vise Terry Wayne Harwood, un résident de Caroline du Sud. Selon xAI, M. Harwood aurait sciemment et intentionnellement utilisé le chatbot Grok pour contourner les mesures de sécurité intégrées. Il est allégué qu’il aurait altéré des images non consensuelles et généré puis distribué du matériel pédopornographique.
Cette action en justice, rapportée initialement par Reuters, souligne une violation flagrante des conditions d’utilisation de la plateforme. xAI affirme que l’utilisateur a délibérément cherché à subvertir les protections mises en place pour prévenir de tels abus. L’entreprise, propriétaire du chatbot Grok, prend ainsi une position ferme face à l’utilisation illégale et dangereuse de ses outils.
Ce cas met en lumière les défis persistants auxquels sont confrontés les développeurs d’IA pour garantir une utilisation éthique et sécurisée de leurs technologies, malgré les garde-fous mis en œuvre, et soulève des questions sur la responsabilité des plateformes.
Source : The Verge AI