Une victime de harcèlement accuse OpenAI d’avoir ignoré ses avertissements répétés concernant un utilisateur dangereux de ChatGPT, dont l’outil aurait alimenté les délires de son ex-conjoint.
La plaignante affirme avoir signalé à trois reprises le comportement de cet individu, y compris une alerte interne d’OpenAI relative à un risque de“mass casualty” (attentat de masse). Malgré ces alertes, l’outil aurait continué à être utilisé par le harceleur.
Cette affaire soulève des questions cruciales sur la responsabilité des développeurs d’IA face aux usages malveillants de leurs technologies et sur l’efficacité des mécanismes de sécurité mis en place.
Source : TechCrunch AI