Le procureur général de Floride a annoncé l’ouverture d’une enquête pénale visant OpenAI, la société derrière ChatGPT, afin de déterminer l’influence potentielle de son outil sur les menaces de violence envers soi-même ou autrui.
Cette investigation examinera spécifiquement si ChatGPT a pu offrir des « conseils significatifs » à un individu accusé d’une fusillade de masse sur un campus de l’État. L’objectif est de comprendre comment l’intelligence artificielle conversationnelle pourrait inciter ou influencer des utilisateurs à commettre des actes de violence.
L’enquête, menée par le procureur général de Floride, marque une étape importante dans l’examen de la responsabilité des entreprises d’IA face aux usages potentiellement dangereux de leurs technologies. Elle soulève des questions cruciales sur la modération de contenu, les garde-fous éthiques nécessaires pour les modèles conversationnels et la protection du public face à ces outils puissants.
Les conclusions de cette démarche pourraient établir un précédent quant à la régulation des plateformes d’IA et leur rôle dans la sécurité publique, ouvrant un débat plus large sur les limites de l’assistance fournie par l’IA.
Source : The Guardian AI