La province canadienne de Colombie-Britannique a intenté une action en justice contre OpenAI, le créateur de ChatGPT, l’accusant de ne pas avoir agi après le signalement du compte d’un attaquant impliqué dans une fusillade de masse.
Selon le Financial Times, la plainte allègue qu’OpenAI n’aurait pas réagi adéquatement malgré le signalement préalable du compte de l’agresseur. Cette inaction présumée est au cœur des accusations portées par la province canadienne.
Cette affaire soulève des questions cruciales concernant la responsabilité des entreprises d’IA en matière de modération de contenu et de sécurité des utilisateurs. Elle met en lumière les défis inhérents à la surveillance des activités sur les plateformes d’intelligence artificielle, particulièrement dans des situations potentiellement dangereuses où des signaux d’alerte sont émis.
L’issue de cette procédure judiciaire pourrait établir un précédent significatif quant à la manière dont les développeurs d’IA sont tenus responsables face aux usages problématiques de leurs technologies, et potentiellement influencer les cadres réglementaires futurs.
Source : Financial Times Tech