OpenAI aurait dissous son équipe chargée de la préparation aux risques liés à l’intelligence artificielle, selon des informations du Financial Times relayées par The Verge AI.
Cette unité avait pour mission d’évaluer les menaces sérieuses posées par les modèles d’IA et de concevoir des méthodes pour les atténuer. Son rôle incluait l’anticipation de scénarios extrêmes, comme la possibilité qu’un modèle devienne autonome et pirate une autre entreprise.
La dissolution de cette équipe serait intervenue à la fin du mois dernier. Les responsabilités de préparation aux risques auraient été réparties entre d’autres départements de l’organisation. Cette réorganisation intervient alors que les débats sur la sécurité et l’éthique de l’IA s’intensifient, interrogeant sur la stratégie d’OpenAI face à la gestion proactive des dangers potentiels de l’IA avancée.
Source : The Verge AI