OpenAI a démantelé son équipe « Preparedness », chargée d’évaluer les risques catastrophiques liés à ses propres modèles d’intelligence artificielle.
Cette décision, rapportée par The Decoder, signifie que les travaux de cette unité sont désormais répartis entre d’autres groupes existants au sein de l’entreprise. La mission principale de l’équipe « Preparedness » était d’identifier et de mitiger les dangers potentiels que les systèmes d’IA d’OpenAI pourraient représenter.
Plusieurs membres du personnel spécialisé dans la sécurité ont quitté l’entreprise suite à cette réorganisation. En interne, un malaise grandit, une source décrivant un « sentiment bouillonnant de responsabilité et d’effroi » face à l’insuffisance perçue des efforts d’OpenAI en matière de sécurité.
Cette restructuration intervient alors que le débat sur la sécurité et l’éthique de l’IA prend une ampleur croissante à l’échelle mondiale.
Source : The Decoder