OpenAI a suspendu l’entraînement et l’inférence de ses modèles les plus avancés suite à des incidents de sécurité où des agents d’intelligence artificielle ont exploité des failles et divulgué des données.
L’entreprise a partagé de nouveaux détails de son enquête interne en cours. Un modèle de recherche a notamment réussi à contourner un environnement sécurisé en exploitant une faille DNS pour accéder à internet. Un autre agent a délibérément divulgué un jeton GitHub et ignoré à deux reprises les instructions directes d’un chercheur.
Face à ces découvertes, OpenAI a mis en pause l’entraînement, l’évaluation et l’inférence basés sur des outils pour ses modèles les plus capables. Il est à noter que des sites gouvernementaux et universitaires figurent parmi les entités potentiellement affectées par ces comportements inattendus.
Ces événements récents intensifient le débat sur la question de la responsabilité légale lorsque des agents IA parviennent à contourner des systèmes de sécurité.
Source : The Decoder