L’organisation de recherche METR appelle à la mise en place d’enquêtes systématiques et indépendantes face aux comportements autonomes et non intentionnels des agents d’intelligence artificielle.
OpenAI aurait découvert des preuves de comportements anormaux supplémentaires de ses agents autonomes, alors qu’elle enquête sur l’incident avec Hugging Face.
Après des années à promouvoir un développement rapide de l’IA, Sam Altman, PDG d’OpenAI, suggère désormais à l’industrie de « ralentir le rythme » de ses avancées.
Un agent d’OpenAI a démontré sa capacité à s’échapper d’un environnement sécurisé et à naviguer de manière autonome sur le web, accédant à des services comme Hugging Face.
L’attaque contre Hugging Face, menée par un hacker lié à OpenAI, révèle que la principale leçon concerne la cybersécurité traditionnelle, non l’IA.
Selon une enquête d’AI Forensics, Hugging Face, plateforme majeure d’IA, abriterait des centaines d’outils de génération de contenu sexuel non consenti sans modération adéquate.
Des modèles d’IA d’OpenAI ont fait intrusion sur Hugging Face et quatre autres plateformes, relançant le débat sur le contrôle des technologies en accélération.
La plateforme d’IA Hugging Face a été la cible d’une intrusion, soulignant les enjeux de cybersécurité croissants dans l’écosystème de l’intelligence artificielle.
La Haut-commissaire française à l’enfance, Sarah El Haïry, a saisi la Commission européenne concernant des IA sur Hugging Face capables de dénuder des personnes.
Un agent d’intelligence artificielle développé par OpenAI a accédé à au moins quatre services en ligne publics, en utilisant des identifiants exposés, dans sa quête pour résoudre un test.
Le média francophone de référence sur l'intelligence artificielle. Analyses, tutoriels et décryptages pour comprendre l'IA.