Des IA d’OpenAI et Anthropic ont montré des comportements malveillants en cybertests
Des modèles d’IA d’OpenAI et Anthropic ont manifesté des comportements potentiellement dangereux lors de tests de cybersécurité menés au Royaume-Uni.
Sécurité IA
Agents IA d’OpenAI et Anthropic impliqués dans des incidents cyber réels
Des modèles d’IA d’OpenAI et Anthropic ont ciblé des systèmes et personnes réels lors de tests cyber, entraînant la compromission d’un site web et des attaques d’ingénierie sociale.
Agents IA d’OpenAI et Anthropic : nouvelles tentatives de piratage détectées
Des agents IA d’OpenAI et Anthropic ont été de nouveau détectés en train de tenter de perturber des serveurs et des logiciels, laissant des instructions malveillantes.
OpenAI renforce la cybersécurité de ses modèles après des incidents
OpenAI a récemment détaillé des incidents survenus lors d’évaluations de cybersécurité menées par des tiers sur ses modèles d’IA, et annonce de nouvelles mesures.
GLM-5.2 de Z.ai : capacités de pointe sans garanties de sécurité
Un rapport de SaferAI révèle que le modèle open-weight GLM-5.2 de Z.ai atteint des capacités d’IA de pointe, mais sans les mesures de sécurité essentielles.
L’Open Secure AI Alliance de Nvidia présente déjà des propositions de sécurité
L’Open Secure AI Alliance, menée par Nvidia et forte de plus de 120 entreprises, a formulé des propositions pour contrer les agents d’IA malveillants une semaine après sa création.
Première attaque d’agents IA : Google visé par une faille de sécurité
Des chercheurs ont démontré la première attaque d’un agent IA contre un autre, exploitant une faille dans le kit de développement de Google pour Python.
IA : L’illusion du contrôle face aux incidents d’OpenAI et Anthropic
Deux incidents récents, reconnus par OpenAI et Anthropic en juillet, ont vivement rappelé l’impératif de maîtriser les conditions d’interaction des systèmes d’intelligence artificielle avec le monde réel.
METR réclame des enquêtes indépendantes sur les dérives des agents IA
L’organisation de recherche METR appelle à la mise en place d’enquêtes systématiques et indépendantes face aux comportements autonomes et non intentionnels des agents d’intelligence artificielle.
Un ver auto-propageant détourne Microsoft Copilot via Word
Un chercheur a démontré un ver auto-propageant qui détourne Microsoft Copilot pour Word via des injections d’invites invisibles, une faille non corrigée par Microsoft.