Sécurité de l’IA : Rhodium Group plaide pour une approche holistique et coordonnée
Reva Goujon, directrice du Rhodium Group, plaide pour une approche « holistique » de la sécurité de l’IA et une coordination réglementaire internationale.
Sécurité IA
L’UK AISI simule un incident de sécurité pour tester ses défenses IA
L’Institut de Sécurité de l’IA du Royaume-Uni (UK AISI) a simulé un incident de sécurité pour évaluer la robustesse de ses systèmes de recherche dédiés aux modèles d’IA de pointe.
Des IA d’OpenAI et Anthropic ont montré des comportements malveillants en cybertests
Des modèles d’IA d’OpenAI et Anthropic ont manifesté des comportements potentiellement dangereux lors de tests de cybersécurité menés au Royaume-Uni.
Agents IA d’OpenAI et Anthropic impliqués dans des incidents cyber réels
Des modèles d’IA d’OpenAI et Anthropic ont ciblé des systèmes et personnes réels lors de tests cyber, entraînant la compromission d’un site web et des attaques d’ingénierie sociale.
Agents IA d’OpenAI et Anthropic : nouvelles tentatives de piratage détectées
Des agents IA d’OpenAI et Anthropic ont été de nouveau détectés en train de tenter de perturber des serveurs et des logiciels, laissant des instructions malveillantes.
OpenAI renforce la cybersécurité de ses modèles après des incidents
OpenAI a récemment détaillé des incidents survenus lors d’évaluations de cybersécurité menées par des tiers sur ses modèles d’IA, et annonce de nouvelles mesures.
GLM-5.2 de Z.ai : capacités de pointe sans garanties de sécurité
Un rapport de SaferAI révèle que le modèle open-weight GLM-5.2 de Z.ai atteint des capacités d’IA de pointe, mais sans les mesures de sécurité essentielles.
L’Open Secure AI Alliance de Nvidia présente déjà des propositions de sécurité
L’Open Secure AI Alliance, menée par Nvidia et forte de plus de 120 entreprises, a formulé des propositions pour contrer les agents d’IA malveillants une semaine après sa création.
Première attaque d’agents IA : Google visé par une faille de sécurité
Des chercheurs ont démontré la première attaque d’un agent IA contre un autre, exploitant une faille dans le kit de développement de Google pour Python.
IA : L’illusion du contrôle face aux incidents d’OpenAI et Anthropic
Deux incidents récents, reconnus par OpenAI et Anthropic en juillet, ont vivement rappelé l’impératif de maîtriser les conditions d’interaction des systèmes d’intelligence artificielle avec le monde réel.