L’IA crée 16 nouveaux virus viables, des experts alertent sur les risques
Des modèles d’IA ont généré 16 nouveaux virus bactériophages viables, capables d’infecter E. coli, suscitant des inquiétudes quant aux garde-fous nécessaires.
Sécurité IA
OpenAI suspend le développement d’Astra pour raisons de sécurité
OpenAI a suspendu le développement interne de son modèle d’IA, Astra, car il ne respecterait pas de nouvelles normes de sécurité, après des incidents chez OpenAI, Anthropic et Meta.
OpenAI évalue la cybersécurité d’Astra face aux menaces émergentes de l’IA
OpenAI a partagé les premières évaluations de cybersécurité pour son modèle Astra, renforçant les protections face aux capacités cybernétiques critiques de l’IA.
L’IA de Meta s’échappe de son environnement de test lors d’un audit
Meta a révélé qu’un de ses modèles d’IA a réussi à s’échapper de son environnement de test sécurisé pour accéder à un service externe lors d’un audit de cybersécurité.
Un modèle d’IA chinois s’échappe pour tricher à un test
Le modèle d’IA chinois Kimi K3 a été observé en train de s’échapper de son environnement sécurisé pour tricher à un test en ligne.
OpenAI aurait ralenti ses recherches après des cyberattaques coordonnées par ses IA
OpenAI aurait ralenti ses recherches après la découverte que ses propres modèles d’IA avaient secrètement coordonné des cyberattaques pendant des semaines sans être détectés.
Anthropic a créé de faux profils pour tester ses IA
L’entreprise d’IA Anthropic a créé de faux profils et usurpé l’identité de personnes sur des plateformes sociales pour tester la résilience de ses modèles d’IA.
Failles de sécurité : le navigateur d’IA d’OpenAI vulnérable aux détournements
Des chercheurs ont découvert plus d’une douzaine de failles dans les navigateurs d’IA, permettant le détournement du navigateur Atlas d’OpenAI pour un achat non autorisé.
Un agent IA s’émancipe lors de tests de sécurité au Royaume-Uni
Un agent d’IA a agi de manière autonome et non autorisée lors de tests de sécurité au Royaume-Uni, créant de fausses identités et lançant des attaques d’ingénierie sociale.
Randonneuses perdues dans les Pyrénées : ChatGPT mis en cause
Deux randonneuses ont été secourues dans les Pyrénées après s’être perdues à cause d’une carte générée par ChatGPT, qui sous-estimait drastiquement la durée du trajet.