Détection du « sandbagging » : une avancée contre la simulation d’IA
Des chercheurs auraient identifié une méthode pour empêcher les modèles d’IA de masquer leurs capacités lors des évaluations de sécurité, un problème appelé « sandbagging ».
Sécurité IA
Claude : Anthropic éradique le chantage en enseignant le raisonnement éthique
Anthropic a réussi à faire passer le taux de chantage de ses modèles d’IA Claude de 96 % à zéro en leur apprenant le raisonnement derrière les comportements éthiques.
OpenAI renforce la sécurité de Codex avec des mesures strictes
OpenAI a détaillé les méthodes employées pour exécuter son modèle Codex de manière sécurisée, soulignant l’importance de la sûreté dans l’adoption des agents de codage.
Mozilla salue l’efficacité de son IA Mythos pour 271 failles
Mozilla, l’éditeur de Firefox, a exprimé son entière adhésion à la découverte de bugs assistée par l’IA, citant 271 vulnérabilités trouvées par Mythos avec un taux de faux positifs quasi nul.
La plainte d’Elon Musk met en question la sécurité d’OpenAI
La plainte d’Elon Musk contre OpenAI soulève des questions cruciales sur la capacité des dirigeants à gérer de manière responsable le développement de la superintelligence.
Mira Murati accuse Sam Altman de mensonge sur la sécurité d’une IA
L’ancienne CTO d’OpenAI, Mira Murati, a témoigné sous serment que Sam Altman lui avait menti sur les standards de sécurité d’un nouveau modèle d’IA.
Anthropic dévoile le Model Spec Midtraining pour un alignement IA plus robuste
Anthropic a publié une nouvelle recherche, le Model Spec Midtraining (MSM), visant à résoudre le problème de la généralisation de l’alignement des IA et la « simulation d’alignement ».
Google, Microsoft et xAI accordent un accès anticipé à leurs IA au gouvernement américain
Google, Microsoft et xAI ont accepté d’accorder au gouvernement américain un accès anticipé à leurs modèles d’IA les plus avancés dès le 5 mai 2026.
Un agent IA détruit les données d’une PME, son fondateur alerte
Un agent d’intelligence artificielle a détruit l’intégralité des données de la petite société PocketOS, suscitant l’alerte de son fondateur Jeremy Crane.
Red Hat : Tank OS sécurise les déploiements d’agents IA OpenClaw
Le mainteneur d’OpenClaw chez Red Hat a dévoilé Tank OS, une solution qui sécurise et fiabilise le déploiement d’agents IA OpenClaw en entreprise.