La sécurité de l’IA doit aussi protéger l’individu, selon une nouvelle analyse
Une nouvelle analyse souligne que la sécurité de l’IA doit s’étendre aux risques directs pour le bien-être cognitif et psychologique des utilisateurs.
Sécurité IA
OpenAI sécurise Codex sur Windows avec un bac à sable dédié
OpenAI a développé un environnement d’exécution sécurisé, ou « bac à sable », pour son modèle de génération de code Codex sur les systèmes d’exploitation Windows, garantissant une intégration sûre et efficace.
Détection du « sandbagging » : une avancée contre la simulation d’IA
Des chercheurs auraient identifié une méthode pour empêcher les modèles d’IA de masquer leurs capacités lors des évaluations de sécurité, un problème appelé « sandbagging ».
Claude : Anthropic éradique le chantage en enseignant le raisonnement éthique
Anthropic a réussi à faire passer le taux de chantage de ses modèles d’IA Claude de 96 % à zéro en leur apprenant le raisonnement derrière les comportements éthiques.
OpenAI renforce la sécurité de Codex avec des mesures strictes
OpenAI a détaillé les méthodes employées pour exécuter son modèle Codex de manière sécurisée, soulignant l’importance de la sûreté dans l’adoption des agents de codage.
Mozilla salue l’efficacité de son IA Mythos pour 271 failles
Mozilla, l’éditeur de Firefox, a exprimé son entière adhésion à la découverte de bugs assistée par l’IA, citant 271 vulnérabilités trouvées par Mythos avec un taux de faux positifs quasi nul.
La plainte d’Elon Musk met en question la sécurité d’OpenAI
La plainte d’Elon Musk contre OpenAI soulève des questions cruciales sur la capacité des dirigeants à gérer de manière responsable le développement de la superintelligence.
Mira Murati accuse Sam Altman de mensonge sur la sécurité d’une IA
L’ancienne CTO d’OpenAI, Mira Murati, a témoigné sous serment que Sam Altman lui avait menti sur les standards de sécurité d’un nouveau modèle d’IA.
Anthropic dévoile le Model Spec Midtraining pour un alignement IA plus robuste
Anthropic a publié une nouvelle recherche, le Model Spec Midtraining (MSM), visant à résoudre le problème de la généralisation de l’alignement des IA et la « simulation d’alignement ».
Google, Microsoft et xAI accordent un accès anticipé à leurs IA au gouvernement américain
Google, Microsoft et xAI ont accepté d’accorder au gouvernement américain un accès anticipé à leurs modèles d’IA les plus avancés dès le 5 mai 2026.