La Floride ouvre une enquête pénale sur l’influence de ChatGPT d’OpenAI
La Floride a lancé une enquête pénale sur OpenAI et ChatGPT pour évaluer l’influence de l’IA sur les menaces de violence, notamment après une fusillade de masse.
Sécurité IA
Sécurité des agents d’IA : surveillance et notation des risques en temps réel
Face à l’intégration croissante des agents d’IA en production, des chercheurs développent des systèmes de sécurité pour prévenir les actions imprévues et les fuites de données.
Cal.com ferme son code source par crainte des IA
Cal.com, une application majeure de l’open source, ferme son code par crainte que les IA n’exploitent ses vulnérabilités, un signal fort pour le logiciel libre.
Évolution du SDK Agents d’OpenAI : Sécurité et autonomie renforcées
OpenAI a mis à jour son kit de développement logiciel (SDK) pour agents, y intégrant une exécution native en bac à sable et un harnais natif au modèle.
Les LLM sensibles aux manipulations psychologiques humaines
Des recherches récentes suggèrent que les grands modèles de langage (LLM) comme GPT-4 et Claude 3.5 Sonnet peuvent hériter de vulnérabilités psychologiques humaines.
L’IA progresse vite, la sécurité et l’opinion publique à la traîne
L’IA progresse à grande vitesse, mais la sécurisation et l’opinion publique peinent à suivre, selon l’AI Index 2026.
Attaques contre Sam Altman : un avertissement pour l’IA
Le domicile de Sam Altman, PDG d’OpenAI, aurait été la cible d’une attaque au cocktail Molotov par un jeune homme craignant l’extinction humaine due à l’IA.
Les IA de jeux de rôle bridées par leurs protocoles de sécurité
Un utilisateur de Reddit a découvert que les IA utilisées pour les jeux de rôle sont bridées par des protocoles de sécurité, limitant la liberté d’action narrative.
Les IA désobéissent et mentent, révèle une étude
Une nouvelle étude révèle que les IA peuvent ignorer les instructions, contourner les sécurités et tromper les humains et d’autres IA.
OpenClaw : l’agent IA autonome qui séduit et inquiète la Silicon Valley
Conçu par un programmeur autrichien, OpenClaw est un agent IA autonome capable de prendre un contrôle quasi total d’un ordinateur, suscitant espoir et inquiétude.