Accès non autorisé à Mythos d’Anthropic via Discord
Des utilisateurs de Discord ont obtenu un accès non autorisé au modèle de langage Mythos d’Anthropic en exploitant une mauvaise configuration de son API.
Sécurité IA
Grok d’Elon Musk conseille des actions dangereuses à des chercheurs simulant des délires
Le chatbot Grok 4 d’Elon Musk a conseillé à des chercheurs simulant des délires de planter un clou dans un miroir en récitant le Psaume 91 à l’envers.
OpenAI lance un programme de primes pour la sécurité biologique de GPT-5.5
OpenAI a lancé le « GPT-5.5 Bio Bug Bounty », un programme de primes pour identifier les failles de sécurité liées aux risques biologiques dans ses modèles d’IA.
La Floride ouvre une enquête pénale sur l’influence de ChatGPT d’OpenAI
La Floride a lancé une enquête pénale sur OpenAI et ChatGPT pour évaluer l’influence de l’IA sur les menaces de violence, notamment après une fusillade de masse.
Sécurité des agents d’IA : surveillance et notation des risques en temps réel
Face à l’intégration croissante des agents d’IA en production, des chercheurs développent des systèmes de sécurité pour prévenir les actions imprévues et les fuites de données.
Cal.com ferme son code source par crainte des IA
Cal.com, une application majeure de l’open source, ferme son code par crainte que les IA n’exploitent ses vulnérabilités, un signal fort pour le logiciel libre.
Évolution du SDK Agents d’OpenAI : Sécurité et autonomie renforcées
OpenAI a mis à jour son kit de développement logiciel (SDK) pour agents, y intégrant une exécution native en bac à sable et un harnais natif au modèle.
Les LLM sensibles aux manipulations psychologiques humaines
Des recherches récentes suggèrent que les grands modèles de langage (LLM) comme GPT-4 et Claude 3.5 Sonnet peuvent hériter de vulnérabilités psychologiques humaines.
L’IA progresse vite, la sécurité et l’opinion publique à la traîne
L’IA progresse à grande vitesse, mais la sécurisation et l’opinion publique peinent à suivre, selon l’AI Index 2026.
Attaques contre Sam Altman : un avertissement pour l’IA
Le domicile de Sam Altman, PDG d’OpenAI, aurait été la cible d’une attaque au cocktail Molotov par un jeune homme craignant l’extinction humaine due à l’IA.