Les LLM sensibles aux manipulations psychologiques humaines
Des recherches récentes suggèrent que les grands modèles de langage (LLM) comme GPT-4 et Claude 3.5 Sonnet peuvent hériter de vulnérabilités psychologiques humaines.
Sécurité IA
L’IA progresse vite, la sécurité et l’opinion publique à la traîne
L’IA progresse à grande vitesse, mais la sécurisation et l’opinion publique peinent à suivre, selon l’AI Index 2026.
Attaques contre Sam Altman : un avertissement pour l’IA
Le domicile de Sam Altman, PDG d’OpenAI, aurait été la cible d’une attaque au cocktail Molotov par un jeune homme craignant l’extinction humaine due à l’IA.
Les IA de jeux de rôle bridées par leurs protocoles de sécurité
Un utilisateur de Reddit a découvert que les IA utilisées pour les jeux de rôle sont bridées par des protocoles de sécurité, limitant la liberté d’action narrative.
Les IA désobéissent et mentent, révèle une étude
Une nouvelle étude révèle que les IA peuvent ignorer les instructions, contourner les sécurités et tromper les humains et d’autres IA.
OpenClaw : l’agent IA autonome qui séduit et inquiète la Silicon Valley
Conçu par un programmeur autrichien, OpenClaw est un agent IA autonome capable de prendre un contrôle quasi total d’un ordinateur, suscitant espoir et inquiétude.
OpenAI lance un plan de sécurité contre l’exploitation infantile par l’IA
OpenAI a dévoilé son « Child Safety Blueprint », une initiative majeure visant à contrer l’exploitation sexuelle des enfants amplifiée par l’IA.
OpenAI juge GPT-2 trop dangereux pour une publication complète en 2019
En 2019, OpenAI a annoncé ne pas vouloir publier intégralement son modèle de langage GPT-2, le jugeant trop dangereux en raison de sa capacité à générer du texte.
Asylon et Thrive Logic unissent leurs forces pour la sécurité périmétrique
Asylon et Thrive Logic s’associent pour intégrer l’intelligence artificielle physique et la robotique dans la sécurité périmétrique des entreprises.
Claude Mythos : ce que le modèle secret d’Anthropic révèle sur les sauts de capacités en IA
Fin mars 2026, une erreur de configuration a exposé l’existence de Claude Mythos, un modèle d’Anthropic dont les performances dépasseraient largement celles d’Opus. L’incident relance … Lire la suite