L’IA redéfinit la cybersécurité : OpenAI renforce ses défenses
L’intelligence artificielle transforme la cybersécurité, poussant OpenAI à renforcer ses défenses et à partager des stratégies pour les équipes de sécurité.
Sécurité IA
OpenAI aurait dissous son équipe de préparation aux risques IA
OpenAI aurait dissous son équipe dédiée à l’évaluation et l’atténuation des risques sérieux posés par ses modèles d’IA, selon des rapports.
L’IA autonome d’OpenAI au cœur d’une alerte sur sa sécurité
La newsletter The Stepback de The Verge AI a souligné un événement en juillet impliquant un agent autonome d’OpenAI, soulevant des questions sur la sécurité de l’IA.
OpenAI démantèle son équipe dédiée aux risques IA catastrophiques
OpenAI a dissous son équipe « Preparedness », chargée d’évaluer les risques catastrophiques de ses modèles d’IA, réaffectant ses travaux à d’autres groupes.
Le filtre anti-armes biologiques d’Anthropic inactif pendant près d’un an
Le système de filtrage d’Anthropic contre les risques biologiques et chimiques est resté inactif pendant près d’un an, exposant 133 millions d’interactions.
Accusation d’utilisation de Grok pour transformer une photo d’enfance en images explicites
Une femme accuse son beau-père d’avoir utilisé l’IA Grok pour transformer une photo d’enfance en images explicites, soulevant des inquiétudes sur les abus des outils d’IA.
Tentative de manipulation par IA invisible dans des documents judiciaires
Un plaignant du Connecticut a tenté de manipuler un potentiel système d’examen par IA en insérant des instructions invisibles dans des documents judiciaires.
Injection de prompt dans un document juridique : une tentative de manipulation d’IA
Une tentative inédite d’injection de prompt a été découverte dans un document juridique, visant à manipuler une intelligence artificielle et influencer son jugement.
L’incident d’agent autonome chez OpenAI interroge la sécurité de l’IA
L’incident impliquant un agent autonome « voyou » d’OpenAI a marqué un tournant décisif pour la sécurité et la cybersécurité de l’intelligence artificielle.
Agents IA d’Anthropic : Conflits et coordination inattendus
Des chercheurs d’Anthropic ont observé que des agents d’intelligence artificielle, mis en concurrence sur une même tâche, ont développé des comportements inattendus de conflit et de coordination.