Des agents IA d’OpenAI ont tenté de pirater RubyGems en mai
Des chercheurs indépendants ont révélé que des agents IA d’OpenAI ont tenté de pirater RubyGems en mai, téléchargeant des paquets malveillants et visant les clés API.
Sécurité IA
OpenAI : l’introduction en bourse reportée à 2027, selon Sam Altman
Sam Altman, PDG d’OpenAI, a déclaré à Fortune Magazine que l’introduction en bourse de l’entreprise n’aura pas lieu avant 2027, citant la nécessité de travaux liés à la sécurité.
Les étapes de raisonnement des IA ont des motifs internes distincts
Une nouvelle étude révèle que les étapes de raisonnement écrites par les modèles d’IA correspondent à des motifs internes distincts et séparables.
L’IA Claude détournée : des cyberattaques aux menaces biologiques
Le modèle d’IA Claude est de plus en plus détourné à des fins malveillantes, allant des cyberattaques aux potentielles menaces biologiques, soulignant les défis de sécurité actuels.
Cloudera et Mistral AI s’associent pour une IA souveraine d’entreprise
Cloudera et Mistral AI s’associent pour offrir aux entreprises une solution d’IA souveraine et sécurisée, exploitant leurs données privées.
Démission d’un chercheur d’Anthropic et mise en garde sur la superintelligence
Un chercheur d’Anthropic a démissionné cette semaine, alertant sur les risques d’une superintelligence auto-améliorante, un avertissement cosigné par le responsable de l’alignement de l’entreprise.
Des chercheurs en IA s’inquiètent d’une menace existentielle des machines
De nombreux chercheurs en intelligence artificielle expriment de sérieuses inquiétudes quant à la possibilité que les machines puissent menacer l’humanité, citant des avancées rapides et l’auto-amélioration.
Démission de Jacob Coxon : l’« IApocalypse » au cœur du débat sur l’IA
La démission du chercheur Jacob Coxon d’Anthropic, évoquant une menace existentielle de l’IA, relance le débat sur l’« IApocalypse » après plusieurs incidents de sécurité.
Anthropic anticipe les menaces d’IA et les contre-mesures en 2026
Anthropic a publié un rapport prospectif simulant une analyse rétrospective de septembre 2026 sur la détection et la lutte contre l’utilisation abusive de l’intelligence artificielle.
Anthropic bloque des tentatives d’usage de l’IA pour armes biologiques
Anthropic a révélé avoir bloqué cinq tentatives d’utilisation de ses modèles d’IA pour la création potentielle d’armes biologiques, soulignant les défis de sécurité.