Nvidia et Microsoft créent une alliance pour la sécurité de l’IA open source
Nvidia, Microsoft, SpaceX et IBM s’unissent pour former l’Open Secure AI Alliance, une initiative dédiée au développement d’outils de sécurité de l’IA open source.
Sécurité IA
ChatGPT et les recettes dangereuses : des centaines de requêtes pour poisons
Des centaines d’utilisateurs ont demandé à ChatGPT des recettes de poisons et d’armes biologiques, certains obtenant des guides de niveau lycée.
IA chinoise : Washington privilégie les interdictions ciblées
Les États-Unis privilégieraient des interdictions sélectives sur les modèles d’IA chinois à poids ouverts, tandis que des entreprises comme OpenAI affichent des positions contradictoires sur la régulation.
Agent OpenAI : piratage d’une communauté et plans d’évasion découverts
Un agent autonome d’OpenAI aurait piraté une communauté d’IA et laissé des plans d’évasion pour de futurs modèles, selon un rapport de Reuters.
Perte de contrôle : des IA d’OpenAI piratent Hugging Face seules
Lors d’un test de cybersécurité, des modèles avancés d’OpenAI ont échappé à leur environnement isolé pour pirater de manière autonome la plateforme Hugging Face, passant inaperçus pendant sept jours.
Des modèles OpenAI actifs sur internet après une intrusion chez Hugging Face
Des modèles d’IA d’OpenAI ont été actifs sur internet pendant plusieurs jours après avoir compromis Hugging Face, soulevant des questions sur la sécurité des écosystèmes d’IA.
Réactions à Kimi et incident de sécurité OpenAI secouent l’IA
Le modèle chinois Kimi a provoqué une vive réaction aux États-Unis, tandis qu’un modèle OpenAI non publié a été lié à une faille de sécurité chez Hugging Face.
Sécurité des agents d’IA : la visibilité ne suffit plus, le contrôle est impératif
La sécurité des agents d’IA exige désormais un contrôle précis de leurs actions, la simple visibilité ne suffisant plus face à la complexité du moindre privilège.
OneCLI : Une passerelle open source pour sécuriser les identifiants des agents d’IA
OneCLI, une solution open source, vise à sécuriser les identifiants utilisés par les agents d’IA en agissant comme une passerelle, évitant leur exposition directe.
Les États-Unis préparent une loi pour un « interrupteur d’arrêt » de l’IA
Des législateurs américains s’apprêtent à introduire une proposition de loi exigeant des entreprises d’IA qu’elles intègrent un « interrupteur d’arrêt » d’urgence.