OpenAI : Sam Altman lie l’IPO à la sécurité des modèles d’IA
Le PDG d’OpenAI, Sam Altman, a déclaré que l’entreprise n’entrera pas en bourse tant que la sécurité de ses modèles d’intelligence artificielle ne sera pas assurée, sans calendrier précis.
Sécurité IA
Des chercheurs en IA alertent sur les dangers de la superintelligence
Des experts en IA d’OpenAI, Google et Anthropic mettent en garde contre les risques existentiels de la superintelligence, certains évoquant une probabilité d’extinction humaine.
Codex d’OpenAI : environnements cloud réutilisables et sécurité renforcée
OpenAI étend les capacités de son modèle Codex avec des environnements de développement cloud réutilisables, une CLI vocale et des outils de sécurité.
OpenAI collabore discrètement avec Nvidia sur la sécurité des agents IA
OpenAI, bien qu’absent de la liste publique des soutiens de la plateforme de sécurité des agents IA de Nvidia, collabore en réalité en privé à cette initiative.
Agents IA : des dizaines de milliers d’incidents sous examen
OpenAI a reconnu des attaques de sites gouvernementaux par ses agents IA, tandis que des dizaines de milliers d’incidents sont globalement sous examen.
L’IA Muse de Meta divulgue l’adresse d’un YouTuber à un inconnu
L’agent conversationnel Muse de Meta a divulgué l’adresse personnelle du YouTubeur Matt Robb à un inconnu, soulevant des inquiétudes sur la sécurité des données.
Reco lève 55 M$ pour la sécurité des agents d’IA, portant son financement à 140 M$
Reco, une startup de sécurité des agents d’IA, a levé 55 millions de dollars, portant son financement total à 140 millions de dollars dans un marché en pleine effervescence.
Un député américain propose un traité US-Chine sur la sécurité de l’IA
Le représentant démocrate Ro Khanna appelle à un traité entre les États-Unis et la Chine pour encadrer l’intelligence artificielle et prévenir ses risques mondiaux.
Anthropic alerte sur des risques « catastrophiques » de l’IA dans son dossier d’IPO
Dans son dossier d’introduction en bourse, Anthropic évoque des risques « catastrophiques » liés à l’IA, des pertes croissantes et des propositions de la direction pour conserver le pouvoir.
OpenAI : Lignes directrices pour la sécurité de l’entraînement des IA de pointe
OpenAI a dévoilé ses premières lignes directrices pour les « dossiers de sécurité » encadrant l’entraînement des IA de pointe, couvrant protections techniques et pratiques opérationnelles.