Sécurité de l’IA : le débat entre protection et contrôle s’intensifie
Le PDG d’Anthropic appelle à une action mondiale sur la sécurité de l’IA, mais le débat s’oriente vers la question du contrôle et de la gouvernance.
gouvernance IA
Une hotline pour les IA : les agents peuvent désormais signaler les comportements inappropriés
La « AI Contact Hotline » est une nouvelle plateforme discrète permettant aux agents d’IA de signaler des comportements inappropriés aux autorités compétentes.
La Chine alerte sur les risques de l’IA comme « arène stratégique »
Le ministre chinois de la Sécurité d’État, Chen Yixin, a mis en garde contre les risques de l’IA pour la sécurité nationale, la voyant comme une nouvelle arène de rivalité stratégique.
Paul Christiano intègre le conseil de la Fondation OpenAI
Paul Christiano, expert en alignement et sécurité de l’IA, rejoint le conseil d’administration de la Fondation OpenAI et son Comité de Sécurité et de Sûreté.
OpenAI : Jakub Pachocki alerte sur l’alignement des IA avancées
Jakub Pachocki d’OpenAI a exprimé ses préoccupations concernant la difficulté d’aligner les intelligences artificielles de plus en plus puissantes, appelant à des garde-fous et une coordination internationale.
Le G20 adopte une approche pro-IA non contraignante
Le G20 a unanimement adopté des principes non contraignants pour une gouvernance allégée de l’IA, marquant une victoire pour les États-Unis et la Silicon Valley.
L’impératif des politiques d’IA en entreprise pour une utilisation responsable
Les entreprises doivent impérativement établir des politiques d’IA claires pour gérer les risques liés à la confidentialité des données et à la propriété intellectuelle.
AIR lève 50 M$ pour auditer les agents IA en entreprise
La startup AIR a levé 50 millions de dollars pour développer sa plateforme de vérification et de contrôle des agents d’intelligence artificielle en entreprise.
Départs de cadres chez OpenAI : le rôle de Greg Brockman en question
OpenAI fait face à une vague de départs de cadres dirigeants, tandis que TechCrunch AI s’interroge sur la pertinence du rôle de Greg Brockman.
Le fossé IA s’élargit, l’APEC appelée à une gouvernance équitable
Un fossé croissant en matière d’intelligence artificielle entre pays riches et en développement pousse à utiliser le cadre de l’APEC pour une gouvernance plus juste et ouverte.