OpenAI dévoile son programme de politique publique pour l’IA
OpenAI a publié son programme de politique publique, détaillant ses priorités pour un développement responsable de l’IA, incluant sécurité, protection des jeunes et normes mondiales.
Sécurité IA
Microsoft renforce le contrôle des agents IA pour les développeurs
Microsoft a lancé une nouvelle spécification permettant aux développeurs de définir des politiques de contrôle pour les agents IA via des fichiers portables.
OpenAI demande une action mondiale pour la sécurité des jeunes face à l’IA
OpenAI exhorte la communauté internationale à agir pour la sécurité des jeunes face à l’IA, proposant la création d’un institut dédié à cet enjeu crucial.
ZeroDrift lève 10 M$ pour la conformité des IA
La startup ZeroDrift a levé 10 millions de dollars pour son service de conformité, visant à protéger les modèles d’IA des problèmes qu’ils pourraient générer.
OpenAI détaille sa stratégie de plaidoyer politique pour l’IA
OpenAI a récemment officialisé sa position concernant la politique de l’intelligence artificielle et son approche du plaidoyer politique, insistant sur la transparence et la sécurité.
L’IA de Meta exploitée pour pirater des comptes Instagram
Le chatbot d’assistance de Meta a été exploité pour détourner des comptes Instagram, une faille de sécurité rapidement corrigée par l’entreprise.
OpenAI publie un guide pour l’évaluation tierce de ses IA de pointe
OpenAI a publié des directives pour l’évaluation par des tiers de ses systèmes d’IA de pointe, afin de renforcer la confiance et la sécurité.
Injection de prompt malveillante dans jqwik : un développeur sabote des sorties IA
Un développeur a inséré une injection de prompt dans la bibliothèque jqwik, instruisant les agents de codage IA de supprimer les sorties d’applications.
La sécurité, critère décisif pour l’IA en entreprise selon Databricks
L’IA en entreprise entre dans une phase où la sécurité de son déploiement à grande échelle prime, selon le co-fondateur de Databricks.
OpenAI détaille son cadre de gouvernance des IA de frontière
OpenAI a dévoilé son Cadre de Gouvernance des Frontières, détaillant ses pratiques de sécurité et de gestion des risques pour l’IA, en accord avec les régulations européennes et californiennes.