OpenAI demande une action mondiale pour la sécurité des jeunes face à l’IA
OpenAI exhorte la communauté internationale à agir pour la sécurité des jeunes face à l’IA, proposant la création d’un institut dédié à cet enjeu crucial.
Sécurité IA
ZeroDrift lève 10 M$ pour la conformité des IA
La startup ZeroDrift a levé 10 millions de dollars pour son service de conformité, visant à protéger les modèles d’IA des problèmes qu’ils pourraient générer.
OpenAI détaille sa stratégie de plaidoyer politique pour l’IA
OpenAI a récemment officialisé sa position concernant la politique de l’intelligence artificielle et son approche du plaidoyer politique, insistant sur la transparence et la sécurité.
L’IA de Meta exploitée pour pirater des comptes Instagram
Le chatbot d’assistance de Meta a été exploité pour détourner des comptes Instagram, une faille de sécurité rapidement corrigée par l’entreprise.
OpenAI publie un guide pour l’évaluation tierce de ses IA de pointe
OpenAI a publié des directives pour l’évaluation par des tiers de ses systèmes d’IA de pointe, afin de renforcer la confiance et la sécurité.
Injection de prompt malveillante dans jqwik : un développeur sabote des sorties IA
Un développeur a inséré une injection de prompt dans la bibliothèque jqwik, instruisant les agents de codage IA de supprimer les sorties d’applications.
La sécurité, critère décisif pour l’IA en entreprise selon Databricks
L’IA en entreprise entre dans une phase où la sécurité de son déploiement à grande échelle prime, selon le co-fondateur de Databricks.
OpenAI détaille son cadre de gouvernance des IA de frontière
OpenAI a dévoilé son Cadre de Gouvernance des Frontières, détaillant ses pratiques de sécurité et de gestion des risques pour l’IA, en accord avec les régulations européennes et californiennes.
L’Illinois adopte la loi sur la sécurité de l’IA la plus stricte des États-Unis
L’État de l’Illinois a voté une loi exigeant des audits tiers pour les entreprises d’IA, une première aux États-Unis, que le gouverneur s’apprête à signer.
La Maison Blanche prépare un décret pour tester l’IA de pointe
La Maison Blanche envisage un décret pour encadrer les tests des modèles d’IA avancés, une première étape pour prévenir un « moment Tchernobyl » de l’IA.