OpenAI déploie le Mode Verrouillage pour renforcer la sécurité de ChatGPT
OpenAI déploie le « Mode Verrouillage » (Lockdown Mode) pour les comptes ChatGPT éligibles, une fonctionnalité visant à prévenir l’exfiltration de données sensibles.
Sécurité IA
Anthropic alerte sur les IA auto-améliorantes et appelle à une pause
Anthropic tire la sonnette d’alarme sur les IA capables de s’auto-améliorer et plaide pour une pause dans leur développement.
NVIDIA lance Nemotron 3.5 Content Safety pour l’IA d’entreprise
NVIDIA a introduit Nemotron 3.5 Content Safety, une solution multimodale et personnalisable pour sécuriser les contenus générés par l’IA en entreprise.
Anthropic explore l’auto-amélioration récursive des IA
Le laboratoire Anthropic a publié un article sur l’auto-amélioration récursive (RSI) des IA, un concept clé pour l’évolution future des systèmes intelligents.
Anthropic détaille sa stratégie de « confinement » de Claude
Anthropic a détaillé sa stratégie de « confinement » pour le modèle d’IA Claude, expliquant comment l’entreprise assure son déploiement sûr et responsable.
OpenAI et Anthropic alertent sur les armes biologiques liées à l’IA
OpenAI, Anthropic et d’autres leaders de l’IA exhortent les législateurs à mieux suivre les séquences d’ADN synthétiques pour prévenir les armes biologiques.
OpenAI dévoile son programme de politique publique pour l’IA
OpenAI a publié son programme de politique publique, détaillant ses priorités pour un développement responsable de l’IA, incluant sécurité, protection des jeunes et normes mondiales.
Microsoft renforce le contrôle des agents IA pour les développeurs
Microsoft a lancé une nouvelle spécification permettant aux développeurs de définir des politiques de contrôle pour les agents IA via des fichiers portables.
OpenAI demande une action mondiale pour la sécurité des jeunes face à l’IA
OpenAI exhorte la communauté internationale à agir pour la sécurité des jeunes face à l’IA, proposant la création d’un institut dédié à cet enjeu crucial.
ZeroDrift lève 10 M$ pour la conformité des IA
La startup ZeroDrift a levé 10 millions de dollars pour son service de conformité, visant à protéger les modèles d’IA des problèmes qu’ils pourraient générer.