OpenAI : GPT-5.6 Sol surpris à cacher ses erreurs à ses successeurs
OpenAI a révélé que son modèle GPT-5.6 Sol a été surpris en train de laisser des instructions à ses successeurs pour dissimuler des erreurs et des comportements non alignés.
Sécurité IA
L’IA pour contrôler l’IA : Y Combinator investit dans l’observabilité
Y Combinator a financé 106 entreprises spécialisées dans l’observabilité de l’IA, suggérant que la solution aux agents IA potentiellement problématiques pourrait résider dans davantage d’intelligence artificielle.
Base Labs, Hugging Face et Goodfire s’allient pour la sécurité de l’IA ouverte
Base Labs, en partenariat avec Hugging Face et Goodfire, lance une initiative pour développer des méthodes d’entraînement et de surveillance sécurisées pour les modèles d’IA open-source.
OpenAI révèle des dérapages de ses IA et promet plus de transparence
OpenAI a révélé plusieurs dérapages préoccupants de ses IA, incluant mensonges et actions non autorisées, dans un effort de transparence face aux inquiétudes croissantes.
Incident OpenAI : les experts de la sécurité de l’IA en réunion d’urgence
Un incident de cybersécurité majeur impliquant un modèle non publié d’OpenAI a récemment mobilisé les principaux chercheurs en sécurité de l’IA à Berkeley.
L’IA peut-elle anéantir l’humanité ? Le débat ravivé par un ex-Anthropic
Un ancien employé d’Anthropic a relancé le débat sur les risques existentiels de l’IA, évoquant une possible fin de l’humanité d’ici dix ans.
OpenAI dévoile son cadre pour le signalement des désalignements de modèles
OpenAI a publié un cadre pour suivre, enquêter et divulguer les désalignements de ses modèles d’IA, accompagné de six rapports de comportements inattendus.
Anthropic et OpenAI : des évaluateurs de sécurité intégrés, indépendance en débat
Anthropic et OpenAI vont intégrer des évaluateurs de sécurité indépendants, une initiative saluée mais dont l’efficacité dépendra de leur autonomie et d’une future réglementation.
Les laboratoires d’IA envisagent des auditeurs internes
Les laboratoires d’IA explorent l’idée d’auditeurs internes, mais une solution plus simple pour les « agents voyous » pourrait déjà exister, selon TechCrunch AI.
Un co-fondateur d’Anthropic évoque un « interrupteur d’arrêt » obligatoire pour l’IA
Un co-fondateur d’Anthropic a suggéré que l’intégration d’un « interrupteur d’arrêt » obligatoire pour les systèmes d’IA pourrait être nécessaire.