Anthropic, l’un des acteurs majeurs de l’intelligence artificielle, a procédé le 12 juin à la désactivation de ses modèles Claude Fable 5 et Mythos 5, sur ordre direct du gouvernement américain invoquant la sécurité nationale.
Cette injonction fait suite à la découverte d’un possible « jailbreak » de ces intelligences artificielles, une vulnérabilité qui aurait pu permettre de contourner leurs garde-fous de sécurité. Washington a exigé cette désactivation immédiate, soulignant une préoccupation grandissante face aux risques potentiels liés à l’utilisation non contrôlée des IA de pointe.
Malgré sa conformité à la directive, Anthropic a publiquement exprimé son désaccord, contestant la légitimité de cette intervention. Cet épisode met en lumière les tensions croissantes entre les impératifs d’innovation technologique et les exigences de sécurité nationale, particulièrement dans le secteur des modèles linguistiques de grande envergure.
Cette décision sans précédent pourrait redéfinir les limites de l’autonomie des entreprises technologiques face aux préoccupations étatiques.
Source : Numerama