Le gouvernement américain a contraint Anthropic à retirer ses deux nouveaux modèles d’IA, Fable 5 et Mythos 5, invoquant des préoccupations de sécurité nationale.
Cette décision est intervenue la semaine dernière, après que des chercheurs d’Amazon auraient découvert une méthode pour contourner les garde-fous de Fable 5. Cette vulnérabilité présumée a déclenché l’intervention des autorités.
En réaction, des chercheurs en cybersécurité ont signé une lettre ouverte, qualifiant cette interdiction de dangereuse pour l’innovation. Anthropic a pour sa part fait remarquer que des contournements similaires existent déjà sur d’autres modèles d’intelligence artificielle disponibles sur le marché.
L’incident souligne la tension croissante entre le développement rapide de l’IA et la nécessité de garantir sa sécurité. Il pose également la question de l’équité réglementaire face à des vulnérabilités potentiellement transversales à l’industrie.
La situation met en lumière les défis complexes liés à la supervision des capacités et des risques des systèmes d’IA de nouvelle génération.
Source : TechCrunch AI