Le gouvernement américain aurait alerté Anthropic qu’un groupe chinois avait accédé à son modèle d’IA Claude Fable 5 via un « jailbreak », une faille que l’entreprise aurait refusé de corriger avant l’instauration des contrôles à l’exportation américains.
Cette révélation provient de David Sacks, conseiller de l’ancien président Donald Trump, qui a affirmé que le PDG d’Anthropic, Dario Amodei, avait été directement informé de cette vulnérabilité. L’alerte concernait un accès non autorisé à l’un des modèles phares de l’entreprise, potentiellement par une entité étrangère.
Selon Sacks, Anthropic aurait justifié sa décision en minimisant la gravité du « jailbreak », le jugeant non sérieux et ne nécessitant pas de correction urgente. Cette position soulève des questions sur l’évaluation des risques de sécurité par les entreprises d’IA, surtout lorsque des avertissements émanent des autorités gouvernementales concernant des acteurs étatiques ou des groupes étrangers.
L’épisode souligne les tensions grandissantes entre innovation technologique, sécurité nationale et la responsabilité des développeurs d’IA face aux menaces géopolitiques.
Source : Tom’s Hardware