Des responsables de l’administration Trump ont exigé qu’Anthropic garantisse l’impossibilité de contourner les garde-fous de son modèle d’IA Fable 5 avant toute nouvelle publication.
Selon des informations de Wired AI, ces officiels ont clairement signifié à l’entreprise que le modèle devait être totalement invulnérable aux « jailbreaks », ces techniques permettant aux utilisateurs de déjouer les restrictions éthiques ou de sécurité intégrées. Cette injonction intervient alors qu’Anthropic envisage de relancer Fable 5.
Toutefois, des experts en sécurité interrogés par Wired affirment qu’une telle exigence est techniquement irréalisable. Ils soulignent la difficulté inhérente à créer un système d’IA dont les protections seraient absolument infaillibles face à toutes les tentatives de contournement.
Cette situation met en lumière le défi persistant de la régulation et de la sécurisation des intelligences artificielles avancées. Elle pose la question de la faisabilité des attentes réglementaires face aux limites techniques actuelles du domaine.
Source : Wired AI