Le gouvernement a retiré le modèle d’intelligence artificielle le plus puissant d’Anthropic, une décision que l’entreprise juge disproportionnée et frustrante.
Cette mesure intervient après la découverte d’une « faille potentielle étroite » (narrow potential jailbreak) au sein du système. Ironiquement, les propres avertissements de sécurité d’Anthropic concernant les risques inhérents à ses modèles pourraient avoir joué un rôle dans cette décision gouvernementale.
Anthropic a exprimé son désaccord dans un billet de blog, affirmant : « Nous ne sommes pas d’accord pour que la découverte d’une faille potentielle étroite justifie le rappel d’un modèle commercial déployé auprès de centaines de millions de personnes. » L’entreprise met en avant l’ampleur de l’utilisation de son modèle pour contester la sévérité de la sanction.
Ce rappel soulève des interrogations fondamentales sur l’équilibre délicat entre l’innovation rapide dans l’IA et la nécessité d’une régulation stricte. Il interroge également la manière dont les mises en garde des développeurs sont perçues et interprétées par les instances gouvernementales.
Source : TechCrunch AI