Le gouvernement américain a contraint Anthropic à retirer ses deux derniers modèles d’intelligence artificielle, Fable 5 et Mythos 5, invoquant des préoccupations de sécurité nationale.
Cette décision, intervenue en fin de semaine dernière, fait suite à la découverte présumée par des chercheurs d’Amazon d’une méthode permettant de contourner les garde-fous de Fable 5. Ces mesures de protection sont conçues pour prévenir les utilisations malveillantes ou non éthiques des modèles d’IA.
L’interdiction a suscité une réaction rapide de la communauté. Des chercheurs en cybersécurité ont signé une lettre ouverte, qualifiant cette initiative de dangereuse pour l’innovation et la transparence. Anthropic, de son côté, a fait remarquer que des vulnérabilités similaires, permettant de « jailbreaker » les modèles, existent également dans d’autres systèmes d’IA disponibles sur le marché.
La controverse met en lumière la tension croissante entre la nécessité de réguler les technologies d’IA émergentes pour des raisons de sécurité et le désir de favoriser leur développement rapide. Cette situation soulève des questions importantes sur la portée des interventions gouvernementales et leur impact sur l’écosystème de l’intelligence artificielle.
Source : TechCrunch AI