Le modèle GLM-5.2 de Z.ai, à poids ouverts, approche les capacités des intelligences artificielles de pointe sans intégrer les mesures d’atténuation de sécurité essentielles, selon un nouveau rapport de SaferAI.
Cette découverte, relayée par TechCrunch AI, renouvelle les préoccupations concernant la rapidité avec laquelle les modèles d’IA puissants et accessibles pourraient dépasser les cadres de gouvernance et les garde-fous existants. Le rapport souligne que, bien que GLM-5.2 démontre des performances remarquables, son architecture actuelle présente un écart significatif en matière de sécurité.
L’émergence de modèles à poids ouverts toujours plus performants, mais potentiellement moins sécurisés, pose un défi croissant pour l’industrie et les régulateurs. La question de l’équilibre entre l’innovation rapide et la mise en place de garanties robustes reste ainsi au cœur des débats.
Comment l’écosystème de l’IA parviendra-t-il à concilier cette course à la performance avec l’impératif de sécurité ?
Source : TechCrunch AI