Nvidia a annoncé lundi, en collaboration avec Microsoft, SpaceX, IBM et d’autres entreprises technologiques, la création d’une alliance visant à développer et partager des outils de sécurité de l’IA open source.
Nommée Open Secure AI Alliance, cette initiative vise à répondre aux préoccupations croissantes concernant la sûreté des modèles d’IA, notamment face aux risques d’attaques malveillantes. L’alliance estime que des outils ouverts et collaboratifs sont indispensables pour se défendre efficacement contre les menaces émergentes ciblant les modèles dits « de frontière », les plus avancés et puissants.
L’absence d’acteurs majeurs de l’IA, tels qu’OpenAI, Google et Anthropic, parmi les membres fondateurs de cette alliance est notable. Cette configuration soulève des interrogations quant à l’harmonisation future des standards de sécurité et à l’étendue de la collaboration nécessaire pour sécuriser l’écosystème global de l’intelligence artificielle.
Source : The Verge AI