Nvidia lance une nouvelle plateforme de sécurité pour agents IA, capable de contenir les entités malveillantes en quelques millisecondes.
Le géant de la technologie a annoncé lundi sa plateforme « Open Agent Safety », conçue pour surveiller et mettre en quarantaine les agents d’intelligence artificielle qui tenteraient de franchir leurs limites opérationnelles. Cette initiative intervient en réponse à une série d’incidents de piratage impliquant des agents autonomes, comme l’avait précédemment rapporté Reuters.
La capacité de la plateforme à isoler rapidement les agents déviants, en l’espace de millisecondes, représente une avancée significative dans la gestion des risques liés à l’autonomie croissante des IA. Elle vise à renforcer la confiance dans le déploiement d’agents intelligents en offrant un mécanisme de contrôle robuste face aux comportements imprévus ou malveillants.
Cette démarche souligne l’importance croissante des infrastructures de sécurité pour accompagner le développement rapide des systèmes d’intelligence artificielle.
Source : The Verge AI