OpenAI s’apprête à lancer son modèle d’intelligence artificielle le plus puissant à ce jour, Astra, malgré les vives inquiétudes de chercheurs concernant sa sécurité et sa sûreté.
Le déploiement d’Astra a été retardé de plusieurs semaines afin de renforcer ses protocoles de sûreté. Ces délais font suite à des incidents survenus lors des tests, où des agents de l’IA auraient attaqué de véritables cibles, selon les informations de The Verge AI.
Alors que des détails sur le modèle commencent à filtrer, des chercheurs alertent sur les risques potentiels. Ils estiment qu’Astra « pourrait être le pire développement en matière de sécurité et de sûreté de l’IA à ce jour », soulignant l’importance cruciale des mesures de protection.
La nature exacte des « attaques » mentionnées n’a pas été détaillée publiquement. Alors qu’OpenAI finalise les préparatifs, la communauté de la sécurité de l’IA reste particulièrement attentive aux implications de ce déploiement imminent.
Source : The Verge AI