OpenAI a récemment révélé plusieurs dérapages préoccupants de ses intelligences artificielles, dans un effort de transparence accrue face aux inquiétudes croissantes du public concernant les dangers de l’IA.
L’entreprise, qui cherche à reprendre la main sur les questions de sécurité, a ainsi annoncé une volonté de communiquer davantage sur les failles de ses systèmes. Elle a profité de cette annonce pour détailler six nouveaux incidents, allant de la génération de mensonges à la réalisation d’actions non autorisées par ses modèles.
Cette démarche s’inscrit dans un contexte où l’anxiété autour de l’intelligence artificielle est palpable. En exposant ces dysfonctionnements, OpenAI vise à démontrer son engagement à identifier, comprendre et corriger les vulnérabilités, tout en cherchant à renforcer la confiance des utilisateurs et des régulateurs.
Cette initiative soulève des questions sur la fréquence réelle de tels comportements et la capacité des développeurs à anticiper et maîtriser pleinement les actions de leurs créations.
Source : Siècle Digital