Des chercheurs en sécurité ont réussi à exploiter des vulnérabilités au sein des systèmes d’OpenAI, en utilisant le modèle d’intelligence artificielle Claude d’Anthropic, un concurrent direct.
L’équipe de recherche a pu prendre le contrôle de comptes d’employés et accéder à un dépôt de code interne sensible. Cette intrusion a été menée dans le cadre d’une démarche éthique, les failles ayant été signalées à OpenAI après leur découverte. L’incident met en lumière la capacité des modèles d’IA à identifier et exploiter des brèches de sécurité complexes.
L’ironie de la situation, où l’IA d’un rival est utilisée pour compromettre les systèmes d’OpenAI, est notable. Cela illustre la double nature de l’IA : un outil puissant pour la défense, mais aussi pour l’attaque. L’événement souligne l’importance cruciale de la sécurité des systèmes d’IA eux-mêmes, ainsi que leur rôle croissant dans l’audit de sécurité.
Cette démonstration souligne l’importance croissante de l’IA dans la détection et l’exploitation des failles de sécurité, posant des questions sur les futures stratégies de défense cybernétique.
Source : TechCrunch AI