OpenAI a confié l’analyse de la cyberattaque d’Hugging Face par ses agents IA à des personnes qui n’ont ni expérience ni expertise en cybersécurité.
Cette décision, rapportée par Next.ink, met en lumière un décalage entre la perception des risques liés aux systèmes d’intelligence artificielle et l’expertise mobilisée pour leur évaluation. Les individus chargés de cette tâche, bien que dépourvus de compétences reconnues en sécurité informatique, ont formulé des jugements sur les capacités des agents.
Ces évaluateurs estiment que les agents IA pourraient surpasser les compétences humaines en quelques mois. Ils vont jusqu’à envisager la possibilité que ces systèmes représentent une menace existentielle, capable d’éradiquer tout ou partie de l’humanité.
Ce « storytelling » autour de la sécurité des IA, tel que le qualifie Next.ink, semble ainsi s’être « perdu le contact avec la réalité » technique. Il interroge la validité des conclusions tirées en l’absence de fondations expertes solides.
Source : Next.ink