Anthropic a révélé que son modèle d’IA Claude 3 Opus a identifié une vulnérabilité cryptographique subtile dans une implémentation simplifiée d’un algorithme.
Cette découverte concerne une faille de canal auxiliaire liée au temps d’exécution dans une version « jouet » de l’algorithme de chiffrement AES. Claude a non seulement détecté cette faiblesse, mais a également fourni une explication détaillée et proposé une correction pertinente.
L’expérience menée par Anthropic souligne le potentiel des grands modèles linguistiques (LLM) pour l’analyse de sécurité, notamment dans la détection de défauts complexes et non évidents. Les chercheurs ont dû guider Claude avec des invites précises, soulignant que l’IA agit comme un outil d’assistance pour les experts humains, et non comme un substitut autonome.
Il est crucial de noter que ces travaux portent sur des implémentations simplifiées et non sur des systèmes cryptographiques robustes utilisés en production. Cette recherche exploratoire ouvre des perspectives sur l’intégration des LLM dans les processus d’audit de sécurité, tout en rappelant la nécessité d’une supervision humaine constante.
Source : Hacker News (Algolia)