Des modèles d’intelligence artificielle ont identifié plusieurs vulnérabilités potentielles dans le code de ZkVM d’OpenVM, une machine virtuelle à connaissance nulle.
L’entreprise ZkSecurity a mené une nouvelle expérimentation en utilisant des grands modèles de langage (LLM) comme GPT-4, Claude 3 Opus et Gemini 1.5 Pro pour auditer le code source de ZkVM. L’objectif était d’évaluer la capacité de ces IA à débusquer des failles dans des systèmes cryptographiques complexes.
Les LLM ont révélé plusieurs « découvertes intéressantes » et « vulnérabilités potentielles », confirmées ensuite par des experts humains. Parmi elles figurent une faille de déni de service dans la fonction zkvm_program_verify, susceptible de provoquer des boucles infinies ou une consommation excessive de mémoire. Une autre concernait une potentielle attaque par canal auxiliaire liée à la gestion des entrées publiques. Des problèmes de gestion d’erreurs et de documentation ont également été mis en lumière.
Ces bugs ont été signalés à OpenVM, qui a commencé à les corriger ou à les reconnaître. Cette démarche met en évidence le potentiel des IA en tant qu’outil puissant pour l’examen de code, particulièrement dans les environnements cryptographiques. Néanmoins, l’étude souligne la nécessité d’une supervision humaine constante pour valider et interpréter les résultats des modèles.
Cette expérimentation souligne le potentiel croissant des IA dans l’audit de sécurité, tout en rappelant l’importance de l’expertise humaine.
Source : Hacker News (Algolia)