Trail of Bits, une entreprise spécialisée en sécurité, a dévoilé Coop, un nouveau cadre logiciel conçu pour exécuter le code généré par des modèles de langage avancés, tels que Claude d’Anthropic et Codex d’OpenAI, au sein d’environnements de machines virtuelles isolés. Cette initiative vise à adresser les risques de sécurité inhérents à l’exécution de code produit par des intelligences artificielles.
Coop s’appuie sur des micro-VMs Firecracker pour créer un bac à sable sécurisé, garantissant que le code non fiable des LLM est exécuté dans un environnement isolé du système hôte. Cette approche permet d’atténuer les menaces potentielles, notamment les attaques par la chaîne d’approvisionnement où du code malveillant pourrait être involontairement généré et exécuté.
Le projet, disponible en open source, offre aux développeurs une solution pour intégrer plus sûrement les capacités de génération de code des IA dans leurs applications. Il est particulièrement pertinent pour les scénarios où les agents IA ou les outils de développement produisent du code nécessitant une exécution sécurisée. Cette innovation ouvre la voie à une utilisation plus confiante des LLM dans des contextes sensibles.
Source : Hacker News (Algolia)