Des chercheurs ont mis en évidence une faille fondamentale qui rend les grands modèles de langage (LLM) intrinsèquement vulnérables aux attaques, affirmant qu’il est impossible de les sécuriser entièrement. Cette conclusion majeure a été présentée lors de la Conférence Internationale sur l’Apprentissage Automatique (ICML) ce mois-ci.
L’équipe de recherche soutient que la nature même du fonctionnement des LLM est la source de cette vulnérabilité inhérente. Cela signifie que, indépendamment des améliorations ou des correctifs, une protection absolue contre certaines formes de piratage pourrait demeurer hors de portée.
Cette affirmation soulève des questions profondes quant à la sécurité et la fiabilité des technologies basées sur l’intelligence artificielle générative. Elle a des implications considérables pour le déploiement futur et la gestion des risques liés à ces systèmes.
Les travaux de ces chercheurs ouvrent une nouvelle perspective sur les limites structurelles de la sécurité des LLM.
Source : MIT Tech Review AI