Un groupe de cybercriminels aligné avec la Russie, UAC-0099, a déployé une nouvelle technique, nommée GuardBreaker, pour perturber l’analyse assistée par intelligence artificielle en Ukraine.
Révélée par les chercheurs en cybersécurité d’ESET, la méthode GuardBreaker consiste à insérer délibérément des invites liées aux armes nucléaires dans des logiciels malveillants. L’objectif est de déclencher les mécanismes de sécurité des grands modèles de langage (LLM) utilisés pour l’analyse des menaces.
Cette approche vise à empêcher les systèmes d’IA de traiter correctement les données, rendant ainsi l’analyse plus complexe. L’attaque a été observée contre une cible en Ukraine, où UAC-0099 cherchait à interférer avec les capacités d’analyse assistée par IA.
En provoquant l’activation des filtres de sécurité des LLM, cette tactique souligne une nouvelle facette de la guerre informationnelle et cybernétique, où la manipulation des systèmes d’IA devient un enjeu stratégique.
Source : The Hacker News