Une nouvelle technique de cyberattaque, baptisée « phantom squatting », exploite les domaines web inventés par les modèles de langage pour des opérations de phishing et de diffusion de logiciels malveillants. Cette pratique, identifiée par l’unité 42 de Palo Alto Networks, est déjà observée en action et représente une menace émergente.
Les grands modèles de langage (LLM) ont la particularité de « halluciner », c’est-à-dire de générer des adresses de sites internet qui n’existent pas. Des cybercriminels tirent parti de cette faiblesse en achetant et en enregistrant ces domaines fictifs avant que quiconque ne puisse le faire, transformant ainsi une erreur de l’IA en opportunité malveillante.
Une fois propriétaires, ils hébergent sur ces domaines des pages de hameçonnage ou des contenus malveillants. L’objectif est de piéger le trafic que les outils d’intelligence artificielle pourraient, par inadvertance, diriger vers ces adresses inexistantes mais désormais compromises. Cette stratégie souligne une vulnérabilité inédite, posant un défi supplémentaire à la sécurité numérique à l’ère de l’IA.
Source : The Hacker News