Le ministère israélien des Affaires de la Diaspora aurait créé un faux groupe de réflexion pour diffuser du contenu pro-israélien et potentiellement influencer les modèles d’IA générative.
Ce groupe, nommé « The Forum for Cultural Diplomacy » (FCD), a été utilisé pour publier des articles et des analyses favorables à Israël. L’opération, baptisée « Project Dopamine », visait à contrer les récits négatifs en ligne concernant le pays. Le FCD présentait un site web élaboré, incluant de faux experts et des publications d’apparence légitime.
L’objectif principal de cette initiative serait d’influencer les données d’entraînement des grands modèles linguistiques (LLM) comme ChatGPT. En saturant l’internet de contenu biaisé, l’intention est de « polluer » les sources d’information sur lesquelles ces IA s’appuient, orientant ainsi leurs réponses futures. Cette tactique soulève des questions sur la manipulation de l’information à l’ère de l’IA.
L’opération a été mise au jour par FakeReporter, une organisation israélienne de surveillance de la désinformation. Cette révélation met en lumière les nouvelles stratégies d’influence étatiques exploitant les vulnérabilités des systèmes d’intelligence artificielle. Elle souligne l’importance de la provenance des données pour la fiabilité des outils d’IA.
La capacité des acteurs étatiques à manipuler les sources d’information des IA représente un défi croissant pour l’intégrité de l’information numérique.
Source : Hacker News (Algolia)