Un plaignant du Connecticut a tenté de manipuler un potentiel système d’examen par intelligence artificielle en insérant des instructions invisibles dans des documents judiciaires.
Cette tentative consistait à intégrer des « injections de prompt » dissimulées sous forme de texte blanc de 3 points sur fond blanc. L’objectif était d’influencer secrètement une éventuelle revue automatisée des dossiers. Le juge Spader a comparé cette démarche à une manipulation clandestine d’un jury.
En conséquence, les privilèges de dépôt électronique du plaignant ont été révoqués. La cour a précisé que le Connecticut n’utilise pas actuellement l’IA pour l’examen des dossiers. Cependant, l’intention seule de manipuler le système a été jugée suffisante pour justifier des sanctions.
Cette affaire met en lumière les questions éthiques et les défis de sécurité que l’intégration croissante de l’IA pourrait poser au sein des systèmes judiciaires.
Source : The Decoder