Une hallucination d’intelligence artificielle a récemment failli provoquer un affrontement militaire majeur entre les États-Unis et la Chine, révélant les dangers des systèmes autonomes dans des contextes sensibles. L’incident, survenu au printemps, a vu l’armée américaine se préparer à intercepter un navire chinois.
Ce navire était soupçonné de transporter des composants essentiels à un programme nucléaire, une accusation grave qui aurait pu déclencher une crise diplomatique et militaire. La décision d’agir se basait sur un rapport crucial, entièrement généré par une IA.
Il s’est avéré que ce document était une « hallucination » du système, une information erronée et inventée de toutes pièces. L’affrontement a été évité de justesse, mais cet événement souligne les risques critiques liés à l’intégration de l’IA dans des systèmes de décision stratégiques. Il met en lumière la nécessité impérative d’une vigilance humaine constante et de mécanismes de vérification robustes. La fiabilité des systèmes autonomes dans des contextes géopolitiques aussi sensibles demeure une question centrale pour l’avenir.
Source : Next.ink