Anthropic, le créateur de l’IA Claude, a révélé que les Houthis ont utilisé du code généré par son modèle pour développer un logiciel de guidage de missiles. Cette information, émanant directement de l’entreprise, met en lumière les défis croissants liés à l’utilisation des intelligences artificielles génératives à des fins potentiellement militaires.
L’entreprise, acteur majeur dans le domaine de l’IA conversationnelle, a identifié cette application spécifique par le groupe armé yéménite, connu pour ses opérations en mer Rouge. Selon Anthropic, le code aurait été employé dans la conception d’un logiciel destiné à la navigation de missiles, soulevant des préoccupations majeures quant à la sécurité et à l’éthique des technologies à double usage.
Anthropic a affirmé avoir pris des mesures immédiates pour renforcer ses politiques d’utilisation et empêcher de futures utilisations abusives de ses modèles. Cet incident souligne la difficulté pour les développeurs d’IA de contrôler l’application de leurs technologies, et la complexité de prévenir les détournements vers des objectifs hostiles. La situation interroge la responsabilité des entreprises technologiques face aux usages potentiellement dangereux de leurs outils.
Source : Hacker News (Algolia)