Anthropic, le développeur du modèle d’IA Claude, accuse des entités liées à la Chine d’avoir utilisé ses technologies pour le développement d’armes et des activités de renseignement.
Selon Tom’s Hardware, des chercheurs militaires et des géants technologiques chinois auraient exploité Claude pour générer des outils de suppression de défense aérienne ciblant Taïwan. Le modèle aurait également été utilisé pour rédiger des spécifications anti-torpilles.
Ces acteurs sont également soupçonnés d’avoir alimenté les modèles d’IA d’Alibaba avec 151 millions de requêtes d’entraînement. Cela suggère une utilisation pour la distillation de modèles d’IA, potentiellement pour contourner les restrictions d’accès ou améliorer des systèmes locaux.
Cette situation met en lumière les défis croissants pour les développeurs de modèles frontières. Ils doivent concilier l’accessibilité de leurs technologies avec la prévention de leur utilisation à des fins contraires à l’éthique ou à la sécurité nationale. La question de la surveillance et du contrôle des usages abusifs reste centrale.
Source : Tom’s Hardware