Des chercheurs ont mis au point une méthode permettant d’extraire les « traces de raisonnement » des modèles d’IA, révélant des indices potentiels de l’entraînement de certaines IA chinoises sur des modèles américains de pointe.
Cette nouvelle approche, développée par des scientifiques, permet de sonder les processus internes de grands modèles linguistiques tels que Claude, GPT et Gemini. En analysant ces « pensées » cachées, les chercheurs peuvent mieux comprendre comment ces IA parviennent à leurs réponses.
L’une des découvertes les plus notables concerne la possible utilisation de modèles américains par des systèmes d’intelligence artificielle chinois. Les « traces de raisonnement » extraites suggèrent que certains modèles chinois pourraient avoir été entraînés, au moins partiellement, sur les données ou les architectures des leaders technologiques américains.
Cette technique ouvre de nouvelles perspectives pour l’audit et la transparence des IA, soulevant des questions importantes sur l’origine des données d’entraînement et les pratiques de développement à l’échelle mondiale.
Source : Wired AI