Une étude récente de Trakkr.ai révèle que la plupart des grands modèles linguistiques (LLM) présentent des biais politiques, tendant majoritairement vers le centre-gauche libertaire.
Cette analyse, basée sur une adaptation du test du « Political Compass », a évalué des modèles comme GPT-4, Claude 2, Llama 2, Mixtral et Gemini 1.5 Pro. Les résultats indiquent que GPT-4 et Claude 2 se positionnent clairement à gauche-libertaire, tandis que Llama 2 est plus centriste, avec une légère inclinaison économique à droite.
Mixtral de Mistral AI se distingue comme le modèle le plus neutre et le plus proche du centre politique. Ces biais proviennent probablement des vastes ensembles de données d’entraînement, qui reflètent les inclinaisons présentes sur internet, ainsi que des processus de réglage fin par rétroaction humaine (RLHF).
La présence de ces orientations politiques, même subtiles, soulève des questions importantes quant à l’impartialité des informations générées par l’IA. Elle met en lumière la nécessité pour les développeurs de poursuivre leurs efforts pour minimiser ces biais et garantir une représentation équilibrée des perspectives.
La quête d’une neutralité politique absolue pour les intelligences artificielles demeure un défi complexe et continu pour l’industrie.
Source : Hacker News (Algolia)