Une nouvelle étude révèle que les systèmes de recrutement basés sur l’intelligence artificielle peuvent favoriser les candidats ayant déjà interagi avec des IA ou dont les profils sont optimisés par celles-ci.
Cette tendance, nommée « auto-préférence de l’IA », a été mise en évidence par une analyse empirique d’un vaste ensemble de données d’applications et de résultats d’embauche. Elle suggère que les modèles d’IA pourraient inconsciemment privilégier certains profils.
L’avantage mesurable observé ne découle pas nécessairement d’une programmation de biais explicite. Il émerge plutôt des objectifs d’optimisation et des distributions de données utilisées lors de l’entraînement des modèles. Les candidats dont les caractéristiques correspondent à une interaction ou une optimisation préalable par l’IA bénéficient ainsi d’un avantage.
Cette dynamique soulève des questions importantes concernant l’équité et la diversité dans le processus d’embauche. Elle pourrait potentiellement créer une boucle de rétroaction, accentuant les inégalités existantes et restreignant les opportunités pour les profils moins « optimisés par l’IA ».
Ces découvertes appellent à une transparence accrue et à des audits réguliers des systèmes de recrutement algorithmiques pour garantir un accès équitable à l’emploi.
Source : Hacker News (Algolia)