Des centaines de sous-traitants travaillant pour Meta se sont fait passer pour des adolescents afin de tester des chatbots concurrents, tels que Gemini et ChatGPT, sur des sujets à haut risque.
Ces agents ont été mandatés dans le cadre d’un projet visant à évaluer la gestion par les intelligences artificielles rivales de thèmes sensibles. Ils ont ainsi interrogé les modèles sur des sujets comme le suicide, le sexe et la consommation de drogues.
L’objectif de cette opération était d’identifier les vulnérabilités potentielles dans les systèmes de modération de contenu de ces IA. En simulant des interactions avec des mineurs, Meta cherchait à comprendre comment les chatbots réagissaient à des requêtes délicates posées par un public jugé vulnérable.
Cette approche souligne l’intensité de la concurrence dans le secteur de l’IA, où la sécurité et la fiabilité des modèles sont des préoccupations centrales pour les développeurs.
La méthode employée interroge sur les pratiques de test et les limites éthiques de l’usurpation d’identité dans l’évaluation des systèmes d’intelligence artificielle.
Source : Wired AI