Une étude de l’ONG Common Sense Media alerte sur les risques potentiels des résumés générés par intelligence artificielle de Google pour les adolescents.
Ces synthèses, qui apparaissent directement en haut des résultats de recherche, doivent être déployées en France cet été. L’organisation estime que les mécanismes de protection actuels ne sont pas suffisamment robustes pour les jeunes utilisateurs, les exposant potentiellement à des informations inexactes, des contenus inappropriés ou des biais non identifiés.
Common Sense Media souligne que la nature parfois imprévisible des réponses de l’IA, combinée à la crédulité naturelle des adolescents, pourrait entraîner une acceptation non critique de faits erronés ou de perspectives déséquilibrées. L’ONG appelle Google à renforcer ses filtres et à améliorer la transparence sur la provenance des informations utilisées pour ces résumés.
Cette mise en garde intervient alors que l’intégration de l’IA dans les moteurs de recherche s’intensifie, soulevant des questions fondamentales sur la responsabilité des plateformes et la nécessité d’adapter les outils numériques aux besoins spécifiques des publics jeunes.
Source : Le Monde Pixels