Un article récent publié sur Substack met en lumière un phénomène inattendu : la capacité des intelligences artificielles à générer des illustrations pour livres d’enfants qui versent parfois dans le « body horror », un genre d’horreur corporelle.
L’auteur de l’article, cité sur Hacker News, pointe du doigt les dérives potentielles des outils de création d’images par IA lorsqu’ils sont utilisés sans supervision adéquate. Ces systèmes, conçus pour produire du contenu varié, peuvent interpréter des requêtes de manière littérale ou inattendue, aboutissant à des visuels inappropriés, voire perturbants, pour un public jeune.
Ce constat soulève des questions importantes sur la modération des contenus générés par IA, en particulier pour les supports destinés aux enfants. Il souligne la nécessité d’une vigilance accrue et d’une meilleure compréhension des biais et des limites des algorithmes, afin de garantir la sécurité et l’adéquation des créations numériques.
Source : Hacker News (Algolia)