Un modèle d’intelligence artificielle capable de détecter la présence de sang dans des images a été rendu public. Développé initialement pour des cas d’usage liés à la confiance et à la sécurité, notamment la modération de contenu, cet outil vise à agir comme un premier filtre.
L’objectif est de réduire l’exposition des utilisateurs et des modérateurs humains à des images potentiellement choquantes. Le projet, baptisé BloodshotNet, comprend un ensemble de données de plus de 23 000 images annotées, incluant des scènes médico-légales, des extraits de combats UFC, des films d’horreur ou encore du contenu chirurgical.
Les créateurs ont également mis à disposition les poids du modèle et une interface en ligne de commande (CLI). Cette initiative pourrait faciliter le développement d’outils de sécurité plus robustes dans le traitement des contenus numériques.
Source : Reddit r/MachineLearning