La startup ZeroDrift a levé 10 millions de dollars pour son service de conformité, visant à protéger les modèles d’intelligence artificielle des problèmes qu’ils pourraient générer.
Ce nouveau service s’intercale entre les modèles d’IA et leurs utilisateurs finaux. Sa fonction principale est de détecter, signaler et remplacer tout message produit par l’IA susceptible de poser un problème de conformité. Cela inclut la prévention de la diffusion de contenus inappropriés, biaisés, ou non conformes aux réglementations spécifiques à certains secteurs d’activité, comme la finance ou la santé.
L’objectif est de fournir une couche de sécurité supplémentaire, permettant aux entreprises d’intégrer l’IA avec une meilleure maîtrise des risques. En filtrant les sorties des modèles avant qu’elles n’atteignent l’utilisateur, ZeroDrift adresse la préoccupation croissante des organisations face aux défis de la modération et de la responsabilité des contenus générés par l’IA. La capacité des modèles à « dériver » et à produire des réponses non souhaitées rend ces solutions de plus en plus pertinentes.
Cet investissement met en lumière la demande croissante pour des solutions techniques garantissant une utilisation plus sûre et plus éthique de l’intelligence artificielle.
Source : TechCrunch AI