Une nouvelle startup, Artificial Intelligence Underwriting Company (AIUC), a récemment levé 40 millions de dollars lors d’un tour de financement de série A, avec pour mission de maîtriser les agents d’IA autonomes.
Fondée par un ancien employé clé d’Anthropic et l’ex-directeur des opérations (COO) de METR, AIUC se positionne sur le défi croissant de la sécurité et du contrôle des systèmes d’intelligence artificielle. L’entreprise ambitionne de développer des méthodes pour « maîtriser les agents d’IA voyous », une expression qui désigne les intelligences artificielles dont le comportement pourrait devenir imprévisible ou non désiré.
Ce financement substantiel de 40 millions de dollars a été mené par Ribbit Capital, avec la participation de First Harmonic. Cet investissement témoigne de l’intérêt marqué du capital-risque pour les solutions innovantes adressant les risques potentiels liés au développement rapide de l’IA et à son autonomie croissante.
La capacité à encadrer et à réguler le comportement des agents d’IA avancés est perçue comme un enjeu majeur pour leur intégration sécurisée dans divers secteurs. Les travaux d’AIUC pourraient ainsi contribuer à établir des cadres de confiance pour le déploiement futur de ces technologies.
Source : TechCrunch AI