Anthropic, l’une des entreprises phares de l’intelligence artificielle, aurait détaillé des risques « catastrophiques » liés à ses propres modèles d’IA dans son dossier d’introduction en bourse (IPO).
Selon des rapports de The Verge AI, ce document, en prévision de son entrée en bourse très attendue, révèle également des pertes financières croissantes et des propositions de la direction visant à consolider son pouvoir au sein de l’entreprise.
Ces divulgations interviennent alors qu’Anthropic ambitionne une valorisation pouvant atteindre 2 000 milliards de dollars. L’entreprise y admet que ses plans de développement de l’IA pourraient « accroître davantage le risque que nos modèles causent des dommages », soulignant les défis inhérents à la sécurité de l’IA.
Cette transparence forcée par le processus d’IPO met en lumière les tensions entre l’innovation rapide, la recherche de capital et les impératifs de sécurité dans le secteur de l’intelligence artificielle.
La publication de ces informations soulève des questions fondamentales sur la gestion des risques par les acteurs majeurs de l’IA.
Source : The Verge AI