Anthropic alerte sur les IA auto-améliorantes et appelle à une pause
Anthropic tire la sonnette d’alarme sur les IA capables de s’auto-améliorer et plaide pour une pause dans leur développement.
Anthropic tire la sonnette d’alarme sur les IA capables de s’auto-améliorer et plaide pour une pause dans leur développement.
Malgré leur rivalité sur le marché de l’IA générative, OpenAI et Anthropic bénéficient du soutien simultané de nombreux investisseurs, qui voient cette stratégie comme un pari sur l’ensemble du secteur.
Anthropic utilise Claude pour générer plus de 90% de son code et appelle à une pause mondiale dans le développement de l’IA.
Anthropic appelle à une pause mondiale du développement de l’IA de pointe, soulevant des interrogations sur la coïncidence avec ses projets d’IPO à 1000 milliards de dollars.
L’IA Claude d’Anthropic a rédigé 80% du code de sa successeure, augmentant la productivité des ingénieurs par huit.
Anthropic propose un moratoire mondial concerté sur le développement de l’IA pour prévenir les risques de perte de contrôle.
Daniela Amodei, cofondatrice d’Anthropic, a récemment balayé les doutes sur la rentabilité de l’IA alors que l’entreprise envisage une introduction en bourse.
Anthropic a mis à disposition un cadre open-source, nommé « defending-code-reference-harness », pour la découverte de vulnérabilités logicielles assistée par IA.
La course aux introductions en bourse des entreprises d’IA s’accélère, au point que des actions d’Anthropic sont désormais acceptées comme moyen de paiement pour l’immobilier.
Le laboratoire Anthropic a publié un article sur l’auto-amélioration récursive (RSI) des IA, un concept clé pour l’évolution future des systèmes intelligents.