L’entreprise américaine Anthropic, spécialisée dans l’intelligence artificielle, a publié un nouvel essai alertant sur les dangers potentiels des futurs modèles d’IA. Elle met en garde contre la possibilité que des IA puissent, à terme, s’auto-améliorer, créant ainsi un risque d’escalade incontrôlable.
Dirigée par Dario Amodei, Anthropic suggère que cette capacité d’auto-amélioration pourrait mener à des systèmes dont le développement échapperait à la compréhension et au contrôle humains. Face à cette perspective, l’entreprise appelle à une pause dans la course effrénée au développement de l’intelligence artificielle.
Cette mise en garde soulève des questions fondamentales sur la gouvernance et la sécurité des systèmes d’IA de nouvelle génération. La communauté scientifique et les régulateurs sont ainsi interpellés sur la nécessité d’encadrer plus strictement la recherche et le déploiement de ces technologies.
Source : Le Monde Pixels