Le chercheur en sécurité IA Ryan Greenblatt estime le risque d’une prise de contrôle par l’intelligence artificielle à 50-60% si le développement actuel se poursuit.
Scientifique en chef chez Redwood Research, Ryan Greenblatt évalue cette probabilité élevée, soulignant une trajectoire de développement préoccupante pour l’humanité. Cette perspective est mise en contraste par Sam Harris, qui juge un tel chiffre incompatible avec la vitesse effrénée de l’industrie. Harris rappelle que les scientifiques du Projet Manhattan auraient interrompu leurs travaux face à un risque de seulement 10%.
Greenblatt attribue la persistance de cette « course aux armements » à des laboratoires majeurs tels qu’Anthropic et OpenAI. Selon lui, chaque entité se considère comme la plus responsable, ce qui alimente paradoxalement la compétition plutôt que de la freiner. Il mise sur un accord international pour réguler le développement de l’IA et ainsi maîtriser les dangers potentiels.
La question demeure de savoir si une telle entente est réalisable face à la compétition technologique mondiale et aux intérêts divergents.
Source : The Decoder