Un chercheur senior en sécurité chez Anthropic a estimé à plus de 10 % la probabilité que l’intelligence artificielle « puisse tuer tous les humains » d’ici la fin de la décennie.
Cette déclaration intervient quelques heures seulement après la démission d’un de ses collègues. Ce dernier a quitté l’entreprise, craignant que le laboratoire d’IA et ses rivaux ne se précipitent imprudemment pour construire des systèmes « surhumains » qu’ils ne peuvent maîtriser.
Ces événements mettent en lumière les tensions croissantes au sein de l’industrie de l’IA concernant les risques existentiels. Ils soulignent le débat persistant entre l’accélération de l’innovation et la nécessité d’une sécurité robuste face aux capacités grandissantes des systèmes d’intelligence artificielle. Les préoccupations sont désormais exprimées par des acteurs internes.
La question de la maîtrise et de la sécurité des systèmes d’IA reste un défi majeur pour l’ensemble du secteur.
Source : The Verge AI