Des chercheurs en intelligence artificielle, dont d’anciens employés d’OpenAI et Google DeepMind, ont récemment publié une série de vidéos alertant sur les dangers existentiels de la superintelligence.
Ces entretiens, menés par l’organisation à but non lucratif Palisade Research, incluent une douzaine d’experts actuels et passés de géants de l’IA comme OpenAI, Google et Anthropic. Geoffrey Irving, ex-collaborateur d’OpenAI et Google DeepMind, a notamment déclaré que la probabilité d’extinction humaine est, selon lui, « environ un pile ou face ».
Les intervenants insistent sur le fait que la superintelligence est « exactement aussi dangereuse qu’elle en a l’air », un sentiment partagé par plusieurs voix au sein de l’écosystème de la recherche en IA. Leurs témoignages visent à sensibiliser le public et les décideurs aux risques potentiels liés au développement non maîtrisé de systèmes avancés.
Cette initiative collective soulève des questions pressantes quant à la nécessité de renforcer les protocoles de sécurité et l’éthique dans la course à l’IA.
Source : The Verge AI