Des chercheurs de laboratoires d’IA majeurs avaient alerté sur les risques liés à l’automatisation de la recherche en intelligence artificielle, et plusieurs de leurs prédictions se sont déjà concrétisées.
C’est ce que révèle un récent billet de blog de Severin Field, membre de l’IAPS. Il y dresse un bilan après avoir interrogé 25 experts issus d’organisations de pointe comme OpenAI, Anthropic, Google Deepmind, Meta, ainsi que de plusieurs universités américaines. Leurs discussions portaient spécifiquement sur le concept d’amélioration récursive des systèmes d’IA, où l’IA pourrait elle-même concevoir et améliorer d’autres IA.
Lors de ces entretiens, les spécialistes avaient identifié des jalons critiques dans le développement de l’IA automatisée, des étapes clés qui, si elles étaient atteintes, pourraient transformer le paysage de la recherche. Le constat actuel de Field est frappant : plusieurs de ces étapes, autrefois envisagées comme des préoccupations futures, ont déjà été franchies. Cette accélération met en lumière la rapidité d’évolution du domaine et la difficulté à prévoir son rythme.
Cette situation souligne l’importance d’une veille constante sur les capacités émergentes de l’IA et la nécessité d’anticiper les implications des systèmes capables de s’améliorer de manière autonome, un défi croissant pour la communauté scientifique et les régulateurs.
Source : The Decoder