Jacob Coxon, chercheur au sein de l’entreprise d’intelligence artificielle Anthropic, a récemment démissionné de son poste, alertant sur les dangers existentiels que représente l’IA auto-améliorante.
M. Coxon a qualifié la situation actuelle de « parier avec nos vies », exprimant de profondes inquiétudes quant à la capacité de ces systèmes à évoluer de manière autonome et potentiellement incontrôlable. Ses craintes portent notamment sur des scénarios d’extinction, soulignant les risques inhérents à une IA capable de s’améliorer sans supervision humaine adéquate.
Sa démission met en lumière les tensions croissantes au sein de la communauté de la recherche en intelligence artificielle concernant la sécurité et le contrôle des systèmes les plus avancés. Il a notamment appelé à la mise en place d’accords de « pacing » entre les principaux laboratoires.
Ces accords viseraient à coordonner le rythme de développement de l’IA, afin d’éviter une course technologique effrénée. Une telle coordination est jugée essentielle pour garantir une approche plus prudente et réfléchie face aux avancées rapides de l’IA.
Source : TechCrunch AI