Un chercheur d’Anthropic a démissionné cette semaine, lançant une mise en garde publique sur les dangers d’une superintelligence auto-améliorante.
Dans un message publié sur X, l’ancien employé a affirmé qu’Anthropic « se dirige tout droit vers une superintelligence auto-améliorante et joue avec nos vies ». Ce qui rend cette alerte particulièrement notable, c’est que le responsable de l’alignement de l’entreprise a lui-même cosigné le message, plutôt que de le nuancer.
Ce type d’avertissement, souvent qualifié de « doomer », n’est pas inédit dans l’industrie de l’IA et a déjà été abordé par le passé. Cependant, le moment choisi pour cette déclaration est particulièrement intéressant : Anthropic se préparerait actuellement à une introduction en bourse (IPO), selon les informations rapportées.
Cette conjonction d’une alerte interne de haut niveau et d’une étape financière majeure soulève des questions sur les priorités et la gestion des risques au sein des entreprises leaders du secteur de l’intelligence artificielle.
Source : TechCrunch AI