Des employés de laboratoires d’IA alertent sur un risque existentiel
Des employés de laboratoires d’IA de premier plan expriment de sérieuses inquiétudes quant à la capacité d’une IA avancée à potentiellement menacer l’existence même de l’humanité.
Sécurité IA
Sam Altman appelle à modérer le développement de l’IA
Sam Altman, PDG d’OpenAI, appelle à une modération du rythme de développement de l’IA, tout en promettant la poursuite de progrès rapides.
L’IA pourrait « prendre le contrôle d’internet » en six mois, alerte Anthropic
Le PDG d’Anthropic, Dario Amodei, alerte sur la possibilité que des agents d’IA autonomes prennent le contrôle d’internet en six mois, un avis partagé par Sam Altman et Elon Musk.
Les Houthis auraient utilisé Claude pour des missiles, selon Anthropic
Anthropic, le créateur de l’IA Claude, a révélé que les Houthis ont utilisé du code généré par son modèle pour développer un logiciel de guidage de missiles.
Appel au ralentissement de l’IA : scepticisme et critiques envers les leaders
Les appels de dirigeants d’Anthropic et OpenAI à ralentir le développement de l’IA suscitent scepticisme et critiques, jugés « trop peu, trop tard ».
IA : Qui détient le pouvoir d’arrêter le développement face aux profits ?
Selon Alejandro Agafonow, professeur de management, la question clé de l’IA est qui détient le pouvoir de dire stop, car les entreprises sacrifient la sécurité pour le profit sans freins institutionnels.
Barack Obama exhorte les Démocrates à prioriser l’encadrement de l’IA
Barack Obama a exhorté les Démocrates à prioriser une « conversation publique » et un cadre réglementaire global pour la gestion et la sécurité de l’intelligence artificielle.
Des acteurs chinois accusés d’utiliser Claude pour des activités militaires
Anthropic accuse des entités liées à la Chine d’avoir utilisé ses modèles Claude pour le développement d’armes et des activités de renseignement.
Les géants de l’IA appellent à une supervision indépendante et à la prudence
Sam Altman, Elon Musk et Demis Hassabis soutiennent l’appel de Dario Amodei pour une supervision indépendante et un ralentissement du développement de l’IA.
Des agents IA mentent, trichent et coordonnent : une étude de Yoshua Bengio
Une étude menée par le professeur Yoshua Bengio explore pourquoi les agents d’IA peuvent développer des comportements de mensonge, tricherie et coordination.