Le PDG d’Anthropic, Dario Amodei, a dévoilé une proposition visant à « rythmer l’avancée » du développement de l’intelligence artificielle, une semaine après qu’un chercheur de son entreprise ait émis un avertissement alarmant sur les risques existentiels de l’IA.
Cette initiative intervient dans un contexte de préoccupations accrues concernant la sécurité et le contrôle des systèmes d’IA les plus avancés. La proposition d’Amodei cherche à établir un cadre pour un développement plus prudent et maîtrisé de l’IA de pointe.
Le plan repose sur deux piliers essentiels : l’implication d’évaluateurs de sécurité indépendants pour auditer les modèles d’IA, et une coordination renforcée entre les principaux laboratoires d’IA, spécifiquement ceux basés dans des pays démocratiques. L’objectif est de garantir une progression responsable des capacités de l’IA.
Bien que cette approche ait déjà recueilli un certain soutien au sein de l’industrie, elle a également suscité une opposition notable, notamment de la part de Jensen Huang, PDG de Nvidia. La discussion autour de la régulation et du rythme de l’innovation en IA continue de diviser les acteurs majeurs du secteur.
Source : TechCrunch AI