Jack Clark, co-fondateur d’Anthropic, la société à l’origine de l’intelligence artificielle conversationnelle Claude, a récemment lancé un appel retentissant en faveur de l’instauration obligatoire d’un « bouton d’arrêt d’urgence » vérifiable sur tous les systèmes d’IA. Cette proposition intervient dans un contexte d’alertes en série et de préoccupations grandissantes au sein de l’industrie concernant la sécurité et le contrôle des intelligences artificielles avancées.
Tel que rapporté par Science et Vie, M. Clark exhorte spécifiquement les législateurs à imposer cette mesure. L’objectif est de garantir une capacité d’interruption immédiate et fiable en cas de comportement imprévu, indésirable ou potentiellement dangereux d’un système d’IA. Il s’agirait d’un mécanisme de sécurité fondamental pour atténuer les risques inhérents au développement rapide de ces technologies.
Cette prise de position émanant d’un acteur majeur de la recherche et du développement en IA souligne l’urgence perçue par certains experts de l’industrie quant à la nécessité d’une régulation proactive et de garde-fous techniques. Elle alimente le débat sur les responsabilités partagées entre les développeurs, les régulateurs et la société face à l’évolution rapide des capacités de l’intelligence artificielle.
Source : Science et Vie