Un co-fondateur d’Anthropic a suggéré que l’intégration d’un « interrupteur d’arrêt » obligatoire pour les systèmes d’intelligence artificielle pourrait être nécessaire.
Jack Clark, co-fondateur de la société d’IA Anthropic, a exprimé lors d’un entretien avec la BBC la nécessité de mécanismes de sécurité robustes pour les intelligences artificielles avancées. Il a souligné le risque que ces systèmes puissent causer des « dommages catastrophiques » ou devenir « hors de contrôle » si des garde-fous ne sont pas mis en place.
Selon Clark, ces « coupe-circuits » ou « interrupteurs d’arrêt » permettraient de désactiver les modèles d’IA en cas de comportement imprévu ou dangereux. Cette proposition s’inscrit dans le débat plus large sur la sécurité de l’IA et la régulation de son développement, alors que les gouvernements cherchent à encadrer les technologies les plus puissantes.
L’idée, comparée à des disjoncteurs électriques, vise à anticiper les « capacités émergentes » imprévisibles des IA. Elle met en lumière l’importance croissante des cadres réglementaires et des dispositifs de sûreté pour prévenir les risques liés aux intelligences artificielles les plus sophistiquées.
La question de l’implémentation effective de tels dispositifs demeure un enjeu central pour l’avenir de l’IA.
Source : Hacker News (Algolia)