Google DeepMind exprime de sérieuses préoccupations quant aux dangers potentiels de l’interaction massive de millions d’agents d’intelligence artificielle en ligne.
L’entreprise finance activement des recherches pour anticiper ces risques systémiques. Selon Rohin Shah, qui dirige la recherche sur la sécurité et l’alignement de l’AGI chez DeepMind, l’arrivée sur le marché de masse d’agents capables d’exécuter des tâches sans supervision humaine est imminente.
Ces agents pourront également suivre les instructions données par d’autres entités d’IA. Cette capacité d’agir de manière autonome et d’interagir à grande échelle avec d’autres agents crée un ensemble de défis complexes en matière de sécurité et de contrôle.
Les implications de cette interconnexion massive, où des millions d’agents opèrent simultanément, sont encore mal comprises. La question de la prévisibilité et de la gestion des comportements émergents de ces systèmes devient un axe majeur de la recherche en intelligence artificielle.
Source : MIT Tech Review AI