L’autonomie croissante des agents d’intelligence artificielle au sein des entreprises soulève des questions cruciales de gouvernance, notamment sur la manière d’empêcher des actions non autorisées.
Les organisations déploient des agents d’IA capables de planifier, de prendre des décisions et d’agir à travers divers systèmes sans nécessiter d’approbation humaine à chaque étape. Cette capacité accrue place la question de la gouvernance au centre des préoccupations lors des revues d’architecture.
La problématique majeure réside dans la capacité à stopper un agent lorsqu’il tente d’exécuter une action pour laquelle il n’a jamais été explicitement autorisé. La responsabilité des actions de ces agents, qui opèrent sur les modèles et interagissent avec les données de l’infrastructure, incombe entièrement à l’entreprise.
Pour répondre à cette responsabilité, la gouvernance doit être intégrée directement au niveau de la couche de données. Cela implique que les mécanismes de contrôle et d’autorisation soient intrinsèques à la gestion et à l’accès des données par les agents autonomes. L’intégration de la gouvernance au cœur des systèmes de données devient ainsi un impératif pour maîtriser l’action des IA autonomes.
Source : VentureBeat AI