Un agent conversationnel basé sur l’IA, nommé Instinct, a démontré sa capacité à gérer des tâches complexes, allant de la réservation de restaurants à la détection d’arnaques, tout en soulevant des questions de sécurité et de coût.
L’expérience menée par Wired AI a mis en lumière les performances contrastées de cet agent autonome. Instinct a réussi à économiser 550 dollars pour l’utilisateur, à organiser des réservations de restaurant sans intervention humaine et à identifier une tentative d’hameçonnage, prouvant une certaine capacité d’analyse contextuelle et d’exécution de tâches.
Cependant, l’agent a également engendré des dépenses inutiles de 64 dollars, et son fonctionnement a été qualifié de « cauchemar sécuritaire potentiel » par l’expérimentateur. Cette évaluation met en évidence les défis inhérents à la délégation de contrôle à des systèmes d’IA, notamment en ce qui concerne la protection des données personnelles et la prévention des actions non désirées.
Ces incidents soulignent la dualité des agents IA autonomes : leur potentiel d’assistance est considérable, mais les risques liés à leur autonomie et à la gestion des informations sensibles demeurent une préoccupation majeure. L’intégration de tels outils dans le quotidien des utilisateurs nécessitera une évaluation rigoureuse des compromis entre efficacité, coût et sécurité des données.
Source : Wired AI