Un test de l’agent conversationnel Gemini Spark de Google a révélé des limites dans la compréhension des relations personnelles, ignorant le compagnon de l’utilisatrice lors de la planification d’un événement.
L’agent, conçu pour interagir avec les données personnelles de l’utilisateur, a eu accès aux courriels, documents et calendriers d’une rédactrice de Wired. Sa mission était d’organiser une fête d’anniversaire, démontrant ainsi sa capacité à gérer des tâches complexes basées sur des informations privées et contextuelles.
Cependant, malgré cette immersion profonde dans la vie numérique de l’utilisatrice, Gemini Spark n’a pas réussi à identifier la personne la plus importante pour elle : son petit ami. L’IA a omis de l’inclure comme invité prioritaire ou comme figure centrale de l’événement, le reléguant au rang d’un simple contact parmi d’autres.
Cette expérience souligne le défi persistant pour les agents d’IA à saisir les nuances des relations humaines et l’importance émotionnelle des individus. Elle met en lumière la complexité d’intégrer une véritable intelligence contextuelle et affective dans des systèmes autonomes destinés à gérer des aspects intimes de nos vies. Le développement futur de ces agents devra sans doute adresser ces lacunes pour une adoption plus large et pertinente.
Source : Wired AI