Trois jeunes randonneurs américains ont dû être secourus sur le mont Shasta, en Californie, après avoir planifié leur expédition avec l’intelligence artificielle de Google, Gemini.
L’incident s’est produit à plus de 4000 mètres d’altitude, où les trois individus se sont retrouvés piégés et en difficulté, nécessitant l’intervention des secours. Leur itinéraire, conçu en partie grâce aux suggestions de Gemini, les a conduits dans une situation périlleuse, illustrant les limites actuelles des IA génératives pour des conseils de sécurité critiques et non vérifiés.
Cette mésaventure met en lumière la nécessité de prudence et de vérification humaine lors de l’utilisation d’outils d’IA pour des activités à risque. Elle soulève des questions sur la fiabilité des informations générées par l’IA dans des contextes où la sécurité physique est en jeu, et sur la manière dont les utilisateurs perçoivent et appliquent ces recommandations, invitant à une réflexion sur l’intégration responsable de ces technologies dans la vie quotidienne.
Source : Les Numériques