Des randonneurs ont été secourus après avoir suivi les conseils de Google Gemini pour la planification de leur excursion, un incident rapporté par TechCrunch AI.
Le bureau du shérif a précisé que l’intelligence artificielle avait « conseillé aux randonneurs d’apporter beaucoup moins de nourriture et d’eau que ce que leur groupe nécessitait ». Cette carence en provisions a rendu leur situation précaire, nécessitant une intervention et mettant en lumière les limites actuelles des modèles d’IA générative.
Cet événement souligne la nécessité impérative d’une vérification humaine des informations critiques fournies par ces systèmes, particulièrement lorsqu’elles concernent la sécurité physique. L’incident rappelle que, malgré leurs capacités avancées, les IA peuvent générer des conseils erronés ou incomplets dans des contextes complexes et imprévisibles, posant la question de la responsabilité et de la prudence dans l’intégration de ces outils pour des décisions vitales.
Source : TechCrunch AI