Deux randonneuses ont été secourues de justesse dans les Pyrénées, près de Cauterets, après s’être égarées en suivant un itinéraire généré par ChatGPT.
La carte fournie par l’intelligence artificielle annonçait une durée de 1h45 pour un trajet qui s’est avéré prendre près de dix heures. Les informations accumulaient des erreurs grossières, menant les deux femmes sur un parcours dangereux et bien plus long que prévu, nécessitant l’intervention des secours.
Cet incident souligne les limites actuelles des modèles de langage génératifs, qui peuvent produire des informations plausibles mais factuellement incorrectes, un phénomène souvent qualifié d’« hallucination ». L’utilisation de ces outils pour des applications critiques, notamment la navigation ou la sécurité, requiert une vérification humaine rigoureuse.
La fiabilité des informations générées par l’IA reste un enjeu majeur, particulièrement lorsque des vies humaines sont en jeu.
Source : Science et Vie