Pourquoi les IA mentent : comprendre les hallucinations des LLM

En février 2024, un avocat new-yorkais a été sanctionné pour avoir soumis au tribunal un mémoire truffé de jurisprudences inventées par ChatGPT. Cet incident emblématique illustre un problème fondamental des modèles de langage : les hallucinations, ces réponses qui semblent plausibles mais sont factuellement fausses.

Qu’est-ce qu’une hallucination ?

Une hallucination d’IA survient quand un modèle génère une information qui n’existe pas dans ses données d’entraînement ou qui contredit la réalité. Le terme, emprunté à la psychiatrie, est imparfait : l’IA ne « perçoit » pas de fausses réalités, elle produit des séquences de texte statistiquement probables mais factuellement incorrectes.

Pourquoi les LLM hallucinent

Les causes sont multiples et cumulatives. Premièrement, les LLM sont des modèles probabilistes : ils prédisent le token suivant le plus probable, pas le plus vrai. La vérité factuelle et la plausibilité linguistique ne coïncident pas toujours. Deuxièmement, les données d’entraînement contiennent elles-mêmes des erreurs et des contradictions. Troisièmement, le processus de RLHF (Reinforcement Learning from Human Feedback) récompense les réponses fluides et confiantes, ce qui peut encourager le modèle à « inventer » plutôt qu’à admettre son ignorance.

Les types d’hallucinations

Les chercheurs distinguent plusieurs catégories : les hallucinations factuelles (dates, chiffres, événements inventés), les hallucinations de source (citations ou études inexistantes), les hallucinations logiques (raisonnements qui semblent corrects mais contiennent des erreurs) et les hallucinations de contexte (le modèle « oublie » des instructions précédentes dans une longue conversation).

Les solutions en développement

Anthropic et OpenAI travaillent sur plusieurs approches. Le RAG (Retrieval Augmented Generation) ancre les réponses dans des documents vérifiés. Le Constitutional AI d’Anthropic entraîne les modèles à vérifier leurs propres affirmations. Google DeepMind explore la « calibration » : entraîner les modèles à exprimer leur niveau de certitude. En 2026, Claude 4 et GPT-5 affichent des taux d’hallucination réduits de 60 % par rapport à leurs prédécesseurs, selon les benchmarks TruthfulQA.

Ce que les utilisateurs doivent savoir

Aucun LLM n’est fiable à 100 %. La règle d’or reste la vérification croisée : tout fait important généré par une IA doit être confirmé par une source indépendante. Les hallucinations ne sont pas un bug — elles sont une propriété émergente de la manière dont ces systèmes fonctionnent.

Les causes techniques des hallucinations

Les hallucinations ne sont pas des bugs mais une conséquence directe de l’architecture des LLM. Un modèle de langage prédit le token le plus probable dans une séquence, sans notion de « vérité ». Quand il n’a pas de données fiables sur un sujet, il génère la suite de mots la plus statistiquement plausible — qui peut être fausse. Les techniques de réduction (RAG, grounding, reward modeling) améliorent la situation mais ne l’éliminent pas, car le problème est inhérent au mécanisme de génération.

Questions fréquentes

Quel LLM hallucine le moins ?

Les benchmarks de fiabilité (comme le Hallucination Leaderboard de Vectara) montrent que Claude et GPT-4 hallucinent moins que les modèles plus petits. Les modèles de raisonnement (o1, DeepSeek-R1) réduisent encore le taux en décomposant leur réflexion.

Comment détecter une hallucination ?

Méfiez-vous des réponses très détaillées sur des sujets obscurs, des citations précises non vérifiables, et des chiffres ronds trop parfaits. Demandez systématiquement les sources et vérifiez-les.

→ Comprendre ce terme dans notre glossaire IA