Hallucination
En une ligne : Lorsqu’une IA affirme avec assurance quelque chose de faux. Le principal problème de fiabilité des LLM - Comprendre les hallucinations vous aide à utiliser l’IA de façon plus sûre.
Qu’est-ce qu’une hallucination ?
Hallucination se produit lorsqu’une LLM produit une réponse formulée avec assurance, mais factuellement fausse. Le modèle ne « ment » pas intentionnellement - il fait ce qu’il fait toujours (prédire les tokens suivants statistiquement probables), mais ce qui paraît plausible se révèle faux. C’est la principale limite de fiabilité des systèmes d’IA actuels.
Types d’hallucinations
- Hallucination de références - Invention de publications scientifiques, d’articles de revues, d’auteurs ou de DOI qui n’existent pas. C’est sans doute le type le plus dangereux, car le résultat paraît faire autorité et l’erreur est difficile à repérer sans vérifier la source.
- Confabulation factuelle - Énoncer des dates, statistiques, détails biographiques, événements historiques ou faits scientifiques erronés avec la même assurance que des informations exactes.
- Hallucination de code - Invention de noms de fonctions, de méthodes d’API ou d’arguments de bibliothèques qui n’existent pas. Fréquent avec les bibliothèques de niche ou les modifications récentes d’API postérieures à la date limite des connaissances.
- Citation inventée - Attribuer une citation vraisemblable à une personne réelle qui ne l’a jamais prononcée. C’est particulièrement problématique dans le journalisme et le milieu universitaire.
Pourquoi les hallucinations se produisent
Les LLM prédisent les tokens suivants statistiquement probables à partir de régularités présentes dans données d’entraînement. Ils ne disposent pas d’une base interne de faits vérifiés à laquelle confronter leurs réponses. Lorsque données d’entraînement est peu fourni sur un sujet précis, le modèle comble le manque par une invention plausible plutôt que de dire « Je ne sais pas ». Le modèle ne dispose d’aucun moyen fiable de distinguer ce qu’il « sait avec certitude » de ce qu’il devine : il génère simplement la suite la plus probable.
A modèle de raisonnement (o3, DeepSeek R1) hallucine moins sur les problèmes structurés de logique et de mathématiques, car son processus de réflexion prolongé lui donne davantage d'occasions de se corriger. Mais il hallucine encore sur les tâches de restitution de faits.
- Utiliser Perplexity Sonar ou des modèles s’appuyant sur le Web pour les questions factuelles qui nécessitent des sources citées et à jour.
- Utiliser RAG pour ancrer les réponses dans vos propres documents vérifiés plutôt que dans les connaissances mémorisées par le modèle pendant l'entraînement.
- Demandez explicitement au modèle : « En es-tu sûr ? Sur quels points pourrais-tu te tromper ? » Les modèles entraînés avec alignement les techniques signalent souvent l'incertitude.
- Vérifiez toujours les références, les statistiques et les affirmations clés de manière indépendante avant de les publier ou de vous y fier pour agir. La FAQ AskAI.free peut-il aider à faire des recherches ? présente un tableau affirmation-source-date qui permet de repérer facilement les affirmations non étayées.
- Utilisez les modèles de Bibliothèque de prompts IA qui demandent au modèle de citer ses sources et de signaler ses incertitudes.
Taux d’hallucination par modèle
| Génération du modèle | Taux relatif d’hallucinations | Notes |
|---|---|---|
| L’ère GPT-3 (2020-2022) | Niveau de base élevé | Inventions fréquentes lors de la restitution de faits |
| GPT-4 / Claude 2 (2023) | Nettement inférieur | Meilleure calibration, mais les références restent problématiques |
| ChatGPT 4o / Claude Sonnet 4 (2024-25) | Encore plus faible | Amélioration mesurable ; RLHF et IA constitutionnelle aide |
| Modèles de raisonnement (o3, DeepSeek R1) (2025) | Le moins performant sur les tâches de logique | La réflexion prolongée réduit les erreurs en mathématiques et en code ; le rappel des faits reste imparfait |
Le problème n'est pas résolu. Considérez les résultats de l'IA comme le premier jet d'un expert compétent mais parfois peu fiable : une contribution précieuse qui nécessite une vérification humaine dès que les enjeux sont importants. Voir aussi : alignement, RAG, date limite des connaissances.
Exemple d’hallucination
Si vous utilisez AskAI.free, une façon pratique de comprendre les hallucinations consiste à demander à un modèle de vous les expliquer, puis de donner un exemple concret dans votre propre méthode de travail. Par exemple : "Explique les hallucinations à une personne qui utilise l’IA pour écrire, coder, faire des recherches ou créer des images."
Le terme passe ainsi d’une définition de dictionnaire à un outil d’aide à la décision : vous voyez dans quels cas il influe sur la qualité des instructions, le choix du modèle, la fiabilité des résultats, la confidentialité, le coût ou la quantité de contexte utilisable par l’IA.
Pourquoi les hallucinations sont importantes
L’hallucination est une notion importante, car elle influence votre façon de choisir, d’interroger, de comparer les systèmes d’IA et de leur faire confiance. Comprendre ce terme vous permet de poser de meilleures questions, de repérer plus vite les réponses fragiles et de choisir le modèle ou l’outil adapté à votre tâche.
Une erreur courante consiste à considérer l’hallucination comme un terme de jargon isolé. Elle est généralement liée à des notions voisines comme Inférence et Jailbreak, consultez-les ensuite pour avoir une vue d'ensemble.
Erreur courante concernant les hallucinations
L’erreur la plus courante consiste à employer le terme comme une étiquette sans changer ses pratiques. Quand il est question d’hallucination, demandez-vous ce qui doit changer : le prompt, le modèle, la longueur du contenu fourni, les preuves demandées ou la manière de vérifier la réponse.
Découvrez-le en action - Interrogez l’IA de votre choix sur les hallucinations sur AskAI.free.
Demander à l’IA