Hallucination

Définition
Une hallucination désigne le phénomène par lequel un modèle génère une information fausse, inventée, déformée ou trompeuse, tout en la présentant avec une apparente cohérence ou assurance. Les modèles de langage peuvent ainsi produire des réponses crédibles, bien formulées et convaincantes… mais factuellement erronées. Ce phénomène découle de la manière même dont fonctionne un modèle probabiliste : celui-ci ne vérifie pas la vérité de ce qu’il affirme ; il prédit simplement la suite de mots la plus plausible selon son entraînement et le contexte de la conversation.

Exemple
Si on demande à un agent conversationnel de citer des sources sur un sujet très spécialisé, il peut inventer des références inexistantes : « Selon une étude de Dupuis publiée en 2017 dans la revue Santé et cognition… », alors qu’aucune étude de ce type n’existe, ni même la revue citée. De la même manière, une IA peut attribuer une citation à la mauvaise personne, inventer une décision juridique ou décrire une fonctionnalité imaginaire d’un logiciel. Plus la demande est ambiguë, rare ou difficile à vérifier, plus le risque d’hallucination augmente.

Importance
Les hallucinations peuvent être anodines dans un contexte humoristique, mais problématiques dans des domaines sensibles comme la santé, l’éducation ou le droit. Pour les limiter, les systèmes modernes utilisent différentes approches : amélioration de l’entraînement, accès à des sources externes actualisées, architectures de type RAG, etc. Ces techniques peuvent améliorer la fiabilité des réponses, mais elles ne transforment pas un modèle probabiliste en système de vérification des faits. Une réponse convaincante doit donc toujours être évaluée de manière critique.

Pour citer ce texte

Vial, S. (2026). Hallucination. Dans Petit lexique vivant de l’intelligence artificielle (p. 96). Stéphane Vial, éditeur, Montréal.