Concept

Hallucination

Réponse d'une IA qui contient de l'information fausse ou trompeuse, mais présentée avec aplomb comme si c'était un fait.

D'où ça vient

Le mot vient de la vision par ordinateur, où il désignait l'ajout de détails à une image pour l'améliorer. Il a été introduit dans la thèse d'Eric Mjolsness en 1986. En 2015, Andrej Karpathy l'a utilisé pour décrire un modèle de langage qui générait un lien de citation incorrect. Le sens actuel s'est répandu après la sortie de ChatGPT en novembre 2022, quand des médias comme The New York Times ont repris le terme.

C'est quoi, concrètement

Une hallucination, c'est une réponse générée par une IA qui contient de l'information fausse ou trompeuse, mais qui sonne vraisemblable. Ça peut être une citation inventée, un chiffre fabriqué ou une politique qui n'existe pas. Elle arrive surtout avec les grands modèles de langage, comme ceux derrière ChatGPT. Ces modèles sont entraînés à prédire le mot suivant, ce qui les pousse à deviner même quand ils manquent d'information. Dans ton travail, ça veut dire que toute réponse d'une IA qui touche à des faits doit être vérifiée.

Exemples

ChatGPT : Quand Fast Company lui a demandé un article sur le dernier trimestre financier de Tesla, il a produit un texte cohérent, mais avec des chiffres inventés.
Galactica (Meta) : Cet outil de recherche scientifique a cité un article fictif d'un vrai auteur, puis Meta l'a retiré après quelques jours à cause de son manque de fiabilité.
Agent conversationnel d'Air Canada : Il a inventé une politique de tarif de deuil, et le Tribunal a forcé l'entreprise à l'honorer en rejetant son argument que l'agent était une entité distincte.
Bing AI (maintenant Microsoft Copilot) : Une démo de 2023 contenait plusieurs hallucinations que le présentateur n'a pas remarquées.
Rapport de Deloitte pour le gouvernement australien : On y a trouvé des sources académiques inexistantes et une fausse citation d'un jugement d'un tribunal fédéral.

Ce que ça permet

Connaître le phénomène t'aide à garder un réflexe de vérification.
Les hallucinations se repèrent mieux quand tu sais où elles se cachent: citations, chiffres, noms et sources.
Certains y voient des pistes à valider, un peu comme les premières hypothèses en science.
La recherche avance: Anthropic a observé chez Claude des mécanismes internes qui l'amènent à refuser de répondre quand il ne sait pas.
Les modèles d'IA symbolique ne produisent généralement pas d'hallucinations, contrairement aux grands modèles de langage.

Pièges à éviter

La réponse a l'air sérieuse et bien écrite, ce qui rend l'erreur difficile à voir.
L'outil peut s'entêter: ChatGPT a continué d'affirmer qu'un livre inventé existait, même quand on l'a questionné.
Une fausse prémisse dans ta question peut être reprise et enjolivée par l'IA.
Un ton plus amical rend souvent le modèle plus enclin à te donner raison, donc moins exact.
Les risques sont élevés dans les domaines à enjeux importants, comme la santé, la logistique ou le droit.
Le mot « hallucination » est critiqué parce qu'il donne à la machine un air humain, alors qu'il s'agit d'erreurs.

Pour ta PME

Utilise l'IA pour te sauver du temps sur des premières versions, mais fais toujours approuver et vérifier le contenu par une personne avant de l'envoyer à un client ou de le publier. Si tu mets un agent conversationnel devant tes clients, souviens-toi que l'entreprise reste responsable de ce qu'il dit, comme le cas d'Air Canada le montre. Évite aussi d'y coller des renseignements personnels ou confidentiels, et valide tes pratiques avec la Loi 25.

Sources : Wikipédia · mis à jour le 2026-11-06

Infolettre gratuite

« 5 prompts, 1 café »

Reçois 5 prompts prêts à copier chaque matin à 6 h 30.