Hallucination IA : exemples concrets, causes et remèdes

Une hallucination IA est une réponse plausible, rédigée avec assurance, qu'aucune source ne soutient. Le modèle produit la suite de texte la plus probable, vraie ou non. Exemple : sans le contrat V3 d'ACME sous les yeux, un assistant annonce un préavis de 6 mois au lieu de 3. En entreprise, la cause tient le plus souvent au contexte fourni : absent, périmé ou confus.

Le même modèle, devant la même question, répond juste dès qu'il reçoit le bon document. Chaque exemple ci-dessous indique d'où vient l'erreur et quel contexte l'aurait évitée.

Définition : une réponse plausible que rien ne soutient

Le modèle prédit du texte. Quand l'information manque, il comble le vide avec ce qui paraît vraisemblable.

Un grand modèle de langage, ou LLM, le moteur de ChatGPT ou de Mistral, apprend à prédire le mot suivant. Il ne consulte pas une base de faits avant d'écrire. Il produit la formulation la plus probable, compte tenu de la question et du texte qu'on lui a donné.

Une hallucination ChatGPT ressemble donc à une bonne réponse. Elle a le bon ton et le bon format, parfois un numéro d'article ou un nom de dossier. Il lui manque le lien avec une source. Une IA qui invente ne le signale pas : rien dans la phrase ne distingue le vrai du plausible.

En entreprise, deux familles d'erreurs coexistent. Dans la première, le modèle n'a aucun document et répond avec sa culture générale. Dans la seconde, il a des documents, mais il s'appuie sur une version périmée ou mélange deux entités. La seconde trompe davantage, parce que la réponse s'appuie sur un vrai fichier.

Dans les deux cas, la correction passe par le contexte, et le contrôle passe par la source citée.

Cinq exemples d'hallucination IA en entreprise

Deux affaires publiques jugées, puis trois cas reconstitués dans le monde ACME, chacun avec sa cause.

Les trois derniers sont des exemples reconstitués : ACME, client industriel, et Marc, commercial chez ACME parti depuis, sont des personnages fictifs de ce blog.

Air Canada, février 2024 : une règle de remboursement inventée

En novembre 2022, Jake Moffatt réserve un vol après le décès de sa grand-mère. Le chatbot du site d'Air Canada lui indique qu'il peut demander le tarif deuil après coup. La règle réelle, publiée sur une autre page du même site, ne le permet pas.

Le 14 février 2024, le Civil Resolution Tribunal de Colombie-Britannique condamne Air Canada à payer 812,02 dollars canadiens, dont 650,88 de dommages (Moffatt v. Air Canada, 2024 BCCRT 149, février 2024, consulté le 1er novembre 2026). Le tribunal juge que l'entreprise répond de toute l'information de son site, chatbot compris. La portée de cette décision hors du Canada est à valider avec votre juriste.

Cause : deux sources contradictoires sur le même site, et une réponse qui n'en cite aucune.

Mata v. Avianca, juin 2023 : des jurisprudences qui n'existent pas

Un cabinet new-yorkais dépose en mars 2023 un mémoire contre la compagnie Avianca. Le texte cite des décisions produites par ChatGPT, dont « Varghese v. China Southern Airlines », avec citations et numéros. Aucune n'existe. Interrogé ensuite, ChatGPT a confirmé que l'une d'elles existait bien.

Le 22 juin 2023, le juge P. Kevin Castel inflige 5 000 dollars de pénalité aux deux avocats et à leur cabinet (Mata v. Avianca, 22-cv-1461, tribunal fédéral de New York, juin 2023, consulté le 1er novembre 2026). Cause : aucune base de jurisprudence fournie au modèle, et une vérification confiée au modèle lui-même.

Le préavis de 3 mois devenu 6 mois (exemple reconstitué)

Une chargée de compte demande à un assistant généraliste le préavis de résiliation du contrat ACME. L'assistant n'a accès à aucun document et répond « 6 mois », sans source. Le contrat V3, en vigueur, prévoit 3 mois. Quand le client envoie sa résiliation 3 mois avant l'échéance, l'équipe la conteste à tort.

Cause : contexte absent.

Marc cité comme décideur (exemple reconstitué)

« Qui valide le renouvellement côté client ? » L'assistant répond « Marc », trouvé dans un compte rendu de l'an passé. Marc est parti depuis. La proposition part chez un interlocuteur qui n'est plus là.

Cause : source obsolète, sans date ni suivi des départs.

L'option de déploiement imaginaire (exemple reconstitué)

Un développeur arrivé le mois dernier demande comment déployer le service de facturation. L'assistant propose une option de ligne de commande au nom crédible, absente de l'outil interne. Le déploiement échoue.

Cause : un outil maison que le modèle n'a jamais vu, un cas courant pour les équipes techniques.

Dans les cinq cas, une source affichée aurait suffi à éviter l'erreur ou à la repérer avant qu'elle ne coûte.

Cinq causes, du contexte absent au modèle trop petit

L'ordre suit la facilité de correction : les quatre premières se règlent par le contexte, la dernière par le modèle.

Aucune étude publique ne classe ces causes par fréquence en entreprise. L'ordre ci-dessous va donc de la plus simple à corriger à la plus coûteuse.

1. Contexte absent : le modèle n'a pas le document et répond de mémoire, comme pour le préavis ACME.
2. Source obsolète : le contrat V2 et le contrat V3 sont tous deux accessibles, et la recherche remonte la V2.
3. Entités confondues : deux Marc, trois ACME, et des passages attribués au mauvais client. Le cas complet est déroulé dans l'article sur la résolution d'entités.
4. Question ambiguë : « le préavis du contrat » sans préciser lequel, et le modèle en choisit un.
5. Modèle trop petit : un modèle léger peut perdre le fil d'un long contexte et mélanger deux passages.

Les quatre premières causes se corrigent sans changer de modèle. Dans l'exemple reconstitué du préavis, le même modèle répond 3 mois dès que le contrat V3 figure dans son contexte. La fiabilité de l'IA en entreprise dépend donc d'abord de ce qu'on lui donne à lire.

Pour la cinquième, le remède consiste à tester plusieurs modèles sur vos propres questions avant de choisir.

Ce que le RAG corrige, ce qu'il ne corrige pas

Chercher les bons passages avant de répondre règle l'absence de contexte. Les versions et les homonymes restent à traiter.

Le RAG, la recherche de documents avant la génération, ajoute à la question les passages de vos documents qui s'en rapprochent le plus. Le modèle répond à partir de ce texte et non de sa culture générale. Toute base de connaissance d'entreprise interrogeable en langage courant repose sur ce principe.

Le RAG règle la première cause. Le préavis ACME ne sort plus de nulle part : il sort d'un contrat. L'option de déploiement imaginaire disparaît si la documentation interne est indexée.

En revanche, un RAG anti-hallucination au sens strict n'existe pas. En mai 2024, une équipe de Stanford a testé des outils de recherche juridique fondés sur le RAG, édités par LexisNexis et Thomson Reuters. Chacun produisait une hallucination dans 17 à 33 % des cas testés (Magesh et al., Stanford, mai 2024, consulté le 1er novembre 2026).

Les causes 2 à 4 survivent au RAG. La recherche peut remonter la V2 parce qu'elle ressemble autant à la question que la V3. Elle peut mélanger les passages de deux ACME. Elle ne devine pas quel contrat la personne avait en tête.

Trois mécanismes complètent donc la recherche :

• résolution d'entités, pour que les graphies d'un même client désignent une seule entité ;
• mémoire de faits datés, tirée des conversations de l'équipe, pour situer un fait dans le temps ;
• réponse sourcée, pour que le lecteur voie de quel document vient chaque affirmation.

Munimen ne tranche pas seul entre deux versions d'un contrat. Sa réponse cite le document dont elle tire le préavis : le lecteur voit s'il s'agit de la V2 ou de la V3. Le reste relève de la tenue des documents, sujet du système de gestion des connaissances.

Vérifier une réponse IA avant de la recopier

Une réponse sourcée se contrôle en remontant au passage cité, avant de partir chez un client.

Parce qu'aucun outil ne garantit zéro erreur, la vérification reste le dernier filet. Elle prend peu de temps quand la réponse cite ses sources. La méthode tient en cinq gestes, reproductibles sur n'importe quel assistant.

1. Ouvrir la source citée et retrouver le passage exact. Sans source, traiter la réponse comme une hypothèse.
2. Comparer la valeur de la réponse et celle du passage : 3 mois d'un côté, 3 mois de l'autre.
3. Contrôler la version du document : contrat V3 en vigueur, pas la V2.
4. Vérifier l'entité : le bon client, la bonne filiale, le bon Marc.
5. Reformuler en cas de doute : « Cite la clause de préavis du contrat V3 d'ACME. »

Le cas Avianca montre la limite du dernier geste : demander au modèle s'il a raison ne vérifie rien. Seul le document fait foi.

Dans Munimen, Companion répond avec ses sources, que l'on ouvre depuis la réponse. Le contrôle des gestes 1 et 3 se fait sans quitter la conversation.

Sans Munimen / Avec Munimen

Le même modèle et la même question sur le préavis ACME, avec ou sans le contexte de l'entreprise.

Le modèle ne change pas d'une colonne à l'autre. Seul le contexte change : les contrats connectés depuis Drive, les entités résolues, la mémoire de l'équipe. Par défaut, Mistral AI génère les réponses, et l'indexation se fait sur les serveurs de Munimen, à Paris.

Munimen ne remplace pas la relecture d'un juriste sur une clause sensible. Pour un assistant généraliste, la comparaison détaillée se trouve sur la page ChatGPT Enterprise face à Munimen.

Questions fréquentes

Qu'est-ce qu'une hallucination IA ?

Une hallucination IA est une réponse plausible et affirmée qu'aucune source ne soutient. Le modèle produit le texte le plus probable sans vérifier qu'il est vrai. En entreprise, elle naît d'un contexte absent, périmé ou confus : un préavis de 6 mois annoncé quand le contrat V3 dit 3. Les usages par équipe montrent où le risque se pose.

Pourquoi ChatGPT invente-t-il des réponses ?

ChatGPT génère le texte le plus probable à partir de sa culture générale et de ce qu'on lui fournit. Sans vos documents, il ne connaît ni vos contrats ni vos clients, et comble le vide avec une formulation vraisemblable. Brancher ses sources réduit ce risque. Le détail figure dans la comparaison entre ChatGPT Enterprise et Munimen.

Comment réduire les hallucinations IA en entreprise ?

Donner au modèle les bons documents, à jour, et exiger une réponse sourcée. Concrètement : connecter les outils où vit le savoir, résoudre les entités pour qu'un client ait un seul nom, dater les faits, puis vérifier le passage cité. La tenue des documents relève d'un système de gestion des connaissances tenu à jour.

Peut-on supprimer complètement les hallucinations ?

Non. Même des outils fondés sur le RAG en produisent : entre 17 et 33 % des cas testés dans l'étude de Stanford publiée en mai 2024. L'objectif réaliste consiste à rendre chaque erreur visible. Une réponse qui cite sa source se contrôle en quelques secondes, comme le montrent les réponses sourcées de Companion.

Quelle différence entre une hallucination et une confusion d'entités ?

Une hallucination produit une information qu'aucune source ne contient. Une confusion d'entités part d'une vraie source, mais du mauvais Marc ou du mauvais ACME. Le résultat se ressemble : une réponse fausse et sûre d'elle. Le remède diffère, et il est détaillé dans le cas Marc, ACME et le contrat V3.