Une hallucination est une réponse fausse produite par un modèle d'IA avec exactement le même aplomb qu'une réponse juste : la phrase est bien tournée, le raisonnement paraît tenir, la référence citée n'existe pas. Rien, dans la forme, ne signale l'erreur.
Pourquoi ce mot compte dans une entreprise
Le risque n'est pas l'erreur, c'est l'erreur invisible.
Un assistant administratif demande la référence de la norme applicable à un garde-corps ; il reçoit un numéro crédible, correctement formaté, qui ne correspond à rien. Recopié dans un devis, ce numéro traverse toute la chaîne sans que personne le mette en doute, parce qu'il a la tête d'une vraie référence.
Les cas les plus fréquents suivent ce motif : une date de texte réglementaire décalée d'un an, une clause contractuelle résumée dans le mauvais sens, un calcul juste dans sa méthode mais faux dans son résultat.
La cause tient à la nature même d'un grand modèle de langage : il produit ce qui est vraisemblable, non ce qui est vérifié. Le vraisemblable et le vrai coïncident le plus souvent, ce qui rend justement les exceptions difficiles à repérer.
Ce qui la réduit, ce qui ne la supprime pas
Aucun réglage ne l'élimine. Trois moyens en abaissent la fréquence :
- Le premier consiste à fournir au modèle les documents sur lesquels il doit s'appuyer, méthode appelée génération augmentée par recherche documentaire, en exigeant la citation du passage retenu.
- Le deuxième tient à la formulation de la demande, le prompt : réclamer des sources que l'on peut ouvrir, autoriser explicitement le modèle à répondre qu'il ne sait pas, découper une question large en questions vérifiables.
- Le troisième est la supervision humaine, seule à trancher quand l'enjeu est un engagement, un chiffre ou une obligation légale.
Ce qui ne fonctionne pas : demander au modèle s'il est sûr de lui, puisqu'il produira une confirmation aussi vraisemblable que l'erreur.
Pour un agent IA, qui agit au lieu de répondre, la conséquence change de nature : une hallucination ne se lit plus, elle s'exécute.