Aller au contenu
Pilote Expertise

visio et maquette gratuites

Définition

Hallucination

Une hallucination est une réponse fausse produite par un modèle d'IA avec exactement le même aplomb qu'une réponse juste : la phrase est bien tournée, le raisonnement paraît tenir, la référence citée n'existe pas. Rien, dans la forme, ne signale l'erreur.

Pourquoi ce mot compte dans une entreprise

Le risque n'est pas l'erreur, c'est l'erreur invisible.

Un assistant administratif demande la référence de la norme applicable à un garde-corps ; il reçoit un numéro crédible, correctement formaté, qui ne correspond à rien. Recopié dans un devis, ce numéro traverse toute la chaîne sans que personne le mette en doute, parce qu'il a la tête d'une vraie référence.

Les cas les plus fréquents suivent ce motif : une date de texte réglementaire décalée d'un an, une clause contractuelle résumée dans le mauvais sens, un calcul juste dans sa méthode mais faux dans son résultat.

La cause tient à la nature même d'un grand modèle de langage : il produit ce qui est vraisemblable, non ce qui est vérifié. Le vraisemblable et le vrai coïncident le plus souvent, ce qui rend justement les exceptions difficiles à repérer.

Ce qui la réduit, ce qui ne la supprime pas

Aucun réglage ne l'élimine. Trois moyens en abaissent la fréquence :

  • Le premier consiste à fournir au modèle les documents sur lesquels il doit s'appuyer, méthode appelée génération augmentée par recherche documentaire, en exigeant la citation du passage retenu.
  • Le deuxième tient à la formulation de la demande, le prompt : réclamer des sources que l'on peut ouvrir, autoriser explicitement le modèle à répondre qu'il ne sait pas, découper une question large en questions vérifiables.
  • Le troisième est la supervision humaine, seule à trancher quand l'enjeu est un engagement, un chiffre ou une obligation légale.

Ce qui ne fonctionne pas : demander au modèle s'il est sûr de lui, puisqu'il produira une confirmation aussi vraisemblable que l'erreur.

Pour un agent IA, qui agit au lieu de répondre, la conséquence change de nature : une hallucination ne se lit plus, elle s'exécute.

Rémi Doyen, pour l'équipe Pilote Expertise. Mis à jour le .

Trente minutes pour savoir si nous pouvons vous être utiles.

Nous regardons ensemble ce qui vous coûte des heures chaque semaine. Si nous ne pouvons rien pour vous, nous vous le dirons pendant l'appel.

visio et maquette gratuites

  • Certifié Qualiopi pour les actions de formation
  • Hébergement en France, en Europe ou chez vous
  • Conforme RGPD
  • Code source remis
  • Basée près de Nancy

30 min · visio · gratuit

Réserver une visio de 30 min

visio et maquette gratuites

Cadrage : ce qui est faisable et à quelles conditions

30 minutes en visioconférence Google Meet, ouvert à tous les sujets.

Le module de réservation n'est pas encore configuré sur cet environnement.

Page de rendez-vous ou contact direct.

Ouvrir Calendly dans un nouvel onglet · Rendez-vous hébergé par Calendly (États-Unis), voir la politique de confidentialité.