Connexion à l'espace du CercleDiagnostic 30 min

Fondamentaux de l'IAMis à jour le

Qu'est-ce qu'une hallucination en IA ?

Une hallucination est une réponse fausse ou inventée qu'une IA générative présente avec assurance comme un fait : un chiffre, une citation, une source ou un événement qui n'existe pas.

Aussi appelé : confabulation, hallucinations, erreur factuelle

En clair

Un assistant d'IA rédige une note sur une réglementation et cite un article de loi qui n'existe pas, avec un numéro et une date crédibles. Rien dans le texte ne signale l'erreur. Si la note part telle quelle chez un client, c'est la crédibilité de l'entreprise qui en pâtit.

Comment ça marche

Plausible n'est pas vrai

Un grand modèle de langage prédit le texte le plus probable. Il n'a pas de base de faits à consulter par défaut. Quand une question touche une information rare, récente ou interne, il produit une réponse qui ressemble à la bonne.

Les situations à risque

Les chiffres précis, les dates, les références juridiques, les citations, les noms propres et les informations postérieures aux données d'entraînement du modèle sont les zones où les hallucinations sont les plus fréquentes.

Les parades

Donner au modèle les sources à utiliser (RAG), lui permettre de dire qu'il ne sait pas, exiger des citations vérifiables, baisser la température pour les tâches factuelles, et garder une validation humaine (human in the loop) sur les contenus sensibles.

À ne pas confondre avec

Hallucination et les termes voisins
Terme voisinSa définitionLa différence
Biais algorithmiqueUn biais algorithmique est une erreur systématique qui rend les résultats d'un système d'IA injustes ou déséquilibrés, souvent parce que ses données d'entraînement reflètent des déséquilibres ou des préjugés existants.Un biais est une erreur systématique qui penche toujours dans le même sens, héritée des données. Une hallucination est une invention ponctuelle, sans lien avec une source.
RAG (génération augmentée par récupération)Le RAG, ou génération augmentée par récupération, fournit à un modèle de langage les extraits utiles des documents de l'entreprise au moment de la question, pour qu'il réponde à partir de ces sources plutôt que de sa seule mémoire.Le RAG n'est pas un type d'erreur mais une parade : il fournit au modèle des documents de référence pour réduire les hallucinations.
  • RAG (génération augmentée par récupération)Le RAG, ou génération augmentée par récupération, fournit à un modèle de langage les extraits utiles des documents de l'entreprise au moment de la question, pour qu'il réponde à partir de ces sources plutôt que de sa seule mémoire.
  • LLM (grand modèle de langage)Un LLM, ou grand modèle de langage, est un modèle d'intelligence artificielle entraîné sur d'immenses volumes de textes pour prédire la suite la plus probable d'un texte, ce qui lui permet de rédiger, résumer, traduire, répondre ou raisonner.
  • Prompt engineeringLe prompt engineering, ou ingénierie de prompt, est la méthode qui consiste à concevoir, tester et améliorer les consignes données à une IA générative pour obtenir des réponses fiables, précises et réutilisables.
  • TempératureLa température est un réglage d'un modèle de langage qui dose la part de hasard dans ses réponses : basse, il choisit les formulations les plus probables ; haute, il varie davantage et devient plus créatif.
  • Human in the loop (validation humaine)Le human in the loop, ou humain dans la boucle, consiste à intégrer une validation humaine dans un processus automatisé ou un agent IA : le système prépare, une personne approuve, corrige ou refuse avant les actions sensibles.

Pour aller plus loin

Questions fréquentes

Pourquoi une IA hallucine-t-elle ?

Un modèle de langage produit la suite de texte la plus plausible, pas la plus vraie. Quand l'information lui manque, il comble le vide avec une réponse vraisemblable plutôt que de dire qu'il ne sait pas.

Comment réduire les hallucinations ?

Fournir les documents de référence (RAG), autoriser explicitement le modèle à répondre « je ne sais pas », lui demander de citer ses sources, et faire relire par un humain tout ce qui part chez un client.

Les hallucinations vont-elles disparaître ?

Les éditeurs de modèles travaillent à les réduire, mais aucun modèle n'en est exempt. Il faut donc organiser la vérification.

Sources

  1. Wikipédia, « Hallucination (intelligence artificielle) », consulté le .
  2. Anthropic, documentation « Reduce hallucinations », consulté le .

30 minutes pour savoir combien de temps vous récupérez.

Diagnostic offert, sans engagement, avec Mehdi ou Loïc. Réponse confirmée sous 24 h ouvrées.

  • Un échange concret, pas un argumentaire
  • 3 pistes d'automatisation identifiées
  • Compte-rendu écrit envoyé sous 24 h
Réserver mon diagnostic gratuitAppeler le +33 6 35 51 35 74

Réserver votre diagnostic de 30 min

30 minutes avec Mehdi ou Loïc, offertes et sans engagement. Choisissez le créneau qui vous arrange.

Chargement du planning…

Ouvrir le planning dans un nouvel onglet

Cookies et mesure d'audience

Nous mesurons l'audience avec Google Analytics si vous l'acceptez. En savoir plus sur les cookies et la politique de confidentialité