Fondamentaux de l'IAMis à jour le

Qu'est-ce que le RAG (génération augmentée par récupération) ?

Le RAG, ou génération augmentée par récupération, fournit à un modèle de langage les extraits utiles des documents de l'entreprise au moment de la question, pour qu'il réponde à partir de ces sources plutôt que de sa seule mémoire.

Aussi appelé : retrieval augmented generation, génération augmentée par récupération, génération à enrichissement contextuel

En clair

Un client demande à l'assistant du site d'un distributeur si une pièce est compatible avec son modèle de machine. Avant de répondre, le système cherche dans le catalogue et les fiches techniques les passages qui parlent de cette pièce, puis les transmet au modèle de langage avec la question. La réponse s'appuie sur la documentation de l'entreprise, et peut la citer.

Comment ça marche

Préparer la base

Les documents sont découpés en passages, et chaque passage est converti en embedding. Ces vecteurs sont rangés dans une base de données vectorielle.

Retrouver, puis générer

À chaque question, le système calcule l'embedding de la question, retrouve les passages les plus proches, puis les place dans la fenêtre de contexte du modèle avec la consigne de répondre à partir de ces sources. C'est la récupération (retrieval) suivie de la génération.

Une technique décrite en 2020

Le terme a été introduit en 2020 par des chercheurs de Facebook AI Research, de l'UCL (University College London) et de NYU (New York University). Le RAG est depuis devenu une façon répandue de faire travailler une IA sur les connaissances propres d'une entreprise, sans réentraîner le modèle.

À ne pas confondre avec

RAG (génération augmentée par récupération) et les termes voisins
Terme voisinSa définitionLa différence
Fine-tuning (affinage)Le fine-tuning, ou affinage, consiste à poursuivre l'entraînement d'un modèle d'IA déjà pré-entraîné sur un jeu de données spécifique, pour l'adapter durablement à un domaine, une tâche ou un style d'écriture.Le RAG donne au modèle des documents à lire au moment de la question, sans le modifier, et se met à jour en ajoutant un document. Le fine-tuning réentraîne le modèle et fige ce qu'il a appris.
Fenêtre de contexteLa fenêtre de contexte est la quantité maximale de texte, mesurée en tokens, qu'un modèle de langage peut prendre en compte en une fois : la consigne, la conversation, les documents fournis et sa propre réponse.La fenêtre de contexte est la capacité de lecture du modèle. Le RAG choisit quels extraits y placer quand la base de documents est trop grande pour tout y mettre.

Pour aller plus loin

Questions fréquentes

Le RAG supprime-t-il les hallucinations ?

Il les réduit fortement quand les bons documents sont retrouvés, mais ne les supprime pas. La qualité dépend de la base documentaire et de la recherche des extraits. Demander au modèle de citer ses sources permet de vérifier.

Quels documents peut-on brancher sur un RAG ?

Tout contenu texte ou convertible en texte : procédures, fiches produit, contrats, FAQ, comptes-rendus, pages d'un intranet. Les documents doivent être à jour et les droits d'accès respectés.

Faut-il un RAG pour utiliser ses documents avec l'IA ?

Pas pour quelques documents : on peut les joindre directement à la conversation. Le RAG devient utile quand la base est trop volumineuse pour tenir dans la fenêtre de contexte, ou quand un agent doit y chercher seul.

Sources

  1. Lewis et al., « Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks », arXiv, mai 2020, consulté le .
  2. Anthropic, glossaire de la documentation Claude, entrée « RAG », consulté le .
  3. Wikipédia, « Génération à enrichissement contextuel », consulté le .

30 minutes pour savoir combien de temps vous récupérez.

Diagnostic offert, sans engagement, avec Mehdi ou Loïc. Réponse confirmée sous 24 h ouvrées.

  • Un échange concret, pas un argumentaire
  • 3 pistes d'automatisation identifiées
  • Compte-rendu écrit envoyé sous 24 h

Réserver votre diagnostic de 30 min

30 minutes avec Mehdi ou Loïc, offertes et sans engagement. Choisissez le créneau qui vous arrange.

Chargement du planning…

Ouvrir le planning dans un nouvel onglet