En clair
Un client demande à l'assistant du site d'un distributeur si une pièce est compatible avec son modèle de machine. Avant de répondre, le système cherche dans le catalogue et les fiches techniques les passages qui parlent de cette pièce, puis les transmet au modèle de langage avec la question. La réponse s'appuie sur la documentation de l'entreprise, et peut la citer.
Comment ça marche
Préparer la base
Les documents sont découpés en passages, et chaque passage est converti en embedding. Ces vecteurs sont rangés dans une base de données vectorielle.
Retrouver, puis générer
À chaque question, le système calcule l'embedding de la question, retrouve les passages les plus proches, puis les place dans la fenêtre de contexte du modèle avec la consigne de répondre à partir de ces sources. C'est la récupération (retrieval) suivie de la génération.
Une technique décrite en 2020
Le terme a été introduit en 2020 par des chercheurs de Facebook AI Research, de l'UCL (University College London) et de NYU (New York University). Le RAG est depuis devenu une façon répandue de faire travailler une IA sur les connaissances propres d'une entreprise, sans réentraîner le modèle.

