Fondamentaux de l'IAMis à jour le

Qu'est-ce qu'un embedding en IA ?

Un embedding, ou plongement, est une représentation d'un texte, d'une image ou d'un son sous forme de vecteur, une liste de nombres, construite pour que des contenus de sens proche aient des vecteurs proches.

Aussi appelé : plongement, plongement lexical, vecteur, word embedding, embeddings

En clair

Un technicien tape « la machine fait un bruit de claquement au démarrage ». La documentation interne parle de « choc mécanique à la mise en route ». Une recherche par mots-clés ne trouve rien. Une recherche par embeddings trouve la bonne fiche, parce que les deux phrases ont un sens proche.

Comment ça marche

Transformer le sens en coordonnées

Un modèle d'embedding lit un passage et le convertit en une longue liste de nombres. On peut se représenter chaque passage comme un point dans un espace : les textes qui parlent de la même chose sont proches, les autres éloignés.

Comparer par la distance

Pour trouver les passages utiles, on calcule l'embedding de la question et on cherche les points les plus proches. Une base de données vectorielle fait ce calcul très vite, même sur un grand volume de documents.

Au service du RAG

Le RAG, ou génération augmentée par récupération, utilise les embeddings pour sélectionner les extraits de vos documents à transmettre au modèle de langage avant qu'il réponde.

À ne pas confondre avec

Embedding et les termes voisins
Terme voisinSa définitionLa différence
TokenUn token est la plus petite unité de texte qu'un modèle de langage lit et produit, un mot, un morceau de mot ou un signe, et c'est en tokens que se comptent les limites et les tarifs des modèles.Le token est un morceau de texte que le modèle lit. L'embedding résume le sens d'un passage entier en nombres, pour pouvoir le comparer à d'autres.
Base de données vectorielleUne base de données vectorielle stocke des embeddings, les représentations numériques de textes ou d'images, et retrouve très vite ceux qui sont les plus proches d'une requête, c'est-à-dire les contenus de sens voisin.L'embedding est la représentation. La base de données vectorielle est l'outil qui stocke des millions d'embeddings et retrouve les plus proches.

Pour aller plus loin

Questions fréquentes

À quoi servent les embeddings en entreprise ?

À chercher par le sens plutôt que par mots-clés : retrouver la procédure qui répond à une question formulée autrement, regrouper des tickets similaires, recommander des documents proches. C'est la brique de base du RAG, la génération augmentée par récupération.

Faut-il créer ses propres embeddings ?

On utilise en général un modèle d'embedding existant, proposé par les éditeurs de modèles ou en open source. On l'applique à ses propres documents, sans entraînement.

Sources

  1. Wikipédia, « Word embedding », consulté le .

30 minutes pour savoir combien de temps vous récupérez.

Diagnostic offert, sans engagement, avec Mehdi ou Loïc. Réponse confirmée sous 24 h ouvrées.

  • Un échange concret, pas un argumentaire
  • 3 pistes d'automatisation identifiées
  • Compte-rendu écrit envoyé sous 24 h

Réserver votre diagnostic de 30 min

30 minutes avec Mehdi ou Loïc, offertes et sans engagement. Choisissez le créneau qui vous arrange.

Chargement du planning…

Ouvrir le planning dans un nouvel onglet