Connexion à l'espace du CercleDiagnostic 30 min

Fondamentaux de l'IAMis à jour le

Qu'est-ce que la fenêtre de contexte d'une IA ?

La fenêtre de contexte est la quantité maximale de texte, mesurée en tokens, qu'un modèle de langage peut prendre en compte en une fois : la consigne, la conversation, les documents fournis et sa propre réponse.

Aussi appelé : context window, contexte, longueur de contexte, mémoire de travail

En clair

Une juriste demande à un assistant d'IA de comparer un contrat fournisseur avec les conditions générales de l'entreprise. Les deux documents, sa question et la réponse doivent tenir dans la fenêtre de contexte. S'ils sont trop longs, il faut les découper ou ne fournir que les clauses concernées.

Comment ça marche

La mémoire de travail du modèle

Le modèle ne se souvient de rien d'une conversation à l'autre. À chaque requête, il relit tout ce qui se trouve dans sa fenêtre de contexte : les instructions, l'historique de l'échange et les pièces jointes. Ce qui n'y est pas n'existe pas pour lui.

Une limite mesurée en tokens

La taille de la fenêtre s'exprime en tokens. Elle varie fortement d'un modèle à l'autre et a fortement augmenté ces dernières années.

Bien remplir la fenêtre

Placer les documents de référence au début, la question à la fin, et retirer ce qui ne sert pas améliore la qualité des réponses. Pour une grande base de documents, le RAG sélectionne automatiquement les passages utiles.

À ne pas confondre avec

Fenêtre de contexte et les termes voisins
Terme voisinSa définitionLa différence
RAG (génération augmentée par récupération)Le RAG, ou génération augmentée par récupération, fournit à un modèle de langage les extraits utiles des documents de l'entreprise au moment de la question, pour qu'il réponde à partir de ces sources plutôt que de sa seule mémoire.La fenêtre de contexte est la capacité de lecture du modèle. Le RAG est une méthode pour n'y placer que les extraits utiles d'une grande base de documents.
Fine-tuning (affinage)Le fine-tuning, ou affinage, consiste à poursuivre l'entraînement d'un modèle d'IA déjà pré-entraîné sur un jeu de données spécifique, pour l'adapter durablement à un domaine, une tâche ou un style d'écriture.Ce qui est dans la fenêtre de contexte est oublié à la fin de la conversation. Le fine-tuning modifie durablement le modèle lui-même.
  • TokenUn token est la plus petite unité de texte qu'un modèle de langage lit et produit, un mot, un morceau de mot ou un signe, et c'est en tokens que se comptent les limites et les tarifs des modèles.
  • LLM (grand modèle de langage)Un LLM, ou grand modèle de langage, est un modèle d'intelligence artificielle entraîné sur d'immenses volumes de textes pour prédire la suite la plus probable d'un texte, ce qui lui permet de rédiger, résumer, traduire, répondre ou raisonner.
  • RAG (génération augmentée par récupération)Le RAG, ou génération augmentée par récupération, fournit à un modèle de langage les extraits utiles des documents de l'entreprise au moment de la question, pour qu'il réponde à partir de ces sources plutôt que de sa seule mémoire.
  • PromptUn prompt est la consigne écrite en langage courant que l'on donne à une IA générative pour obtenir une réponse : une question, une tâche à accomplir, avec le contexte, le format attendu et parfois des exemples.

Pour aller plus loin

Questions fréquentes

Que se passe-t-il quand la fenêtre de contexte est pleine ?

Selon l'outil, les messages les plus anciens sont retirés ou résumés, ou la requête est refusée. Le modèle ne peut alors plus tenir compte de ce qui n'y figure plus.

Une plus grande fenêtre de contexte est-elle toujours meilleure ?

Elle permet de traiter des documents plus longs, mais chaque token envoyé coûte et ralentit la réponse. Donner au modèle seulement les passages utiles reste souvent plus efficace.

Sources

  1. Anthropic, glossaire de la documentation Claude, entrée « Context window », consulté le .

30 minutes pour savoir combien de temps vous récupérez.

Diagnostic offert, sans engagement, avec Mehdi ou Loïc. Réponse confirmée sous 24 h ouvrées.

  • Un échange concret, pas un argumentaire
  • 3 pistes d'automatisation identifiées
  • Compte-rendu écrit envoyé sous 24 h
Réserver mon diagnostic gratuitAppeler le +33 6 35 51 35 74

Réserver votre diagnostic de 30 min

30 minutes avec Mehdi ou Loïc, offertes et sans engagement. Choisissez le créneau qui vous arrange.

Chargement du planning…

Ouvrir le planning dans un nouvel onglet

Cookies et mesure d'audience

Nous mesurons l'audience avec Google Analytics si vous l'acceptez. En savoir plus sur les cookies et la politique de confidentialité