Imaginez la scène.
Vous êtes devant un bureau. Sur ce bureau, un énorme dossier est posé. Dedans, il y a tout. Les notes, les annexes, les explications, les pages cruciales… et aussi toutes les pages secondaires.
On pourrait se dire : parfait, avec tout ça sous la main, trouver la bonne réponse va être un jeu d’enfant, non ?
Eh bien… pas forcément.
Avoir le dossier devant soi ne veut pas dire qu’on tombe, au bon moment, sur la bonne page. Vous le savez bien : parfois, on cherche, on feuillette, on relit… et on passe quand même à côté de l’essentiel.
Gardez cette image en tête, parce qu’elle va nous aider à comprendre ce qui se passe avec un grand modèle de langage.
Dans un LLM, ce qu’on appelle la “fenêtre de contexte”, c’est simplement la quantité de texte qu’il peut prendre en compte d’un seul coup. En une fois.
Quand cette fenêtre devient plus grande, on peut lui donner plus d’éléments. Un document très long. Plusieurs documents à la suite. Ou encore un historique de conversation beaucoup plus étendu.
Dit autrement : le modèle peut “voir” plus de texte en même temps.
Et là, instinctivement, on se dit souvent : parfait, plus il voit de texte, mieux il va répondre. C’est rassurant. On a envie d’y croire.
Et pourtant… c’est là que ça se complique un peu.
Voir plus de texte ne veut pas dire bien utiliser tout ce texte.
C’est une nuance clé. Une information peut très bien être présente dans le contexte… sans être correctement exploitée dans la réponse. Comme si la bonne page était bien dans le dossier, mais que le modèle ne s’appuyait pas dessus au moment de répondre.
Et plus les documents sont longs, denses, ou un peu mal structurés, plus ce problème se voit.
Pourquoi ? Parce que l’information utile peut se retrouver noyée au milieu d’un grand volume de contenu. On pose une question précise… et le modèle, lui, peut se laisser distraire par autre chose. Il peut donner trop d’importance à un passage secondaire. Ou se perdre dans des détails qui ne répondent pas vraiment à la demande.
Le résultat, ce n’est pas forcément une meilleure réponse. Au contraire. On peut obtenir une réponse moins précise. Moins cohérente. Ou qui passe tout simplement à côté du point essentiel.
Est-ce que ça veut dire qu’une grande fenêtre de contexte ne sert à rien ? Non, bien sûr.
Une grande fenêtre de contexte permet de nouveaux usages. Elle autorise la présence d’un dossier beaucoup plus complet dans le champ du modèle. On peut vraiment lui montrer davantage de choses en une seule fois.
Mais attention au raccourci trop simple.
Plus grand ne veut pas automatiquement dire plus fiable.
Plus de place, ça permet de mettre plus d’informations. Ça ne garantit pas, en revanche, une meilleure sélection de ce qui compte vraiment.
La vraie question, ce n’est donc pas seulement : combien d’informations on donne au modèle ? C’est aussi : comment ces informations se présentent, dans l’ensemble.
Si le contexte est redondant, trop chargé, ou mal organisé, la bonne information ne devient pas plus visible. Elle devient, au contraire, plus difficile à repérer, et donc plus difficile à utiliser correctement.
Revenons à notre bureau.
Poser tout le dossier devant quelqu’un, ça peut aider. Mais si les pages sont trop nombreuses, peu ordonnées, remplies de détails secondaires, retrouver le passage vraiment utile devient plus compliqué, pas plus simple.
Pour un LLM, c’est exactement la même limite.
Une grande fenêtre de contexte permet de montrer davantage. Elle élargit le champ de vision du modèle. Mais elle ne garantit pas que chaque information sera bien identifiée, bien hiérarchisée, et bien mobilisée dans la réponse.
C’est pour cela que la taille du contexte compte, bien sûr… mais qu’elle ne suffit pas, à elle seule.
