6 min read Contexte long

Fenêtres de 1M tokens : faut-il repenser votre architecture RAG ?

Fenêtres de 1M tokens : faut-il repenser votre architecture RAG ?

Deux annonces en une semaine ont fait basculer le contexte long d'exception à standard. OpenAI a sorti GPT-5.6 le 9 juillet 2026, avec une fenêtre de contexte de 1,05 million de tokens sur toute la famille (Luna, Terra, Sol), du modèle le moins cher au plus premium. Une semaine plus tard, le 16 juillet, Moonshot AI a publié Kimi K3 via ses applications et son API, présenté comme le plus grand modèle en poids ouverts à ce jour avec 2,8 mille milliards de paramètres, avec lui aussi 1 million de tokens de contexte et des gains d'efficacité substantiels sur l'attention grâce à son architecture Kimi Delta Attention. La publication complète des poids n'était prévue que pour le 27 juillet : au moment d'écrire ces lignes, le modèle est donc accessible via l'API hébergée de Moonshot, pas encore en téléchargement.

Le contexte à 1M tokens n'est donc plus réservé à un modèle de niche facturé au prix fort. Il descend sur toute la gamme de prix, open source compris. La question que se posent désormais les équipes d'architecture n'est plus "quand est-ce que le contexte long sera assez grand", mais "à partir de quel volume de documents le RAG reste-t-il justifié".

Le réflexe contre-intuitif à corriger : l'arrivée du contexte à 1M tokens sur tous les modèles est souvent lue comme la fin programmée du RAG. Les chiffres de coût qui suivent montrent l'inverse. Le pattern qui revient chez les équipes qui ont déjà migré une partie de leur architecture n'est pas un remplacement, c'est un ajout d'un étage de repli, pas un abandon du pipeline existant.

Ce que le calcul économique dit encore

La réponse tient d'abord à un écart de coût qui n'a pas disparu avec les nouvelles fenêtres. Une requête traitée avec un contexte de 1M tokens coûte typiquement entre 0,80 et 3,50 dollars, contre 0,02 à 0,08 dollar pour la même requête via un pipeline RAG bien réglé, un écart qui se creuse encore une fois le cache de prompt appliqué côté RAG à fort volume de requêtes. Sur un centre d'appels traitant 10 millions de requêtes par mois, l'écart se chiffre en dizaines de millions de dollars par an entre les deux approches.

Le recall multi-faits, la capacité à retrouver plusieurs informations disséminées dans un contexte très long, plafonne encore autour de 60 % pour les modèles à fenêtre longue sur des tâches réalistes, quand un pipeline RAG correctement calibré reste supérieur sur ce critère précis, avec une latence inférieure à deux secondes contre plusieurs secondes pour charger et traiter un contexte complet. Une analyse attribuée à Gartner et relayée par plusieurs médias spécialisés projette qu'environ 75 % des déploiements de GenAI en entreprise s'appuieront sur une architecture RAG d'ici 2028, contre environ 35 % en 2025, l'économie des coûts étant citée comme le principal moteur de cette croissance plutôt qu'une limite technique du contexte long.

Illustration comparant un contexte massif coûteux à un pipeline de récupération RAG efficace
Le contexte à 1M tokens se généralise avec GPT-5.6 et Kimi K3, mais l'écart de coût avec le RAG reste de plusieurs ordres de grandeur.

Où le contexte long remplace vraiment le RAG

Le contexte long a un vrai terrain de supériorité, et il est plus étroit qu'on ne le présente souvent. Sur des corpus statiques de taille modérée, en dessous d'environ 500 000 tokens, qui changent rarement et ne nécessitent pas de contrôle d'accès granulaire par document, charger l'intégralité du contexte élimine les erreurs de récupération propres au RAG : mauvais chunk sélectionné, embedding mal calibré, reranking qui écarte le bon passage. Un contrat unique à analyser, une base de code figée à auditer, un rapport annuel à synthétiser sont des cas où le contexte long simplifie l'architecture sans coût prohibitif, puisque la requête reste ponctuelle plutôt que répétée à grande échelle.

Le contexte long profite aussi du cache de prompt, une fonctionnalité que GPT-5.6 pousse plus loin avec des points de coupure de cache configurables. Quand le même contexte volumineux sert de base à plusieurs requêtes successives, le coût par requête suivante chute fortement une fois le contexte mis en cache, ce qui change le calcul pour les usages conversationnels prolongés sur un même corpus.

Où le RAG reste la bonne architecture

Le RAG garde l'avantage dès que trois facteurs entrent en jeu. Le premier est la fraîcheur des données : un contexte long chargé une fois devient obsolète dès que la source change, alors qu'un index RAG bien conçu se met à jour en continu sans recharger l'intégralité du corpus. Le deuxième est le contrôle d'accès : le RAG permet de filtrer les documents récupérés selon les permissions de l'utilisateur au moment de la requête, ce qu'un contexte pré-chargé pour tous les usagers ne permet pas sans dupliquer les contextes par profil d'accès, une approche qui explose les coûts. Le troisième est le volume : au-delà de quelques centaines de milliers de tokens de corpus utile et à un rythme de requêtes soutenu, l'écart de coût par requête rend le contexte long économiquement intenable, quelle que soit la qualité du modèle.

L'architecture hybride qui s'impose

Le pattern qui émerge dans les déploiements matures en 2026 n'oppose plus RAG et contexte long, il les combine par étages. Une première passe RAG, rapide et peu coûteuse, traite la majorité des requêtes. Un mécanisme de repli vers un contexte long complet ne s'active que pour les requêtes où le RAG échoue à retrouver une réponse satisfaisante, typiquement des questions transversales nécessitant de croiser des informations dispersées dans plusieurs documents que le retrieval classique peine à assembler correctement.

Diagramme de l'architecture hybride à deux étages RAG et contexte long
Architecture hybride à deux étages : RAG en première passe pour la majorité des requêtes, contexte long en repli pour les cas de récupération complexe.

Cette architecture répond aussi à une exigence de conformité croissante dans les secteurs régulés : documenter les sources utilisées pour chaque réponse, mesurer le taux d'hallucination et maintenir des métriques de qualité de récupération. Un pipeline RAG produit nativement cette traçabilité par citation de chunk. Un contexte long chargé en bloc la rend plus difficile à reconstituer après coup, un point que les équipes conformité découvrent souvent trop tard.

À mettre en route cette semaine

Segmentez vos cas d'usage RAG actuels par volume de corpus et fréquence de requête. Ceux qui portent sur moins de 500 000 tokens de données statiques et à faible volume sont candidats à une simplification vers un contexte chargé directement, sans pipeline de retrieval à maintenir.

Chiffrez le coût réel par requête de vos cas d'usage à fort volume avec les nouveaux tarifs de contexte long, avant de décider s'ils justifient une migration. L'écart de coût observé cette année reste structurel, pas une limitation transitoire des modèles actuels.

Identifiez les requêtes que votre RAG actuel échoue à traiter correctement, celles qui nécessitent de croiser plusieurs sources dispersées, et testez un mécanisme de repli vers un contexte long uniquement sur ce sous-ensemble.

Vérifiez que votre pipeline RAG produit une traçabilité par source exploitable en audit, avant d'envisager de vous en passer sur des cas d'usage soumis à des exigences réglementaires.

Conclusion

GPT-5.6 et Kimi K3 rendent le contexte à 1M tokens accessible sur toute la gamme de prix, y compris en open source, mais ils ne suppriment pas l'écart de coût et de contrôle qui justifie le RAG dans la majorité des déploiements à volume. Le contexte long gagne du terrain sur les corpus statiques et modérés où il simplifie réellement l'architecture. Le RAG garde l'avantage partout où la fraîcheur des données, le contrôle d'accès et le volume de requêtes dominent le calcul. L'architecture qui gagne en 2026 n'est ni l'une ni l'autre isolément, c'est la combinaison des deux, avec le RAG en première ligne et le contexte long en recours ciblé.

Sources : As of July 2026

Godwin AVODAGBE