RAG (Retrieval-Augmented Generation) : comment ça marche et quand l’utiliser en 2026

Le RAG, pour Retrieval-Augmented Generation (génération augmentée par récupération), c’est le fait de donner à un modèle de langage les documents dont il a besoin au moment où il répond, au lieu de compter uniquement sur ce qu’il a appris pendant son entraînement. Le modèle va chercher les bons extraits dans ta base, puis rédige sa réponse à partir de ces extraits, avec les sources.

C’est la brique qui transforme un chatbot généraliste en assistant qui connaît vraiment ton entreprise : ta doc technique, tes contrats, tes tickets support, tes fiches produit. Depuis 2025, la question a changé de nature. Les modèles avalent maintenant un million de tokens d’un coup et savent aller chercher l’information tout seuls. Le RAG n’a pas disparu pour autant, mais il ne se construit plus de la même façon.

Le RAG en une phrase

Un grand modèle de langage a deux faiblesses structurelles : ses connaissances s’arrêtent à une date de coupure, et il produit parfois des affirmations plausibles mais fausses. Le RAG règle les deux d’un coup en imposant une étape de recherche avant la rédaction. La réponse n’est plus tirée de la mémoire du modèle, elle est tirée de documents que tu contrôles.

L’idée a un acte de naissance précis : l’article Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks, publié le 22 mai 2020 par Patrick Lewis et ses coauteurs (arXiv 2005.11401). Six ans plus tard, l’acronyme est partout dans les offres logicielles, souvent pour désigner des choses assez différentes.

Comment ça marche concrètement

Un système RAG classique se découpe en quatre temps. Les deux premiers se font en amont, une fois, puis à chaque mise à jour des documents.

1. Découpage et indexation. Tes documents sont découpés en morceaux (les chunks), typiquement quelques centaines de mots. Chaque morceau est converti en vecteur numérique par un modèle d’embedding, puis stocké dans une base vectorielle.
2. Récupération. Quand une question arrive, elle est convertie en vecteur à son tour. Le système cherche les morceaux dont le vecteur est le plus proche, c’est-à-dire les plus proches par le sens, pas par les mots exacts.
3. Augmentation. Les morceaux retenus sont injectés dans le prompt envoyé au modèle, avec la question de l’utilisateur et une consigne du type « réponds uniquement à partir de ces extraits ».
4. Génération. Le modèle rédige, et cite les passages utilisés.

Toute la difficulté est dans l’étape 2. Un RAG qui répond mal, dans la grande majorité des cas, est un RAG qui a récupéré les mauvais extraits. Le modèle, lui, fait souvent correctement son travail avec ce qu’on lui a donné.

Ce qui a changé depuis 2024

Les fenêtres de contexte se comptent en millions de tokens

En 2023, un modèle acceptait quelques milliers de mots en entrée, ce qui rendait la récupération obligatoire pour tout corpus sérieux. Ce n’est plus le cas. Chez Anthropic, Claude Opus 5, Sonnet 5 et Fable 5 acceptent 1 million de tokens de contexte, soit de l’ordre de 555 000 mots selon la documentation officielle (consultée le 1er août 2026). Des ordres de grandeur comparables existent chez les autres laboratoires.

Conséquence directe : pour un corpus de quelques dizaines de documents, tu peux souvent tout coller dans le prompt et te passer complètement d’une base vectorielle. C’est plus simple, et le modèle voit l’ensemble du contexte au lieu de vingt extraits isolés. Le RAG redevient intéressant quand le corpus dépasse ce que tu peux ou veux payer à chaque requête, ce qui arrive vite : tu factures la totalité du contexte à chaque appel.

La récupération est devenue une fonction hébergée

Il n’est plus nécessaire de monter soi-même une base vectorielle pour commencer. Les deux principales API proposent l’outil clés en main.

• File Search de l’API Gemini : tu importes tes fichiers, Google gère le découpage, les embeddings et l’indexation, et les réponses contiennent des citations avec nom de fichier et numéro de page pour les PDF. La documentation officielle précise que le stockage et les embeddings de requête ne sont pas facturés, seuls les embeddings d’indexation le sont, avec un plafond de 100 Mo par fichier.
• File search de l’API Responses d’OpenAI : tu crées des vector stores, tu y déposes tes fichiers, et le modèle appelle l’outil quand il en a besoin. La recherche combine sémantique et mots-clés, et les réponses renvoient des citations rattachées aux passages.

Pour un prototype interne, ces deux options font gagner des semaines par rapport à un pipeline maison.

Les agents vont chercher l’information au lieu de la recevoir

La vraie rupture est là. Un modèle récent ne se contente plus d’un paquet d’extraits fourni d’avance : il décide lui-même de lancer une recherche, lit un résultat, reformule sa requête, ouvre un fichier, recommence. C’est ce qu’on appelle le RAG agentique, et ça ressemble beaucoup plus à la façon dont un humain cherche.

Le standard qui a fait décoller cette approche est le Model Context Protocol (MCP), un protocole ouvert qui permet à n’importe quelle application d’IA de se brancher sur une source de données ou un outil externe. Introduit par Anthropic, il a été confié le 9 décembre 2025 à l’Agentic AI Foundation, un fonds dirigé sous l’égide de la Linux Foundation. Le communiqué officiel faisait alors état de plus de 10 000 serveurs MCP publiés, et la liste des membres platine (AWS, Anthropic, Block, Bloomberg, Cloudflare, Google, Microsoft, OpenAI) dit assez bien que le sujet n’est plus expérimental.

RAG, contexte long ou agent : lequel choisir

Retiens surtout la dernière ligne. Le fine-tuning n’est pas une alternative au RAG, c’est un outil qui répond à une autre question. Le RAG apprend au modèle quoi dire, le fine-tuning lui apprend comment le dire. Les deux se combinent très bien.

Dans la pratique, les architectures sérieuses de 2026 sont hybrides : une couche de récupération pour ne pas payer un corpus entier à chaque appel, un modèle capable d’avaler beaucoup de contexte pour ne pas dépendre d’un top-5 fragile, et une boucle agentique quand la question le mérite. Une revue de la littérature parue en octobre 2025 (arXiv 2510.09106) résume bien la bascule : à mesure que les modèles gagnent en capacité, l’avantage du RAG classique se réduit sur les questions simples, et se concentre sur les cas où le modèle seul se plante, corpus privé, données fraîches, réponse à sourcer.

Ce qui sépare un bon RAG d’un RAG décevant

Quatre leviers, dans l’ordre où ils rapportent le plus.

• La recherche hybride. Combine la recherche vectorielle (le sens) et la recherche par mots-clés type BM25 (les termes exacts). Les vecteurs seuls ratent régulièrement les références de produit, les codes d’erreur, les noms propres rares.
• Le reranking. Récupère large, puis fais reclasser les candidats par un modèle spécialisé avant de n’en garder qu’une poignée. C’est souvent le gain le moins cher à obtenir.
• Le contexte des morceaux. Un chunk isolé perd son sens : « le taux passe à 3,2 % » ne veut rien dire sans savoir de quel contrat et de quelle année il parle. Anthropic a documenté en 2024 une méthode consistant à faire générer par un modèle une courte description de 50 à 100 tokens replaçant chaque morceau dans son document, avant de l’indexer. Les mesures publiées font état de 35 % d’échecs de récupération en moins avec les embeddings contextuels seuls, 49 % en les combinant à un BM25 contextuel, et 67 % en ajoutant un reranker, pour un coût annoncé d’environ 1,02 dollar par million de tokens de documents avec la mise en cache.
• L’évaluation. Sans jeu de questions de référence et sans mesure, tu navigues à vue. Sépare deux métriques : est-ce que le bon passage a été récupéré, et est-ce que la réponse est fidèle à ce passage. Ce sont deux problèmes différents, avec deux corrections différentes.

Les pièges les plus courants

• Croire que le RAG supprime les hallucinations. Il les réduit fortement, il ne les élimine pas. Un modèle peut toujours déformer un extrait ou combler un trou. Les citations servent précisément à rendre l’erreur vérifiable.
• Négliger la qualité des sources. Un RAG branché sur un répertoire partagé contenant trois versions contradictoires d’une procédure répondra de façon contradictoire. Le nettoyage documentaire fait partie du projet, pas des préliminaires.
• Oublier les droits d’accès. Si ton index mélange les documents RH et les documents commerciaux, ton assistant deviendra une fuite de données à requête. Les filtres de permission doivent s’appliquer à la récupération, pas au prompt.
• Empiler la complexité trop tôt. Commence par un découpage simple, une recherche hybride et un reranker. Le graphe de connaissances et les cinq étages de reformulation attendront d’avoir des mesures qui les justifient.

Par où commencer sans écrire de pipeline

Si tu veux juste tester l’intérêt du RAG sur tes documents avant d’investir, tu as déjà tout ce qu’il faut sans coder. Les espaces de travail des assistants grand public acceptent des fichiers joints et répondent en citant les passages : c’est du RAG, en version fermée. ChatGPT, Claude et Gemini le font tous les trois, et Perplexity applique le même principe au web ouvert.

Passe au sur-mesure quand tu butes sur une limite précise : volume de documents, contrôle des accès, intégration dans un produit, coût par requête. À ce moment-là, les outils hébergés cités plus haut sont le point de départ le plus rapide, et les bibliothèques open source du type LangChain, LlamaIndex ou Haystack prennent le relais si tu as besoin de maîtriser chaque étage.

À retenir

• Le RAG fait chercher avant de faire parler : la réponse vient de tes documents, pas de la mémoire du modèle.
• Avec des fenêtres de contexte à 1 million de tokens en 2026, tout mettre dans le prompt est devenu une option crédible sur les petits corpus.
• La qualité d’un RAG se joue à la récupération : recherche hybride, reranking, morceaux contextualisés.
• Le fine-tuning n’est pas un substitut : il change la forme des réponses, pas les faits disponibles.
• La tendance de fond, ce sont les agents qui cherchent eux-mêmes via des connecteurs standardisés comme MCP.

Pour le vocabulaire qui gravite autour (embeddings, agents, contexte, MCP), le lexique de l’IA reprend les définitions, et le guide sur ce qu’est un prompt couvre la partie consigne, qui compte autant que la récupération dans la qualité finale.