RAG : l'IA qui répond à partir de vos documents, expliquée

Le sigle RAG apparaît dans toutes les démonstrations d'IA d'entreprise, rarement expliqué, souvent vendu. Derrière l'acronyme se cache pourtant l'idée la plus simple et la plus importante de l'IA en entreprise : faire répondre le modèle à partir de VOS documents plutôt que de sa mémoire d'entraînement.

Ce guide explique le RAG sans jargon, montre comment il fonctionne en cinq étapes, le compare honnêtement au fine-tuning, et donne ses limites réelles, celles que les démonstrations ne montrent pas.

Qu'est-ce que le RAG ?

Le RAG (Retrieval-Augmented Generation, génération augmentée par récupération) est une architecture d'IA qui, avant de répondre, va chercher les passages pertinents dans une base documentaire (la vôtre : procédures, contrats, catalogues, historiques), puis les fournit au modèle de langage pour qu'il rédige une réponse ancrée dans ces sources.

Le terme a été introduit en 2020 par Patrick Lewis et ses collègues, alors chercheurs chez Facebook AI Research (la page Wikipedia retrace l'origine). L'idée a depuis quitté le laboratoire pour devenir l'architecture standard de l'IA d'entreprise : quand un outil promet de "répondre à partir de vos documents", c'est presque toujours du RAG.

Pourquoi le RAG est devenu le standard en entreprise

Un modèle de langage seul a deux défauts rédhibitoires pour un usage professionnel : ses connaissances s'arrêtent à sa date d'entraînement, et quand il ne sait pas, il peut produire une réponse plausible mais fausse. Aucun des deux n'est acceptable quand la question porte sur VOS prix, VOS contrats, VOS procédures.

• Des réponses ancrées : le modèle répond à partir des passages récupérés, pas de sa mémoire générale. La réponse peut citer ses sources, donc se vérifier.
• Une mise à jour sans réentraînement : le savoir vit dans les documents. Corriger une procédure met à jour les réponses immédiatement; aucun modèle à retoucher.
• Le contrôle des données : la base documentaire reste chez vous ou chez votre hébergeur choisi; le modèle la consulte, il ne l'absorbe pas.

Comment ça marche, en 5 étapes

• 1. Le découpage : vos documents sont segmentés en passages de taille digeste (une règle, un paragraphe, une clause), car le modèle ne lira pas 400 pages par question.
• 2. L'indexation : chaque passage reçoit une empreinte numérique (un embedding) qui encode son SENS. Deux passages qui parlent de la même chose ont des empreintes proches, même sans mots communs.
• 3. La recherche : à chaque question, le système retrouve les passages dont le sens est le plus proche de la question, typiquement une poignée.
• 4. L'injection : ces passages sont glissés dans le contexte du modèle avec la question, et une consigne : réponds à partir de CES éléments.
• 5. La génération : le modèle rédige, idéalement en citant les passages utilisés, ce qui rend la réponse traçable jusqu'au document source.

Toute la qualité d'un RAG se joue aux étapes 1 à 3 : un découpage maladroit ou une recherche imprécise donnent au modèle les mauvais passages, et la meilleure génération du monde répondra bien... à côté.

RAG ou fine-tuning : le vrai match

Le fine-tuning réentraîne partiellement un modèle sur vos données pour modifier son comportement. La comparaison honnête :

Pourquoi le fine-tuning n'est probablement pas pour vous

Pour une PME, le fine-tuning cumule les mauvais côtés : il exige un volume d'exemples que vous n'avez pas, il fige un savoir qui devient obsolète à la première évolution de vos règles, et il rend invérifiable l'origine d'une réponse. Ses cas légitimes existent (un style de rédaction très normé, un vocabulaire ultra-spécialisé à très grand volume), mais ils sont rares et viennent APRÈS un RAG solide, jamais à sa place.

C'est aussi une position de principe chez nous : le savoir de l'entreprise doit rester lisible, modifiable et vérifiable par ses équipes. Des règles écrites que le système consulte remplissent ce contrat; des connaissances fondues dans les poids d'un modèle, non.

Exemple concret : la question du lundi matin

Question posée au système : "quel délai de livraison annoncer au client Durand pour la référence X250 ?". Le RAG retrouve trois passages : la fiche de la X250 (délai fabricant), les conditions particulières du client Durand (livraison prioritaire négociée), et une note de mars sur les retards du fournisseur. La réponse assemble les trois, cite ses sources, et signale la note de mars comme réserve.

Sans RAG, cette réponse exigeait de connaître trois documents et leur existence. Avec, elle exige seulement qu'ils soient écrits et à jour : c'est toujours la même leçon, le système vaut ce que vaut le savoir qu'on lui donne.

Les limites honnêtes du RAG

• La qualité documentaire est le plafond : un RAG sur des documents contradictoires ou périmés répond avec assurance... des choses contradictoires ou périmées. Le tri documentaire n'est pas une option.
• La recherche peut rater : si le bon passage n'est pas retrouvé (mal découpé, mal formulé), le modèle répond sans lui. Un bon RAG se teste sur des questions réelles, avec un taux de bonnes récupérations mesuré.
• L'hallucination est réduite, pas abolie : le modèle peut encore broder autour des passages. Les garde-fous : consigne stricte, citations obligatoires, et "je ne sais pas" accepté comme réponse.
• Les droits d'accès suivent les documents : si la base contient les salaires, le RAG répond sur les salaires. Le périmètre d'accès par utilisateur se conçoit dès le départ, pas après l'incident.

De quoi c'est fait, en pratique

Un RAG d'entreprise tient en trois briques : votre base documentaire (là où vous la voulez), un index de recherche qui la rend interrogeable par le sens, et un modèle de langage consulté via API, payé à l'usage. Pas de serveur de calcul à acheter, pas de modèle à héberger pour commencer : l'investissement est dans la qualité du découpage, des règles d'accès et des tests, pas dans le matériel.

Du RAG à la mémoire opérationnelle : lire, puis agir

Le RAG rend votre savoir consultable : il répond aux questions. L'étape d'après le rend exécutable : les mêmes règles écrites, structurées et tenues à jour, deviennent le manuel qu'un agent applique pour faire le travail (trier, préparer, saisir, relancer), pas seulement pour en parler.

La façon de constituer et d'entretenir ce savoir est le sujet de notre guide du knowledge management.

C'est la différence entre une base qui sait et un système qui fait, détaillée dans notre guide de l'IA agentique. Dans les deux cas, le prérequis est identique et sans raccourci : un savoir d'entreprise écrit, structuré en règles, et maintenu par les exceptions du travail réel.

Si vos réponses internes reposent sur trois personnes et un dossier partagé, c'est un cas type du diagnostic gratuit de 20 minutes : évaluer ce qui est consultable, ce qui est exécutable, et par où commencer. Tarifs publics.