Faire répondre l'IA à partir de vos propres documents : le RAG expliqué à un dirigeant

Dans une PME de cinquante personnes, l’information existe, mais elle est éparpillée : procédures dans un dossier partagé, contrats types chez la juriste, fiches produit dans l’outil de gestion, conditions de garantie dans un PDF de 2022 dont personne ne sait s’il est encore valable. L’idée d’un assistant qui répond à partir de ces documents, en citant la page, séduit vite. Elle porte un nom technique, le RAG, et une promesse qui cache l’essentiel du travail.

Cet article développe le cas 11 des 12 cas d’usage de l’IA en marketing et vente, « répondre à partir de vos documents internes », classé au niveau 3, celui qui demande des données à structurer et un prestataire technique. Il ne refait pas la base de réponses du service client, qui en est la version simple et tenue à la main, ni l’audit des données en 10 points, qui se fait avant. Il explique à un dirigeant ce qu’est le RAG, quand il se justifie et ce qu’il coûte à tenir.

Réponse en bref : le RAG fait chercher à l’outil d’IA les passages utiles dans vos documents avant qu’il réponde, avec la source. Il marche quand les documents sont à jour, rangés, avec un responsable par famille et des droits d’accès clairs ; il échoue quand on branche un dossier partagé tel quel. Pour quelques dizaines de documents, un outil du marché suffit ; le RAG se justifie au-delà de quelques centaines, quand les documents changent et que tout le monde n’a pas le droit de tout voir. La technique se confie à un prestataire, piloté depuis l’entreprise ; les documents et la validation restent en interne.

Le RAG en trois temps, sans jargon

Le terme vient d’un article de recherche publié en mai 2020 par Patrick Lewis et ses coauteurs, « Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks ». L’idée : associer un modèle de langage, qui sait rédiger, à une mémoire externe dans laquelle il cherche avant de répondre. Les auteurs constataient que les réponses obtenues étaient plus précises et plus factuelles qu’avec le modèle seul.

Le point qui compte pour un dirigeant : le modèle n’apprend pas vos documents, il les relit à chaque question. Un document mis à jour est pris en compte dès qu’il est réindexé, et on peut décider, document par document, qui a le droit d’obtenir une réponse qui s’en sert.

L’ANSSI le dit en termes techniques dans ses recommandations de sécurité pour l’IA générative d’avril 2024 : sur les données d’entraînement d’un modèle, la gestion des droits d’accès des utilisateurs « n’est pas possible » ; sur les données ajoutées en production (la base documentaire d’un RAG), elle est possible, mais dépend des outils qui stockent ces documents. C’est l’argument principal du RAG face à l’idée, souvent entendue, d’« entraîner une IA sur nos documents ».

Ce que le RAG fait bien, ce qu’il fait mal

La citation de la source est ce qui rend le RAG utilisable dans une entreprise : la personne qui lit la réponse clique et vérifie. Une réponse sans source se traite comme une rumeur.

Avant le RAG : cinq conditions à vérifier

Le travail d’un projet RAG est d’abord documentaire. La partie technique est la plus visible, c’est rarement elle qui fait échouer le projet.

Ces cinq conditions recoupent le critère « données » de la grille pour choisir un premier cas d’usage. Quand deux d’entre elles ne sont pas remplies, le RAG n’est pas le prochain projet : le rangement des documents l’est.

RAG, outil du marché ou base de réponses : choisir le bon niveau

Beaucoup de besoins décrits comme « un RAG » se règlent avec moins. Le choix dépend du volume, de la fréquence des changements et des droits.

La différence tient à l’intégration et aux droits, pas à l’intelligence de l’outil ; les trois niveaux sont décrits dans l’article sur l’IA sans équipe technique. Bpifrance Le Lab relève que 51 % des PME et ETI qui ont adopté l’IA utilisent au moins une solution modifiée ou spécialisée : l’adaptation est courante, le développement sur mesure beaucoup moins.

Ce qui reste à l’entreprise, ce qui va au prestataire

Un RAG se confie à un prestataire technique pour la construction. Il ne se délègue pas en entier, parce que le prestataire ne sait pas quel document fait foi.

Deux recommandations de l’ANSSI méritent d’entrer dans le cahier des charges : journaliser l’ensemble des traitements du système, requêtes des utilisateurs comprises (R29), et revoir régulièrement les droits d’accès des outils d’IA générative branchés aux applications métier, l’ANSSI citant l’exemple d’une revue mensuelle (R35). La dernière ligne du tableau évite l’automatisation orpheline, quand le prestataire part sans laisser de quoi reprendre. Le choix du prestataire lui-même est traité dans ESN, agence ou indépendant pour l’IA.

Les données qui n’entrent pas dans la base

Tout ce qui entre dans un RAG peut ressortir dans une réponse. La question des données se pose donc document par document, avant l’indexation : données personnelles de salariés ou de clients, contrats sous clause de confidentialité, informations financières non publiées. L’ANSSI recommande de proscrire les outils d’IA générative accessibles sur Internet pour un usage professionnel qui implique des données sensibles (R34) : un RAG qui s’appuie sur un service en ligne grand public n’est pas un RAG d’entreprise. La règle de fond sur les données confidentielles dit ce qu’une PME peut confier à un outil, et la charte IA en une page dit quels outils sont autorisés.

Mesurer la qualité avant d’ouvrir

Un RAG s’ouvre aux équipes quand il répond juste sur le jeu de test, pas quand il est installé. Les indicateurs de la mesure avant et après s’appliquent, avec deux mesures propres à ce cas : la part de réponses justes et sourcées sur les cinquante questions de test, et la part de « je ne trouve pas » quand la réponse n’est pas dans la base. Un outil qui ne dit jamais « je ne trouve pas » invente.

Exemple construit : vingt personnes qui passent chacune trente minutes par jour à chercher dans les dossiers y consacrent dix heures par jour. Si l’assistant divise ce temps par deux, le gain dépasse quatre-vingts heures par mois, à condition que les réponses soient justes : une réponse fausse sur une garantie ou une procédure de sécurité coûte plus que des heures de recherche.

Verdict

À faire si les équipes perdent chaque jour du temps à chercher dans des documents nombreux, si ces documents changent souvent, si tout le monde n’a pas le droit de tout voir, et si l’entreprise a déjà un premier cas d’usage en production qui lui a appris à piloter un projet d’IA.

Inutile si les documents tiennent dans quelques dizaines de fichiers stables (un outil du marché suffit), si personne ne sait quel document fait foi (le rangement passe d’abord), ou si c’est le premier projet d’IA de l’entreprise : le niveau 3 ne se prend jamais en premier.

Ce que j’en fais

Le RAG se décide au diagnostic de Mon IA, pas après. En quatre jours, je vérifie avec l’équipe les cinq conditions ci-dessus, je compte le temps passé à chercher, et je dis si le besoin relève d’un outil du marché, d’une base de réponses ou d’un vrai RAG. Quand c’est un RAG, je ne le développe pas et je ne vends aucune plateforme : j’aide à écrire le cahier des charges, à choisir le prestataire, à préparer les documents et le jeu de test, puis je pilote le projet du côté de l’entreprise. Le plus souvent, je recommande de commencer par un cas d’usage de niveau 1 ou 2, et de garder le RAG pour la suite.

FAQ

Qu’est-ce que le RAG, en une phrase ?

Le RAG (génération augmentée par récupération) est une méthode où l’outil d’IA cherche d’abord, dans vos documents, les passages qui répondent à la question, puis rédige sa réponse à partir de ces passages, en citant la source. Le modèle n’apprend pas vos documents : il les relit à chaque question. C’est ce qui permet de tenir la base à jour et de gérer qui a le droit de voir quoi.

Une PME a-t-elle besoin d’un RAG ?

Rarement pour commencer. Pour quelques dizaines de documents, un outil du marché auquel on joint les fichiers, ou un espace de projet partagé, suffit. Le RAG se justifie quand les documents se comptent par centaines, changent souvent, et que tout le monde n’a pas le droit de tout voir. C’est un cas d’usage de niveau 3, à ne pas prendre comme premier projet.

Combien de temps faut-il pour mettre un RAG en place ?

Comptez quatre à six mois pour un assistant interne utile, dont une bonne part consacrée aux documents eux-mêmes : tri, mise à jour, droits d’accès, responsable par famille de documents. La partie technique se confie à un prestataire ; le tri des documents et la validation des réponses restent dans l’entreprise, parce que personne d’autre ne sait quel document fait foi.

À lire aussi

• Les 12 cas d’usage de l’IA en marketing et vente pour situer le RAG parmi les cas de niveau 3.
• Vos données sont-elles prêtes pour l’IA ? L’audit en 10 points pour vérifier l’état des documents avant tout projet.
• Mettre l’IA en place sans équipe technique pour ce qui se fait en interne et ce qui demande un prestataire.
• ESN, agence ou indépendant pour l’IA pour choisir qui construit.
• Mon IA : mettre l’IA au travail dans votre PME pour l’offre, du diagnostic au pilotage.
• Le diagnostic IA en 10 questions pour situer votre entreprise.

Démarrer

Si vos équipes perdent du temps à chercher dans vos documents, décrivez-moi les volumes et les types de documents : je vous réponds sous 48 h avec le niveau par lequel je commencerais.

Sources

• Patrick Lewis et al., « Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks », arXiv, mai 2020 : définition du RAG (modèle de langage associé à une mémoire externe interrogée avant la réponse), réponses plus précises et plus factuelles que le modèle seul.
• ANSSI, « Recommandations de sécurité pour un système d’IA générative », 29 avril 2024, 35 recommandations : droits d’accès impossibles à gérer sur les données d’entraînement, possibles sur les données ajoutées en production ; journalisation (R29) ; outils en ligne proscrits pour les données sensibles (R34) ; revue régulière des droits, par exemple mensuelle (R35).
• Bpifrance Le Lab, « L’IA dans les PME et ETI françaises, une révolution tranquille », juin 2025, 1 209 dirigeants : 51 % des PME et ETI qui ont adopté l’IA utilisent au moins une solution modifiée ou spécialisée.

Dans la même catégorie