Le RAG, pour « retrieval-augmented generation » en anglais, répond à un problème simple : un LLM ne connaît ni vos procédures, ni vos contrats, ni vos fiches produits, et il ignore tout ce qui s’est passé après son entraînement. Plutôt que de le réentraîner, on lui donne accès à une bibliothèque de documents.

Le fonctionnement se fait en deux temps. Quand vous posez une question, le système cherche d’abord, dans cette bibliothèque, les passages qui y répondent. Il les transmet ensuite à l’IA avec votre question, et lui demande de rédiger sa réponse à partir d’eux, souvent en citant ses sources. C’est un peu un examen à livre ouvert.

En entreprise, c’est la méthode la plus courante pour créer un assistant qui répond à partir de documents internes : la convention collective, le règlement intérieur, la base de connaissances du service client, le catalogue. Elle limite les hallucinations, sans les supprimer, et permet de vérifier d’où vient chaque réponse.

Deux pièges reviennent souvent :

  • des documents périmés ou contradictoires donnent des réponses fausses, mais bien sourcées ;
  • l’assistant ne doit jamais retrouver un document que la personne qui pose la question n’a pas le droit de lire : le contrôle d’accès s’applique aussi aux réponses de l’IA.

Exemple

Au service qualité, Patrick interroge un assistant branché sur les procédures de l’usine : la réponse cite la fiche concernée, qu’il ouvre pour vérifier qu’il s’agit bien de la version en vigueur.