Le RAG (Retrieval-Augmented Generation) couple une recherche documentaire à un LLM pour répondre à partir de sources internes, en limitant les hallucinations.
Points clés
- Décomposer le pipeline RAG étape par étape
- Soigner le chunking et la récupération
- Outiller et évaluer un RAG
Décomposer le pipeline RAG étape par étape
Le RAG repose sur une chaîne claire : découpage des documents en chunks, calcul d'embeddings, stockage dans une base vectorielle, puis à la requête, recherche des passages similaires et injection dans le prompt du LLM. Faites construire chaque maillon séparément pour démystifier l'ensemble. Insistez sur le fait que le LLM ne mémorise rien : il raisonne sur le contexte récupéré. Cette décomposition rend l'architecture limpide.
Soigner le chunking et la récupération
La qualité du RAG dépend largement du découpage : taille des chunks, recouvrement, respect de la structure du document. Présentez la recherche par similarité cosinus et la recherche hybride combinant vectoriel et mots-clés (BM25). Introduisez le reranking pour affiner les résultats. Un mauvais chunking produit des réponses incohérentes même avec un excellent LLM.
Outiller et évaluer un RAG
Montrez une stack concrète : LangChain ou LlamaIndex pour l'orchestration, Chroma ou Qdrant comme base vectorielle, un modèle d'embeddings (sentence-transformers) et un LLM via Ollama ou une API. Évaluez la pertinence avec des métriques comme la fidélité (faithfulness) et la pertinence du contexte, par exemple avec RAGAS. L'évaluation distingue un prototype d'un système fiable.
En pratique
Scénario. Sur une journée (6h), les apprenants construisent un RAG sur une base documentaire d'entreprise (PDF de procédures internes). Ils découpent les documents avec LangChain, génèrent les embeddings avec sentence-transformers, indexent dans Chroma, puis interrogent via Ollama en local. Livrable : un assistant questions-réponses fonctionnel et une évaluation de cinq questions test.
Questions fréquentes
Le RAG supprime-t-il les hallucinations ?
Il les réduit fortement en ancrant les réponses dans des sources, mais ne les élimine pas totalement. Citer les sources et évaluer la fidélité restent indispensables.
Faut-il une base vectorielle dès le départ ?
Pour quelques documents, une recherche en mémoire suffit, mais une base comme Chroma ou Qdrant devient nécessaire dès que le volume grandit et pour la persistance.
Pour aller plus loin
Pour approfondir : Aborder l ethique des donnees · Aborder l ia generative d images. Et le reste de nos ressources pour les écoles, OF et formateurs.
Besoin d'un formateur expert ou envie de transmettre ?
tonformateur connecte les écoles et organismes de formation avec des intervenants experts du terrain.
Voir les cours à pourvoir Explorer l'annuaire d'outils →