Un chatbot interne répond aux questions des collaborateurs à partir de la documentation de l'entreprise. Le construire en formation illustre concrètement le RAG et l'orchestration.
Points clés
- Définir le périmètre et la source de vérité
- Architecturer avec un RAG et un LLM
- Construire l'interface et encadrer les réponses
Définir le périmètre et la source de vérité
Commencez par cadrer les cas d'usage : réponses RH, procédures IT, FAQ produit. Identifiez les sources documentaires fiables et leur format (PDF, wiki, base de connaissances). Insistez sur la gouvernance : un chatbot ne vaut que par la qualité et la fraîcheur de ses sources. Ce cadrage évite le projet fourre-tout voué à décevoir.
Architecturer avec un RAG et un LLM
Le cœur technique est un RAG : indexation des documents en base vectorielle (Chroma ou Qdrant), récupération des passages pertinents et génération par un LLM. Pour la confidentialité, privilégiez un LLM local via Ollama ou une API conforme. Orchestrez avec LangChain ou LlamaIndex et gérez l'historique de conversation. La citation des sources renforce la confiance des utilisateurs.
Construire l'interface et encadrer les réponses
Proposez une interface simple avec Streamlit, Gradio ou Chainlit pour le prototype. Ajoutez des garde-fous : refus poli hors périmètre, message quand aucune source pertinente n'est trouvée, et journalisation des échanges. Prévoyez un mécanisme de feedback pour améliorer le système. Ces éléments font la différence entre une démo et un outil utilisable.
En pratique
Scénario. Sur deux jours (12h), les apprenants construisent un chatbot RH interne à partir d'un corpus de procédures. Ils indexent les documents dans Chroma, branchent un LLM via Ollama, orchestrent avec LangChain et exposent une interface Streamlit avec citation des sources. Livrable : un chatbot fonctionnel en local répondant à dix questions RH avec sources citées.
Questions fréquentes
Faut-il un LLM dans le cloud pour un chatbot interne ?
Pas nécessairement. Pour des données sensibles, un LLM local via Ollama garantit que rien ne sort de l'entreprise, au prix de performances un peu moindres.
Comment éviter qu'il invente des réponses ?
En l'ancrant dans un RAG qui ne répond qu'à partir des documents fournis, en citant les sources et en lui faisant dire qu'il ne sait pas quand aucun passage pertinent n'est trouvé.
Pour aller plus loin
Pour approfondir : Aborder l ethique des donnees · Aborder l ia generative d images. Et le reste de nos ressources pour les écoles, OF et formateurs.
Besoin d'un formateur expert ou envie de transmettre ?
tonformateur connecte les écoles et organismes de formation avec des intervenants experts du terrain.
Voir les cours à pourvoir Explorer l'annuaire d'outils →