Guide · IA souveraine
RAG souverain en entreprise : architecture, droits d'accès et évaluation
Faire répondre un modèle à partir de vos documents sans les envoyer n'importe où. Le principe, l'architecture souveraine, les droits d'accès, la qualité des sources et l'évaluation.
Qu'est-ce qu'un RAG souverain ?
Un RAG retrouve dans vos documents les passages pertinents, puis les donne à un modèle de langage qui rédige la réponse en les citant. Il est souverain quand les embeddings et le modèle sont européens (Mistral AI), la base vectorielle est hébergée en France, et les droits d'accès filtrent la recherche avant la génération.
1. Le RAG expliqué simplement
Un modèle de langage ne connaît pas vos documents. Le RAG (Retrieval-Augmented Generation, génération augmentée par la recherche) règle cela en deux temps. D'abord, le système cherche dans vos sources les passages pertinents pour la question. Ensuite, il les donne au modèle avec la question, et le modèle rédige une réponse en s'appuyant dessus, en citant ses sources. Le modèle n'est pas ré-entraîné : vos documents restent chez vous et servent seulement de contexte au moment de la réponse.
Concrètement : vos documents sont découpés en passages, chaque passage est transformé en vecteur numérique par un modèle d'embeddings (une représentation de son sens), et ces vecteurs sont stockés dans une base vectorielle. À chaque question, on calcule le vecteur de la question, on récupère les passages les plus proches, puis on les transmet au modèle de génération.
2. Les briques d'une architecture souveraine
| Brique | Rôle | Option souveraine |
|---|---|---|
| Ingestion | Lire, nettoyer, découper les documents (PDF, Word, wiki, e-mails) | Traitement sur l'instance du client, en France |
| Embeddings | Transformer texte et questions en vecteurs | Modèle d'embeddings de Mistral AI |
| Base vectorielle | Stocker et rechercher les vecteurs, avec métadonnées de droits | Base hébergée chez OVHcloud ou Scaleway, instance dédiée au nom du client |
| Génération | Rédiger la réponse à partir des passages | Modèle Mistral AI ; en mode souverain, modèle installé sur l'instance |
| Contrôle | Droits d'accès, journalisation, évaluation | Journaux conservés sur l'instance, DPA fourni |
Mistral AI publie sa propre famille de modèles d'embeddings, destinés à la recherche et à la similarité, et présente le RAG comme un usage possible dans sa documentation (docs.mistral.ai). Côté hébergement des données, Mistral indique qu'elles sont hébergées dans l'Union européenne par défaut, sauf usage explicite du point d'accès américain (centre d'aide Mistral). Pour aller plus loin sur ce choix, voir l'IA souveraine avec Mistral.
3. Les droits d'accès : le point que l'on découvre trop tard
Un RAG qui répond à tout le monde avec tous les documents est un incident de confidentialité en attente. Le droit d'accès doit être appliqué à la recherche, pas seulement à l'affichage : chaque passage porte des métadonnées (service, niveau de confidentialité, client concerné), et la recherche est filtrée selon l'identité de la personne qui pose la question. Un commercial ne doit pas voir une grille salariale, un technicien ne doit pas voir les conditions d'un autre client.
- Reprendre les droits existants (annuaire, SharePoint, GED) plutôt que d'en inventer de nouveaux.
- Filtrer avant de générer : un passage non autorisé ne doit jamais arriver jusqu'au modèle.
- Journaliser qui a posé quelle question et quelles sources ont été utilisées.
- Prévoir la suppression : quand un document est retiré, ses vecteurs doivent l'être aussi.
4. La qualité des sources décide de la qualité des réponses
Un RAG ne corrige pas des documents contradictoires : il les cite. Avant toute technique, faites l'inventaire : quelles sont les sources de référence, qui les maintient, quelle version fait foi. Les causes d'erreur les plus fréquentes sont les versions périmées en parallèle, les tableaux et schémas mal extraits des PDF, et les documents sans titre ni date. Quelques règles utiles :
- Désigner une source de vérité par sujet et retirer les doublons.
- Ajouter titre, date, version et périmètre à chaque document.
- Soigner le découpage : un passage doit rester compréhensible seul.
- Prévoir une revue périodique des sources, avec un responsable nommé.
5. Évaluer un RAG avant de lui faire confiance
On évalue deux étages séparément. La recherche : pour une question donnée, le bon passage figure-t-il dans les premiers résultats ? La réponse : est-elle exacte, fondée sur les passages fournis, et sait-elle dire « je ne sais pas » quand la source manque ? On construit pour cela un jeu de questions réelles avec la réponse attendue et la source attendue, qu'on rejoue à chaque changement (documents, découpage, modèle). Même démarche que pour tout agent : voir mettre un agent IA en production.
6. Exemples hors e-commerce
- Industrie : questions de techniciens sur des notices et procédures de maintenance, avec la version applicable à la machine concernée.
- Services : retrouver une clause ou un précédent dans les contrats et propositions passés, selon les droits du collaborateur.
- Distribution et B2B : répondre aux commerciaux sur conditions tarifaires, délais et fiches techniques à jour. Voir aussi le support interne par agent IA.
Voir aussi : IA souveraine avec Mistral, choisir son LLM, support interne par agent IA, sécurité et conformité, ou tous les guides Bynevo Labs.
Il se branche sur vos outils
Nos agents IA se connectent à vos outils métier, et Gustave, l'agent de SAV e-commerce, à votre boutique et au helpdesk que vous utilisez déjà, Gorgias, Zendesk ou Front. Changer d'outil n'est pas un préalable.
Questions fréquentes
Tout ce que vous voulez savoir.
Qu'est-ce qu'un RAG, en une phrase ?
Une méthode où le système retrouve d'abord dans vos documents les passages pertinents, puis les donne à un modèle de langage qui rédige la réponse en s'appuyant dessus. Le modèle n'est pas ré-entraîné, vos documents servent de contexte au moment de la question.
Un RAG envoie-t-il mes documents à un tiers ?
Cela dépend de l'architecture. Dans une architecture souveraine, ingestion, base vectorielle et journaux sont sur une instance hébergée en France au nom du client, et les appels aux modèles suivent vos choix : Mistral AI en Europe, ou modèle installé sur l'instance en mode souverain. Un DPA est fourni.
Comment éviter qu'un collaborateur voie des documents confidentiels ?
En appliquant les droits d'accès au moment de la recherche, via des métadonnées par document et l'identité de l'utilisateur. Un passage non autorisé ne doit jamais être transmis au modèle. Ce travail se prépare dès le cadrage, à partir de vos droits existants.
Pourquoi mon RAG donne-t-il des réponses contradictoires ?
Presque toujours parce que les sources se contredisent ou que des versions périmées coexistent. Le RAG cite ce qu'il trouve. Il faut désigner une source de vérité par sujet, dater les documents et nommer un responsable de leur mise à jour.
Comment mesure-t-on la qualité d'un RAG ?
Avec un jeu de questions réelles ayant une réponse et une source attendues. On vérifie séparément que la recherche retrouve le bon passage, puis que la réponse est exacte, fondée sur ce passage, et qu'elle sait dire qu'elle ne sait pas. On rejoue ce jeu à chaque changement.
RAG ou ajustement fin du modèle (fine-tuning) ?
Pour des connaissances qui changent et doivent être citées (procédures, tarifs, documentation), le RAG est généralement le bon choix : on met à jour les documents, pas le modèle. L'ajustement fin sert plutôt à modifier un style ou un format de sortie. Le diagnostic permet de trancher selon votre cas.
Prochaine étape
Parlons de vos documents.
Avant de parler architecture.
30 minutes sur vos sources : lesquelles, qui y a accès, quelles questions vos équipes posent.
Sans engagement · nous répondons sous 24 h ouvrées