Assistant RAG ancré pour un organisme gouvernemental
40 000 documents de politique renvoient désormais les uns aux autres, avec une source sur chaque réponse.
Ce dont le client avait besoin. L’organisme avait besoin de réponses de niveau citation sur 40 000 documents de politique et d’opérations, hébergés à l’intérieur d’un périmètre de niveau PROTECTED avec zéro fuite de données, en remplacement d’un processus de demandes par boîte courriel.
Comment nous l’avons livré. Nous avons conçu une plateforme de récupération sur la location du client, en Python et TypeScript : PostgreSQL avec pgvector pour une recherche hybride BM25 plus embeddings, une récupération à portée OIDC pour que les réponses héritent des permissions des documents, et une couche de citations reliant chaque affirmation à son paragraphe source. Des modèles d’embeddings open-weight gardaient l’inférence à l’intérieur du périmètre ; un harnais d’évaluation sur jeu de référence exécutait les contrôles d’ancrage et de refus en CI, bloquant les mises en production sous le seuil. Latence P95 de réponse de 2,1 s, ancrage 0,94 au lancement, revue de sécurité clôturée sans aucune fuite de données détectée.