RAGOpen SourceOn-premiseConfidentialitéPostgreSQLEmbedding

Problématique

Dépendance coûteuse aux fournisseurs d'IA et nécessité de protéger les données sensibles en évitant de les envoyer à des services externes.

Réflexion

Il est possible d'obtenir des résultats plus que corrects avec des technologies Open Source sur des machines grand public, sans dépendre de fermes de serveurs coûteuses.

Solution

Mise en place d'un système RAG en local utilisant des modèles Open Source (SLM) et une base de données vectorielle (PostgreSQL avec extension PG vector) pour répondre aux requêtes des utilisateurs avec des données enrichies, tout en garantissant la confidentialité des données.

Autres Projets