Les grands modèles de langage sous la forme de chatbots constituent essentiellement une nouvelle interface informatique. PrivateGPT montre comment cela peut être appliqué à vos données privées.
Les grands modèles de langage d’entreprises telles que Microsoft ou OpenAI peuvent capturer le contenu de documents et le rendre « conversationnel ». En d’autres termes, ils peuvent avoir une conversation sur le contenu, expliquer des détails ou interpréter des déclarations, générer des résumés, déduire de nouveaux contenus, etc. Cela peut faciliter la recherche et la compréhension, et lorsque cela fonctionne de manière fiable, c’est une manière révolutionnaire d’interagir avec les ordinateurs et le contenu.
Il y a toutefois un bémol : les chatbots des grandes entreprises technologiques doivent lire vos documents. Pour des raisons de protection de la vie privée, vous voudrez peut-être éviter cela. Une alternative possible provient du mouvement open source: PrivateGPT, un chatbot local pour les documents.
PrivateGPT rend les fichiers locaux convertibles
Le projet open source permet des conversations par chatbot sur vos fichiers locaux. Vous pouvez ajouter des fichiers au système et discuter de leur contenu sans connexion internet. Par exemple, vous pouvez analyser le contenu dans un dialogue avec un chatbot pendant que toutes les données sont traitées localement. Le logiciel prend actuellement en charge douze formats de fichiers via LangChain, dont PowerPoint, Word, PDF et HTML.
PrivateGPT utilise GPT4ALL, un chatbot local formé sur la formule Alpaca, qui est elle-même basée sur une variante modifiée de LLaMA avec 430 000 sorties turbo de GPT 3.5. Il est également possible d’intégrer d’autres modèles linguistiques open source exécutables localement, tels que Camel.
Les entreprises peuvent utiliser une application telle que PrivateGPT pour la gestion des connaissances internes, le service à la clientèle ou même pour créer des modèles de communication à partir de leurs données sans en donner l’accès à des tiers.
Tous les fichiers nécessaires et les instructions d’installation de PrivateGPT sont disponibles sur Github. Un tutoriel vidéo sur l’installation est disponible auprès de Matthew Berman. En outre, PrivateGPT-App est une application web qui sert d’interface visuelle pour PrivateGPT.
