Los grandes modelos lingüísticos en forma de chatbots son esencialmente una nueva interfaz informática. PrivateGPT demuestra cómo puede aplicarse a sus datos privados.
Los grandes modelos lingüísticos de empresas como Microsoft u OpenAI pueden capturar el contenido de los documentos y convertirlo en «conversacional». En otras palabras, pueden mantener una conversación sobre el contenido, explicar detalles o interpretar afirmaciones, generar resúmenes, inferir nuevos contenidos, etcétera. Esto puede ayudar a la investigación y la comprensión, y cuando funciona con fiabilidad, es una forma revolucionaria de interactuar con los ordenadores y los contenidos.
Sin embargo, hay una advertencia: los chatbots de las grandes empresas tecnológicas necesitan leer tus documentos. Por razones de privacidad, quizá quieras evitarlo. Una posible alternativa viene del movimiento open source: PrivateGPT, un chatbot local para documentos.
PrivateGPT hace convertibles los archivos locales
El proyecto de código abierto permite conversaciones de chatbot sobre tus archivos locales. Puedes añadir archivos al sistema y mantener conversaciones sobre su contenido sin conexión a Internet. Por ejemplo, puede analizar el contenido en un diálogo de chatbot mientras todos los datos se procesan localmente. El software admite actualmente doce formatos de archivo a través de LangChain, incluidos PowerPoint, Word, PDF y HTML.
PrivateGPT utiliza GPT4ALL, un chatbot local entrenado con la fórmula Alpaca, que a su vez se basa en una variante LLaMA retocada con 430.000 salidas turbo de GPT 3.5. Como alternativa, se pueden integrar otros modelos lingüísticos de código abierto ejecutables localmente, como Camel.
Las empresas podrían utilizar una aplicación como PrivateGPT para la gestión interna del conocimiento, la atención al cliente o incluso para crear modelos de comunicación a partir de sus datos sin dar acceso a terceros.
Todos los archivos necesarios y las instrucciones de instalación de PrivateGPT están disponibles en Github. Matthew Berman ofrece un tutorial en vídeo sobre la instalación. Además, PrivateGPT-App es una aplicación web que sirve de interfaz visual para PrivateGPT.
