Red neuronal privada GPT

PrivateGPT es un proyecto de inteligencia artificial listo para producción que permite a los usuarios interactuar con sus documentos utilizando el poder de Large Language Models (LLM), incluso en situaciones en las que no hay conexión a Internet. Esta herramienta de inteligencia artificial proporciona total privacidad ya que ningún dato sale del tiempo de ejecución del usuario durante la interacción. El proyecto proporciona una API que ofrece todas las primitivas necesarias para crear aplicaciones de IA patentadas y sensibles al contexto. Sigue y amplía el estándar API OpenAI, admitiendo respuestas tanto regulares como de flujo.

La API se divide en dos partes lógicas: una API de alto nivel , que abstrae la complejidad de implementar una canalización de generación aumentada de recuperación (RAG), y una API de bajo nivel , que permite a los usuarios avanzados implementar sus propias canalizaciones complejas. La API de alto nivel incluye funciones como carga de documentos, chat y finalización utilizando el contexto de los documentos cargados, y también recuperación de contexto de resúmenes, creación de consultas y generación de respuestas. La API de bajo nivel proporciona funciones como generar archivos adjuntos y recuperar fragmentos contextuales.

PrivateGPT está diseñado para abordar el importante desafío de privacidad de datos que supone el uso de inteligencia artificial generativa por parte de empresas de todos los tamaños y en campos sensibles a los datos, como el sanitario o el jurídico. Ofrece una solución para brindar a una organización un control total sobre sus datos, eliminando el riesgo de fuga de datos asociado con herramientas de inteligencia artificial de terceros.

La arquitectura del proyecto se construye utilizando FastAPI y sigue el modelo de API OpenAI. Utiliza abstracciones LlamaIndex como LLM , BaseEmbedding y VectorStore , lo que facilita cambiar la implementación real de estas abstracciones. El diseño de PrivateGPT permite ampliar y adaptar fácilmente la implementación de API y RAG, proporcionando simplicidad y flexibilidad.

PrivateGPT cuenta con el apoyo activo de los equipos de Qdrant, Fern y LlamaIndex, y también ha recibido influencia y apoyo de otros proyectos importantes como LangChain, GPT4All, LlamaCpp, Chroma y SentenceTransformers.