El competidor del ChatGPT de Anthropic, Claude, ahora puede procesar cientos de páginas de texto, superando al GPT-4.
La ventana de contexto de un chatbot como el ChatGPT determina la cantidad de texto que el modelo de IA puede procesar a la vez. En el GPT-4 disponible de OpenAI, la ventana es de poco menos de 8,000 tokens, y una variante con poco menos de 32,000 tokens está en pruebas cerradas.
La startup de IA Anthropic ahora está ampliando la ventana de contexto de su competidor ChatGPT, Claude, de poco menos de 9,000 tokens a 100,000 tokens. Según la empresa, esto equivale a aproximadamente 75,000 palabras o cientos de páginas de texto.
Claude es capaz de procesar esta cantidad en menos de un minuto
En un ejemplo, la empresa cambió una frase en el clásico «El Gran Gatsby» y le preguntó a Claude si algo había cambiado. Claude encontró la frase alterada en 22 segundos.
Con la gran ventana de contexto, Claude debería ser capaz de combinar conocimiento de múltiples documentos o incluso de un libro completo, por ejemplo, en el ámbito empresarial. «Para preguntas complejas, esto probablemente funcionará considerablemente mejor que enfoques basados en vectores de búsqueda», según Anthropic.
Las empresas ya están utilizando bases de datos vectoriales de proveedores como Pinecone para almacenar grandes cantidades de texto y hacerlo procesable para el ChatGPT u otros modelos de lenguaje. Si la ventana de contexto realmente ofrece ventajas sobre estas bases de datos vectoriales aún está por verse.
Anthropic ve numerosas aplicaciones que podrían beneficiarse de la ventana de contexto
Claude podría crear resúmenes de podcasts transcritos, ya que 100,000 tokens equivalen a aproximadamente seis horas de audio, o hacer que cientos de páginas de documentación de API sean fácilmente buscables, según Anthropic.
Otros casos de uso incluyen:
- Digestión, resumen y explicación de documentos densos como informes financieros o trabajos de investigación.
- Análisis de riesgos y oportunidades estratégicas para una empresa basándose en sus informes anuales.
- Evaluación de los pros y los contras de un proyecto de ley.
- Identificación de riesgos, temas y diferentes formas de argumentación en documentos legales.
- Lectura de cientos de páginas de documentación para desarrolladores y resaltado de respuestas a preguntas técnicas.
- Prototipado rápido, incorporando un código completo dentro del contexto y construyéndolo o modificándolo de manera inteligente.
La ventana de contexto de 100,000 tokens ahora está disponible a través de la API de Claude.
