Le concurrent de ChatGPT d’Anthropic, Claude, peut désormais traiter des centaines de pages de texte, dépassant ainsi le GPT-4.
La fenêtre contextuelle d’un chatbot comme ChatGPT détermine la quantité de texte que le modèle d’IA peut traiter à la fois. Dans le GPT-4 disponible chez OpenAI, la fenêtre est légèrement inférieure à 8 000 jetons, et une variante avec un peu moins de 32 000 jetons est en cours de tests fermés.
La start-up en IA Anthropic étend désormais la fenêtre contextuelle de son concurrent ChatGPT, Claude, de légèrement moins de 9 000 jetons à 100 000 jetons. Selon l’entreprise, cela équivaut à environ 75 000 mots, soit des centaines de pages de texte.
Claude est capable de traiter cette quantité en moins d’une minute
Dans un exemple, l’entreprise a modifié une phrase dans le classique « The Great Gatsby » et a demandé à Claude si quelque chose avait changé. Claude a trouvé la phrase modifiée en 22 secondes.
Avec cette grande fenêtre contextuelle, Claude devrait être capable de combiner des connaissances provenant de plusieurs documents ou même d’un livre entier, par exemple, dans le domaine des affaires. « Pour des questions complexes, cela fonctionnera probablement beaucoup mieux que les approches basées sur des recherches vectorielles », déclare Anthropic.
Les entreprises utilisent déjà des bases de données vectorielles fournies par des entreprises telles que Pinecone pour stocker de grandes quantités de texte et le rendre exploitable pour ChatGPT ou d’autres modèles de langage. Il reste à voir si la fenêtre contextuelle offre réellement des avantages par rapport à ces bases de données vectorielles.
Anthropic voit de nombreuses applications qui pourraient bénéficier de la fenêtre de contexte
Claude pourrait créer des résumés de podcasts transcrits – 100 000 jetons équivalent à environ six heures d’audio – ou rendre des centaines de pages de documentation API interrogeables, selon Anthropic.
D’autres cas d’utilisation incluent :
- L’analyse, la synthèse et l’explication de documents denses tels que des rapports financiers ou des travaux de recherche.
- L’analyse des risques et des opportunités stratégiques pour une entreprise sur la base de ses rapports annuels.
- L’évaluation des avantages et des inconvénients d’un projet de loi.
- L’identification des risques, des thèmes et des différentes formes d’argumentation dans des documents juridiques.
- La lecture de centaines de pages de documentation pour les développeurs et la mise en évidence des réponses aux questions techniques.
- La prototypage rapide en insérant du code complet dans le contexte et en le construisant ou en le modifiant de manière intelligente.
La fenêtre contextuelle de 100 000 jetons est désormais disponible via l’API Claude.
