AnthropicのChatGPTの競合者、Claudeは、現在、テキストページを何百ページも処理でき、GPT-4を超えました。
ChatGPTのようなチャットボットのコンテキストウィンドウは、AIモデルが一度に処理できるテキストの量を決定します。OpenAIの提供するGPT-4では、ウィンドウはほぼ8,000トークン未満で、約32,000トークン未満のバリエーションがクローズドテストで試されています。
IAスタートアップのAnthropicは、競合者ChatGPTのClaudeのコンテキストウィンドウを8,000トークン未満から100,000トークンに拡張しています。会社によれば、これは約75,000ワードまたは数百ページのテキストに相当します。
Claudeは、この量を1分未満で処理することができます。
ある例では、会社は「偉大なギャツビー」のクラシックな文章を変更し、Claudeに何かが変わったかどうか尋ねました。Claudeはその変更されたフレーズを22秒で見つけました。
大きなコンテキストウィンドウを持つClaudeは、ビジネスなどのために複数の文書や完全な本から知識を結びつけることができるはずです。Anthropicによれば、「複雑な問題に対しては、これはベクトル検索ベースのアプローチよりも大幅に優れた機能を提供するでしょう」とのことです。
既に、企業はPineconeなどのベクトルデータベースプロバイダーを使用して、大量のテキストを保存し、ChatGPTや他の言語モデルで処理可能にしています。コンテキストウィンドウがこれらのベクトルデータベースに対して本当に利点を提供するかどうかは、まだ確認する必要があります。
Anthropicは、コンテキストウィンドウを活用できる多くの応用分野を見ています
Anthropicによれば、Claudeはポッドキャストの要約を作成したり(100,000トークンは約6時間のオーディオに相当)、APIの数百ページのドキュメンテーションを検索可能にするなど、多くのアプリケーションで利用できるとのことです。
その他の使用例には以下が含まれます:
- 財務諸表や研究論文のような密度のある文書の要約、解説
- 企業の年次報告書に基づいて、戦略的リスクと機会の分析
- 法案の賛否の評価
- 法的文書でのリスク、テーマ、異なる議論の形式の識別
- 開発者のドキュメンテーション数百ページの読解、技術的な質問への回答のハイライト
- コード全体を文脈内に挿入し、スマートに構築または変更することによる迅速なプロトタイピング
100,000トークンのコンテキストウィンドウは、ClaudeのAPIを介して利用可能です。