Tree of Thoughts」フレームワークは、木探索とGPT-4を組み合わせることで、言語モデルの問題解決能力を飛躍的に向上させる。
“Tree of Thoughts “は、プリンストン大学とGoogle DeepMindの研究者が、Chain of Thoughtのようなプロンプトエンジニアリングの手法にヒントを得て、GPT-4のような言語モデルを推論するために開発した新しいフレームワークである。ただし、これらの手法とは異なり、ToTはプロンプトのみに基づくのではなく、外部モジュールを使用して、研究チームが「思考」と呼ぶテキストの単位を、問題を解決するための中間ステップとして使用する。
研究チームによると、ToTによってGPT-4は「複数の異なる推論経路を考慮し、その選択肢を評価して次の行動方針を決定するとともに、必要に応じて前方や後方を振り返ってグローバルな意思決定を行う」ことができる。
実験において研究チームは、ToTフレームワークがGPT-4の問題解決能力を大幅に、時には劇的に向上させることを実証している。例えば、GPT-4は「Chain of Thought（思考の連鎖）」プロンプト戦略では「Game of 24（24のゲーム）」タスクの4％しか解くことができなかったが、ToTを用いた言語モデルでは74％の成功率を達成した。ToTはまた、クロスワードパズルやクリエイティブライティングのタスクでもGPT-4のパフォーマンスを大幅に向上させる。
GPT-4とAlphaZeroの融合
このように、ToTはGPT-4のような大規模言語モデルの初歩的な推論能力を、AlphaZeroのようなAIシステムで使用されているものと同様の検索ヒューリスティックで強化する。ディープマインドのAIシステムとは異なり、ToTは学習するのではなく、GPT-4の自己評価と熟考を通じて探索ヒューリスティックを実装する。研究チームによると、ToTはダニエル・カーネマンのシステム1とシステム2の区別にもインスパイアされているという。
思考の木」フレームワークは、古典的な問題解決の洞察を、現代のLM（言語モデル）に適用可能な手法に変換する方法を提供する。同時に、LMは、創造的な文章のような、容易に形式化できない複雑な問題を解決する方法を提供することで、これらの古典的な方法の弱点に対処する。
Yao et al.
また、Theta Labsの研究者は別の予備的な論文で、「思考の木」と呼ばれる手法と、数独パズルにおける大幅な改良を紹介している。著者は興味深い研究の方向性として、AlphaZeroのよく知られた自動再生技術を挙げている。同様の手法により、ToTシステムは、言語モデルの学習テキスト・コーパスには存在しない革新的な問題解決戦略を開発できる可能性がある。
