Google Deepmindの研究者が、より良いプロンプトを再帰的に生成することで自身を向上させるAIシステム、Promptbreederを実演。
プロンプトエンジニアリングとしても知られる自然言語命令（プロンプト）の開発は、GPT-4のような大規模言語モデルの能力を向上させるための重要な技術である。しかし、このプロセスは時間がかかり、直感的でないことが多く、結果の再現性も必ずしも高くありません。Promptbreederはプロンプトエンジニアリングを自動化し、進化的アルゴリズムを用いてより良いプロンプトを連続的に生成する。
システムはプロンプトの初期セットから開始し、そのプロンプトを含むロジックタスクにおけるモデルのパフォーマンスに基づいてスコアリングされる。高得点のプロンプトは「突然変異プロンプト」で指定された特定のルールに従って突然変異され、新しいプロンプトのバリエーションが生成され、低得点のプロンプトは破棄される。この再帰的なプロセスにより、Promptbreederは広いプロンプト空間を探索し、さまざまなドメインに対して非常に効果的なプロンプトを発見することができる。
また、Promptbreederは自己参照機能を備えており、より優れたタスクプロンプトを開発するだけでなく、タスクプロンプトをどのように変化させるかを制御する、より優れた変異プロンプトも開発する。このようにして、システムは自身の検索プロセスも改善し、時間の経過とともにプロンプトを作成する効率が向上する。
Promptbreederはより良いプロンプトを発見し、将来はもっと重要になるだろう
研究者たちは、算数、推論、ヘイトスピーチ分類のタスクでPromptbreederをテストした。プロンプトブリーダーは、「思考の連鎖」のような従来の手作業によるプロンプトを常に凌駕していた。開発されたプロンプトは、しばしば直観に反し、分野特有のものであった。例えば、数学の課題の前に「SOLUTION（解決）」というプロンプトを出すと、最近発見された「深呼吸をする」というプロンプトよりも優れていた。
画像：Fernando et al.
自己参照型アーキテクチャが成功の鍵だと研究チームは言う。というのも、自己改善能力を取り除くとパフォーマンスが著しく低下することがテストで示されているからだ。
今後の改良により、Promptbreederはタスク固有の手がかりを超えた、より複雑で一般的な論理戦略を開発できるようになるかもしれない。言語モデルがより大きく、より強力になるにつれて、高速戦略の潜在的なメリットも増大するだろう、と彼らは述べている。
“私は未来が荒々しくなると信じています。ますますオープンになる自己言及的な自己改善システムが、これまで以上に大きく、より有能なLLMでスケールアップし続けるのを見るでしょう。そのようなシステムの開発は、AI研究の “聖杯 “です」と彼は付け加える。
