新しいレポートは、意識を人工知能（AI）システムで探求し、科学的な意識の理論を用いて、AIシステムが意識的である可能性を示すための指標的な特性を開発することを探究しています。
近年、人工知能は大きく進化しており、場合によっては正当な理由があるかどうかに関わらず、それが意識を持つ可能性があるかどうかの問題が提起されています。最近の有名な例は、Googleの従業員であるBlake Lemoineと彼のLaMDA sentienteに関する発言です。彼の意識の付与に対する明らかな問題は、それがモデルの振る舞いにのみ基づいていたことです。
今回、異なる分野の研究者チームが新しいレポートを発表し、「AIの意識に対する厳密で経験に基づくアプローチ」を展開しています。Lemoineのようなケースに関して、チームは「私たちのビジョンは、これが他の場合に当てはまらないかもしれないとしても、AIに対する理論に基づくアプローチが必要であるということです。理論に基づくアプローチとは、システムがどのように機能するかに焦点を当てるものであり、それが意識的な存在の特徴と見なされる可能性がある外部の行動の形態を示すかどうかではありません。」
レポートでは、AIにおける意識を評価することが科学的に実現可能であり、「指標的な特性」のリストを提供しています。
意識の神経科学的な理論は、指標的な特性を示す
研究者は、「計算的な機能主義」の視点を採用し、意識は特定の計算を実行するAIシステムに依存すると仮定しています。それから、意識に関連する特定の計算的な機能を特定する神経科学的な理論に基づいています。これには、再帰的な処理の理論、グローバルワークスペース理論、高次の理論、認識的な現実の監視などの理論、注意のスキーマの理論、予測処理の理論、代理と組み込みの理論などが含まれます。
これらの理論から、研究者は指標的な特性のリストを導出し、その存在がAIシステムが意識的である可能性を高めるものとしています。例えば、グローバルワークスペース理論は、複数の専門化されたサブシステムと、サブシステム間で情報を共有することを可能にする容量制限のあるワークスペースを持つことなどを示唆しています。
研究者は、これらの指標的な特性を既存のいくつかのシステムの評価に使用します
研究者たちは、大規模な言語モデル（GPT-3など）はグローバルワークスペース理論の特性のほとんどを欠いていると主張しており、一方、Perceiverアーキテクチャは近づいているが、まだGWTのすべての指標を満たしていないと述べています。
AIエージェントの観点からは、GoogleのPaLM-E（「仮想のネズミ」）とGoogle DeepMindのAdAを調査しています。チームによれば、このようなAIエージェントは、そのトレーニングによって適切なモデルを学習し、行動を知覚と報酬に関連付けるモデルを学ぶようになれば、代理と組み込みの条件を満たします。研究者は、AdAがその基準に従って最も組み込まれていると見なしています。
研究者たちは、システムを構築する前に計画されたシステムにおける意識の確率を評価するための堅牢な方法を開発するためにさらなる研究を呼びかけ、さらなる研究を続けて奨励する予定です。
