人工知能の4大リスク

歴史を通じて、技術の進歩は発明、適応、進歩のための新たな機会を生み出すと同時に、多くの生命や生活に取り返しのつかない損害を与えてきた。それらは、移行期の混乱に適応し、経済学者が「創造的破壊」と呼ぶものを生き抜くための、人間と社会の驚くべき能力を試してきた。

世界は今、技術的な飛躍的進歩に備えなければならない。その影響は甚大で、この激変に備えるために専門家としての人生を費やしてきた人々でさえ怯えるようなスピードで展開している。人工知能は、良くも悪くも、私たちの生活を完全に、そして急速に変えていくだろう。

数十年かかっていた仕事を数日で終わらせるような、医学的・科学的なブレークスルーが間違いなく起こるだろう。最も強力なAIツールを利用できる人々は、人類が経験したことのないような、より長く、より健康で、より豊かな生活を送る機会を得るだろう。

しかし、我々が分析し、備えなければならないリスクもある。最も重大なものは、偽情報、拡散、置換、代替の4つである。

偽情報

市民、消費者、投資家が正確で検証可能な情報に継続的にアクセスできなければ、民主主義も自由市場資本主義も成り立たない。ソーシャルメディアの台頭と、それが生み出す歪曲された情報の波は、あらゆる種類の制度に対する市民の態度をすでに蝕んでいる。AIの普及は、世界中のあらゆる国の政治生活を形成する会話に、あらかじめプログラムされた人間以外の声の大合唱を加えるだろう。

悪意ある政治的行為者、犯罪者、テロリストが、最も洗練された視聴者さえも欺くような錯覚映像を簡単に作り出すことができるようになれば、政治指導者やニュースを報道する人々が信頼性を築き、維持することがより難しくなるだろう。中国、ロシア、その他の権威主義国家は、深遠かつ前例のない方法で自由を損なう、より効果的な形態のデジタル・プロパガンダを開発し、お金を出してくれる政府にはこれらの技術を売りつけるだろう。

拡散

ここ数年、民主主義国家で最も政治的議論に夢中になっている技術的問題は、オンライン活動からのデータ収集と、それがプライバシーに与える影響である。しかし、人工知能は民主化されたテクノロジーである。私たちのオンライン生活を支配するようになった強力なハイテク企業は、自社が開発した製品の使用に関するルールやガイドラインを設定することができる。ある程度までは、それらのルールを強制することもできる。しかし、ほんの数ヶ月前まで一般的に使われていたアルゴリズムよりも強力で、ほとんど高度なAIモデルは、基本的なプログラミングスキルとラップトップコンピューターさえあれば、すでに誰でも利用できるようになっている。

私自身、公開されている情報を活用して大量のテキストを生成する独自の大規模言語モデルを使用している人を何人か知っている。オープンソースの文化があり、参入障壁が低い分野では、このような利用可能性はすぐに簡単に広まるだろう。何百万人もの人々が、インターネット上で利用可能なリアルタイムのデータを使って、独自のGPTを実行するようになる日も近いだろう。

GPTは、個人が科学や芸術の新たな境界を打ち破り、新しく有用なものを創造するために使用できる強力なツールである。また、政治的行為者、犯罪者、テロリストがマルウェアのコード化や生物兵器の作成、市場の操作、世論の毒殺に利用できる武器でもある。当局がこれらの犯罪に対抗するためにより効果的なツールを作成するためにAIを採用できるのは事実だが、政府はこれほど広範な脅威に直面したことはない。

変位

私たちは、人工知能の爆発的な普及によって、知識部門を含め、機械が人間に取って代わることで、つい最近まで私たちのほとんどにとって不可能と思われていた規模で、数え切れないほどの労働者が置き換わることを知っている。以前にもこのような混乱があったことは事実だ。最近では、ここ数十年のグローバル貿易の台頭により、工場が発展途上国に移転したため、労働者の賃金が比較的高かった国々で何百万もの製造業の仕事がなくなった。その後、オートメーション化が進み、製造業の雇用はさらに減少した。

いずれのケースでも、こうした技術的混乱は世界的な生産性と富の拡大をもたらし、最終的には破壊した以上の雇用を創出した。しかし、労働者を再教育し、適応できない人々のために持続可能な社会的セーフティネット保護を確立するには、時間と資源が必要である。

そして、人工知能の拡大が解き放つ混乱は、これまで世界が経験したどのような職場破壊よりもはるかに速いスピードで、より多くの場所でより多くの労働者を襲うだろう。この職場革命は、各国政府や多国籍機関が管理するのに不十分な規模の経済的・政治的混乱を引き起こすだろう。

置き換え

最後に、この革命には個人的な側面もある。人間は近い将来、機械との直接的なコミュニケーションに慣れるだろう。天気予報を単純なボットに頼るのではなく、複雑なやりとりや交友関係さえも、AIを駆使した複雑な機械に頼るようになるだろう。

ソーシャルメディアの使いすぎが、孤立した10代や大人に不安やうつ、さらには自傷行為まで引き起こす可能性があることは、すでに分かっている。この問題は、反社会的な傾向を持つ人々がますます洗練された機械と関係を結ぶにつれ、より大きくなっていくだろう。

これはAIが抱える最も深刻な課題であり、政策立案者が最も対応に遅れている課題でもある。

簡単に解決できる技術的なハードルと時間以外には、これらのリスクから私たちを隔てるものは何もない。それぞれの課題は、家族や地域社会、官民の意思決定者間、そして国境を越えて取り組まなければならない。この革命はすでに始まっている。