ニューラルネットワークの先駆的研究で “ノーベル計算機賞 “を受賞したジェフリー・ヒントンは、いまやAIのリスクについて自由に語っている。

ジェフリー・ヒントン氏は、他の2人のいわゆる「AIのゴッドファーザー」とともに、現在の人工知能ブームのきっかけとなった基本的な研究で2018年のチューリング賞を受賞したが、今では自分のライフワークを後悔している部分があるという。ニューヨーク・タイムズ』紙に掲載された75歳のインタビューによると、ヒントンは最近、AIのリスクについて自由に発言するためにグーグルの仕事を辞めたという。

「私がやらなかったら、他の誰かがやっていただろう、という普通の言い訳で自分を慰めています」と、グーグルで10年以上働いていたヒントン氏は語った。”悪い行為者が悪いことのために自分を利用するのを止めることは難しい”

NYTによると、ヒントン氏は先月グーグルに辞意を伝え、木曜日にスンダル・ピチャイCEOと直接話したという。その話し合いの詳細は公表されていない。

長年の研究者であった彼は、ヒントン氏と彼の学生2人が立ち上げた会社をグーグルが買収した後に入社し、そのうちの1人はOpenAIのチーフ・サイエンティストになった。ヒントンと彼の学生たちは、何千枚もの写真を分析した後、犬、猫、花などの一般的な物体を識別するニューラルネットワークを開発した。この研究がChatGPTとGoogle Bardの誕生につながった。

NYTのインタビューによると、マイクロソフトがOpenAIを取り入れた新しいBingを立ち上げ、グーグルのコアビジネスに挑戦し、検索大手内で「コード・レッド」の反応を引き起こすまでは、ヒントンはグーグルの技術管理に満足していたという。この熾烈な競争を止めることは不可能かもしれず、その結果、「何が真実なのか」誰も見分けられなくなるほど多くの偽の画像やテキストが存在する世界になるだろう、とヒントン氏は言う。

グーグルのチーフ・サイエンティスト、ジェフ・ディーンは、次のような声明で打撃を和らげようとしている。私たちは、大胆にイノベーションを起こしながら、新たなリスクを理解するために学び続けています”

ヒントンもツイッターで、グーグルの経営陣としての立場を明らかにした：

偽情報の拡散は、ヒントン氏の当面の懸念事項のひとつに過ぎない。より長い時間軸では、AIが自らコードを書き、実行し始めることで、AIが定型的な仕事をなくし、ひょっとすると人類そのものをなくしてしまうのではないかと懸念している。

「AIが人間よりも賢くなるという考え方は、一部の人々には信じられていた。「しかし、ほとんどの人は、それはあまりにも先の話だと考えていた。私も遠すぎると思った。私は30年から50年、あるいはもっと先だと思っていた。明らかに、私はもうそれについて考えていない”

内容はThe Vergeより。