DeepAIの創設者でありCEOのケビン・バラゴナは、人工知能の発達に有望な未来を見出し、この進化を目撃することの重要性を強調している。彼は、私たちはSF映画から飛び出してきたかのような技術の進歩の時代に生きており、この変革に立ち会えることに感謝していると言う。

昨年のChatGPTの立ち上げは、人工知能を人々の手に届けただけでなく、AIコミュニティーの中で、この技術がもたらすリスク、報酬、害についての議論を激化させた。

このAIの会話は、より強力なAIモデルの開発を6ヶ月間休止するよう求める書簡に広く署名され、後にAIの「絶滅」のリスクを強調する声明につながった。両者とも、この声明を恐怖を煽るものに過ぎないと考える専門家から、支持と批判の両方を受けた。

オンラインでテキストベースのイメージャーを開発した最初の企業であるDeepAIの創設者兼CEOのケビン・バラゴナは、GPT-4よりも強力なモデルの開発を一時停止するよう求める書簡に署名した。

この書簡は、セキュリティー上の懸念から開発を遅らせるという考えは支持されているものの、ほとんど象徴的なものになっていると彼は言う。OpenAIのCEOであるサム・アルトマンは最近、同社はセキュリティ上のリスクからGPT-5のトレーニングは現在行っていないと述べた。

「われわれは、そのような事態からかなり遠いところにいる」とアルトマンは付け加えた。

冗談ではない

DeepAIが最初に立ち上げられた2016年当時、AIは「好奇心」に過ぎなかった。挑戦だった。今、私たちはAIを機能させることに成功し、課題は少し違っています」とバラゴナはザ・ストリート紙に語った。「課題は、この技術を使って何をすべきか、どうすれば安全に使えるかということだ」。

「これは冗談ではない」と彼は強調した。

AIが社会に害を及ぼす可能性はいくつかある。例えば、AIの専門家であるゲイリー・マーカスは、ロボットが世界を征服することよりも、プロパガンダや誤報、オンライン詐欺のほうを懸念している。

しかし、バラゴナが最も懸念しているのは、「あらゆる種類の知識ベースの仕事を破壊する恐れがある」という、迫り来る経済的影響である。

「医者、弁護士、カスタマー・サポート、ジャーナリスト、ソフトウェア・プログラマーであろうと関係ありません。それに対する答えは、AIはどんどん良くなっているということだ。現在、AIは30oaに過ぎないかもしれないが、指数関数的な技術によって、1年後には99apazになることが期待できる」。

これが、すでにAIに取って代わられようとしているアーティストやミュージシャン、その他のクリエイターに対するケヴィン・バラゴナの答えだ。

バラゴナによれば、AIによる混乱はあらゆる分野に影響を及ぼすという。現在、電気技師やカイロプラクターのような肉体労働だけが影響を受けていないが、ロボット工学がAIと融合し、さらに顕著になるため、この分野も安心はできない。

「バラゴナは、「アーティストが特別に狙われているとは思いません。

AIの最適な規制

バラゴナがDeepAIで目指しているのは、このテクノロジーに何ができるかを人々に伝え、特定の政策を提唱することだ。しかし、欧州連合（EU）のAI法に含まれる提案（モデルを許容できないリスク、高リスク、限定的リスク、最小リスクに分類する）は、彼に言わせれば制限が多すぎる。規制当局が直面している課題は、イノベーションと保護のバランスをとることだ。

「人々の顔や声を無断で盗むディープフェイクの使用に対する明確なガイドラインを確立し、同様に他のタイプの偽情報を規制できれば、それは良いスタートになるでしょう」とバラゴナは言う。

ホワイトハウスが提案したAI権利章典が明確な法律になれば、うまく機能する可能性があると述べた。ホワイトハウスの提案は、AI規制の可能性を、安全で効果的なシステム、データプライバシー、差別からの保護、通知と説明、人道的な代替案の5つの指針に分類している。

それでも、全体的に危険なのは、この技術の不確実性に関連している。アルトマン自身は、「ずれた超知的AIが世界に重大な害を及ぼす可能性がある」と述べている。

しかし、AIによる人類の滅亡を伴う「シンギュラリティ」という仮定のリスクは、「今日のAIシステムの使用から生じる実際の害を無視している」とDistributed AI Research Institute（DAIR）は書いている。

ノア・ジアンシラクサ博士のような他の専門家は、滅亡について強い意見を持つには時期尚早だと考えている。ジャンシラクサは、最も可能性の高い道は、良い結果と悪い結果の両方を伴うものだと考えている。

「経済学者は何が起こるかわからない。このようなテクニカルな波はかつてなかった。過去の革命と比較すべきではない。

AIが物事にどのような影響を与えるかを正確に予測するのは難しいが、バラゴナが最も確信している予測は、我々は “一種のSF的な未来 “に向かっているということだ。

“確かに奇跡は起こるだろう。恐ろしいことも起こりうると思います」と述べ、現在と同じように「ミックスされたパッケージになるでしょう」と付け加えた。

このような奇跡の可能性があるにもかかわらず、バラゴナは「我々の軌道に完全に満足している」わけではない。

「ボタンを押せばAIが生まれないと保証できるなら、そのボタンを押したくなるだろう。「とはいえ、この技術が生み出されようとしているのは事実だ。倫理的な方法で世界を形成しようとすることは、道徳的な要請であると私は信じている。私は、外部にいるよりもAI業界にいる方が、それを実行する能力がはるかにある」。

そしてその一方で、テクノロジーはより強力になり続けている。

“私たちは種としてAIを創造し続けるでしょう。地球上で非常に印象的な発展の過程に立ち会えることは、ポジティブな側面があります。” バラゴナは言った。 “だから私は、それを目撃できることにほとんど感謝しています。”