オープンソースのAIが台頭している。これにより、一握りの企業が技術を支配する可能性は低くなる。
彼らはソフトウェアを書くことで世界を変えた。しかし、技術系の人々は長文の散文メモを書くことでも知られており、最も有名なものはコンピューティングの転換点を示すものだ。
ビル・ゲイツが1995年に書いた「インターネットの潮流」というメモが、マイクロソフトをウェブに向かわせた。また、ジェフ・ベゾスが2002年に書いた「api mandate」というメモが、アマゾンのデジタルインフラを開放し、現代のクラウドコンピューティングへの道を開いた。
今、技術者たちは、今度はグーグル内部から流出した「We have no moats(我々には堀がない)」と題された別のメモに興奮している。
作者不明のこのメモには、人工知能(AI)の目覚ましい進歩の詳細が記されており、目まぐるしく変化するこの業界のパワーバランスについて、長年の思い込みに挑戦している。
AIは、2022年末にマイクロソフトと密接な関係にある新興企業、Openai社製の「大規模言語モデル」(llm)を搭載したチャットボット、Chatgptが発表されたことで、一般に知られるようになった。この成功により、グーグルや他のテクノロジー企業もllmを搭載した独自のチャットボットを発表するようになった。これらのシステムは、インターネットから取得した何兆もの単語を使って訓練されているため、テキストを生成し、現実的な会話をすることができる。大規模なlmの訓練には数ヶ月かかり、数千万ドルのコストがかかる。このため、AIは資金力のある一部の企業に独占されるのではないかという懸念が生まれた。
しかし、グーグルのメモによれば、この仮定は間違っている。オープンソースコミュニティの研究者たちは、無料のオンラインリソースを使って、最大手のプロプライエタリモデルに匹敵する結果を達成している。LoRa(低ランク適応)と呼ばれる技術を使ってllmを “チューニング “できることが発見された。 これにより、llmをゼロからトレーニングするよりもはるかに迅速かつ安価に、既存のllmを特定のタスクに最適化することができる。
オープンソースAIの活動は、フェイスブックの親会社であるメタ社が作成したモデル「llama」がネット上に流出した3月に爆発的に増加した。最大規模のllmよりも小さいが(グーグルのPalmの5400億に対し、その最小バージョンは70億のパラメータを持つ)、いくつかのタスクでChatgptのオリジナル・バージョンに匹敵する結果を出すためにすぐに調整された。オープンソースの研究者たちが互いにllamaを使った研究を積み重ねた結果、「ものすごいイノベーションの波が押し寄せた」とメモの著者は書いている。
このことは、この業界の未来に激震をもたらすかもしれない。「トレーニングや実験への参入障壁は、大規模な研究組織の総生産量から、一人、一晩、そして強力なラップトップにまで下がった」とグーグルのメモには書かれている。数時間で100ドルのllmを調整することが可能になった。オープンソースには、我々には真似できない大きな利点がある」。つまり、グーグルはオープンソースの競合他社に対して防御的な「堀」を持っていないということだ。オプナイも同様だ。
誰もがこの論文に同意しているわけではない。インターネットがオープンソース・ソフトウェアに支えられているのは事実だが、アドビ・フォトショップからマイクロソフト・ウィンドウズまで、人々は有料のプロプライエタリ・ソフトウェアも使っている。人工知能も同様のバランスを取ることができる。しかも、人工知能システムを評価するのは難しいことで知られている。しかし、このメモが部分的に正しいとしても、AIテクノロジーへのアクセスは、ほんの1年前よりずっと民主化されるだろう。強力なLLMをノートパソコンで実行できるようになり、望めば誰でも自分のAIを微調整できるようになる。
これにはプラスとマイナスの両方の意味がある。プラス面では、少数の企業によるAIの独占的支配が起こりにくくなる。AIへのアクセスが格段に安くなり、分野全体のイノベーションが加速し、研究者がAIシステムの挙動を分析しやすくなり(独自モデルへのアクセスは制限されていた)、透明性と安全性が高まる。しかし、AIへのアクセスが容易になるということは、悪意のある行為者が偽情報の生成など、悪意のある目的のためにシステムをいじることができるようになるということでもある。敵対的な政権が強力なAI技術にアクセスするのを防ごうとする西側の試みが失敗に終わることを意味する。そして、AIを規制することが難しくなる。
グーグルとその同類がAIで本当に堀を失ったかどうかは、すぐに明らかになるだろう。しかし、以前のメモと同様、これはコンピューティングの新たな転換点のように見える。参考:エコノミスト誌