半ば公開され、半ばリークされたLLaMAモデルによって、Metaは言語モデルのオープンソース・ムーブメントを始めた。メタ社は今後もオープンにしていく予定だ。

社内ミーティングやレックス・フリードマンの最新ポッドキャストで、ザッカーバーグはオープンソースにはまだ多くの可能性があると強調している。彼は、このアプローチ、特にセキュリティーに関する批判に対して、システム自体の能力がまだ限定的であることを指摘し、またメタをグーグルやOpenAIのはるかに大規模なモデルと比較することで反論している。

ザッカーバーグによれば、AIが本当に超知能の域に達すれば、このスタンスを再考する必要があるだろうが、それまではAIシステムをオープンソースにすることが、安全性や人間のニーズとの整合性に関するフィードバックを得る最善の方法だという。外部からのフィードバックと緊密なコラボレーションは、メタ社のテクノロジーを改善するのに役立つだろう。

ニューヨーク・タイムズ』紙によると、ザッカーバーグは社内でもオープンソース戦略について同様の感想を述べており、AIの「民主化」には多くの利点があり、1つのAIシステムだけですべてを支配するのではなく、可能な限り多くのAIシステムを可能にするという同社の製品ビジョンにも合致していると述べている。

ザッカーバーグ氏は、「さまざまな人がさまざまな関心を持っており、そのようなさまざまな関心を代表するために、多様なAIが必要になる」と述べた。

LLaMA v2は研究プロジェクト以上のものになる

メタ社はLLaMAの後継となる「LLaMA v2」の開発に取り組んでいる。もちろん、名前が変わるかもしれない。それはまだ未定だ。

ザッカーバーグによれば、この新モデルはMetaの中核的なインフラ製品になり、自社製品で多くの役割を果たし、「できれば他の多くの製品でも」役立つだろうとのことだ。メタは、WhatsAppやInstagramのチャットボット、さらにスマートグラスやヘッドセットのAIアシスタントを計画しているようだ。

メタの焦点は、セキュリティと最先端技術の統合だ。説明責任と連携は、開発の2つの重要な側面だ。さらに、トレーニングはLLaMAと比較して「自社サービスからのより多くのデータ」を使って実施されるとザッカーバーグ氏は述べた。

LLaMA v2が再びオープンソースになるかどうかはまだ明らかではない。ザッカーバーグ氏はその可能性を否定しておらず、Meta社は社内で「どのように」を議論しているところだとフリドマン氏に語っている。LLaMA v1は研究用ライセンスの下でリリースされたため、商業プロジェクトに使用することはできない。

MetaのLLaMAは、Alpaca、Vicuna、OpenAssistantなど、オープンソースのチャットボットや言語モデルのいくつかの反復や進化の基礎となっている。