このスパコンは、相互に接続された、合計36エクサフロップスの処理能力を持つ、より大きなコンステレーションの一部である。
アブダビを拠点とする技術持ち株会社G42グループは、プレスリリースによると、5,400万コアを搭載し、4エクサフロップスの処理能力を持つ世界最速のスーパーコンピューター「Condor Galaxy-1(CG-1)」を発表した。このスパコンはカリフォルニア州サンタクララに設置され、米国のAI企業セレブラス社が米国の法律に従って運用する。
人工知能(AI)技術が主役になるにつれ、企業が独自のモデルを訓練するためのスーパーコンピューターに対する需要は非常に高まっている。マイクロソフトのような企業は、非常に高価なインフラを構築し、企業が作業できるように貸し出すことを提案している。
アブダビを拠点とするG42はテクノロジー・ホールディング・グループで、未来的な世界のためのインフラを構築することを目指している。そのビジョンを実現するために国家や企業と協力し、現在人類が直面している最大の問題を解決するためにスーパーコンピューターのコンドル・ギャラクシー・システムを構築している。
コンドル・ギャラクシー・システムとは?
多くのハイテク企業が、AIモデルの頭脳であるグラフィック・プロセッシング・ユニット(GPU)の巨大なクラスターの構築を発表している。「ひとつのモデルを何千もの小さなGPUに分散させるには、稀有な専門知識を持つ何十人もの人間が何カ月も時間をかける必要がある」と、G42と協力して最速のスーパーコンピューターを実現したセレブラス・システムズのCEO、アンドリュー・フェルドマンは言う。
フェルドマンとセレブラスのチームは、中央のスーパーコンピューターを使う代わりに、相互接続されたAIスーパーコンピューターのセットを構築し、AIモデルのトレーニング時間を大幅に短縮しようとしている。セレブラスのアプローチでは、生成AIモデルのセットアップはわずか数分で、一人で行うことができる。
コンドル・ギャラクシー・システムを合わせると、36エクサフロップスの処理能力を持つことになり、これは今日のコンピューティングの世界では前例のないことである。
最速のスーパーコンピューター
コンドル・ギャラクシー・システムの中心にあるのは、最近発表された最初のスーパーコンピューターである。セレブラス社は、フラッグシップのAIプロセッサーCS-2を64台集め、スーパーコンピューターCG-1を組み立てた。
AMDのEPYCプロセッサー・コアがシステムを駆動し、毎秒388テラビットのファブリック帯域幅と82TBのメモリー・ストレージを備えた5400万個のAI最適化コンピュート・コアを搭載している。
16ビット・コンピューティングにより、このシステムは世界最速のスーパーコンピューターの4倍となる4エクサフロップスの演算能力を発揮します。これは世界最速のスーパーコンピューターの4倍の速さである。このシステムは、6000億のパラメータ・モデルのトレーニングに使用でき、100兆のパラメータ・モデルをサポートするためにスケールアップすることもできる。ちなみに、OpenAIのGPT-4モデルは1兆7000億のパラメータを使って学習される。
セレブラスとG42はまた、2024年初頭に米国でCG-2とCG-3の2つのスパコンを導入し、CG-1をクラウドサービスとして顧客に提供する計画も持っている。
CG-1は5万トークンでネイティブに動作し、特別なソフトウェア・ライブラリを必要としない。CG-1上でのプログラミングは、複雑な分散プログラミング言語を使用することなく完全に行うことができ、ワークフローをGPU間で分散させる貴重な時間を節約できる、とプレスリリースは付け加えている。
このスパコンは、カリフォルニア州サンタクララのコロケーション施設Colovoreに設置されている。セレブラス社は、米国の法律に従い、敵対国が計算能力にアクセスできないように運用する。
G42とセレブラス社は、より高速なスーパーコンピューターが、健康、エネルギー、気候変動の課題解決に役立つと確信している。
情報提供:interestingengineering.