O supercomputador faz parte de uma constelação maior de supercomputadores interconectados com uma capacidade combinada de 36 exaFLOPS.

O grupo G42, holding de tecnologia sediada em Abu Dhabi, revelou o supercomputador mais rápido do mundo, o Condor Galaxy-1 (CG-1), que tem 54 milhões de núcleos e uma capacidade de processamento de quatro exaflops, segundo um comunicado à imprensa. O supercomputador está localizado em Santa Clara, Califórnia, e será operado pela Cerebras, uma empresa de IA sediada nos EUA, de acordo com as leis americanas.

À medida que a tecnologia de inteligência artificial (IA) assume o centro das atenções, há uma grande demanda por supercomputadores para ajudar as empresas a treinar seus próprios modelos. Empresas como a Microsoft se ofereceram para construir a infraestrutura extremamente cara e alugá-la para as empresas trabalharem nela.

Com sede em Abu Dhabi, o G42 é um grupo de holding na área de tecnologia e tem como objetivo criar infraestrutura para o mundo futurista. Ele trabalha com nações e corporações para concretizar sua visão e está construindo o sistema Condor Galaxy de supercomputadores para ajudar a resolver os maiores problemas que a humanidade enfrenta atualmente.

O que é o sistema Condor Galaxy?

Muitas empresas de tecnologia anunciaram a criação de clusters maciços de unidades de processamento gráfico (GPUs), os cérebros dos modelos de IA. “A distribuição de um único modelo em milhares de minúsculas GPUs leva meses de tempo de dezenas de pessoas com conhecimentos raros”, disse Andrew Feldman, CEO da Cerebras Systems, que trabalhou com a G42 para fornecer o supercomputador mais rápido.

Em vez de usar um supercomputador central, Feldman e sua equipe na Cerebras estão construindo um conjunto de supercomputadores de IA interconectados que podem reduzir substancialmente o tempo de treinamento do modelo de IA. De acordo com a abordagem da Cerebras, a configuração de modelos de IA generativa é apenas uma questão de minutos e pode ser realizada por um único indivíduo.

Em conjunto, o Condor Galaxy System terá um poder de processamento combinado de 36 exaFLOPS, o que não tem precedentes no mundo atual da computação.

O supercomputador mais rápido

No centro do Sistema Condor Galaxy está cada supercomputador, o primeiro dos quais foi revelado recentemente. A Cerebras reuniu 64 de seus principais processadores de IA CS-2 para montar o supercomputador CG-1.

Ilustração do supercomputador CG-1
Ilustração do supercomputador CG-1

Os núcleos do processador EPYC da AMD alimentam o sistema e possuem 54 milhões de núcleos de computação otimizados para IA com 388 terabits por segundo de largura de banda de tecido e 82 TB de armazenamento de memória.

Com computação de 16 bits, o sistema pode fornecer quatro exaFLOPS de potência de computação, o que é quatro vezes mais rápido do que o supercomputador mais rápido do mundo. Ele pode ser usado para treinar 600 bilhões de modelos de parâmetros e ampliado para suportar 100 trilhões de modelos de parâmetros. Para colocar isso em contexto, o modelo GPT-4 da OpenAI é treinado usando 1,7 trilhão de parâmetros.

A Cerebras e a G42 também têm planos de introduzir mais duas instalações do supercomputador, CG-2 e CG-3, nos EUA no início de 2024 e oferecer o CG-1 como um serviço de nuvem para os clientes.

O CG-1 pode funcionar nativamente com 50.000 tokens e sem nenhuma biblioteca de software especial. A programação no CG-1 pode ser feita inteiramente sem o uso de linguagens de programação distribuídas complexas, economizando um tempo precioso gasto na distribuição do fluxo de trabalho entre as GPUs, acrescentou o comunicado à imprensa.

O supercomputador está localizado na Colovore, uma instalação de colocation em Santa Clara, Califórnia. A Cerebras o operará de acordo com as leis dos EUA para garantir que o poder de computação não seja acessível a nações adversárias.

A G42 e a Cerebras estão confiantes de que o supercomputador mais rápido ajudará a enfrentar os desafios de saúde, energia e mudanças climáticas.

Com informações do interestingengineering.