Chinchilla AI é mais um exemplo do modelo de linguagem AI, alegou superar GPT-3. Sim, você ouviu certo. O Deepmind encontrou um aspecto fundamental da escala de grandes modelos de linguagem que ninguém jamais aplicou antes.

O motor por trás do ChatGPT é superado pelo novo modelo de linguagem da DeepMind. A notícia se espalhou rapidamente e logo todos se perguntaram: “O que é Chinchilla AI?” Você é um deles? Você veio ao lugar certo.

Como sempre, continuamos a compartilhar com você as últimas tendências no mundo da IA. Já explicamos algumas das melhores ferramentas de IA, como ChatGPT, DALL-E 2, Stable Diffusion e Lensa AI. Agora é a vez da Chinchilla AI. Continue lendo e descubra se é realmente melhor do que o GPT-3.

O que é Chinchilla AI?

O DeepMind da Chinchilla AI é uma escolha popular para um modelo de linguagem grande e provou ser superior aos seus concorrentes.

Em março de 2022, a DeepMind lançou o Chinchilla AI. Funciona de maneira análoga à de outros modelos de linguagem grandes, como GPT-3 (175 parâmetros), Jurassic-1 (parâmetros 178B), Gopher (PARÂMETROS 280B) e Megatron-Turing NLG (300 parâmetros) (parâmetros 530B).

No entanto, o principal ponto de venda da Chinchilla AI é que ela pode ser criada pelo mesmo custo antecipado que o Gopher, e ainda emprega menos parâmetros com mais dados para fornecer, em média, 7% mais resultados precisos do que o Gopher.

Chinchilla supera Gopher (280B), GPT-3 (175B), Jurassic-1 (178B) e Megatron-Turing NLG em uma ampla gama de tarefas de avaliação a jusante (530B).

Ele simplifica consideravelmente a utilização a jusante porque requer muito menos energia do computador para inferência e ajuste fino. Para agilizar as operações e melhorar a tomada de decisões, as empresas podem aproveitar a Chinchilla AI. Ele abre o caminho para as empresas criarem e lançarem aplicativos com tecnologia AI, aprimorando a funcionalidade do produto digital.

Com base no treinamento de modelos de linguagem empregados anteriormente, foi determinado que, se dobrarmos o tamanho do modelo, também devemos ter o dobro do número de tokens de treinamento. Esta hipótese foi usada para treinar Chinchilla AI por Deepmind.

Semelhante ao Gopher em termos de custo, o Chinchilla AI tem parâmetros 70B e quatro vezes mais dados. Chinchilla supera Gopher (280B), Megatron-Turning NLG (530B), Jurassic-1 (178B) e GPT-3 em uma infinidade de tarefas de avaliação, alcançando resultados bastante notáveis (175B).

o que é chinchilla AI

Chinchilla AI tem uma precisão média de 67,5% no benchmark MMLU, que é 7% maior do que o desempenho de Gopher. Incrivelmente, a Chinchilla AI supera os modelos de linguagem mais tradicionais e massivos em termos de precisão.

Chinchilla requer muito menos poder de processamento para inferência e ajustes, o que beneficia muito as aplicações a jusante. Infelizmente, atualmente não há como o público em geral usar o Chinchilla AI DeepMind porque ele ainda está em fase de teste.

Uma vez lançado, o Chinchilla AI será útil para desenvolver várias ferramentas de inteligência artificial, como chatbots, assistentes virtuais e modelos preditivos. Até então, confiamos fortemente nos Tweets enviados pelos pesquisadores da DeepMind.

O Chinchilla AI da DeepMind é um divisor de águas com o potencial de melhorar os resultados das empresas e a qualidade das experiências de seus clientes. Muitas operações podem ser automatizadas e melhoradas com a ajuda da Chinchilla AI.

Recursos do Chinchilla AI

Quando se trata de tecnologia de inteligência artificial (IA), o orçamento de computação geralmente é o componente limitante.

No final, o tamanho do modelo e a quantidade de tokens de treinamento serão determinados pela quantidade de dinheiro que a empresa pode gastar em tecnologia mais poderosa. Chinchilla AI tem alguns recursos para ajudar com este problema:

  • Tamanho do modelo fixo: os desenvolvedores da DeepMind começaram com uma família de tamanhos de modelo fixo (70M-16B) e ajustaram o número total de tokens de treinamento para otimizar o desempenho (4 variações). O emparelhamento ideal foi então determinado para cada recurso de computação disponível. Um modelo com o mesmo poder computacional que o treinamento de Gopher conteria tokens 1.5T e parâmetros 67B, conforme calculado por essa abordagem.
  • Curvas para isoFLOP: Os engenheiros da DeepMind brincavam com diferentes tamanhos de modelo, mantendo o poder de computação disponível constante. Um modelo ideal de computação com 63 bilhões de parâmetros e 1,4 trilhão de tokens pode ser treinado usando a mesma quantidade de poder computacional que o Gopher usando essa abordagem.
  • Criando uma função de perda paramétrica: Aplicando o que aprenderam com as duas primeiras abordagens, os engenheiros da DeepMind caracterizaram as perdas como funções paramétricas do tamanho do modelo e da contagem de tokens. Em termos de computação, o modelo ideal de computação treinado com essa abordagem teria parâmetros 40B, o que está a par com Gopher.

Em comparação com todos os principais modelos de linguagem estabelecidos nos últimos dois anos que exibiram resultados SOTA, o desempenho de Chinchilla é notável não apenas por causa da melhoria, mas também porque o modelo é menor.

Muitos especialistas no campo da inteligência artificial argumentam que as empresas e instituições acadêmicas estão desperdiçando tempo e dinheiro, concentrando-se em expandir o tamanho de seus modelos em vez de encontrar maneiras de utilizar melhor os recursos e parâmetros já à sua disposição.

Chinchilla é uma melhoria revolucionária em desempenho e eficiência.

Como usar o Chinchilla AI da Deepmind?

Como abordamos o básico da Chinchilla AI, responderemos às suas perguntas sobre como usá-la, mas primeiro temos algumas notícias terríveis. Infelizmente, ele não está disponível ao público no momento da escrita.

Eventualmente, nos próximos meses, poderemos usar a Chinchilla AI e atualizar esta parte.

Depois que seu uso é tornado público, você pode fazer isso com Chinchilla AI:

  • Chinchilla AI é uma plataforma de IA para automação de processos e melhor julgamento de negócios. Ele ajuda as empresas a criar e lançar aplicativos orientados por IA que aprimoram a funcionalidade de seus produtos digitais.
  • Chinchilla AI pode ser usado para criar chatbots. Como o nome indica, os chatbots são programas de computador que podem simular o diálogo humano. Eles geralmente são implementados para agilizar os processos de venda ou atendimento ao cliente.
  • Com Chinchilla AI, você pode criar seu próprio chatbot sem precisar aprender a codificar. Ele pode ser usado para criar um chatbot para uso em lugares como Discord, seu site, Facebook Messenger e muito mais.
  • Chatbots, assistentes virtuais, modelos preditivos e outros aplicativos baseados em IA podem ser criados usando a Chinchilla AI. Quando se trata de criar aplicativos baseados em IA, o Chinchilla AI é ideal para empresas que precisam se mover rapidamente.
  • A aplicação da Chinchilla AI permite o desenvolvimento de personagens interativos em videogames. Sua interface amigável e conjunto robusto de recursos podem ser usados para programar inteligência artificial para jogos de complexidade variável, de clássicos de arcade a simulações estratégicas de alto risco. Quando emparelhado com outras tecnologias de IA, o Chinchilla AI também pode ser usado para criar modelos imprimíveis em 3D.

Confira o trabalho de pesquisa para obter informações detalhadas.

Alternativas ao ChatGPT

Se você chegou até aqui, deve estar interessado em ferramentas de IA de texto para texto. Os seguintes recursos podem ser úteis para você:

  • Notion AI
  • Chai
  • NovelAI
  • Caktus AI
  • AI Dungeon

O que achou dessa ferramenta? Comenta abaixo!

Divirta-se!