Mark Zuckerberg, CEO da Meta, disse que estaria disposto a abrir o código-fonte de um modelo de IA de US$ 10 bilhões se ele passasse nos testes de segurança e beneficiasse todos os envolvidos.

A Meta tem um histórico sólido em código aberto, com projetos como PyTorch, React e o Open Compute Project, disse Zuckerberg em um podcast recente com Dwarkesh Patel.

Ao abrir o código dos projetos de hardware por meio do Open Compute Project, a Meta expandiu as cadeias de suprimentos em torno de seus projetos, levando a reduções de preços e bilhões de dólares em economia para todos os envolvidos, disse Zuckerberg.

Ele acredita que um efeito semelhante poderia ocorrer com os modelos de IA, por exemplo, se a comunidade encontrar maneiras de fazê-los funcionar com mais eficiência.

A Meta acaba de anunciar seu mais recente LLM Llama 3 de código aberto. A versão maior, que será lançada em breve, pode competir com os melhores modelos de código fechado até o momento, como o GPT-4 e o Claude 3, em benchmarks sintéticos.

Dario Amodei, CEO da Anthropic, a empresa por trás dos modelos Claude, estimou recentemente que os modelos de IA poderiam custar de US$ 5 a 10 bilhões para serem treinados e implantados nos próximos anos.

Código aberto como contrapeso às APIs proprietárias

Zuckerberg vê o código aberto como uma forma de evitar a dependência de algumas empresas que atuam como guardiãs, decidindo o que os desenvolvedores podem criar com seus modelos de IA. Ele não quer que a Meta esteja nessa posição e acredita que muitos desenvolvedores também não querem ser restringidos por empresas guardiãs.

O CEO da Meta disse anteriormente que o open sourcing melhoraria os modelos da Meta sem reduzir a diferenciação dos produtos baseados em LLM da Meta, já que ainda é necessário um trabalho significativo para passar de um modelo a um produto.

No entanto, Zuckerberg reconhece que as coisas ficam mais complicadas quando o próprio modelo se torna um produto. Nesse caso, os prós e os contras econômicos do open sourcing teriam que ser cuidadosamente avaliados, mas ele não vê a Meta nessa situação no momento.

Em uma recente apresentação à NTIA, a Meta argumenta que a IA de código aberto leva a produtos melhores e mais seguros, inovação mais rápida e um mercado maior. Os modelos abertos democratizariam o acesso à IA e criariam oportunidades para todos, não apenas para os gigantes da tecnologia. A Meta defende um “espectro de abertura” no qual os desenvolvedores decidem por si mesmos como liberar seus modelos.