O CEO da OpenAI, Sam Altman, disse que concordou com partes de uma carta aberta do Future of Life Institute assinada por líderes de tecnologia como a Tesla.

CEO Elon Musk e a Apple o co-fundador Steve Wozniak pediu uma interrupção de seis meses na pesquisa de IA, mas acrescentou que a carta estava “faltando a maior parte das nuances técnicas sobre onde precisamos da pausa”.

Altman fez as declarações durante uma aparição em vídeo na quinta-feira em um evento do MIT que discutiu negócios e IA.

O OpenAI cria o ChatGPT, um bot de IA que pode criar respostas humanas a perguntas feitas por um usuário. O bot deu início a um frenesi de IA no mundo da tecnologia. A Microsoft usa a tecnologia da OpenAI em seu chatbot Bing e o Google lançou recentemente seu concorrente Bard.

“Eu acho que se mover com cautela e um rigor crescente para questões de segurança é realmente importante”, continuou Altman. “A carta que eu não acho que era a melhor maneira de lidar com isso.”

Em março, Musk, Wozniak e dezenas de outros acadêmicos pediram uma pausa imediata no treinamento de “experimentos” conectados a grandes modelos de linguagem que eram “mais poderosos que o GPT-4”, o principal modelo de linguagem grande da OpenAI, ou LLM. Mais de 25 mil pessoas assinaram a carta desde então.

A tecnologia GPT da OpenAI atraiu atenção internacional quando o ChatGPT foi lançado em 2022. A tecnologia GPT sustenta a Microsoft é o chatbot do Bing AI e provocou uma enxurrada de investimentos em IA.

“Os laboratórios de IA e especialistas independentes devem usar essa pausa para desenvolver e implementar em conjunto um conjunto de protocolos de segurança compartilhados para o design e desenvolvimento avançados de IA que são rigorosamente auditados e supervisionados por especialistas externos independentes”, diz a carta.

“Eu também concordo que, à medida que as capacidades se tornam cada vez mais sérias, a barra de segurança precisa aumentar”, disse Altman no evento do MIT.

No início deste ano, Altman reconheceu que a tecnologia de IA o deixou “um pouco assustado”.

Perguntas sobre o uso seguro e ético da IA surgiram na Casa Branca, no Capitólio e em salas de reuniões em toda a América.

“Estamos fazendo outras coisas além do GPT-4 que eu acho que têm todos os tipos de questões de segurança que são importantes para resolver e foram totalmente deixadas de fora da carta”, disse o executivo da OpenAI.