O CEO da OpenAI, Sam Altman, disse que concordou com partes de uma carta aberta do Future of Life Institute assinada por líderes de tecnologia como a Tesla.
CEO Elon Musk e a Apple o co-fundador Steve Wozniak pediu uma interrupção de seis meses na pesquisa de IA, mas acrescentou que a carta estava “faltando a maior parte das nuances técnicas sobre onde precisamos da pausa”.
Altman fez as declarações durante uma aparição em vídeo na quinta-feira em um evento do MIT que discutiu negócios e IA.
O OpenAI cria o ChatGPT, um bot de IA que pode criar respostas humanas a perguntas feitas por um usuário. O bot deu início a um frenesi de IA no mundo da tecnologia. A Microsoft usa a tecnologia da OpenAI em seu chatbot Bing e o Google lançou recentemente seu concorrente Bard.
“Eu acho que se mover com cautela e um rigor crescente para questões de segurança é realmente importante”, continuou Altman. “A carta que eu não acho que era a melhor maneira de lidar com isso.”
Em março, Musk, Wozniak e dezenas de outros acadêmicos pediram uma pausa imediata no treinamento de “experimentos” conectados a grandes modelos de linguagem que eram “mais poderosos que o GPT-4”, o principal modelo de linguagem grande da OpenAI, ou LLM. Mais de 25 mil pessoas assinaram a carta desde então.
A tecnologia GPT da OpenAI atraiu atenção internacional quando o ChatGPT foi lançado em 2022. A tecnologia GPT sustenta a Microsoft é o chatbot do Bing AI e provocou uma enxurrada de investimentos em IA.
“Os laboratórios de IA e especialistas independentes devem usar essa pausa para desenvolver e implementar em conjunto um conjunto de protocolos de segurança compartilhados para o design e desenvolvimento avançados de IA que são rigorosamente auditados e supervisionados por especialistas externos independentes”, diz a carta.
“Eu também concordo que, à medida que as capacidades se tornam cada vez mais sérias, a barra de segurança precisa aumentar”, disse Altman no evento do MIT.
No início deste ano, Altman reconheceu que a tecnologia de IA o deixou “um pouco assustado”.
Perguntas sobre o uso seguro e ético da IA surgiram na Casa Branca, no Capitólio e em salas de reuniões em toda a América.
“Estamos fazendo outras coisas além do GPT-4 que eu acho que têm todos os tipos de questões de segurança que são importantes para resolver e foram totalmente deixadas de fora da carta”, disse o executivo da OpenAI.