A FTC está investigando o ChatGPT da OpenAI devido a preocupações com o manuseio de dados dos usuários e a disseminação de desinformação sobre indivíduos, de acordo com o The Washington Post e o The New York Times.

Em uma carta detalhada de 20 páginas, a agência fez uma série de perguntas à OpenAI sobre os potenciais riscos aos usuários e solicitou informações sobre incidentes de segurança de dados e precauções tomadas antes das atualizações de software.

Também está solicitando mais informações sobre o vazamento do histórico de conversas que ocorreu em março, bem como sobre o conhecimento dos usuários do ChatGPT em relação à capacidade de gerar informações falsas.

Apesar de sua habilidade de comunicação semelhante à humana, a IA não possui compreensão do conteúdo que gera, o que levou a casos em que ela criou falsidades prejudiciais sobre pessoas. Existem pelo menos dois casos publicamente conhecidos em que o ChatGPT disse coisas prejudiciais e falsas sobre indivíduos.

Em um dos casos, o ChatGPT acusou um professor de direito de cometer um assédio sexual que ele não cometeu. Em outro caso conhecido, o ChatGPT gerou alegações falsas sobre um prefeito australiano que supostamente foi para a prisão por suborno.

A investigação da FTC começa com um vazamento, para a decepção do CEO da OpenAI, Sam Altman

A investigação marca o primeiro desafio regulatório significativo para a OpenAI. O co-fundador da startup, Sam Altman, anteriormente acolheu a legislação de IA em depoimento no Congresso, citando o rápido crescimento da indústria e os riscos potenciais, como a perda de empregos e a disseminação da desinformação.

No Twitter, Altman reage à investigação da FTC, chamando-a de decepcionante por “começar com um vazamento e não ajudar a construir confiança”.

Altman enfatiza que o GPT-4 é construído com base em “anos de pesquisa de segurança”, com uma fase adicional de 6 meses após o treinamento inicial para otimizar o alinhamento e a segurança do modelo.

“Protegemos a privacidade do usuário e projetamos nossos sistemas para aprender sobre o mundo, não sobre indivíduos”, escreve Altman. Com informações do The Decoder.