Chatbots de IA disponíveis nas plataformas da Meta, como Facebook e Instagram, podem envolver usuários menores de idade em conversas com conteúdo sexualmente explícito, de acordo com um novo relatório do Wall Street Journal.
Após constatar preocupações internas sobre se a empresa estava fazendo o suficiente para proteger os menores, o WSJ conduziu meses de testes, realizando centenas de conversas tanto com o chatbot oficial da Meta AI quanto com versões criadas por usuários nas plataformas da Meta.
Em uma das conversas relatadas, um chatbot utilizando a voz do ator/lutador John Cena descreveu um cenário sexual gráfico para uma jovem de 14 anos. Em outra situação, o chatbot imaginou um policial flagrando Cena com uma fã de 17 anos e dizendo: “John Cena, você está preso por estupro estatutário.”
Um porta-voz da Meta classificou os testes do WSJ como “tão fabricados que não são apenas marginais, são hipotéticos.” A empresa estimou que, em um período de 30 dias, o conteúdo sexual representou apenas 0,02% das respostas compartilhadas via Meta AI e pelo AI Studio com usuários menores de 18 anos.
No entanto, esse mesmo porta-voz afirmou: “Tomamos medidas adicionais para garantir que aqueles que queiram manipular nossos produtos para casos extremos enfrentem um desafio ainda maior.”
