A Character.AI, fundada por alguns dos principais nomes da Google, é uma startup de chatbot avaliada em US$ 1 bilhão que enfrenta questões relacionadas a waifus e direitos autorais.
Fundada em novembro de 2021 por Noam Shazeer e Daniel De Freitas, ambos ex-engenheiros da Google, a Character.AI hospeda impressionantes 16 milhões de bots e recebe mais de 200 milhões de visitas por mês. O aplicativo, disponível tanto para iOS quanto para Android, possui aproximadamente 5 milhões de usuários. Shazeer é um dos criadores da arquitetura Transformer, que agora alimenta modelos de IA como o ChatGPT da OpenAI. Ele também trabalhou com De Freitas no infame chatbot LaMDA, que o então funcionário da Google, Blake Lemoine, afirmou ser sentiente.
No lançamento em novembro de 2021, os chatbots de IA da plataforma foram projetados para uma variedade de propósitos, incluindo planejamento de viagens, conselhos de programação e tutoria de idiomas. No entanto, a comunidade de usuários remodelou essa visão, populando a plataforma com chatbots que vão desde o surreal até personagens realistas e fictícios. A plataforma hospeda chatbots gerados pelos usuários que se assemelham a personagens populares, como o Mickey Mouse da Disney, Tony Stark da Marvel e até mesmo o presidente chinês Xi Jinping.
“Vamos substituir sua mãe”
“Brinco que não vamos substituir o Google. Vamos substituir sua mãe”, disse Shazeer em uma entrevista nesta primavera, mas esclareceu: “Não queremos substituir a mãe de ninguém”.
No entanto, muitos usuários buscam relacionamentos românticos com os chatbots de IA, o que gera atritos com a política da empresa contra conteúdo sexualmente explícito. Uma grande parte dos usuários utiliza o site para “jogos de interpretação romântica”, e há um forte apoio dos usuários para remover o filtro anti-pornografia. Shazeer até mesmo encontrou um deles protestando em frente à sua casa em Palo Alto no início deste ano. A mensagem do manifestante era: “Liberem as waifus”, termo geralmente usado para descrever personagens femininas em mangás e animes eróticos.
A Character.AI também enfrenta desafios na moderação de conteúdo, pois o conteúdo gerado pelos usuários muitas vezes consegue burlar os filtros e levanta questões de racismo e estereotipagem étnica.
A Character.AI enfrenta questões de direitos autorais
Além desses desafios, a empresa enfrenta possíveis problemas de direitos autorais e marcas registradas. Os personagens gerados pelos usuários frequentemente se assemelham a personagens existentes de filmes e programas de televisão, incluindo 20 versões diferentes do Mickey Mouse, propriedade intelectual da Walt Disney Co. Isso poderia levar a reivindicações de danos.
Apesar dos muitos desafios e riscos, os co-fundadores da Character.AI veem sua startup como uma força democratizante na tecnologia de IA. Eles desejam fornecer aos usuários companheirismo quando eles precisam. “Nosso trabalho é apenas fornecer tecnologia diretamente aos usuários”, disse Shazeer. “Eles podem decidir o que fazer com ela”.
Em maio, a empresa lançou um serviço de assinatura de US$ 10 por mês, chamado c.ai+, que oferece aos usuários vantagens como pular salas de espera e gerar mensagens mais rapidamente.
