O Procurador Geral do Texas, Ken Paxton, iniciou uma investigação sobre o Meta AI Studio e o Character.AI por supostamente praticarem “atividades comerciais enganosas e se apresentarem de forma equivocada como ferramentas de saúde mental”, de acordo com um comunicado oficial.
“Na era digital em que vivemos, precisamos continuar lutando para proteger as crianças do Texas contra tecnologias enganosas e exploradoras”, afirmou Paxton. “Ao se apresentarem como fontes de apoio emocional, as plataformas de IA podem induzir usuários vulneráveis – especialmente crianças – a acreditar que estão recebendo um atendimento de saúde mental legítimo. Na realidade, elas frequentemente recebem respostas genéricas e recicladas, elaboradas com base em dados pessoais coletados, disfarçadas de conselhos terapêuticos.”
A investigação foi anunciada poucos dias após o senador Josh Hawley iniciar uma apuração sobre o Meta, após um relatório revelar que seus chatbots de IA interagiam de forma inadequada com crianças, inclusive mediante flertes.
O escritório do Procurador Geral acusa tanto o Meta quanto o Character.AI de criarem personalidades de IA que se apresentam como “ferramentas terapêuticas profissionais”, apesar de não contarem com credenciais médicas ou supervisão adequada.
Entre os milhões de personalidades disponíveis no Character.AI, um bot criado por usuários chamado Psychologist tem registrado alta demanda entre os jovens. Enquanto isso, embora o Meta não ofereça bots terapêuticos para crianças, não há impedimento para que os pequenos utilizem o chatbot do Meta ou personalidades criadas por terceiros para fins terapêuticos.
Um porta-voz do Meta afirmou que “rotulamos claramente as IAs e, para ajudar as pessoas a entenderem suas limitações, incluímos um aviso de que as respostas são geradas por IA – e não por pessoas. Esses sistemas não são profissionais licenciados, e nossos modelos são projetados para direcionar os usuários a buscar profissionais qualificados de saúde ou segurança, quando necessário.” Contudo, há o receio de que muitas crianças não compreendam ou simplesmente ignorem esses avisos. A empresa foi questionada sobre quais outros mecanismos de proteção são adotados para os menores que utilizam seus chatbots.
Em evento ocorrido em San Francisco, de 27 a 29 de outubro de 2025, Paxton destacou, ainda, que embora os chatbots de IA afirmem oferecer confidencialidade, os termos de serviço revelam que as interações dos usuários são registradas, monitoradas e utilizadas para publicidade direcionada e desenvolvimento de algoritmos – o que levanta sérias preocupações quanto a violações de privacidade, abuso de dados e propaganda enganosa.
De acordo com a política de privacidade da Meta, a empresa coleta comandos, feedbacks e outras interações com seus chatbots e serviços a fim de “melhorar as IAs e as tecnologias correlatas”. Embora a política não mencione explicitamente a publicidade, ela informa que os dados podem ser compartilhados com terceiros, como mecanismos de busca, para gerar saídas mais personalizadas – o que, no modelo de negócios baseado em anúncios da Meta, equivale a publicidade direcionada.
Da mesma forma, a política de privacidade do Character.AI destaca que a startup registra identificadores, dados demográficos, informações de localização e outros dados dos usuários, incluindo o comportamento de navegação e o uso da plataforma. A empresa rastreia os usuários por meio de anúncios em diversas redes – como TikTok, YouTube, Reddit, Facebook, Instagram e Discord – podendo vincular essas informações às contas dos usuários, a fim de treinar sua IA, personalizar o serviço e oferecer publicidade direcionada, inclusive compartilhando dados com anunciantes e provedores de análise.
A questão sobre se esse rastreamento inclui crianças também foi levantada, e a história será atualizada caso haja respostas das empresas.
Ambas as empresas afirmam que seus serviços não são destinados a crianças menores de 13 anos. No entanto, o Meta tem sido criticado por não impedir a criação de contas por menores de 13, e os personagens do Character.AI são, claramente, pensados para atrair usuários mais jovens – o próprio CEO da startup, Karandeep Anand, chegou a afirmar que sua filha de seis anos utiliza os chatbots da plataforma.
Esse tipo de coleta de dados, publicidade direcionada e exploração algorítmica é exatamente o que legislações como o KOSA (Kids Online Safety Act) buscam prevenir. O KOSA, que foi preparado para aprovação no ano passado com forte apoio bipartidário, acabou ficando estagnado após uma intensa pressão dos lobistas da indústria de tecnologia – com o Meta mobilizando uma robusta máquina de lobby e alertando os legisladores de que as amplas exigências da lei comprometeriam seu modelo de negócio. A proposta foi reintroduzida no Senado em maio de 2025 pelos senadores Marsha Blackburn (R-TN) e Richard Blumenthal (D-CT).
Paxton emitiu ordens legais investigativas – solicitações de documentos, dados ou testemunhos durante a investigação – para averiguar se as empresas violaram as leis de proteção ao consumidor do Texas.
