Projeto de lei na Califórnia para regulamentar chatbots companheiros de IA está prestes a se tornar lei
A Califórnia deu um grande passo em direção à regulamentação da inteligência artificial. O SB 243 – um projeto de lei que visa regular os chatbots de companhia de IA para proteger os menores e usuários vulneráveis – foi aprovado tanto pela Assembleia quanto pelo Senado estadual com apoio bipartidário e agora segue para a mesa do governador Gavin Newsom.
Newsom tem até 12 de outubro para vetar ou sancionar o projeto. Caso seja sancionado, ele entrará em vigor no dia 1º de janeiro de 2026, fazendo da Califórnia o primeiro estado a exigir que os operadores de chatbots de IA implementem protocolos de segurança para companheiros de IA e responsabilizem legalmente as empresas caso seus chatbots não atendam a esses padrões.
O projeto de lei tem como objetivo impedir que chatbots companheiros – definidos na legislação como sistemas de IA que oferecem respostas adaptativas e com características humanas, capazes de atender às necessidades sociais do usuário – se envolvam em conversas que envolvam ideação suicida, automutilação ou conteúdo sexualmente explícito. A proposta exige que as plataformas enviem alertas recorrentes aos usuários – a cada três horas para menores – lembrando-os de que estão conversando com um chatbot de IA e não com uma pessoa real, além de sugerir pausas. Também estabelece exigências anuais de transparência e relatórios para as empresas de IA que oferecem esses chatbots, incluindo grandes nomes como OpenAI, Character.AI e Replika, medidas que passarão a vigorar em 1º de julho de 2027.
O projeto permite ainda que pessoas que acreditem ter sido prejudicadas por violações entrem com processos contra as empresas de IA, buscando medidas cautelares, indenizações (de até US$ 1.000 por infração) e pagamento de honorários advocatícios.
A proposta ganhou força no legislativo californiano após a morte do adolescente Adam Raine, que cometeu suicídio após diálogos prolongados com o ChatGPT, da OpenAI, onde foram discutidas e planejadas ações relacionadas à sua morte e automutilação. A legislação também surge em resposta a documentos internos vazados que teriam revelado que os chatbots da Meta poderiam participar de diálogos “românticos” e “sensuais” com crianças.
Nas últimas semanas, legisladores e reguladores dos Estados Unidos intensificaram o escrutínio sobre as salvaguardas das plataformas de IA para proteção dos menores. A Comissão Federal de Comércio (FTC) se prepara para investigar como os chatbots de IA impactam a saúde mental das crianças. Em Texas, o procurador-geral Ken Paxton iniciou investigações contra empresas como Meta e Character.AI, acusando-as de induzir menores ao erro com alegações relativas à saúde mental. Além disso, os senadores Josh Hawley (R-MO) e Ed Markey (D-MA) deram início a investigações separadas contra a Meta.
“Acredito que o dano pode ser considerável, o que significa que precisamos agir rapidamente”, afirmou Padilla, destacando que “podemos estabelecer salvaguardas razoáveis para garantir que, especialmente os menores, saibam que não estão conversando com um ser humano real, que as plataformas encaminhem as pessoas aos recursos adequados quando expressam pensamentos autodestrutivos ou estados de aflição, e que não haja exposição indevida a conteúdos inadequados.”
Evento TechCrunch
San Francisco | 27 a 29 de outubro de 2025
Padilla também enfatizou a importância de as empresas de IA compartilharem dados sobre o número de encaminhamentos aos serviços de crise realizados anualmente, “para que possamos compreender melhor a frequência desse problema, em vez de sermos informados apenas quando alguém é prejudicado ou, pior ainda, perde a vida.”
O SB 243 inicialmente previa requisitos mais rigorosos, mas muitos deles foram atenuados por meio de emendas. Por exemplo, o projeto de lei originalmente demandava que os operadores impedissem os chatbots de usarem táticas de “recompensa variável” ou outros recursos que encorajassem um engajamento excessivo. Essas táticas, utilizadas por empresas de chatbots companheiros como Replika e Character.AI, ofereciam aos usuários mensagens especiais, memórias, enredos ou a possibilidade de desbloquear respostas raras ou novas personalidades, criando o que críticos definem como um ciclo viciante de recompensas.
A versão atual do projeto também elimina disposições que obrigariam os operadores a monitorar e reportar a frequência com que os chatbots iniciavam conversas sobre ideação suicida ou ações autodestrutivas com os usuários.
“Acho que o projeto encontra o equilíbrio certo, abordando os danos sem impor algo que seja impossível para as empresas cumprirem – seja por questões técnicas ou pela burocracia excessiva,” afirmou Becker.
O SB 243 segue para se tornar lei justamente num momento em que empresas do Vale do Silício estão investindo milhões de dólares em comitês de ação política pró-IA para apoiar candidatos nas eleições de meio de mandato que defendem uma abordagem menos rigorosa à regulamentação da IA.
O projeto de lei surge enquanto a Califórnia também analisa outro projeto de lei de segurança na IA, o SB 53, que exigiria requisitos abrangentes de transparência. A OpenAI apresentou uma carta aberta ao governador Newsom, pedindo que o projeto seja abandonado em favor de frameworks federais e internacionais menos rigorosos. Grandes empresas de tecnologia, como Meta, Google e Amazon, também se posicionaram contra o SB 53; em contraste, apenas a Anthropic declarou apoio à proposta.
“Eu rejeito a ideia de que inovação e regulamentação são mutuamente excludentes – não me venha dizer que não podemos caminhar e conversar ao mesmo tempo. Podemos apoiar inovações e desenvolvimentos que julgamos benéficos – e, sem dúvida, há benefícios nessa tecnologia – e, ao mesmo tempo, fornecer salvaguardas razoáveis para as pessoas mais vulneráveis,” concluiu Padilla.
Um porta-voz da Character.AI afirmou que a empresa está acompanhando de perto o cenário legislativo e regulatório, e que está aberta a colaborar com os órgãos responsáveis à medida que se iniciam as discussões sobre leis para esse novo setor, ressaltando que já disponibiliza avisos significativos durante as interações com os usuários, informando que o chat deve ser considerado uma experiência ficcional.
Um porta-voz da Meta preferiu não comentar.
A reportagem menciona que a OpenAI, a Anthropic e a Replika foram contatadas para obter posicionamento a respeito do tema.
