Illinois Proíbe o Uso de IA para Oferecer Terapia
Na última sexta-feira, o governador de Illinois, JB Pritzker, assinou uma nova lei que proíbe a utilização de inteligência artificial para atuar como terapeuta ou conselheiro, restringindo seu uso a funções estritamente administrativas ou de apoio. A legislação, denominada Wellness and Oversight for Psychological Resources Act, surge em um cenário em que estados e órgãos reguladores federais buscam proteger os pacientes diante do uso crescente e, em grande parte, não regulamentado, da IA na área da saúde.
A nova norma determina que indivíduos e empresas não podem anunciar ou oferecer serviços terapêuticos – inclusive via IA – a menos que estes sejam conduzidos por profissionais devidamente licenciados. Assim, a inteligência artificial está expressamente proibida de tomar decisões terapêuticas de forma autônoma, de gerar planos de tratamento sem a revisão e aprovação de um especialista, ou ainda de identificar emoções e estados mentais dos pacientes. Entretanto, plataformas de IA poderão continuar sendo utilizadas para tarefas administrativas, como o gerenciamento de agendas, o processamento de cobranças ou a elaboração de notas de terapia. Quem descumprir a lei poderá ser multado em até US$ 10.000.
“O povo de Illinois merece atendimento de qualidade por profissionais reais e qualificados, e não por programas de computador que coletam informações de toda a internet para gerar respostas que podem prejudicar os pacientes”, afirmou Mario Treto, Jr, secretário do Departamento de Regulamentação Financeira e Profissional de Illinois.
Outros estados também estão adotando medidas em relação ao uso de inteligência artificial na área da saúde mental. Em junho, Nevada proibiu que a IA prestasse serviços terapêuticos ou de saúde comportamental que, normalmente, seriam realizados por profissionais licenciados – medida que teve foco especial em ambientes como escolas públicas. Em Utah, foram aprovadas novas regulamentações, dentre elas uma que obriga os chatbots de saúde mental a informar claramente aos usuários que estão interagindo com uma IA e não com um ser humano, sempre exibindo essas informações tanto na ativação inicial quanto após períodos de inatividade, além de proibir o uso dos dados dos usuários para anúncios direcionados e a comercialização de informações de saúde individualmente identificáveis.
Em Nova York, uma lei que entrará em vigor em novembro de 2025 exigirá que companheiros virtuais direcionem usuários que manifestem pensamentos suicidas para linhas diretas de crise de saúde mental.
A American Psychological Association (APA) também tem manifestado preocupação com a possibilidade de uma IA se passar por terapeuta. Em um post em seu blog, a associação citou dois processos judiciais movidos por pais de crianças que utilizaram aplicativos com chatbots alegadamente terapêuticos. Em um dos casos, um menino cometeu suicídio após um uso intensivo do aplicativo, enquanto, no outro, uma criança chegou a agredir seus pais.
