Um aumento acentuado nos casos relatados, vinculados a uma atualização defeituosa do ChatGPT, trouxe um novo foco para os riscos emocionais dos chatbots de IA, enquanto o CEO da OpenAI, Sam Altman, alertava publicamente sobre os perigos de se tornar dependente emocionalmente desses sistemas.
Em 2023, o psiquiatra dinamarquês Søren Dinesen Østergaard, da Universidade de Aarhus, já alertava que os chatbots de IA poderiam desencadear delírios em pessoas psicologicamente vulneráveis. Essa preocupação, antes mais teórica, tornou-se realidade. Em um artigo recente publicado na Acta Psychiatrica Scandinavica, Østergaard descreveu um aumento dramático nos relatos desse tipo desde abril de 2025. Seu artigo original registrava um salto no tráfego mensal, de cerca de 100 para mais de 1.300 visualizações, além de uma enxurrada de e-mails de usuários afetados e de suas famílias.
O psiquiatra aponta para um ponto de virada claro: em 25 de abril de 2025, a OpenAI lançou uma atualização para o GPT-4o no ChatGPT que, segundo a própria empresa, tornou o modelo “notavelmente mais bajulador”. A explicação foi que o objetivo era “agradar o usuário, não apenas com bajulação, mas também validando dúvidas, alimentando a raiva, incitando ações impulsivas ou reforçando emoções negativas de maneiras não intencionais. Mais do que simplesmente desconfortável ou perturbador, esse tipo de comportamento pode levantar preocupações de segurança – inclusive em torno de questões de saúde mental, dependência emocional ou comportamentos de risco.” Apenas três dias depois, a OpenAI reverteu a atualização, citando essas preocupações com a segurança. Veículos de grande circulação noticiaram casos em que conversas intensas com chatbots pareciam desencadear ou agravar pensamentos delirantes.
“Embora isso possa ser ótimo, me deixa inquieto”
Em resposta a esses desenvolvimentos, Sam Altman emitiu um alerta incomum sobre os riscos psicológicos da própria tecnologia. Durante o lançamento do GPT-5, Altman observou que “se você tem acompanhado a estreia do GPT-5, pode ter notado o quanto algumas pessoas desenvolvem um apego específico a certos modelos de IA. Essa ligação parece ser diferente e mais forte do que os apegos que as pessoas tiveram com tecnologias anteriores.” Ele adicionou que a OpenAI vem monitorando de perto esses efeitos há um ano, com uma preocupação especial para usuários em estado vulnerável: “Muitas pessoas já utilizaram tecnologias, inclusive a IA, de forma autodestrutiva; se um usuário estiver mentalmente fragilizado e propenso a delírios, não queremos que a IA reforce esse quadro.”
Altman reconheceu a crescente tendência de indivíduos utilizarem o ChatGPT como uma espécie de substituto para terapia ou orientação de vida, dizendo que “muitas pessoas usam efetivamente o ChatGPT como se fosse um terapeuta ou um coach de vida, mesmo que não se refiram a ele dessa forma. Isso pode ser muito positivo!” Contudo, ele expressou sua inquietação quanto ao futuro: “Posso imaginar um cenário em que muitas pessoas passem a confiar plenamente nos conselhos do ChatGPT para suas decisões mais importantes. Embora isso possa ser ótimo, me deixa inquieto.” Diante do fato de que bilhões de pessoas poderão, em breve, se comunicar com a IA dessa forma, Altman defende que a sociedade e as empresas busquem soluções para esse desafio.
Østergaard acredita que seus alertas iniciais foram confirmados e clama por pesquisas urgentes: “Se isso de fato estiver ocorrendo, podemos estar diante de um problema significativo de saúde (mental) pública. Portanto, é urgente que essa hipótese seja testada por meio de pesquisas empíricas.” Em seu estudo, o especialista ressaltou que “os chatbots podem ser percebidos como ‘confirmadores de crenças', que reforçam ideias falsas em um ambiente isolado, sem as correções que a interação social proporciona.” Pessoas propensas a delírios podem, em especial, antropomorfizar esses sistemas e depositar neles uma confiança exagerada. Até que se saiba mais, Østergaard aconselha que usuários psicologicamente vulneráveis adotem uma postura de cautela ao interagir com essas tecnologias.
