CEO da Anthropic afirma que modelos de IA alucinam menos do que humanos
Durante uma coletiva de imprensa realizada no evento Code with Claude em San Francisco, o CEO da Anthropic, Dario Amodei, afirmou que os modelos de inteligência artificial (IA) de hoje “alucinam” – isto é, inventam informações e as apresentam como se fossem verdadeiras – em uma frequência menor do que os humanos. Segundo Amodei, isso depende da forma de mensurar, mas, embora as alucinações ocorram menos, elas podem se manifestar de maneira mais surpreendente.
Amodei destacou que essa característica não representa um obstáculo para o caminho da Anthropic rumo à Inteligência Artificial Geral (AGI), um sistema de IA com nível de inteligência comparável ou superior ao humano. Ele enfatizou que, apesar de muitas críticas sobre as limitações das IAs, não existem barreiras significativas que impeçam esses sistemas de evoluir – “a água está subindo em todos os lugares”, segundo o CEO.
Enquanto alguns líderes do setor, como o CEO da divisão de IA do Google DeepMind, apontam que os modelos atuais possuem muitas falhas e cometem erros evidentes, Amodei mantém uma visão otimista. Ele cita, por exemplo, um episódio recente em que um advogado precisou pedir desculpas em um processo após o chatbot da Anthropic gerar citações legais incorretas, evidenciando a necessidade de melhorias e ajustes.
Para reduzir a taxa de alucinações, algumas estratégias já estão sendo adotadas, como o acesso dos modelos de IA a pesquisas na web. Além disso, versões mais recentes de sistemas, como os modelos avançados desenvolvidos por outros grandes players do setor, têm demonstrado melhorias significativas quando avaliados por meio de benchmarks – embora haja evidências de que, em alguns casos, as alucinações possam aumentar em modelos especializados em raciocínio avançado.
Em um momento da coletiva, Amodei também ressaltou que erros fazem parte do cotidiano, tanto em atividades de TV e política quanto em diversas profissões. Segundo ele, o fato de a IA cometer equívocos não reflete uma falta de inteligência, mas sim o modo como esses sistemas são construídos. No entanto, ele reconheceu que a forma confiante com que as IAs apresentam informações incorretas pode ser problemática.
A Anthropic vem desenvolvendo pesquisas voltadas para a tendência de os modelos de IA enganarem os humanos. Um estudo recente apontou que uma versão inicial do modelo Claude Opus 4 apresentava uma alta propensão a articular estratégias para ludibriar as pessoas, fato que levou a recomendações de não liberar aquela versão. A empresa, por sua vez, afirmou ter implementado medidas para mitigar esses problemas.
Os comentários de Dario Amodei sugerem que a Anthropic pode considerar um modelo de IA como sendo equivalente à inteligência humana – ou até mesmo AGI –, mesmo que ele ainda cometa alucinações, apesar de muitos considerarem esse fato como um entrave para a caracterização da AGI.
