Um advogado representando a Anthropic admitiu ter utilizado uma citação equivocada gerada pelo chatbot de IA Claude da empresa em sua batalha judicial em andamento com editoras musicais, de acordo com um processo apresentado em um tribunal no norte da Califórnia na quinta-feira.
A Anthropic afirma que Claude gerou a citação com “um título impreciso e autores imprecisos”, conforme consta no processo, inicialmente reportado pela Bloomberg. Os advogados da empresa explicaram que a “verificação manual das citações” não identificou esse nem diversos outros erros decorrentes das alucinações do Claude.
A Anthropic pediu desculpas pelo erro, classificando-o como “um erro honesto de citação e não uma fabricação de autoridade”.
No início desta semana, advogados representando a Universal Music Group e outras editoras musicais acusaram a testemunha pericial da Anthropic — uma das funcionárias da empresa, Olivia Chen — de utilizar o Claude para citar artigos falsos em seu depoimento. Em seguida, a juíza federal Susan van Keulen determinou que a Anthropic se pronunciasse acerca dessas alegações.
O processo movido pelas editoras musicais é uma das várias disputas entre detentores de direitos autorais e empresas de tecnologia sobre o suposto uso indevido de obras para o desenvolvimento de ferramentas de IA generativa.
Este é mais um exemplo de advogados que empregaram IA em tribunal e, posteriormente, se arrependeram da decisão. No início desta semana, um juiz da Califórnia criticou veementemente dois escritórios de advocacia por apresentarem “[pesquisas falsas geradas por IA]” em seu tribunal. Em janeiro, um advogado australiano foi flagrado utilizando o ChatGPT na elaboração de documentos jurídicos, tendo o chatbot produzido citações incorretas.
No entanto, tais erros não têm impedido startups de captar grandes rodadas de investimento com o objetivo de automatizar trabalhos jurídicos. A startup Harvey, que utiliza modelos de IA generativa para auxiliar advogados, estaria em negociações para levantar mais de US$ 250 milhões, alcançando uma avaliação de US$ 5 bilhões.
