A Anthropic admitiu, em um processo de direitos autorais em andamento, que seu chatbot, Claude, fabricou uma fonte que posteriormente foi utilizada como evidência em tribunal. De acordo com documentos de um tribunal distrital da Califórnia, Claude inventou “um título incorreto e autores errados”. O erro passou despercebido durante a revisão manual, assim como diversas outras falhas de citação geradas por Claude.
Erro de formatação da IA gera citação falsa
Os registros judiciais mostram que os advogados da Anthropic solicitaram especificamente que Claude criasse uma citação juridicamente correta para um artigo da The American Statistician intitulado “Binomial Confidence Intervals for Rare Events: Importance of Defining Margin of Error Relative to Magnitude of Proportion”, de Owen McGrath e Kevin Burke. Embora Claude tenha acertado o título da publicação, o ano e o link, a citação final continha um título inventado e nomes de autores incorretos. Outros erros de formatação também foram incorporados na nota de rodapé e não foram divulgados completamente pela empresa.
O juiz exige explicações
Após os erros de citação serem apontados pelos advogados dos publicadores de música, a juíza Susan van Keulen solicitou uma resposta da Anthropic. A empresa classificou o incidente como “um erro honesto de citação e não uma falsificação de autoridade”, ressaltando que o artigo original existe e sustenta a declaração apresentada por Olivia Chen, que atuou como testemunha expert no caso. Mesmo assim, o advogado da Anthropic foi obrigado a emitir um pedido formal de desculpas pelos erros gerados por Claude.
Resumo
- Em um processo de direitos autorais envolvendo diversos publicadores de música, a Anthropic admitiu que seu chatbot interno, Claude, gerou uma fonte fictícia que foi utilizada como evidência e passou despercebida durante a revisão.
- Claude foi encarregado de criar uma citação juridicamente correta para um artigo especializado, mas, apesar de ter identificado corretamente o link, título e ano, apresentou um título inventado e nomes de autores errados, além de outros erros de formatação.
- Após a descoberta dos erros, a juíza exigiu uma explicação formal, e a Anthropic se desculpou oficialmente, enfatizando que o incidente foi um erro não intencional.
