Amazon continua lutando para conter a enxurrada de livros falsos gerados por IA
Atualização em 17 de agosto de 2025:
A Amazon informou à Sky News que aplica diretrizes de conteúdo por meio de revisões automatizadas e manuais. Livros que infrinjam as regras — sejam gerados por IA ou não — são removidos. A empresa afirma que está constantemente atualizando suas proteções à medida que a inteligência artificial evolui. Autores no Kindle Direct Publishing devem revelar se houve envolvimento de IA, mas essa informação ainda não é compartilhada com os clientes, resultando em uma lacuna de transparência.
De acordo com a Sky News, casos semelhantes ao de Topol são comuns, especialmente no esporte. Após eventos de grande destaque, como o Campeonato Europeu Feminino, surgiram mini-biografias geradas por IA com capas falsas e conteúdo raso. Os supostos autores não possuem presença online real, mas lançam dezenas de livros simultaneamente.
A Associação de Editoras defende uma identificação mais clara de conteúdos gerados por IA e alerta que os consumidores estão ficando confusos. O CEO Dan Conway afirmou que é quase impossível para os leitores distinguir um livro bem pesquisado de um produzido rapidamente por IA, alertando para uma “saturação de informações”, com milhares de títulos falsos ofuscando obras genuínas.
Eric Topol alerta que dezenas de livros de receitas e guias de saúde falsos usam indevidamente sua identidade na Amazon
Muitas empresas de inteligência artificial afirmam que utilizar dados protegidos por direitos autorais para treinamento é considerado uso justo, uma vez que os modelos resultantes são transformadores e não competem diretamente com as obras originais.
No entanto, os golpistas na Amazon estão sendo muito diretos: estão vendendo livros supostamente escritos por Eric Topol que são completamente fabricados. O renomado médico e cientista alertou sobre dezenas de livros de receitas e de saúde sendo oferecidos com seu nome e imagem de forma não autorizada.
Topol classificou essa prática como fraude flagrante. Segundo ele, já denunciou esses ISBNs várias vezes sem resultado, enquanto o atendimento ao cliente da Amazon respondia apenas com links genéricos. Um comprador relatou ter adquirido um desses livros, confiando no nome de Topol, e acabou se decepcionando com o conteúdo.
Embora os livros falsos gerados por IA já representem um problema disseminado na Amazon, o grande número de títulos que utilizam indevidamente o nome de Topol demonstra o quanto essa questão se agravou. A combinação de ferramentas como ChatGPT e a facilidade de autopublicação permite que golpistas inunde o mercado com livros gerados por IA que imitam o estilo e a marca de figuras renomadas.
A Amazon respondeu limitando autores autopublicados a três lançamentos diários e exigindo que informem o uso de textos, imagens ou traduções gerados por IA, embora essa informação não seja compartilhada com os clientes. Além disso, as regras para resumos e cadernos de exercícios — que muitas vezes reproduzem grandes trechos de obras originais — foram rigorosamente aperfeiçoadas. Mesmo assim, o caso de Topol evidencia que os livros falsos gerados por IA continuam a escapar, comprometendo a reputação de especialistas confiáveis.
O conteúdo gerado por IA também é produzido em larga escala com o objetivo de gerar receita publicitária. Entre as atividades fraudulentas estão os falsos endossos de celebridades e campanhas de phishing personalizadas. A maioria dos casos envolve a criação de imagens sintéticas ou textos com carga emocional sobre temas politicamente controversos, além da produção de mídias falsas.
