O novo gerador de imagens do ChatGPT é muito bom em falsificar recibos
Este mês, o ChatGPT lançou um novo gerador de imagens como parte do seu modelo 40, que agora é muito mais eficiente em gerar textos dentro de imagens.
Usuários já estão aproveitando a ferramenta para criar recibos falsos de restaurantes, ampliando a já extensa caixa de ferramentas de deepfakes alimentados por IA, utilizada por fraudadores.
Um influenciador popular e investidor de risco compartilhou uma foto de um recibo falso de um restaurante de São Francisco, afirmando que ele foi criado com o modelo 40. Outros conseguiram reproduzir resultados semelhantes, inclusive adicionando manchas de comida e bebida para aumentar a autenticidade da imagem.
O exemplo que parece mais real foi encontrado na França, onde um usuário do LinkedIn compartilhou um recibo amassado, gerado pela IA, para uma rede de restaurantes local:
Em testes, o modelo 40 também gerou um recibo falso para um estabelecimento Applebee’s em São Francisco:
No entanto, a tentativa apresentou algumas falhas que evidenciavam a falsificação. Em um caso, o total foi exibido utilizando uma vírgula em vez de ponto, e os cálculos não somaram corretamente – um problema esperado, pois os modelos de linguagem ainda encontram dificuldades com matemática básica.
Mesmo assim, não seria difícil para um fraudador ajustar rapidamente alguns valores usando um software de edição de imagens ou com instruções mais precisas.
Fica claro que facilitar a criação de recibos falsos abre grandes oportunidades para fraudes, pois essa tecnologia poderia ser utilizada por pessoas mal-intencionadas para obter reembolsos por despesas inexistentes.
Uma porta-voz da OpenAI afirmou que todas as imagens geradas incluem metadados que indicam sua origem no ChatGPT, e destacou que a empresa toma medidas quando os usuários violam suas políticas de uso, sempre aprendendo com o uso real e o feedback recebido.
Quando questionada sobre o motivo de o ChatGPT permitir a criação de recibos falsos – mesmo diante das políticas que proíbem fraudes –, a representante explicou que o objetivo da OpenAI é conceder aos usuários o máximo de liberdade criativa. Segundo ela, os recibos gerados por IA podem ser utilizados em contextos não fraudulentos, como no ensino de educação financeira, na criação de obras de arte originais e em campanhas publicitárias.
