Conforme a produção de modelos de IA se tornou mais realista, a mídia gerada por IA está se infiltrando na política cotidiana, como mostram esses exemplos.
Uma nova era de “fake news” impulsionada por IA começou, nem sempre tão inofensiva como imagens do Papa vestindo roupas surpreendentemente fashion. Elas também podem causar séria confusão, como no caso das imagens que supostamente mostravam a suposta prisão de Donald Trump, ou a imagem falsa de um incêndio perto do Pentágono.
Neste artigo, coletamos exemplos do uso de IA para manipulação política. Este artigo será atualizado regularmente.
Candidato a prefeito de Toronto, Anthony Furey
Toronto está prestes a eleger um novo prefeito. Anthony Furey, que afirma ter trabalhado como jornalista e locutor por 15 anos, reconheceu o potencial dos geradores de imagens de IA e está utilizando-os para ilustrar partes de sua campanha. Um de seus temas centrais é: ele quer livrar as ruas de Toronto de pessoas em situação de rua.
Por exemplo, uma imagem de sua campanha mostra uma rua de Toronto com pessoas acampando sem abrigo. Outra imagem mostra um homem e uma mulher, mas é rapidamente revelado que foi gerada por IA: a mulher tem três braços.
A fonte das várias imagens no folheto digital não está clara. A imagem dos três braços foi substituída por uma imagem menos chamativa, também gerada por IA.
Partido Nacional da Nova Zelândia
A imagem usada pelo Partido Nacional da Nova Zelândia, de direita conservadora, no Instagram, transmite uma sensação mais realista. “A Nova Zelândia não está segura sob o governo do Partido Trabalhista”, diz a legenda em uma imagem de um ladrão sem rosto. Não há nenhuma referência à origem da imagem. As reações dos eleitores nos comentários são mistas, com alguns condenando a política “à la Trump” e outros saudando o uso da tecnologia moderna.
Candidato a prefeito de Chicago
O uso de IA para manipulação política não se limita à geração de imagens. De acordo com o New York Times, um candidato a prefeito em Chicago reclamou que um veículo de mídia aparentemente legítimo clonou sua voz no Twitter. Dessa forma, segundo ele, foi induzido a dizer que apoiava a violência policial. Se isso foi uma farsa ou não, não pôde ser verificado.
Pentágono
Em maio de 2023, imagens de um prédio em chamas, supostamente próximo ao Pentágono, circularam no Twitter por meio de contas que inicialmente pareciam confiáveis, pois tinham o selo azul de verificação.
Entretanto, desde que Elon Musk assumiu o controle do Twitter, o selo azul de verificação deixou de ser um sinal confiável de informação legítima, pois qualquer pessoa pode comprar uma conta por oito dólares por mês. O suposto ataque ao Pentágono causou agitação e chegou a fazer com que o Dow Jones caísse brevemente.
Alternative für Deutschland (AfD)
Em março de 2023, o líder adjunto do grupo parlamentar do AfD, Norbert Kleinwächter, chamou a atenção ao usar uma imagem de IA. “Não a ainda mais refugiados”, dizia sua postagem no Instagram, mostrando pessoas irritadas com a boca aberta. Essa não foi a última imagem de IA no canal de Kleinwächter; ele também gosta de caricaturar oponentes políticos usando o Midjourney.
Arresto de Donald Trump
A IA pode criar imagens em segundos que se parecem com fotos reais à primeira vista. Isso permite que usuários mal-intencionados aproveitem notícias de última hora e espalhem rapidamente visualizações falsas.
Por exemplo, quando o público estava discutindo a possível prisão do ex-presidente dos Estados Unidos, Donald Trump, imagens parcialmente fotorrealistas surgiram nas redes sociais logo em seguida, supostamente confirmando o fato.
Isso foi provocado por Eliot Higgins, fundador da organização de pesquisa holandesa Bellingcat, que visualizou sua fantasia de prisão usando o Midjourney e compartilhou os resultados no Twitter.
É permitido usar modelos de imagens de IA em campanhas políticas?
O Midjourney, o modelo de imagens de IA que é atualmente considerado o mais poderoso de seu tipo e que se aproximou do fotorrealismo em versões recentes, proíbe explicitamente o uso de suas imagens para fins políticos em seus termos de uso.
No entanto, os operadores do Midjourney – caso tomem conhecimento de tais casos – têm pouco poder de ação, exceto para moderar as solicitações e bloquear as contas correspondentes. Tais consequências estão excluídas no modelo de código aberto do Stable Diffusion, que está lentamente alcançando um nível semelhante de qualidade com o SDXL. Com informações do thedecoder.
