Todos os dias, mensagens de príncipes nigerianos, vendedores de drogas milagrosas e promotores de investimentos imperdíveis sufocam as caixas de entrada de e-mail. Melhorias nos filtros de spam só parecem inspirar novas técnicas para romper as proteções.

Agora, a corrida armamentista entre bloqueadores de spam e remetentes de spam está prestes a aumentar com o surgimento de uma nova arma: a inteligência artificial geradora. Com os recentes avanços na IA tornados famosos pelo ChatGPT, os spammers podem ter novas ferramentas para evitar filtros, chamar a atenção das pessoas e convencê-las a clicar, comprar ou desistir de informações pessoais.

Como diretor do laboratório Advancing Human and Machine Reasoning da Universidade do Sul da Flórida, pesquiso a interseção entre inteligência artificial, processamento de linguagem natural e raciocínio humano. Estudei como a IA pode aprender as preferências individuais, crenças e peculiaridades de personalidade das pessoas.

Isso pode ser usado para entender melhor como interagir com as pessoas, ajudá-las a aprender ou fornecer sugestões úteis. Mas isso também significa que você deve se preparar para spam mais inteligente que conhece seus pontos fracos – e pode usá-los contra você.

Spam.

Então, o que é spam?

Spam é definido como e-mails comerciais não solicitados enviados por uma entidade desconhecida. O termo às vezes é estendido a mensagens de texto, mensagens diretas nas mídias sociais e avaliações falsas em produtos. Os spammers querem direcioná-lo para a ação: comprar algo, clicar em links de phishing, instalar malware ou alterar visualizações.

Spam é rentável. Uma explosão de e-mail pode fazer US$ 1.000 em apenas algumas horas, custando spammers apenas alguns dólares – excluindo a configuração inicial. Uma campanha de spam farmacêutico on-line pode gerar cerca de US $ 7.000 por dia.

Os anunciantes legítimos também querem incentivá-lo a agir – comprando seus produtos, fazendo pesquisas, inscrevendo-se em boletins informativos – mas, enquanto um e-mail de marketing pode vincular a um site da empresa estabelecido e conter uma opção de cancelamento de inscrição de acordo com os regulamentos federais, um e-mail de spam não pode.

Os spammers também não têm acesso às listas de discussão nas quais os usuários se inscreveram. Em vez disso, os spammers utilizam estratégias contra-intuitivas, como o golpe do “príncipe nigeriano”, no qual um príncipe nigeriano afirma precisar de sua ajuda para desbloquear uma quantia absurda de dinheiro, prometendo recompensá-lo bem. Os nativos digitais experientes imediatamente descartam tais argumentos, mas o absurdo do pedido pode realmente selecionar ingenuidade ou idade avançada, filtrando para aqueles com maior probabilidade de cair nos golpes.

Os avanços na IA, no entanto, significam que os spammers podem não ter que confiar em tais abordagens de acertar ou errar. A IA poderia permitir que eles segmentassem indivíduos e tornassem suas mensagens mais persuasivas com base em informações facilmente acessíveis, como postagens em mídias sociais.

Futuro do spam

É provável que você tenha ouvido falar sobre os avanços em modelos de linguagem grandes e generativos, como o ChatGPT. A tarefa que esses LLMs geradores executam é enganosamente simples: dada uma sequência de texto, preveja qual token – pense nisso como parte de uma palavra – vem a seguir. Então, preveja qual token vem depois disso. E assim por diante, mais e mais.

De alguma forma, o treinamento nessa tarefa sozinho, quando feito com texto suficiente em um LLM grande o suficiente, parece ser suficiente para imbuir esses modelos com a capacidade de executar surpreendentemente bem em muitas outras tarefas.

Várias maneiras de usar a tecnologia já surgiram, mostrando a capacidade da tecnologia de se adaptar rapidamente e aprender sobre os indivíduos. Por exemplo, os LLMs podem escrever e-mails completos em seu estilo de escrita, dados apenas alguns exemplos de como você escreve. E há o exemplo clássico – agora com mais de uma década – da Target descobrir que uma cliente estava grávida antes dela.

Spammers e profissionais de marketing se beneficiariam de poder prever mais sobre indivíduos com menos dados. Dada a sua página no LinkedIn, algumas postagens e uma ou duas imagens de perfil, os spammers armados com LLM podem fazer suposições razoavelmente precisas sobre suas inclinações políticas, estado civil ou prioridades de vida.

Nossa pesquisa mostrou que os LLMs poderiam ser usados para prever qual palavra um indivíduo dirá a seguir com um grau de precisão que supera em muito outras abordagens de IA, em uma tarefa de geração de palavras chamada tarefa de fluência semântica. Também mostramos que os LLMs podem tirar certos tipos de perguntas de testes de habilidades de raciocínio e prever como as pessoas responderão a essa pergunta. Isso sugere que os LLMs já têm algum conhecimento de como é a capacidade típica de raciocínio humano.

Se os spammers passarem pelos filtros iniciais e fizerem com que você leia um e-mail, clique em um link ou até mesmo se envolva em conversas, sua capacidade de aplicar persuasão personalizada aumenta drasticamente. Novamente, os LLMs podem mudar o jogo. Os primeiros resultados sugerem que os LLMs podem ser usados para argumentar persuasivamente sobre tópicos que vão da política à política de saúde pública.

IA avança em todos os lados

A IA, no entanto, não favorece um lado ou o outro. Os filtros de spam também devem se beneficiar dos avanços na IA, permitindo que eles ergam novas barreiras para e-mails indesejados.

Os spammers muitas vezes tentam enganar filtros com caracteres especiais, palavras com erros ortográficos ou texto oculto, confiando na propensão humana a perdoar pequenas anomalias de texto – por exemplo, “c1îck h.ere n0w.Mas à medida que a IA melhora a compreensão das mensagens de spam, os filtros podem melhorar a identificação e o bloqueio de spam indesejado – e talvez até mesmo deixar passar spam desejado, como o e-mail de marketing para o qual você se inscreveu explicitamente. Imagine um filtro que prevê se você gostaria de ler um e-mail antes mesmo de lê-lo.

Apesar das crescentes preocupações com a IA – como evidenciado pelo CEO da Tesla, SpaceX e Twitter, Elon Musk, pelo fundador da Apple, Steve Wozniak, e por outros líderes de tecnologia que pedem uma pausa no desenvolvimento da IA – muita coisa boa pode vir dos avanços na tecnologia. A IA pode nos ajudar a entender como as fraquezas no raciocínio humano podem ser exploradas por maus atores e encontrar maneiras de combater atividades malévolas.

Todas as novas tecnologias podem resultar em maravilhas e perigos. A diferença está em quem cria e controla as ferramentas e como elas são usadas. Com informações do japantoday.