Cybercriminosos levam a IA maliciosa a outro nível
Análise de Notícias | 30 de junho de 2025 – 5 min de leitura
Fraudadores estão otimizando modelos ilícitos com conjuntos de dados do submundo, enquanto fornecedores criminosos lançam serviços cada vez mais sofisticados de geração de deepfakes e engenharia de prompts.
Criminosos cibernéticos começaram a aprimorar modelos de linguagem maliciosos (LLMs) utilizando posts de fóruns underground e vazamentos de dados para adaptar os modelos de IA a esquemas de fraude específicos, alerta a empresa de inteligência cibernética Flashpoint.
Mais especificamente, fraudadores estão ajustando LLMs ilícitos — incluindo WormGPT e FraudGPT — com conjuntos de dados maliciosos, como credenciais comprometidas, scripts de golpes e registros de infostealers. À medida que esses modelos geram respostas, eles coletam o feedback dos usuários para aperfeiçoar os resultados, criando um ciclo contínuo de aprimoramento de suas capacidades ofensivas.
“Essa tendência é particularmente preocupante, pois demonstra que os adversários estão ‘fechando o ciclo de ajuste do modelo’ — com suas capacidades ofensivas sendo aprimoradas continuamente por meio de feedback em tempo real e dados ilícitos”, afirma Ian Gray, da Flashpoint.
A Flashpoint também observou grupos privados de bate-papo onde usuários enviavam tentativas frustradas de prompts para os desenvolvedores dos LLMs, resultando em rápidas iterações e melhora de desempenho em poucos dias. Em um caso, um usuário reportou problemas de formatação em um prompt de fraude financeira e, logo depois, o desenvolvedor compartilhou uma versão atualizada com templates refinados.
“Essa natureza adaptativa e auto aprimorável da IA maliciosa, alimentada por dados comprometidos e colaboração criminosa, torna-a uma ameaça especialmente poderosa e difícil de ser combatida”, destaca Gray.
Criminosos cibernéticos estão customizando modelos de IA para esquemas de fraude específicos, como a geração de e-mails de phishing adaptados por setor ou idioma, além da criação de anúncios de emprego falsos, faturas ou solicitações de verificação. “Alguns fornecedores chegam a comercializar essas ferramentas com preços diferenciados, acesso à API e licenciamento de chave privada, espelhando a economia de SaaS legítima”, constataram os pesquisadores da Flashpoint. “Essa especialização pode resultar em taxas de sucesso potencialmente maiores e na automação de etapas complexas de ataque”, acrescenta Gray.
Deepfake como serviço se torna mainstream
Vendedores de crimes cibernéticos também estão diminuindo as barreiras para criar vídeos e áudios sintéticos, oferecendo deepfake como serviço (DaaS) que inclui:
- Geração de rostos personalizados para golpes em aplicativos de namoro
- Falsificação de áudio para fraudes na verificação por voz
- Avatares de vídeo sob demanda que sincronizam os lábios conforme scripts enviados pelos clientes
Esses serviços são frequentemente ofertados com complementos, como backstories pré-definidas, documentos falsos combinados e agendamento automatizado de chamadas.
Engenharia de Prompts como Serviço
Comunidades underground também surgiram em torno da arte de criar prompts para jailbreak. Esses “construtores de bypass” se especializam em driblar as limitações dos LLMs convencionais (como ChatGPT ou Gemini) para desbloquear respostas restritas, incluindo scripts de engenharia social, tutoriais passo a passo de hacking e manuais de fraude bancária, como orientações para burlar procedimentos de “conheça seu cliente” (KYC).
“A engenharia de prompts como serviço (PEaaS) reduz a barreira de entrada, permitindo que um leque maior de atores utilize capacidades sofisticadas de IA através de prompts maliciosos pré-configurados”, alerta Gray. “Juntas, essas tendências criam uma ameaça adaptativa: modelos customizados se tornam mais poderosos ao serem refinados com dados ilícitos, o PEaaS amplia o alcance dos agentes maliciosos e o aprimoramento contínuo garante uma evolução constante contra as defesas.”
Análise Aprofundada
Analistas da Flashpoint monitoraram esses desenvolvimentos em tempo real por mais de 100 mil fontes ilícitas, abrangendo desde marketplaces da dark web e grupos no Telegram até comunidades underground de LLMs. Entre 1º de janeiro e 30 de maio de 2025, foram registradas mais de 2,5 milhões de postagens relacionadas à IA, abordando táticas nefastas como prompts para jailbreak, anúncios de serviços de deepfake, kits para phishing e modelos de linguagem personalizados para fraudes e outras formas de crime cibernético.
Táticas e Estratégias Underground dos LLMs
Pesquisas do Cisco Talos alertam que os criminosos cibernéticos continuam a adotar os LLMs para otimizar seus processos, desenvolver ferramentas e scripts destinados a comprometer usuários e gerar conteúdos capazes de contornar defesas com maior facilidade. O Talos observou que os criminosos recorrem a LLMs sem censura ou até mesmo a modelos customizados criados para fins ilícitos. Os recursos anunciados desses LLMs maliciosos sugerem que eles são conectados a diversas ferramentas externas para escanear sites em busca de vulnerabilidades, verificar números de cartões de crédito roubados e executar outras ações mal-intencionadas. Ao mesmo tempo, os adversários frequentemente conseguem burlar modelos legítimos mais rapidamente do que os desenvolvedores conseguem protegê-los.
Defesa contra as Artes Obscuras da IA
O guia “IA e Inteligência de Ameaças: O Guia dos Defensores”, da Flashpoint, explica que, embora a IA seja uma faca de dois gumes na cibersegurança, os defensores que a integram de forma estratégica aos seus fluxos de trabalho podem superar os adversários. As empresas precisam equilibrar a automação com a análise especializada, discernindo o hype da realidade e se adaptando continuamente a um cenário de ameaças em constante evolução.
“Os defensores devem enxergar a IA como uma extensão da expertise humana, e não como um substituto”, afirma Gray. “Essa filosofia garante que a IA fortaleça os fluxos de trabalho existentes, agregando valor ao reduzir o ruído e acelerar a tomada de decisões, em vez de criar novas lacunas.”
Gray acrescenta: “O princípio fundamental deve ampliar a vantagem na coleta de dados, utilizando a IA para extrair insights a partir de informações de alto valor, acelerando descobertas e estruturando conteúdos não organizados. Em última análise, o objetivo é melhorar a eficiência, capacitando os analistas com ferramentas que apoiem seu julgamento, mantenham o controle humano e forneçam o contexto necessário.”
