No mundo do cibercrime e hacking, o aparecimento da inteligência artificial tem sido uma ferramenta surpreendente, pois permite que indivíduos mal-intencionados encontrem novas formas de roubar contas, obter informações vitais ou aplicar golpes de phishing. Porém, há também avanços positivos: uma IA se destacou na identificação de problemas de segurança e vulnerabilidades em códigos, liderando o ranking da HackerOne nos Estados Unidos.
A empresa por trás deste modelo de IA chama-se Xbow (não, não se trata do console Xbox) e adota esse nome para o próprio sistema. Segundo um relatório da Bloomberg, a startup está no mercado há apenas um ano e já captou US$ 75 milhões em financiamento. Dada a eficácia demonstrada na detecção de falhas de segurança, é provável que mais investidores se interessem por projetos desse tipo.
A prática de testes de penetração automatizados não é novidade, já que hackers éticos vêm utilizando diversas ferramentas para examinar códigos, websites e sistemas há anos. No entanto, a IA vem ganhando destaque por sua habilidade de analisar enormes volumes de dados e encontrar padrões com rapidez. O sistema da Xbow realiza simulações de ataques cibernéticos e abusos sistemáticos de vulnerabilidades, processo que, se feito de forma manual, seria extremamente demorado e custoso, fazendo com que muitas empresas lancem códigos sem a devida verificação de segurança.
Apesar dos avanços, o sistema não é isento de falhas. Um dos desafios apontados é o fenômeno conhecido como “alucinação da IA”, onde o modelo pode gerar respostas incorretas por ter sido exposto a dados insuficientes ou inexistentes. Para contornar esse problema, a empresa realiza uma verificação manual de cada vulnerabilidade relatada. Além disso, a ausência de compreensão contextual é uma limitação importante; como ressaltou o cofundador Oege de Moor, é necessário informar explicitamente, por exemplo, que em um site voltado para a área médica, as prescrições devem ser mantidas em sigilo.
Com a crescente importância de manter o código “memory-safe” – ou seja, livre de erros de memória que possam criar brechas para ataques – é provável que surjam mais startups e projetos semelhantes nos próximos anos. Se a tendência for a utilização de sistemas com processamento automatizado aliado à verificação humana, teremos mais um exemplo do quanto a inteligência artificial pode contribuir para a segurança e eficiência em nossas vidas.
