Presidente do Signal Alerta para Riscos de Privacidade dos Bots de IA Agentic
Meredith Whittaker, presidente da Signal Technology Foundation, responsável pelo aplicativo de mensagens criptografadas, expressou preocupações sobre os perigos que os bots de IA agentic podem representar para a privacidade dos usuários. Esses bots, que são capazes de raciocinar e realizar tarefas sem intervenção humana, podem acessar uma quantidade massiva de dados pessoais durante sua operação.
Durante sua participação no SXSW 2025 em Austin, Whittaker explicou que, embora os defensores dessa tecnologia ressaltem sua utilidade — como encontrar um concerto, reservar ingressos e abrir o Signal para enviar mensagens com os detalhes do evento — cada etapa exigiria permissões profundas. “Seria necessário acessar o navegador, as informações do cartão de crédito, o calendário e até mesmo os bancos de dados completos dos aplicativos, provavelmente de forma não criptografada”, destacou.
A preocupação central é que, para executar essas funções, a IA agentic precisaria operar com permissões semelhantes às de um administrador, conseguindo controlar e integrar diversos serviços. Essa integração, no entanto, pode comprometer a barreira entre a camada de aplicativos e o sistema operacional, tornando os dados pessoais vulneráveis e afastando a proteção que os sistemas atualmente oferecem.
O alerta de Whittaker não é um caso isolado. O cientista canadense Yoshua Bengio, amplamente reconhecido como um dos pioneiros na área de inteligência artificial, também advertiu sobre os riscos de depender de agentes autônomos sem as devidas salvaguardas. Em seus comentários, ele enfatizou que, enquanto a ciência por trás da IA está avançando, é essencial reconhecer e mitigar os riscos associados para evitar cenários que possam comprometer a segurança e, em última instância, a nossa própria existência.
Ambos os especialistas defendem que o desenvolvimento seguro da inteligência artificial depende de investimentos tecnológicos robustos e de uma compreensão científica detalhada sobre os dados e os processos envolvidos. Somente dessa forma será possível acompanhar os avanços sem sacrificar a privacidade e a segurança dos usuários.
