O CEO da OpenAI, Sam Altman, alerta para não confiar no agente ChatGPT com dados sensíveis ou pessoais
Sam Altman, CEO da OpenAI, alerta os usuários para não dependerem excessivamente do novo agente ChatGPT, principalmente em tarefas que envolvem dados sensíveis ou pessoais. Esse agente é o primeiro sistema da OpenAI projetado para realizar tarefas complexas em múltiplas etapas de forma autônoma. Segundo Altman, ele é capaz de decompor solicitações em etapas menores, utilizar ferramentas externas e executar ações por conta própria, superando funcionalidades de produtos anteriores.
Mesmo com diversas salvaguardas e avisos incorporados, Altman observa que ainda existem riscos imprevisíveis. Ele recomenda cautela no uso do agente para atividades importantes ou que lidem com um elevado volume de informações pessoais.
Agentes de IA ainda são vulneráveis
Altman destaca o perigo de conceder permissões amplas a um agente de IA, como acesso a uma conta de e-mail, sem a devida supervisão. Por exemplo, ao instruir o agente a gerenciar seus e-mails e executar as ações necessárias, uma mensagem maliciosa pode enganá-lo, fazendo-o expor dados sensíveis ou realizar ações indevidas.
Pesquisas comprovam que agentes de IA podem ser manipulados por comandos relativamente simples, o que pode levar à divulgação de informações privadas ou à execução de ações não desejadas.
Classificado como um sistema “experimental”, o agente ChatGPT apresenta uma prévia das possibilidades futuras, mas não é indicado para casos que envolvam alto risco ou exigência de privacidade. Altman recomenda conceder apenas o acesso mínimo necessário para reduzir os riscos de segurança e privacidade e ressalta que, caso ocorra alguma falha ou exposição de dados sensíveis, a responsabilidade será do usuário.
Defendendo esse método, Altman afirma que é fundamental aprender com o contato com a realidade, adotando essas ferramentas de forma cautelosa e gradual, à medida que os riscos são melhor quantificados e mitigados. Contudo, considerando a vasta base de usuários do ChatGPT, é provável que ocorram incidentes reais ao longo do tempo.
