Inteligência Central

Segurança de IA Superou a Supervisão Humana

À medida que os sistemas de inteligência artificial se tornam mais autônomos, os mecanismos de segurança projetados para protegê-los – assim como as novas superfícies de ameaça que eles criam – estão tendo dificuldade para acompanhar esse ritmo acelerado. “A grande mudança é a rapidez e a autonomia”, afirmou Mohammed Aboul-Magd, vice-presidente de produto do SandboxAQ’s Cybersecurity Group. “À medida que as intrusões se tornam altamente automatizadas, o intervalo entre uma pequena falha e uma violação catastrófica se encurta drasticamente.”

Essa aceleração marca uma ruptura fundamental com os pressupostos da cibersegurança tradicional. O que antes poderia ocorrer ao longo de dias ou semanas agora pode acontecer em minutos, minando modelos de segurança baseados em revisões periódicas, alertas retardados e respostas humanas.

À medida que os agentes de IA se incorporam cada vez mais às operações diárias, o risco se acumula de forma imperceptível. Esses sistemas não se comportam como funcionários: não efetuam login uma vez ao dia, não seguem fluxos de trabalho previsíveis nem se encaixam nos modelos de identidade desenvolvidos para pessoas. Uma única configuração inadequada – como uma permissão excessivamente ampla ou uma chave de acesso esquecida – pode se espalhar rapidamente através de processos automatizados, afetando múltiplos sistemas antes que alguém perceba.

Uma das fontes de exposição que mais cresce é a identidade das máquinas. Cada agente de IA depende de credenciais, como chaves de API, tokens e contas de serviço, que muitas vezes não possuem uma titularidade clara ou data de expiração. Aboul-Magd prevê que isso forçará uma mudança estrutural: “Esperamos uma divisão de identidade entre pessoas e máquinas.”

O desafio se agrava com a forma como a IA é adotada nas organizações. Funcionários cada vez mais constroem seus próprios agentes, conectam sistemas e concedem acessos conforme necessário. O que começa como uma experimentação informal pode evoluir para “operações paralelas”, criando caminhos ocultos de acesso à infraestrutura crítica sem o pleno conhecimento das equipes de segurança.

A mensagem não é que a IA seja inerentemente insegura, mas que os métodos de proteção precisam se transformar. Proteger a IA hoje se assemelha menos a auditar softwares e mais a gerenciar uma infraestrutura viva – com visibilidade contínua, credenciais de curta duração e monitoramento constante, em vez de verificações pontuais.

Como afirmou Aboul-Magd, a mudança é inevitável: “A segurança precisa passar de verificações ocasionais para uma gestão contínua da postura”. Em um ambiente movido pela IA, a supervisão em ritmo humano já não é suficiente.

Injeção de Prompt

“O progresso na área da saúde não vem apenas da busca pelos modelos mais avançados, mas da combinação deles com técnicas comprovadas de aprendizado de máquina e profundo conhecimento do setor. O verdadeiro avanço está em interpretar os dados clínicos não estruturados, que ainda representam a maioria das informações retidas nas instituições de saúde.

Essa constatação revolucionou minha forma de enxergar a inteligência artificial; em vez de a ver como um substituto do julgamento humano, vejo-a como um amplificador quando dados de alta qualidade e abordagens determinísticas de aprendizado de máquina são combinados com tecnologias mais avançadas, validadas por profissionais que compreendem as nuances clínicas. Essa abordagem híbrida proporciona contexto, precisão e confiança, elementos essenciais no setor da saúde.

O futuro da IA não se resume a uma solução “caixa-preta”. Trata-se de uma inteligência em camadas que respeita a complexidade, se integra aos fluxos de trabalho reais e auxilia os profissionais da saúde a transformar dados em decisões embasadas.”

Registro de Execução

Quando Ryan Miller e sua esposa Jessica assumiram o Bobcat Inn, em Santa Fe, a precificação tornou-se rapidamente um desafio familiar para muitos operadores independentes: uma excelente experiência para os hóspedes nem sempre se traduz em receita ideal. Como muitos proprietários com perfil analítico, Miller utilizava técnicas tradicionais de gerenciamento de rendimento, como acompanhar metas de ocupação, ajustar tarifas conforme o tempo restante, observar a concorrência, considerar a sazonalidade e elevar preços em torno de eventos locais. Essa abordagem, embora disciplinada e informada por dados, era fundamentalmente baseada em regras fixas, armazenadas em planilhas em vez de sistemas em tempo real.

Com o tempo, os limites desse modelo ficaram cada vez mais evidentes. A precificação baseada em regras reage a informações passadas e pressupõe uma demanda estável, deixando pouco espaço para testar o que os hóspedes realmente estão dispostos a pagar no momento. Miller tentou reduzir essa lacuna adicionando mais lógica e dados ao seu modelo, mas sem uma experimentação contínua ou sinais de demanda em tempo real, as decisões permaneciam incertas e demoradas.

A transformação ocorreu quando Miller adotou uma plataforma de precificação orientada por inteligência artificial, projetada para testar continuamente a sensibilidade do preço, em vez de depender de regras estáticas. O sistema ajustava as tarifas com base no comportamento de reserva em tempo real e em sinais de demanda mais amplos, apoiado por estratégias humanas de receita para definir limites e interpretar os resultados. Assim, a precificação passou de um processo manual e reativo para um experimento contínuo, sustentado por dados ao vivo.

Após um ano, os resultados foram claros: a receita aumentou aproximadamente 20 a 25% em relação ao ano anterior, as tarifas médias diárias cresceram de forma constante e o gerenciamento de preços passou a demandar cerca de 30 minutos por mês. Mais importante ainda, as decisões tornaram-se estratégicas em vez de reativas, reforçando a lição de que tratar a precificação como uma disciplina baseada em dados – e não como um jogo de adivinhação – pode liberar novas fontes de receita e promover uma maior clareza operacional.

Janela de Contexto

  • Tristan Harris, eticista da tecnologia, argumenta que um “apocalipse de IA” não está predeterminado. Ele alerta que a sociedade está sendo tratada como um experimento sem consentimento, clamando por maior engajamento público, responsabilidade e governança para moldar o futuro da inteligência artificial, em vez de aceitar os piores cenários como inevitáveis.
  • A Anthropic lançou o Claude Cowork como prévia de pesquisa para usuários de Mac, permitindo que o Claude acesse e atue sobre arquivos no espaço de trabalho do usuário para organizar pastas, redigir documentos ou enfrentar tarefas complexas. Esse é um passo em direção a uma IA que funcione como um verdadeiro “colega” de trabalho no desktop.
  • A startup de cibersegurança WitnessAI, focada em proteger sistemas e agentes de IA empresariais, levantou US$ 58 milhões de investidores renomados para ajudar empresas a proteger dados sensíveis e se defendam contra ataques, diante da expansão da automação e dos fluxos de trabalho impulsionados pela IA.
  • A Dell comunicou em um memorando interno que está lançando o “One Dell Way”, uma transformação significativa para unificar sistemas, automatizar fluxos de trabalho e integrar a IA em escala nas áreas de finanças, recursos humanos, marketing e vendas.
  • Conforme um relatório do Netskope Threat Labs, as violações de políticas de dados envolvendo IA generativa mais que dobraram no último ano, com dados pessoais sensíveis e regulamentados frequentemente expostos por meio de contas não gerenciadas, evidenciando o crescente risco de segurança empresarial na corrida pela adoção dessas ferramentas.
  • A Salesforce lançou um “AI Fluency Playbook” com o objetivo de ajudar os funcionários a trabalharem com IA de forma confiante, citando ganhos em produtividade, foco e satisfação no trabalho quando os colaboradores são treinados para colaborar com agentes de IA, em vez de simplesmente adotarem novas ferramentas.

Transferências no Setor

  • Alison Wagonfeld, anteriormente líder sênior de marketing no Google Cloud, foi nomeada diretora de marketing na NVIDIA, tornando-se a primeira CMO da empresa, à medida que expande sua marca e estratégia para computação acelerada e infraestrutura de inteligência artificial.
  • Melissa Furze, ex-vice-presidente global de ciência do cliente no LinkedIn, passou a integrar a Integral Ad Science como chefe de ciência de dados, visando liderar os esforços de análise e machine learning que sustentam ferramentas de medição, segurança de marca e performance de anúncios impulsionadas por IA.
  • Michael O’Sullivan, ex-diretor de tecnologia da Hantec Markets, ingressou na CFI Financial Group como consultor sênior de tecnologia, apoiando a modernização das plataformas de negociação, da arquitetura de dados e dos sistemas de gerenciamento de risco e execução orientados por IA.
  • Chris Oswald, ex-vice-presidente de engenharia de software na J.B. Hunt, foi nomeado diretor de tecnologia na Engine Data Science, onde supervisionará o desenvolvimento da plataforma e as análises impulsionadas por IA, conforme a empresa expande suas ofertas de ciência de dados para o setor corporativo.
  • Eleonore Fournier-Tombs, ex-pesquisadora sênior e fundadora do laboratório de pesquisa em políticas de IA na United Nations University, foi nomeada diretora de IA do Estado de Nova York, liderando a estratégia, a governança e a adoção responsável de novas tecnologias de IA nas agências do governo estadual.

Momento Mágico

“Uma das formas mais inesperadas e impactantes de utilizar a inteligência artificial recentemente foi como uma salvaguarda diagnóstica, e não como um simples recomendador de tratamentos. Em um caso, a IA foi empregada para analisar padrões genômicos e transcriptômicos, associando a assinatura molecular de um tumor a uma das 90 categorias de câncer – um método especialmente valioso para pacientes com tumores de origem primária desconhecida.

O que se destacou foi o poder dessa abordagem como um duplo verificador diagnóstico, no mundo real. Uma paciente havia sido diagnosticada com uma forma agressiva de câncer de mama, mas quando os dados moleculares de seu tumor foram analisados, a IA sinalizou que o perfil era altamente inconsistente com câncer de mama. Essa discrepância, verificada em conjunto com a equipe médica, levou a investigações adicionais que, finalmente, revelaram o diagnóstico correto: linfoma de células B.

Esse insight transformou radicalmente o caminho do tratamento, permitindo que a paciente recebesse a terapêutica adequada, evitando intervenções que teriam sido ineficazes e potencialmente prejudiciais. O impacto desse momento ficou marcado por demonstrar como a IA, ancorada em dados moleculares profundos, pode atuar não apenas como uma ferramenta de suporte às decisões, mas como uma rede de segurança crítica, auxiliando os profissionais a reavaliar e confirmar diagnósticos.