Silicon Valley assusta os defensores da segurança em IA
Os líderes do Vale do Silício, como o coordenador de IA e Criptografia da Casa Branca, David Sacks, e o diretor de estratégia da OpenAI, Jason Kwon, causaram agitação nas redes sociais esta semana com seus comentários sobre grupos que promovem a segurança em IA. Em ocasiões distintas, eles alegaram que alguns dos defensores da segurança em IA não são tão virtuosos quanto aparentam, agindo em benefício próprio ou em favor de bilionários que puxam os fios dos bastidores.
Organizações de segurança em IA consultadas afirmaram que essas alegações são apenas a mais recente tentativa do Vale do Silício de intimidar seus críticos – embora essa não seja a primeira ocorrência. Em 2024, alguns fundos de capital de risco espalharam rumores de que um projeto de lei californiano sobre segurança em IA faria com que fundadores de startups fossem presos. Mesmo tendo sido categorizado como uma das muitas distorções sobre o projeto por uma renomada instituição de pesquisa, o governador Gavin Newsom acabou vetando a proposta.
Independentemente da intenção de Sacks e da OpenAI de intimidar os críticos, suas atitudes realmente assustaram parte dos defensores da segurança em IA. Vários líderes de organizações sem fins lucrativos, contatados recentemente, pediram para manter suas identidades em sigilo, a fim de proteger seus grupos de possíveis retaliações.
A controvérsia ressalta a tensão crescente no Vale do Silício entre desenvolver a IA de forma responsável e transformá-la em um enorme produto de consumo – um tema explorado em um podcast recente que analisa, entre outros assuntos, uma nova lei de segurança em IA aprovada na Califórnia para regulamentar chatbots, bem como a abordagem da OpenAI em relação à erotização no ChatGPT.
Na última terça-feira, Sacks publicou em uma rede social que a Anthropic – que havia manifestado preocupações quanto à capacidade da IA de contribuir para o desemprego, facilitar ataques cibernéticos e causar danos catastróficos à sociedade – estaria usando o alarmismo para pressionar a aprovação de leis que beneficiariam a própria empresa e sufocariam startups menores com burocracia. A Anthropic foi o único grande laboratório de IA a apoiar um projeto de lei estadual que fixa requisitos de segurança para as grandes empresas do setor, o qual foi sancionado no mês anterior.
“A Anthropic está conduzindo uma sofisticada estratégia de captura regulatória — ela é, em grande parte, responsável pelo frenesi regulatório que vem prejudicando o ecossistema de startups.”
— David Sacks
Sacks afirmou que, embora a estratégia da Anthropic seja tida como sofisticada, uma verdadeira estratégia dessa natureza dificilmente envolveria transformar o governo federal em inimigo. Em uma publicação subsequente, Sacks comentou que a Anthropic tem se posicionado de forma consistente como adversária de administrações anteriores.
Evento em San Francisco
San Francisco | 27 a 29 de outubro de 2025
Nesta mesma semana, Jason Kwon, diretor de estratégia da OpenAI, explicou em uma publicação que a empresa vem enviando intimações a organizações de segurança em IA, como a Encode – uma entidade que defende políticas responsáveis para a tecnologia. Após Elon Musk processar a OpenAI, sob alegações de que a empresa teria se desviado de sua missão sem fins lucrativos, a OpenAI achou curioso notar que várias organizações também se opunham à sua reestruturação. A Encode, inclusive, apresentou uma sustentação em apoio à ação judicial de Musk, enquanto outros grupos se manifestaram publicamente contra a mudança de direção da empresa.
Kwon destacou que essa situação levantou questões de transparência quanto às fontes de financiamento dessas organizações e se haveria algum tipo de coordenação entre elas. Recentes investigações noticiadas por uma grande rede de notícias indicaram que a OpenAI enviou intimações a diversas organizações que criticavam a empresa, solicitando comunicações relacionadas a dois dos seus maiores opositores: Elon Musk e o CEO da Meta. Além disso, foi solicitado à Encode que repassasse comunicações ligadas ao apoio ao referido projeto de lei estadual.
Um renomado líder da área comentou que há uma divisão crescente entre a equipe de relações governamentais da OpenAI e sua frente de pesquisa. Enquanto os pesquisadores frequentemente publicam relatórios evidenciando os riscos dos sistemas de IA, a unidade de políticas fez lobby contra o projeto estadual, defendendo a implementação de regras uniformes em nível federal.
Joshua Achiam, responsável pelo alinhamento de missão na OpenAI, também se manifestou a respeito do envio de intimações às organizações sem fins lucrativos, afirmando: “Em algo que possivelmente coloca toda a minha carreira em risco, eu direi: isso não parece bom.”
Brendan Steinhauser, CEO de uma importante organização de segurança em IA – que, por sinal, não foi alvo das intimações – afirmou que a OpenAI parece convencida de que seus críticos fazem parte de uma conspiração liderada por Musk. Segundo Steinhauser, essa percepção visa, na verdade, silenciar e intimidar os críticos, além de desencorajar outras organizações a adotarem uma postura similar. Ele acredita que, para Sacks, a preocupação é justamente o crescimento do movimento de segurança em IA e o desejo de as pessoas responsabilizarem as grandes empresas do setor.
Sriram Krishnan, conselheiro sênior de políticas de IA na Casa Branca e ex-parceiro de um renomado fundo de investimentos, utilizou as redes sociais para criticar os defensores da segurança em IA, afirmando que esses grupos estão desconectados da realidade. Ele incentivou essas organizações a dialogarem com “pessoas no mundo real que usam, vendem e adotam a IA em suas casas e organizações”.
Estudos recentes apontam que aproximadamente metade dos americanos estão mais preocupados do que entusiasmados com o desenvolvimento da IA, embora não esteja claro quais sejam exatamente suas maiores inquietações. Outras pesquisas indicam que os eleitores se preocupam mais com perdas de emprego e o fenômeno dos deepfakes do que com riscos catastróficos, foco principal do movimento de segurança em IA.
Abordar essas preocupações de segurança pode comprometer o rápido crescimento da indústria de IA – um dilema que inquieta muitos no Vale do Silício. Com os investimentos em IA sustentando boa parte da economia americana, o receio de uma regulação exagerada é compreensível. Contudo, depois de anos de avanços desregulados, o movimento de segurança em IA parece ganhar impulso real conforme 2026 se aproxima. As tentativas do Vale do Silício de combater os grupos focados na segurança podem, na verdade, ser um indício de que esses esforços estão surtindo efeito.
