O Senado da Califórnia aprovou recentemente, em sua etapa final, um novo projeto de lei de segurança para inteligência artificial, o SB 53, encaminhando-o ao governador Gavin Newsom para que ele decida assiná-lo ou vetá-lo.
Se tudo isso parece familiar, é porque Newsom vetou outro projeto de segurança para IA, também elaborado pelo senador estadual Scott Wiener, no ano passado. Contudo, o SB 53 é mais restrito que o SB 1047 anterior de Wiener, concentrando-se em grandes empresas de IA que faturam mais de US$ 500 milhões por ano.
Tive a oportunidade de discutir o SB 53 com os meus colegas Max Zeff e Kirsten Korosec em um episódio recente do podcast Equity. Max acredita que o novo projeto de lei de Wiener tem mais chances de se tornar lei, em parte por ter esse foco nas grandes empresas e também por ter sido endossado pela empresa de IA Anthropic.
Max: Por que você deveria se importar com uma legislação de segurança para IA que está sendo aprovada em uma das câmaras da Califórnia? Estamos entrando numa era em que as empresas de IA estão se tornando as mais poderosas do mundo, e isso pode representar um dos poucos controles sobre esse poder.
Embora seja bem mais restrito que o SB 1047, que recebeu muitas críticas no ano passado, eu acredito que o SB 53 ainda estabelece regulações significativas para os laboratórios de IA. Ele obriga essas empresas a publicarem relatórios de segurança sobre seus modelos. Caso ocorra algum incidente, elas são obrigadas a reportá-lo ao governo. Para os funcionários desses laboratórios, caso tenham alguma preocupação, a lei também oferece um canal para relatar essas questões sem sofrer represálias das empresas, mesmo que muitos já tenham assinado acordos de confidencialidade.
Para mim, isso representa um controle potencialmente significativo sobre o poder das empresas de tecnologia, algo que não temos visto nas últimas décadas.
Kirsten: Sobre a importância de uma medida estadual, é relevante considerar que se trata da Califórnia. Toda grande empresa de IA possui, se não a sua base, ao menos uma presença importante neste estado. Não que outros estados não sejam importantes, mas o fato de ser na Califórnia é relevante, pois este é realmente um polo de atividade em IA.
Minha pergunta para você, Max, é: apesar de ser mais restrito, não parece que há muitas exceções e ressalvas. Será que o SB 53 é mais complicado do que o projeto anterior?
Max: De certa forma, sim. O principal ponto de exceção deste projeto é que ele busca não se aplicar a pequenas startups. Uma das principais controvérsias em torno do último esforço legislativo do senador Scott Wiener – que representa São Francisco – foi o argumento de que a lei poderia prejudicar o ecossistema de startups, um setor que é uma parte vital da economia californiana.
Este projeto se aplica especificamente aos desenvolvedores de IA que geram mais de US$ 500 milhões com seus modelos, visando, assim, empresas como OpenAI e Google DeepMind, e não as startups menores.
Anthony: Pelo que entendo, se você for uma startup menor, ainda terá que compartilhar algumas informações sobre segurança, mas de forma bem mais limitada.
Vale ainda mencionar o cenário mais amplo em torno da regulação da IA e a mudança que ocorreu entre o ano passado e este ano, com a posse de um novo presidente. A administração federal passou a adotar uma postura de não regulação, defendendo que as empresas devem poder agir livremente – inclusive com a inclusão de cláusulas em projetos de lei de financiamento que determinam que os estados não podem ter sua própria regulação sobre IA.
Até o momento, nenhuma dessas propostas foi aprovada, mas é possível que se tente implementá-las futuramente. Assim, essa questão pode se transformar em mais um campo de disputa entre a administração federal e os estados com maior tendência progressista.
