O governador da Califórnia, Gavin Newsom, vetou neste domingo o Projeto de Lei do Senado 1047 (SB 1047), interrompendo o que teria sido a estrutura regulatória mais abrangente dos Estados Unidos para modelos avançados de inteligência artificial de fronteira. De autoria do senador estadual democrata de São Francisco Scott Wiener, a legislação havia provocado meses de intenso debate no Vale do Silício, em Washington e na academia.

Pelo texto do SB 1047, desenvolvedores que treinassem modelos fundacionais exigindo mais de US$ 100 milhões em poder computacional seriam obrigados a realizar testes prévios de risco catastrófico, implementar um protocolo de desligamento de emergência ('kill switch') e responder judicialmente perante o Procurador-Geral da Califórnia caso seus sistemas causassem vítimas em massa ou mais de US$ 500 milhões em danos a infraestruturas críticas.

Por que Newsom rejeitou a regulação baseada em limites de poder computacional

Em sua mensagem formal de veto enviada ao Legislativo da Califórnia, Newsom destacou que, embora o estado não abra mão da supervisão proativa sobre tecnologias emergentes, o SB 1047 baseava-se em um limite matemático rígido em vez de avaliar o contexto real em que um modelo de IA opera. Ele ponderou que modelos menores e especializados aplicados em setores sensíveis podem representar perigos reais maiores do que modelos gigantescos realizando tarefas cotidianas.

A proposta expôs uma profunda divisão filosófica na indústria de inteligência artificial. OpenAI, Meta, Google, a gestora Andreessen Horowitz e a ex-presidente da Câmara Nancy Pelosi opuseram-se ao projeto, alertando que ele sufocaria o código aberto e expulsaria startups da Califórnia. Por outro lado, Anthropic, Elon Musk, os vencedores do Prêmio Turing Geoffrey Hinton e Yoshua Bengio, além de sindicatos de Hollywood, apoiaram a medida.

“Embora bem-intencionado, o SB 1047 aplica padrões rigorosos até mesmo às funções mais básicas desde que um grande sistema as implante, em vez de focar em usos reais de alto risco e na análise empírica de ameaças.”

Divisão no Vale do Silício e nova iniciativa de salvaguardas empíricas

Junto com o veto, Newsom anunciou que recrutou a cientista da computação da Universidade Stanford Dra. Fei-Fei Li, o ex-cientista-chefe de dados dos EUA DJ Patil e a reitora da UC Berkeley Jennifer Chayes para liderar uma nova iniciativa estadual voltada a criar salvaguardas empíricas e práticas antes da próxima sessão legislativa.

Newsom também determinou que o Escritório de Serviços de Emergência e o Departamento de Tecnologia da Califórnia ampliem as avaliações de risco para ameaças catastróficas de IA contra a rede elétrica, o abastecimento de água e a infraestrutura de segurança cibernética do estado. No início deste mês, o governador sancionou mais de uma dezena de leis específicas contra deepfakes eleitorais e réplicas digitais de artistas.

Sources

Gavin Newsom SB 1047 Regulação de IA Califórnia Scott Wiener Fei-Fei Li Vale do Silício