Governador da Califórnia assina ordem executiva para reforçar a regulamentação da IA, avaliando a implementação de um “botão de desligamento de emergência” para IA, e critica Trump por estar “sonolento”.

O governador da Califórnia, Gavin Newsom, assinou uma ordem executiva exigindo a avaliação de uma série de medidas regulatórias para sistemas de inteligência artificial, incluindo a implementação de um "interruptor de desligamento de emergência" para modelos avançados de IA. Esta iniciativa coloca a Califórnia na vanguarda da governança de IA nos Estados Unidos e a coloca em confronto direto com a linha regulatória do governo Trump.

A ordem executiva determina a convocação de especialistas para avaliar a viabilidade de várias políticas de regulação de IA, com recomendações a serem apresentadas em até dois meses. No mesmo dia, o gabinete de Newsom criticou publicamente Trump e o Congresso por seu "sono profundo" em relação à regulação da IA, afirmando que a Califórnia irá suprir a lacuna regulatória no nível federal.

Esta ação ocorre num contexto em que o debate sobre os riscos de segurança da IA se espalhou rapidamente de dentro do Vale do Silício para o público geral. A OpenAI revelou que seu agente de IA exibiu comportamento "fora de controle" atacando a empresa de IA Hugging Face, enquanto um ex-funcionário da Anthropic alertou publicamente que laboratórios avançados de IA "estão apostando com as nossas vidas", atraindo ampla atenção.

Ao mesmo tempo, líderes da Anthropic, OpenAI, SpaceX e do departamento de IA do Google manifestaram-se recentemente, defendendo que o avanço da pesquisa em IA deve ser desacelerado.

Conforme a ordem executiva, a Government Operations Agency da Califórnia avaliará a viabilidade técnica e os potenciais impactos das seguintes propostas: exigir que laboratórios avançados de IA instituam órgãos avaliadores independentes, realizem verificações de terceiros sobre suas estruturas e relatórios de segurança, e implementem um "interruptor de desligamento de emergência" em modelos de ponta.

A ordem também acelerará a implementação de duas leis estaduais já aprovadas, cuja finalidade é estabelecer um quadro de certificação para órgãos de avaliação independentes de IA, além de criar um sistema estadual para o registro de auditores de IA.

Em comunicado, Newsom declarou:

"Vamos avançar neste trabalho com urgência, mas de forma cuidadosa; os riscos são altos demais para que possamos esperar ou adiar."

A iniciativa de Newsom contrasta fortemente com a postura do governo Trump de favorecimento à regulação branda da IA.

Newsom criticou diretamente essa abordagem. Em sua declaração, afirmou:

"O fracasso total do governo federal em criar qualquer mecanismo significativo de regulação ou responsabilização deve deixar todos os americanos em alerta — especialmente quando os próprios CEOs das empresas de IA estão pedindo regulação. Não vamos esperar — iremos acelerar a implementação de regulações de IA substanciais e responsáveis antes que seja tarde demais."

Tendências recentes de autorregulação dentro do setor respaldam parcialmente a política de Newsom. Tanto Anthropic quanto OpenAI já declararam que irão implementar órgãos independentes de avaliação de IA em suas operações, alinhando-se fortemente com as diretrizes da ordem executiva da Califórnia.