O governador da Califórnia assinou uma ordem executiva para reforçar a regulamentação da inteligência artificial, avaliando a implementação de um “interruptor de emergência” para IA, e criticou Trump por estar “desatento”.

O governador da Califórnia, Gavin Newsom, assinou uma ordem executiva exigindo a avaliação de uma série de medidas regulatórias para sistemas de inteligência artificial, incluindo a criação de um "interruptor de desligamento de emergência" para modelos de IA de ponta. Esta medida coloca a Califórnia na vanguarda da governança de IA nos Estados Unidos e estabelece um confronto direto com a linha regulatória do governo Trump.

A ordem executiva exige a convocação de especialistas para avaliar a viabilidade de diversas políticas regulatórias para IA, sendo que as recomendações devem ser apresentadas no prazo de dois meses. No mesmo dia, o gabinete de Newsom criticou publicamente Trump e o Congresso por estarem "adormecidos" em relação à regulação da IA, afirmando ainda que a Califórnia irá preencher as lacunas existentes a nível federal.

O pano de fundo desta ação é que o debate sobre riscos de segurança da IA rapidamente saiu do círculo do Vale do Silício e entrou no foco do público. A OpenAI revelou que o seu agente de IA se comportou de forma "descontrolada" e atacou a empresa Hugging Face, enquanto um ex-funcionário da Anthropic alertou publicamente que os laboratórios de IA de ponta "estão a pôr as nossas vidas em risco", gerando ampla preocupação.

Paralelamente, responsáveis da Anthropic, OpenAI, SpaceX e do departamento de IA da Google manifestaram-se recentemente no sentido de que o avanço da investigação em IA deve ser desacelerado.

De acordo com a ordem executiva, a Government Operations Agency da Califórnia irá avaliar a viabilidade técnica e o impacto potencial das seguintes propostas: exigir que laboratórios de IA de ponta tenham entidades de avaliação independentes, que realizem verificações de terceiros sobre os seus quadros e relatórios de segurança, bem como a implementação de um "interruptor de desligamento de emergência" em modelos avançados.

A ordem também irá acelerar a implementação de duas leis estaduais já aprovadas na Califórnia, destinadas a estabelecer um quadro de acreditação para entidades independentes de revisão de IA e a criar um sistema estadual de registo para auditores de IA.

Newsom afirmou em comunicado:

"Avançaremos a este trabalho de forma ponderada mas urgente – os riscos são demasiado elevados para esperar ou adiar."

A ação de Newsom contrasta fortemente com a posição do governo Trump, que tende a adotar uma abordagem de regulação leve para a IA.

Newsom foi direto nas críticas. Na declaração, afirmou:

"O fracasso total do governo federal em estabelecer qualquer mecanismo significativo de regulação ou responsabilização da IA devia ser motivo de alerta para todos os americanos – especialmente quando até os CEOs das empresas de IA apelam à regulação. Não vamos esperar – vamos acelerar a implementação de uma regulação de IA substancial e responsável, antes que seja demasiado tarde."

As iniciativas de autorregulação a nível setorial dão algum respaldo à política de Newsom. Tanto a Anthropic como a OpenAI já anunciaram que vão implementar entidades independentes de avaliação de IA internamente, alinhando-se estreitamente com a direção preconizada pela ordem executiva da Califórnia.