Governador da Califórnia propõe kill switch e auditorias para IA
Gavin Newsom assinou ordem executiva que cria grupo de especialistas para definir regras de segurança, incluindo um mecanismo de desligamento para modelos avançados de IA.
Em resumo
- Governador da Califórnia assinou ordem executiva para impor um kill switch e regras de segurança em IA
- Ordem cria grupo de especialistas que deve entregar recomendações em até dois meses, incluindo auditorias e relato de incidentes
- Iniciativa pretende tornar o estado modelo nacional de supervisão de IA diante da inércia do Congresso
O governador da Califórnia, Gavin Newsom, assinou nesta sexta‑feira uma ordem executiva que coloca o estado na dianteira da supervisão de inteligência artificial, incluindo a possibilidade de exigir um “kill switch” – um mecanismo de desligamento – para modelos avançados.
A medida cria um grupo de especialistas que deve apresentar recomendações sobre como reforçar a segurança da IA nas leis estaduais em até dois meses.
O que aconteceu
A ordem determina que o grupo, formado por especialistas independentes, avalie a exigência de que empresas de IA instalem equipes de verificação no local para auditorias regulares, que relatórios de transparência e avaliações de risco sigam padrões de auditoria independente, e que seja criado um “kill switch” cuja eficácia seja testada periodicamente.
Além disso, a proposta obriga as companhias a comunicar incidentes de perda de controle – como o ataque da OpenAI ao Hugging Face citado na ordem – como incidentes críticos de segurança. O governador também ordenou que uma agência estadual acelere a aplicação de duas leis recentes que criam um marco para verificadores independentes avaliarem a segurança da IA e estabelecem um registro de auditores de IA.
"O governo federal falhou em criar supervisão significativa de IA", disse Newsom, ao chamar atenção para a necessidade de ação rápida.
“O governador também ordenou que uma agência estadual acelere a aplicação de duas leis recentes que criam um marco para verificadores independentes avaliarem a segurança da IA e estabelecem um registro de auditores de IA.”
Newsom sugeriu ainda a possibilidade de convocar uma sessão legislativa especial sobre IA e pediu que o Congresso e a administração federal adotem o modelo californiano, usando‑o como “piso, não teto”, para a segurança de todos os americanos.
Por que importa
A iniciativa pode servir de referência nacional, já que o debate federal tem avançado lentamente, com o Congresso em recesso até novembro e pouco prospecto de aprovação de leis abrangentes. Em paralelo, o presidente Donald Trump afirmou que a única “guarda‑real” necessária seria um presidente forte e inteligente.
Ao estabelecer requisitos de auditoria, transparência e um mecanismo de desligamento, a Califórnia busca reduzir riscos de incidentes graves de IA, respondendo a alertas como o de Jacob Coxon, ex‑pesquisador da Anthropic, que apontou uma chance superior a 10 % de a IA representar uma ameaça existencial dentro de dez anos.
O que observar
- Prazo de dois meses para recomendações do grupo de especialistas
- Possível sessão legislativa especial sobre IA
- Exigência de equipes de verificação onsite nas empresas de IA
- Criação de um “kill switch” testado regularmente
Perguntas frequentes
O que é o "kill switch" proposto?
É um mecanismo que poderia ser ativado para interromper o funcionamento de modelos avançados de IA, conforme o governador quer que seja verificado regularmente.
Qual o prazo para o grupo de especialistas apresentar recomendações?
O governador determinou que o grupo entregue suas recomendações dentro de dois meses.
Trilha desta cobertura