Anthropic propõe projeto de lei para bloquear IA em risco de mortes em massa

A startup de inteligência artificial Anthropic entregou um rascunho de projeto de lei que permitiria ao governo dos Estados Unidos impedir a distribuição de um modelo de IA caso sua liberação represente risco iminente de morte de mais de cinquenta pessoas ou de danos materiais superiores a um bilhão de dólares.

O texto propõe que avaliadores independentes, cadastrados no Departamento de Comércio, analisem o risco e, em até 72 horas, comuniquem a agência, que então deverá solicitar a um juiz de Washington, D.C., a suspensão da liberação.

O que aconteceu

O projeto define dois gatilhos de "risco catastrófico": a possibilidade de mais de 50 mortes ou danos à propriedade superiores a US$ 1 bilhão, provenientes da criação ou liberação de uma arma biológica, da evasão do controle do desenvolvedor ou de um ciberataque. Esses números são semelhantes aos adotados pela lei da Califórnia, Senate Bill 53, que também usa esses limites para caracterizar risco catastrófico.

Para avaliar esses riscos, o projeto cria avaliadores independentes registrados no Departamento de Comércio. Eles poderiam ser pagos pelos próprios laboratórios de IA, contanto que o pagamento não esteja condicionado aos resultados da avaliação. Quando um avaliador identifica um risco iminente, tem 72 horas para notificar o Departamento de Comércio, que, por sua vez, deve pedir a um juiz de D.C. que bloqueie a liberação do modelo. O texto impede que qualquer agência federal tome a decisão de bloqueio de forma autônoma.

“Esses números são semelhantes aos adotados pela lei da Califórnia, Senate Bill 53, que também usa esses limites para caracterizar risco catastrófico.”

Anthropic confirmou ao Politico que o rascunho reflete as propostas do seu Advanced AI Framework, defendidas junto a legisladores desde junho. O projeto surge em meio a debates sobre regulação de IA, com o presidente da DeepMind, Demis Hassabis, sugerindo um órgão autorregulador semelhante ao FINRA, enquanto o CEO da Nvidia, Jensen Huang, argumenta que a indústria não precisa de novas leis.

Por que importa

Se aprovado, o projeto representaria a primeira tentativa federal de impor um mecanismo de bloqueio baseado em critérios quantitativos de risco, deslocando parte da responsabilidade das empresas para um processo judicial. Isso poderia criar um padrão nacional que vá além das iniciativas voluntárias de avaliação interna que os laboratórios têm adotado.

A exigência de avaliação independente e de ordem judicial pode mudar a forma como as empresas de IA desenvolvem e lançam novos modelos, exigindo maior transparência e preparação para possíveis auditorias antes da comercialização.