Líderes de IA e políticos debatem desaceleração do desenvolvimento de IA

Dario Amodei, co‑fundador da Anthropic, lançou nesta semana um ensaio intitulado “We Must Pace the Frontier”, defendendo que o desenvolvimento de inteligência artificial avançada seja desacelerado. O texto, divulgado no sábado, propõe três medidas para garantir segurança e tem gerado reações de executivos de tecnologia e de políticos dos Estados Unidos.

O que aconteceu

No ensaio, Amodei descreve três passos: primeiro, a inserção de avaliadores independentes que verifiquem o cumprimento de práticas de segurança e relatem incidentes; segundo, a coordenação entre empresas de IA de fronteira em países democráticos para definir padrões e limites; terceiro, a cooperação global entre governos democráticos e autoritários para ajustar o ritmo de desenvolvimento "na medida do possível". A Anthropic, segundo Amodei, está "unilateralmente comprometida" com o primeiro passo.

Sam Altman, CEO da OpenAI, respondeu logo após a publicação, afirmando: "I agree with Dario that we need to pace the frontier". Altman disse que a OpenAI adotará avaliadores independentes, acolhe "um marco federal que estabeleça requisitos de segurança consistentes" e reforça que "pacing" não significa parar, mas avançar mais devagar. Ele também apontou dois riscos graves: perder o controle da IA e concentrar poder excessivo.

“A Anthropic, segundo Amodei, está "unilateralmente comprometida" com o primeiro passo.”

Demis Hassabis, da DeepMind, elogiou o ensaio, dizendo que ele aponta "o caminho certo" embora os detalhes ainda precisem ser trabalhados, e citou um quadro para um órgão de normas de IA que ele publicou em julho. Elon Musk também apoiou a ideia, resumindo em "Dario is right". Por outro lado, o presidente Donald Trump rebateu a proposta, assegurando que "os robôs não vão assumir" e prometendo que os EUA vencerão a corrida de IA. O senador Mike Vance considerou estranho que empresas de IA peçam ao governo regulação, citando a competição com a China. O senador Johnson, em entrevista à CNN, pediu uma reunião urgente com provedores de IA para equilibrar segurança nacional e riscos, prometendo realizá‑la "amanhã". Bernie Sanders alinhou‑se ao argumento de pausa defendido por Peggy Noonan. O secretário de Transportes Pete Buttigieg alertou que a inércia do Congresso é perigosa e exigiu "salvaguardas, regras, limites e um botão de desligar". O investidor David Sacks concordou com o ritmo, mas criticou a ideia de precisar de permissão externa. A comissária da FTC Lina Khan lembrou que leis existentes já se aplicam a produtos perigosos, sem exceção para IA. A senadora Kamala Harris reforçou a necessidade de desacelerar responsavelmente. Por fim, Yann LeCun recordou que Amodei já considerava o GPT‑2 perigoso em 2019, zombando da postura na época.

Por que importa

O debate evidencia uma tensão crescente entre a velocidade da inovação em IA e a necessidade de garantir que esses sistemas não causem danos. As propostas de avaliadores independentes e de padrões compartilhados podem criar um arcabouço de segurança que beneficie tanto desenvolvedores quanto reguladores. Ao mesmo tempo, a preocupação de políticos com a competição China‑EUA indica que medidas excessivas de contenção podem ser vistas como risco à segurança nacional. O resultado desse embate pode definir se a indústria adotará autorregulação robusta ou se dependerá de leis federais para controlar o ritmo de desenvolvimento.

O que observar

• A OpenAI pretende implementar avaliadores independentes e apoiar um marco federal de segurança.
• O senador Johnson prometeu reunir provedores de IA "amanhã" para discutir equilíbrio entre segurança e competitividade.
• O presidente Trump continua rejeitando a ideia de pausa, enfatizando a vitória dos EUA na corrida de IA.
• Iniciativas de padrões globais, como a proposta de Hassabis, podem ganhar impulso se houver consenso entre democracias.