CEO da Anthropic propõe frear desenvolvimento de IA

Dario Amodei, CEO da Anthropic, publicou um novo post no blog defendendo que a indústria de inteligência artificial reduza o ritmo de aprimoramento dos modelos. Ele afirma que, embora o progresso continue parecendo rápido, é preciso "usar sabiamente o tempo que ganhar". Sam Altman, da OpenAI, respondeu que concorda com a proposta e que a OpenAI seguirá o mesmo caminho, e Elon Musk também elogiou a iniciativa.

O que aconteceu

Amodei descreveu três linhas de ação. A primeira prevê a criação de "avaliadores incorporados" – equipes de organizações externas, como a METR, que teriam crachás, mesas e laptops para monitorar se as empresas cumprem compromissos de segurança e relatam incidentes. Ele disse que a Anthropic está se comprometendo unilateralmente a essa medida e pede que governos exijam o mesmo de outras companhias de ponta.

A segunda estratégia sugere que as principais empresas de IA em países democráticos coordenem padrões de segurança comuns e limites ao ritmo de progresso não supervisionado. Amodei reconhece que um “pausa coordenada” pode gerar suspeitas antitruste, mas propõe que o governo dos EUA atue como mediador, emitindo isenções pontuais para conversas de segurança.

Por fim, ele propõe uma coordenação global, onde os EUA e aliados tentem dialogar com governos autoritários, dentro dos limites possíveis. Entre as ideias, destaca a restrição à venda de chips avançados e equipamentos de fabricação de semicondutores para a China, além de proibir usos claramente perigosos, como a produção de armas biológicas por IA.

“Amodei reconhece que um “pausa coordenada” pode gerar suspeitas antitruste, mas propõe que o governo dos EUA atue como mediador, emitindo isenções pontuais para conversas de segurança.”

Essas propostas surgem após alertas crescentes de pesquisadores sobre os riscos da IA e a recente renúncia de Jacob Coxon da Anthropic, que temia que as grandes empresas de IA estivessem "apostando com nossas vidas". Amodei não menciona a renúncia no post, mas cita o hack envolvendo OpenAI e HuggingFace e a aceleração drástica das capacidades dos modelos como gatilhos para a mudança de postura.

Por que importa

Se adotadas, as medidas poderiam dar mais tempo para desenvolver salvaguardas técnicas e regulatórias, reduzindo a chance de incidentes graves. A presença de avaliadores externos traz transparência e cria um mecanismo de prestação de contas que pode influenciar futuras políticas governamentais. Além disso, a proposta de limitar a exportação de chips à China introduz um componente geopolítico, potencialmente alterando a corrida tecnológica entre EUA e China.

O que observar

• OpenAI deve divulgar detalhes adicionais sobre como implementará os avaliadores incorporados
• O governo dos EUA pode emitir isenções para facilitar diálogos de segurança entre concorrentes
• Possíveis restrições à venda de chips avançados para a China nos próximos meses
• Reações de outras empresas de IA ao convite de coordenar padrões e limites de desenvolvimento