Anthropic firma parceria com Accenture para avaliação embutida de IA de fronteira
Anthropic e Accenture anunciaram uma colaboração para criar avaliadores independentes que atuarão dentro da empresa, com investimento de pelo menos US$ 1 bilhão cada nos próximos cinco anos.
Em resumo
- Anthropic e Accenture firmam parceria para avaliação embutida de IA de fronteira
- Cada empresa pretende investir ao menos $1 billion nos próximos cinco anos
- A avaliação embutida permite acesso interno aos modelos, aumentando a verificabilidade da segurança
Anthropic anunciou uma parceria com a Accenture para conduzir avaliação independente de IA de fronteira. O objetivo é incorporar avaliadores dentro da empresa, conforme o compromisso descrito no ensaio do CEO sobre a necessidade de acelerar a fronteira.
O que aconteceu
A iniciativa será liderada pela Faculty, a divisão especializada em IA da Accenture, e incluirá a avaliação e o red‑team de modelos, a realização de avaliações de alinhamento e a testagem de salvaguardas dos modelos. Ambas as organizações esperam investir ao menos $1 billion cada uma nos próximos cinco anos para ampliar a capacidade nessa área.
A avaliação embutida difere dos avaliadores externos porque os avaliadores terão acesso comparável ao de um funcionário, permitindo observar o treinamento dos modelos, acompanhar as decisões que guiam sua construção e implantação, e conversar diretamente com os colaboradores. Essa proximidade possibilita verificar compromissos de segurança, identificar pontos cegos, relatar incidentes e oferecer ao público uma visão mais informada dos benefícios e riscos.
“A iniciativa será liderada pela Faculty, a divisão especializada em IA da Accenture, e incluirá a avaliação e o red‑team de modelos, a realização de avaliações de alinhamento e a testagem de salvaguardas dos modelos.”
Embora ainda não existam padrões sobre quais informações os avaliadores devem acessar ou como devem reportar seus achados, a Anthropic financiará diretamente o trabalho da Accenture. A empresa também está dialogando com a METR e outros avaliadores sem fins lucrativos para pilotar partes da avaliação usando seus próprios recursos. A parceria não é exclusiva; a Anthropic pretende trabalhar com outros avaliadores nas próximas semanas, e a Accenture fará o mesmo com outros desenvolvedores de IA.
Por que importa
A presença de avaliadores internos oferece um nível de supervisão que pode tornar as promessas de segurança mais verificáveis, sem reduzir a responsabilidade da Anthropic. Essa abordagem pode acelerar a criação de padrões compartilhados e de um ecossistema de avaliação que acompanhe o rápido desenvolvimento de IA avançada.
O que observar
- Investimento mínimo de $1 billion por empresa nos próximos cinco anos
- Falta de padrões definidos para acesso e relato dos avaliadores
- Financiamento direto da Anthropic à Accenture e possíveis pilotos com avaliadores sem fins lucrativos
- Natureza não exclusiva da parceria, com mais avaliadores a serem anunciados
Perguntas frequentes
O que é avaliação embutida?
É um processo onde avaliadores independentes trabalham dentro da empresa de IA com acesso semelhante ao de um funcionário, acompanhando o treinamento e as decisões dos modelos.
Quanto as empresas pretendem investir na iniciativa?
Cada uma espera investir pelo menos $1 billion nos próximos cinco anos.
Trilha desta cobertura