Anthropic reforça travas contra desinformação e viés político no Claude

A Anthropic apresentou um conjunto de medidas de segurança para o Claude com foco nas eleições legislativas dos Estados Unidos e em pleitos pelo mundo. As iniciativas incluem a integração de dados oficiais sobre votação diretamente nas conversas, ajustes para evitar tendências políticas e o aprimoramento de defesas contra operações coordenadas de desinformação.

Para guiar essas mudanças, a desenvolvedora analisou 250 mil diálogos recentes no aplicativo Claude.ai. O estudo apontou que debates amplos sobre política e assuntos públicos representam cerca de 5,75% das conversas nos Estados Unidos, enquanto consultas específicas sobre o ato de votar respondem por 0,51%. Além disso, apenas 0,01% das interações pedem recomendações de voto, e tentativas de violar as regras eleitorais da empresa apareceram em 0,002% dos registros.

Proteção contra abusos e novas funções

A partir deste mês, o Claude integrará dados da entidade apartidária Democracy Works nas respostas para usuários nos Estados Unidos. Quem perguntar sobre documentos necessários ou onde votar receberá instruções específicas do seu estado dentro do próprio chat. O sistema também passará a mostrar resultados oficiais da apuração em tempo real na noite da eleição e nos dias seguintes, além de manter banners para a plataforma TurboVote.

Na verificação de neutralidade, as versões Opus 5.5, Sonnet 5.5 e Haiku 5.5 alcançaram 99% na métrica interna de equilíbrio político. Avaliações conduzidas por grupos independentes, como The Future of Free Speech, Foundation for American Innovation e Collective Intelligence Project, apontaram pontos de melhoria, como a inclusão involuntária de argumentos contrários e uma tendência do modelo Sonnet 4.5 em suavizar posições de direita. A Anthropic informou que recalibrou as respostas para perguntas diretas de sim ou não e aprimorou o uso de ressalvas.

“O sistema também passará a mostrar resultados oficiais da apuração em tempo real na noite da eleição e nos dias seguintes, além de manter banners para a plataforma TurboVote.”

A segurança contra manipulação foi colocada à prova em parceria com o Institute for Strategic Dialogue e o McCain Institute, com simulações nos Estados Unidos, em Israel e no Brasil. Os testes revelaram que o Claude barrava facilmente solicitações nocivas isoladas, mas podia falhar quando uma campanha maliciosa era dividida em pequenas etapas inofensivas. Para fechar essa brecha, novos classificadores foram ativados contra operações em múltiplos passos, como a criação de perfis falsos em redes sociais ou sites de notícias fraudulentos. A empresa revelou já ter banido contas de operadores estrangeiros que tentavam difundir narrativas favoráveis à Rússia, ao Irã e à Coreia do Norte, bem como esquemas financeiros com notícias inventadas.

Por que importa

Com a proliferação da inteligência artificial generativa, agentes maliciosos têm adotado essas ferramentas em várias etapas de campanhas de influência, desde a criação de textos até a montagem de plataformas de distribuição. Ao identificar essas operações logo nos primeiros comandos e reforçar a neutralidade de suas respostas, as empresas buscam impedir que a tecnologia seja explorada para desestabilizar processos democráticos ou desinformar eleitores.

O que observar

• Publicação nos próximos meses de um relatório detalhado sobre o uso do Claude durante o período eleitoral
• Integração das respostas com dados estaduais oficiais da Democracy Works para o público norte-americano
• Expansão dos testes de viés político para abranger diretamente candidatos e dúvidas eleitorais específicas