Filtros de segurança da Anthropic falham em barrar conteúdo explícito no Claude, revelam testes
Por que isso importa hoje
Apesar de proibir formalmente a geração de conteúdos de teor sexual, a Anthropic enfrenta dificuldades para conter o modelo Claude. Testes recentes demonstraram que é surpreendentemente simples contornar os bloqueios de segurança da inteligência artificial.
A Anthropic, conhecida no setor de inteligência artificial por levantar a bandeira da segurança e da responsabilidade ética, enfrenta um novo desafio com seus modelos da família Claude. Embora a empresa proíba formalmente que suas ferramentas gerem qualquer tipo de conteúdo sexualmente explícito, na prática as barreiras têm se mostrado frágeis.
Uma rodada de testes realizados pelo site de tecnologia TechCrunch comprovou que não é preciso muito esforço para burlar os limites impostos ao modelo Opus. A facilidade com que o sistema cedeu aos comandos reforça a dificuldade técnica de manter filtros de moderação totalmente eficazes em modelos de linguagem de grande porte.
O episódio expõe uma das maiores complexidades atuais no desenvolvimento de IA: enquanto as empresas estabelecem termos de uso rígidos para evitar abusos, os mecanismos de segurança (os chamados *guardrails*) continuam suscetíveis a truques e comandos projetados para contornar as travas do sistema.
Trilha desta cobertura