Anthropic Desvenda Detalhes Sobre Marca D'Água do Claude

A Anthropic divulgou detalhes sobre como funcionará o sistema de marca d'água no chatbot Claude, em resposta à Lei de IA da UE. A empresa publicou um post em seu blog na sexta-feira, explicando como a marca d'água será aplicada e como ela pode ser detectada.

O que aconteceu

A marca d'água será inserida nas respostas do Claude através de padrões sutis, como a escolha entre palavras sinônimas, como "nublado" e "cinza". Esses padrões são imperceptíveis ao leitor, mas podem ser identificados por quem tiver a chave de decodificação. A empresa afirmou que a qualidade das respostas não será afetada e que uma resposta com marca d'água é indistinguível de uma sem.

A Anthropic utilizará a abordagem SynthID Text, desenvolvida pela equipe do Google DeepMind em 2024, e planeja lançar uma API para detecção da marca d'água. A empresa também destacou que a marca d'água é diferente das técnicas de detecção de IA que buscam padrões específicos na escrita.

“A marca d'água será inserida nas respostas do Claude através de padrões sutis, como a escolha entre palavras sinônimas, como "nublado" e "cinza".”

Por que importa

A implementação da marca d'água é uma resposta ao Código de Transparência da Lei de IA da UE, que exige que as empresas de IA criem sistemas para identificar conteúdo gerado por IA. Isso tem gerado debates entre os usuários do Claude, com alguns cancelando suas assinaturas em protesto. A medida visa aumentar a transparência e a confiança no uso de IA, mas também levanta questões sobre a eficácia da marca d'água em diferentes tipos de texto, como código e conteúdo editado.