Anthropic detalha como funciona a marca d'água do Claude e diz que edição leve não apaga o rastro

Pressionada pela reação de usuários, a empresa publicou um documento explicando o mecanismo que vai marcar todo texto gerado pelo seu chatbot. A tecnologia usa a abordagem SynthID-Text, do Google DeepMind, e nasce da exigência de transparência do AI Act europeu.

A Anthropic publicou na sexta-feira um material técnico para responder às principais dúvidas sobre a marca d'água que passará a identificar os textos produzidos pelo Claude. O documento saiu poucos dias depois do anúncio da medida, que gerou reação imediata entre os usuários.

A obrigação vem do Código de Transparência do AI Act, a legislação europeia de inteligência artificial, que exige que empresas do setor adotem sistemas capazes de identificar conteúdo gerado por máquina.

O funcionamento é estatístico, não visual. Segundo a companhia, quando o modelo faz escolhas de baixo impacto, como optar entre duas palavras equivalentes para descrever o tempo, ele imprime um padrão nessas decisões.

Esse padrão é imperceptível para quem lê, mas detectável por quem tem a chave que o codifica. A empresa afirma que a marcação não afeta a qualidade da resposta e que um texto marcado é indistinguível de um texto sem marca.

Tecnicamente, a Anthropic adotará o método SynthID-Text, apresentado pela equipe do Google DeepMind em 2024, e pretende disponibilizar uma API de detecção.

A companhia também traçou uma linha entre sua abordagem e a de detectores de IA como o Pangram, que procuram vícios de escrita para inferir autoria. Identificar padrões de estilo, argumenta, é algo fundamentalmente diferente de verificar uma marca criptográfica.

A pergunta mais repetida pelos usuários era se dava para apagar o rastro reescrevendo o texto. A resposta é parcial: edições leves provavelmente não removem a marca por completo, enquanto uma reescrita integral, com substituição de cada palavra, remove.

Nesse caso, ponderou a empresa, é discutível se o texto ainda pode ser descrito como gerado por IA.

Para conteúdo apenas revisado pelo Claude, o resultado depende da extensão do material e da intensidade da edição. Se a intervenção foi pequena, quase todas as palavras continuam sendo do autor humano e sobra pouco para a marca se fixar.

Código é o caso de menor impacto. Como o modelo precisa produzir algo que funcione, ele tem pouca liberdade para escolher entre alternativas equivalentes, o que reduz o espaço para a marcação. A exceção são os comentários, onde a escolha de termos é arbitrária.

A reação da base de usuários foi ruidosa. No Reddit, publicações trataram a medida como conspiração contra assinantes; o Business Insider relatou que dezenas de usuários no X afirmaram ter cancelado a assinatura do Claude por causa da mudança.

A Anthropic fez questão de lembrar que não estará sozinha. Outros grandes desenvolvedores de modelos assinaram o mesmo Código de Prática e vão implementar suas próprias marcas d'água.

Fonte original: TechCrunch