IA|3 min de leitura

Desenvolvedores Encontram Métodos para Burlar Marcas d'Água Invisíveis do Claude da Anthropic

Publicado em •Por Rodrigo Schwenck•Fonte: Wired

Ouvir esta notícia

Recurso de acessibilidade por síntese de voz (pt-BR)

Compartilhar:
Desenvolvedores Encontram Métodos para Burlar Marcas d'Água Invisíveis do Claude da Anthropic

A corrida para identificar conteúdos gerados por inteligência artificial sofreu um forte revés técnico. Poucas horas após a Anthropic implementar uma tecnologia experimental de marca d'água invisível (invisible watermarking) nas saídas de texto e código do Claude, programadores e pesquisadores de cibersegurança demonstraram que a proteção pode ser completamente neutralizada com modificações superficiais na estrutura das palavras.

A marca d'água foi introduzida para atender a diretrizes internacionais de transparência e ajudar instituições de ensino e empresas a detectar se resumos, códigos de programação ou artigos técnicos haviam sido produzidos pela IA. No entanto, a fragilidade demonstrada colocou em dúvida a eficácia desse tipo de rastreabilidade.

Como funcionava a marca d'água estocástica no Claude

Diferente de marcas d'água visíveis em imagens ou arquivos de áudio, a identificação em modelos de linguagem (LLMs) é baseada em manipulação estatística da escolha dos tokens (sílabas e palavras).

Ao gerar uma resposta, o algoritmo da Anthropic favorecia sutilmente combinações de palavras específicas chamadas de "pseudorrandômicas". Para um leitor humano, a leitura parecia 100% natural. Porém, um software detector configurado com a chave secreta da empresa conseguia calcular a probabilidade matemática e atestar com precisão se o texto veio do modelo Claude.

As técnicas simples de desvio criadas pela comunidade

Apesar da elegância matemática do conceito, a implementação prática mostrou-se extremamente vulnerável a intervenções comuns de edição:

  • Passagem por tradução intermediária: Traduzir o texto gerado para um segundo idioma (como espanhol ou alemão) e traduzi-lo de volta para o português destrói completamente o padrão de tokens original.
  • Reescrever via prompt secundário: Pedir para outro modelo menor (como um LLM local de código aberto) reparafrasear o conteúdo altera as substituições de sinônimos, removendo a impressão digital estatística.
  • Formatação de código e reordenação de variáveis: No caso de trechos de código em Python ou JavaScript, simples mudanças de nomes de variáveis, recuos ou adição de comentários zeram a detecção.

O dilema entre usabilidade e rastreabilidade

Especialistas apontam que aumentar a intensidade da marca d'água estatística para torná-la mais resistente a edições causa uma degradação perceptível na qualidade da resposta e no raciocínio da IA, já que força a inteligência a escolher palavras menos adequadas para manter o padrão matemático oculto.


Compartilhar:
Rodrigo Schwenck

Escrito por Rodrigo Schwenck

Conhecer o autor →

Fundador e editor do DoRodrigo Games & Tech. Apaixonado por jogos eletrônicos, hardware de alto desempenho e aplicações práticas de Inteligência Artificial no dia a dia.

Leia Também

Outras matérias e guias relacionados a este tema

Ver mais em IA →

Fique por dentro das novidades!

Cobrimos as últimas tendências do mundo dos jogos, hardware e IA diariamente. Explore também nossa biblioteca gratuita de Prompts de IA.