Anthropic prepara watermark no texto do Claude para cumprir lei europeia

A Anthropic vai começar a marcar todo o texto gerado por futuros modelos Claude com um watermark estatístico, para cumprir o AI Act da União Europeia. Não é um carimbo visível nem um carácter escondido, é um padrão matemático no próprio fluxo de palavras, inspirado no SynthID-Text da Google DeepMind descrito num artigo na revista Nature.

O truque é simples na ideia, complexo na implementação. Modelos de linguagem escolhem a próxima palavra entre várias opções plausíveis: depois de “O tempo hoje está frio e…”, tanto “nublado” como “cinzento” fazem sentido. Em situações assim, o modelo recorre a aleatoriedade para decidir. O watermark entra precisamente nessas escolhas de baixo risco: em vez de usar um gerador de números aleatórios genérico, a Anthropic passa a usar uma “chave” que influencia esses sorteios. Para quem lê, a frase continua natural. Para quem tem a chave, a sequência de palavras revela uma probabilidade elevada de ter sido gerada pelo Claude.

Segundo a empresa, isto não altera a qualidade nem o conteúdo. Não há tokens extra, não há custo adicional, não há enviesamento para palavras esquisitas que o modelo não usaria de outra forma. A analogia que usam é um jogo de Monopólio em que, em vez de lançar o dado, os jogadores avançam casas usando dígitos de pi como fonte de aleatoriedade. O jogo continua legítimo para quem joga, mas quem conhece a sequência consegue, depois, inferir se aquele padrão de jogadas “bate certo” com pi. Aqui passa-se o mesmo, mas com texto e com uma chave secreta.

Há dois pontos que a Anthropic sublinha e que interessam a quem está na Europa. Primeiro, o watermark não contém qualquer identificador de pessoa, organização ou conversa. Não é uma tag de utilizador, é um teste de autoria de modelo. Segundo, isto não é uma excentricidade isolada. O AI Act passou a exigir, desde 2 de agosto, marcação de conteúdo gerado por IA para operadores que sirvam o mercado europeu. Outros grandes developers que assinaram o mesmo código de conduta vão aplicar técnicas semelhantes. Depois de meses a competir em preços e capacidades, como se viu na guerra de preços entre OpenAI, Anthropic e rivais chineses, a corrida é agora também regulatória.

Na teoria, isto é quase o caso de estudo perfeito de “regulação bem desenhada”: transparência sobre origem de conteúdo, sem degradar a utilidade do modelo. Na prática, abrem-se outros flancos. A deteção depende de quem controla a chave e o detector, o que coloca muito poder nas mãos de poucos fornecedores. A técnica também não resolve o problema clássico do copy-paste, remix e tradução em cadeia, onde os sinais estatísticos se podem diluir. E, claro, continua a haver modelos sem qualquer tipo de marcação, sobretudo fora do espaço regulatório europeu.

Mesmo assim, vale a nota de rodapé histórica. Depois de anos em que a web se encheu de conteúdo gerado por bots sem qualquer indicação, os grandes modelos comerciais começam a deixar uma assinatura invisível, em parte porque Bruxelas apertou o torniquete. Não é um selo perfeito de autenticidade, mas é a primeira camada técnica séria para distinguir, com alguma confiança, texto de IA de texto humano. E é um lembrete de que a regulação europeia já não é só notas de rodapé em relatórios de compliance, começa a mexer no próprio algoritmo.

Fonte: Anthropic