Microsoft liga marcas de água de IA no Windows à identidade do utilizador

A promessa pública é simples, quase higiénica: marcas de água em conteúdos gerados por IA para cumprir regras europeias de transparência. A implementação da Microsoft em Paint e Fotos é outra coisa. Inclui um identificador único ligado a ti.

O programador Xusheng Li, da Vector 35, analisou como o Windows trata imagens criadas com IA no Paint e na app Fotos. A Microsoft já tinha dito, em documentação de suporte, que usava a especificação da C2PA (Coalition for Content Provenance and Authenticity) para marcar estes ficheiros. O que não tinha explicado em detalhe era que cada imagem leva um GUID, um identificador global único, emitido por um servidor da empresa sempre que envias um prompt.

O fluxo, segundo Li, é este: escreves o prompt localmente, a descrição segue para os servidores da Microsoft para moderação, é gerado um GUID de 16 bytes e esse valor é codificado de forma invisível nos píxeis da imagem. Em paralelo, a informação fica registada como metadados C2PA. Não estamos a falar da marca de água visível opcional que já existe no Paint e nos serviços Microsoft 365, esta é outra camada, discreta, pensada para resistir a edições e compressões.

Em teoria, isto cumpre com folga o Código de Boas Práticas de Transparência de Conteúdos Gerados por IA da UE, que apenas exige uma marcação legível por máquina a indicar se a imagem foi criada ou manipulada por IA. Na prática, abre uma porta óbvia: se o GUID estiver associado na base de dados da Microsoft ao teu utilizador, conta Microsoft, IP ou outro identificador, então cada ficheiro gerado passa a ser um marcador persistente da tua actividade. É o tipo de detalhe que devia estar destacado em letras gordas na política de privacidade, não perdido numa FAQ de suporte.

O argumento da indústria é previsível. Mais dados, mais rastreio, mais segurança contra abuso e desinformação. O problema é que esta lógica é elástica: começa-se com IA “responsável” e acaba-se com ferramentas de atribuição quase forense, muito úteis para governos curiosos e titulares de direitos de autor irritados. Depois de vermos gigantes como a Google a comprar dados sensíveis em massa para treinar modelos, a ideia de um Windows a injectar IDs invisíveis em imagens geradas por IA deixa de ser ruído técnico e passa a ser risco regulatório sério.

Para quem está na UE, isto entra directamente no território do RGPD. Se o GUID permitir identificar, directa ou indirectamente, uma pessoa, estamos a falar de dados pessoais. Isso implica base legal clara, minimização, direito à informação e, em última análise, controlo por parte do utilizador. A Microsoft pode argumentar que é tudo anónimo, mas anonimato com chaves guardadas no lado do servidor é só pseudonimização com melhor marketing. A moral da história é simples: cada vez que clicas em “gerar com IA” no Windows, não estás só a criar uma imagem. Estás a assinar o ficheiro com tinta invisível, e a caneta não é tua.

Fonte: The Register