Clearview volta à carga com IA que perfila toda a tua vida online

Clearview AI não está satisfeita por já ter transformado a internet no maior alinhamento policial de sempre. Depois de ficar conhecida por raspar mais de 3 mil milhões de fotos de redes sociais para alimentar o seu sistema de reconhecimento facial, a empresa anda agora a testar um novo brinquedo: InquiryIQ, um assistente de investigação alimentado por IA generativa.

O conceito é simples e preocupante. Um polícia começa com um nome ou rosto identificado via Clearview. O InquiryIQ pega nesses dados e arranca em piloto automático pela web fora: abre páginas, analisa imagens, cruza perfis e devolve um dossiê com empregadores prováveis, alcunhas, contactos, localização aproximada, características físicas. Em vez de horas a fazer pesquisa manual, tens um modelo a montar uma biografia operacional em minutos. É automação aplicada à devassa.

O interface do InquiryIQ, analisado pela Wired, deixa ainda outra pista sinistra. O sistema “recomenda” que o utilizador introduza idade, género e raça para tomar decisões mais “inteligentes”. Um dos modelos testados para isso vem da xAI, a empresa de Elon Musk que faz o chatbot Grok, conhecido por respostas racistas e incendiárias em “modo picante”. Não se sabe exatamente como esses atributos são usados pelo modelo, mas não é preciso ser jurista de direitos humanos para perceber o risco de perfis enviesados e discriminação algorítmica a correr solta.

A Clearview jura que o InquiryIQ é apenas um protótipo interno, nunca vendido, sem planos para lançamento “na forma atual”. Também rejeita a ideia de investigador automático e prefere falar de uma mera ajuda para pesquisas que os detetives já fazem. O problema é que, quando se comprimem semanas de investigação em minutos, não se está só a acelerar trabalho, está-se a baixar brutalmente o custo de vasculhar a vida de qualquer pessoa. A fronteira entre “suspeito concreto” e “vamos ver o que aparece” torna-se mais uma questão de clique do que de critério.

Há outro detalhe pouco confortável: a opacidade. Ferramentas destas baseiam-se em modelos generativos que podem dar respostas diferentes com o mesmo input. Boa sorte a tentar reconstruir, em tribunal, porque é que o sistema seguiu uma pista e ignorou outra. Já vimos, em casos de pornografia sintética usada para extorsão ou em incidentes de segurança, como a IA tem um talento especial para produzir danos sem assumir responsabilidade.

Para Portugal, isto não é ficção distante. A Clearview já foi multada e obrigada a apagar dados na União Europeia ao abrigo do RGPD, mas o apetite de polícias por ferramentas “mágicas” de investigação online não desapareceu. Qualquer coisa parecida com o InquiryIQ terá de passar pelo crivo de reguladores europeus e da legislação sobre tratamento de dados sensíveis, incluindo dados biométricos e perfis raciais. A questão não é só se é legal, é se alguma vez é aceitável normalizar um motor automático de dossiês pessoais em nome da conveniência policial. A história recente da vigilância digital sugere que, quando esta caixa se abre, é raro alguém se dar ao trabalho de a voltar a fechar.

Fonte: Wired