Este padrão digital baralha câmaras de vigilância e apaga-te do radar

Um ano de testes e 31 milhões de iterações depois, Bill Swearingen diz ter chegado a um padrão visual que transforma câmaras “inteligentes” em aparelhos meio cegos. O projeto chama-se noRecognition e a ideia é simples: usar padrões gerados por computador em roupa, carros ou objetos para confundir algoritmos de deteção, de leitores de matrículas a sistemas de reconhecimento facial.

Importa sublinhar o detalhe técnico: as câmaras continuam a gravar vídeo normalmente. O que o padrão ataca não é o olho, é o cérebro da vigilância, os algoritmos que identificam matrículas, pessoas ou caras em tempo real. Com o padrão aplicado, o sistema deixa de disparar alertas. Ficas outra vez perdido no palheiro, a menos que alguém saiba exatamente onde procurar e vá rever as imagens à moda antiga.

Swearingen, profissional de cibersegurança e cofundador da SecKC, partiu de um desconforto muito concreto: viver numa cidade saturada de câmaras, querer ir a um protesto e sentir que está tudo pronto para te seguir da placa do carro à cara no meio da multidão. E se um homem branco de meia-idade no centro dos EUA já sente isso, imagina quem vive todos os dias com discriminação policial. O projeto é assumidamente político, embora a ferramenta seja técnica: um escape à vigilância algorítmica de massa.

Do lado da engenharia, o caminho foi mais laboratório do que moda anti-vigilância. Swearingen começou por derrotar, um a um, algoritmos de deteção open source. Depois escalou. Montou uma espécie de laboratório automático com um modelo de aprendizagem por reforço que “aprende a pintar”: o sistema gera um padrão, testa-o contra vários algoritmos, é penalizado quando falha, ajusta, repete. Até que começa a encontrar receitas perfeitas que baralham 11 algoritmos diferentes em simultâneo, incluindo software usado em leitores de matrículas Flock, câmaras corporais Axon e sistemas que correm Clearview AI.

O modelo gera agora novos padrões a cada minuto, cada lote matematicamente melhor que o anterior. Na Def Con, em Las Vegas, Swearingen levou a coisa para a estrada: cobriu um Toyota Yaris de 2009 com um dos padrões mais recentes e pôs o carro à frente de câmaras equipadas com estes algoritmos. O objetivo era brutalmente pragmático, não artístico: ver se, para as máquinas, aquele carro deixava de existir como carro rastreável.

Para quem vive na Europa, e em Portugal em particular, isto não é uma curiosidade distante dos subúrbios americanos. As nossas cidades estão a encher-se de câmaras com “analytics” embutida, e a conversa sobre reconhecimento facial em espaço público volta e meia aparece nas propostas de lei. A diferença é que na UE temos GDPR e decisões que já travaram alguns excessos, mas confiar só nisso é ingenuidade. Projetos como o noRecognition lembram que a mesma IA que alimenta a vigilância pode ser usada para lhe criar ruído. Se será legal circular com um carro-matrioshka de padrões que confunde câmaras? Vai depender do país. Mas a tensão é inevitável: entre o direito a não ser permanentemente rastreado e um complexo de segurança que não gosta nada de perder o rasto.

Fonte: TechCrunch