Google processa rede chinesa que usou Gemini para golpe massivo

A Google avançou para tribunal contra uma rede de cibercrime chinesa que terá usado o Gemini para montar uma operação de burla em escala industrial. O alvo é a Outsider Enterprise, um grupo que, segundo a empresa, explorou a marca e as ferramentas da Google para enganar centenas de milhares de pessoas com sites e mensagens fraudulentas.

No processo, apresentado nos EUA, a Google pede uma ordem de restrição para desligar a infra-estrutura da Outsider Enterprise. O grupo terá usado o Gemini para gerar sites que imitavam páginas da própria Google, do YouTube e até de entidades públicas norte‑americanas como o serviço postal dos EUA e o sistema de portagens E‑ZPass de Nova Iorque. Em teoria, a Google controla o acesso ao seu modelo de IA, mas não detalhou que defesas internas falharam nem que medidas técnicas tomou para travar o abuso.

Os números que a empresa partilhou ajudam a perceber a dimensão do problema. Fala em cerca de 9.000 sites falsos e um milhão de URLs fraudulentos criados por esta única operação. Em apenas duas semanas, os sistemas do Android e os próprios utilizadores sinalizaram 55.000 SMS de spam ligados ao esquema e 2,5 milhões de mensagens com links para esses sites. A Google fala em perdas na ordem dos milhões de dólares e em “centenas de milhares” de vítimas. Para uma só rede criminosa, isto deixa pouco espaço para o argumento de que são casos isolados.

Este processo não é só jurídico, é também político. A Google coordenou a ação com o FBI e com grandes operadoras norte‑americanas como a AT&T, a T‑Mobile e a Verizon e está a usar o caso como exemplo para pressionar o Congresso a aprovar nova legislação específica para burlas com IA. A empresa apoia sete projetos de lei bipartidários, entre eles o “National Strategy for Combatting Scams Act” e o “Strategic Task Force on Scam Prevention Act”, que pretendem tratar este tipo de fraude como crime organizado transnacional. Um congressista resumiu a tese: isto não é spam, é crime organizado a passar pelos nossos telemóveis.

Para quem está deste lado do Atlântico, pode soar a história distante, com referências a entidades americanas e leis dos EUA. Mas o padrão interessa à Europa: grupos organizados a usar modelos de linguagem para fabricar, em segundos, sites falsos, e‑mails e SMS com um nível de detalhe e personalização que torna as burlas muito mais credíveis. Se uma única operação consegue produzir milhões de mensagens e milhares de sites, o risco é menos tecnológico e mais estrutural: a capacidade de aplicação da lei, de cooperação entre países e, sobretudo, a rapidez com que plataformas como a Google conseguem cortar o acesso aos seus próprios modelos quando detectam abuso.

A Google quer mostrar que está do lado certo, a processar burlões em vez de ser apontada como fonte do problema. Mas enquanto continuarmos dependentes de modelos de IA centralizados, geridos por poucas empresas, a questão não é só quem é processado. É até que ponto estas empresas assumem responsabilidade pelos danos que o seu produto facilita, e se a resposta passa por mais leis nos EUA ou por regras globais, como as da União Europeia, que obriguem a tratar a segurança como requisito de base e não como argumento em tribunal depois do golpe consumado.

Fonte: Engadget