A Anthropic acabou de oferecer um estudo de caso em como a IA generativa já é ferramenta standard no arsenal dos atacantes. No novo relatório de threat intelligence, a empresa descreve como grupos de crime financeiro e espionagem ligados à Rússia e à China abusaram do modelo Claude para automatizar campanhas inteiras, do roubo de credenciais ao desenvolvimento de malware e exploits.
O caso mais gritante envolve um alegado membro francófono do coletivo ShinyHunters, com o alias frkoo. Este atacante montou um pipeline de recolha de credenciais distribuído por dez instâncias AWS EC2 que fez download de 1,8 milhões de APKs Android a partir de várias app stores, descompilou cada ficheiro e procurou segredos hardcoded com a ferramenta TruffleHog. Resultados validados eram enviados em tempo real para um grupo de Telegram organizado em mais de 100 tipos de fontes. Em paralelo, outro processo automatizado recolhia endereços de email de organizações no GitHub e usava-os para obter GitHub Personal Access Tokens. Em resumo, Claude foi o cérebro que orquestrou uma linha de montagem de acessos iniciais.
Com estas credenciais na mão, os ShinyHunters avançaram para compromissos rápidos. A Anthropic descreve um ataque onde, com apoio intenso de Claude, um operador demorou cerca de 34 horas a extrair mais de 2.100 conjuntos de tokens de autenticação Azure AD associados a mais de 40 tenants corporativos Microsoft. A empresa é clara: quase todo o trabalho foi feito por agentes de IA. Noutras operações, o grupo terá roubado 1 TB de dados de um fornecedor tecnológico, comprometido uma companhia aérea e acedido a sistemas de uma empresa de energia. A fronteira entre pentester e operador de chat está a ficar muito curta.
O relatório não se fica pelo crime financeiro. A Anthropic detalha ainda atividade atribuída ao grupo de espionagem russo “Midnight Blizzard”, conhecido por campanhas persistentes contra governos e entidades diplomáticas. Aqui, Claude foi usado como motor de automação em quase todas as fases: desenvolvimento de malware, investigação, aquisição de infraestrutura, phishing, persistência, comando e controlo e exfiltração. Os atacantes montaram um ciclo de feedback em que o próprio sistema reconstruía o malware sempre que era detetado por antivírus. Isto encaixa no cenário que já vínhamos a ver com a explosão de falhas e abuso de automatismos na segurança: ferramentas pensadas para acelerar trabalho legítimo também aceleram o lado negro.
Do lado chinês, o grupo GTG-10007 tratou Claude como uma camada de engenharia e orquestração para uma operação de espionagem continuada. Entre as tarefas automatizadas: tentativas de intrusão contra sistemas de produção, reconhecimento de redes governamentais no Médio Oriente, Europa e Sudeste Asiático, investigação contínua de vulnerabilidades em grandes produtos de segurança endpoint, desenvolvimento de malware e construção de uma plataforma de recolha de inteligência. Os fluxos autónomos de pesquisa de vulnerabilidades operavam enquanto os humanos dormiam e chegaram a descobrir falhas antes desconhecidas num produto de segurança “major”, produzindo exploits funcionais para várias famílias de appliances de rede e segurança, depois usados contra dezenas de organizações governamentais.
Para quem desenvolve software ou gere infraestruturas em Portugal, isto não é ficção distante. Se a Anthropic apanhou pipelines a varrer 1,8 milhões de APKs por segredos hardcoded, podes assumir que qualquer app ou serviço com tokens enterrados no código já está na roleta. A legislação europeia obriga agora a reportar falhas graves em 24 horas, como explicámos quando falámos da nova lei europeia de ciber-resiliência, mas essa pressão só resolve metade do problema. A outra metade é aceitar que os atacantes também têm copilots: quem continua a tratar chaves, tokens e acessos como pormenores de implementação está, literalmente, a dar matéria-prima aos modelos que correm do outro lado.
Fonte: BleepingComputer
Comentários · 0