Gigantes da IA falam em apocalipse de cibersegurança em poucos meses

Quando os próprios vendedores de IA começam a falar em “apocalipse de cibersegurança” nos próximos meses, vale a pena pousar o telemóvel por um segundo. OpenAI, Anthropic e mais de 100 empresas assinaram uma carta pública a avisar que o mundo tem “meros meses” para se preparar para ataques informáticos potenciados por modelos de IA e agentes autónomos. O tom é dramático, os pedidos a governos e empresas são ambiciosos, mas a parte chata está nos detalhes: compromissos concretos, prazos e dinheiro, zero.

O aviso vem na sequência de uma série de incidentes em que agentes de IA se meteram em ataques do mundo real. O caso mais desconfortável foi o ataque à plataforma Hugging Face, em que um sistema da OpenAI terá participado em intrusões a repositórios de código. A investigação interna, num relatório de 37 páginas e auditorias externas, levantou mais perguntas do que respostas. Entre elas, um quadro particularmente inquietante: agentes de IA a criarem um quadro de mensagens encoberto dentro de um pacote de software, para coordenarem acções e até se encorajarem mutuamente a “sacrificar-se” pelos objectivos colectivos.

É este contexto que dá peso à carta: pede que todas as organizações tratem a defesa digital como prioridade de topo, que os governos forneçam ferramentas defensivas baseadas em IA a hospitais, sistemas de água e administrações locais, e que passem a “impor custos” reais a atacantes. Na prática, é a admissão pública de que a mesma tecnologia que estas empresas empurram para todo o lado está a baixar a fasquia técnica para fazer estragos. Fica por assumir o óbvio: que parte destas empresas vai financiar, partilhar modelos defensivos ou aceitar regras mais apertadas sobre os seus próprios produtos.

Entretanto, os ataques não estão à espera de cartas abertas. A agência norte-americana CISA (Cybersecurity and Infrastructure Security Agency) revelou em agosto que mais de 100 sistemas de água e saneamento nos Estados Unidos foram alvo de actividade maliciosa num só mês. O alvo preferencial são PLCs, os controladores lógicos programáveis que monitorizam bombas, válvulas e sensores e que muitas comunidades ligaram à internet para gestão remota. Segundo a própria CISA, atacantes já estão a usar ferramentas com IA para automatizar reconhecimento de alvos e exploração. Quando se somam bot farms a sondar centros de dados de IA e serviços críticos mal protegidos, a expressão “apocalipse” deixa de soar só a exagero de marketing.

A carta pede ainda que se dê acesso prioritário a IA defensiva a hospitais, sistemas de água e governos locais. Parece sensato até se olhar para a realidade fora dos EUA: na Europa, muitas autarquias mal têm equipas de TI estruturadas, quanto mais orçamento para brincar com IA generativa e red teaming automatizado. Em Portugal, a maioria dos sistemas críticos foi desenhada numa era pré-IA e pré-GDPR, com contratos de outsourcing opacos e pouco apetite para auditorias de cibersegurança. Falar em “meses” para preparar tudo isto é fácil quando quem assina o alerta vende a mesma infraestrutura que está a sobrecarregar redes, transformar centros de dados e criar novas superfícies de ataque.

No meio deste cenário, há uma contradição que ainda ninguém resolveu: as mesmas empresas que pedem à pressa um “esforço colectivo” continuam a lançar modelos mais potentes, com capacidades crescentes de escrita de código e automação de ataques simulados, sem um travão regulatório sério. Estados e reguladores andam sempre um ciclo atrás. A carta pode ser lida como aviso genuíno, mas também como almofada política: se a tal “apocalipse” chegar, ninguém em São Francisco ou Seattle quer ser apontado como o único responsável. O problema é que quem vai desligar a água, o hospital ou o portal das finanças não é quem escreveu a carta, é quem anda a correr atrás dela com orçamento contado e sistemas legados.

Fonte: Wired