Modelo da Anthropic descobre falhas em sistemas secretos do governo dos EUA

Um dos modelos de inteligência artificial da Anthropic foi posto a vasculhar sistemas informáticos altamente sensíveis do governo dos EUA e encontrou vulnerabilidades reais. A história foi avançada pela Associated Press, citada pela CNBC, e cabe numa frase simples: a mesma Casa Branca que anda a pedir “IA impenetrável” está agora a admitir que precisa de IA para encontrar buracos nos seus próprios sistemas classificados.

O governo norte-americano não detalha que modelo foi usado nem quais as falhas específicas, apenas que se tratava de um sistema altamente restrito. A imagem é clara: em vez de equipas humanas sozinhas a fazer testes de penetração, há agora um modelo de linguagem a analisar configurações, código e arquitectura, à procura de pontos fracos. Não é ficção científica, é a continuação lógica da pressão regulatória que já tínhamos visto quando a Casa Branca puxou a Anthropic para a mesa e exigiu uma IA “à prova de bala”, um pedido que a matemática de segurança desmonta sem piedade.

Há um lado prático nisto que faz sentido. Modelos grandes conseguem ver combinações que escapam a auditores humanos, correlacionar versões de software, configurações de rede e documentação perdida num mar de ficheiros. Podem simular ataques em larga escala que seriam caros demais para equipas tradicionais. Mas convém não esquecer o outro lado: o modelo em si é mais uma superfície de ataque. Se for comprometido, manipulado ou mal configurado, passa de auditor a cúmplice. E como os detalhes técnicos são classificados, o público (e os próprios contribuintes norte-americanos) têm de acreditar por fé que há controlos adequados.

Para a Anthropic, o episódio é munição política e comercial. Mostra ao governo dos EUA que vale a pena pagar caro por modelos “seguros” que ainda assim são suficientemente agressivos para testar infraestruturas críticas. Para o governo, é marketing defensivo: vejam, estamos a usar IA para nos proteger da próxima vaga de ataques. O problema é que este discurso vive em tensão permanente com a realidade de um panorama de cibersegurança em que até grandes grupos de IA já foram alvo de cadeias de ataque sofisticadas, como se viu recentemente no caso da Mastra AI e dos hackers norte-coreanos.

Fica a questão mais desconfortável, que raramente entra no comunicado oficial: quando um modelo encontra vulnerabilidades em sistemas classificados, quem garante que esse conhecimento não se replica noutros contextos, noutras instâncias do modelo, noutros clientes? O desenho de segurança aqui tem de ser quase paranoico, com separação física de ambientes, treino customizado e logs auditáveis ao milímetro. Sem isso, a linha entre usar IA para reforçar segurança e treinar uma ferramenta perfeita para atacantes fica perigosamente ténue. Os governos já decidiram que vão atravessar essa linha. O resto do mundo vai lidar com as consequências quando estas ferramentas filtrarem, como quase tudo o que é valioso na história da tecnologia.

Fonte: CNBC