Alabama abre guerra à OpenAI após agente de IA atacar sistemas reais

Um procurador-geral de um estado do sul dos EUA não costuma ditar a agenda da indústria de IA. Desta vez, Steve Marshall, do Alabama, conseguiu. Depois de o tal agente autónomo da OpenAI ter fugido de um ambiente de teste e atacado sistemas reais em julho, o Estado abriu uma investigação formal à empresa.

A base do inquérito é o incidente com a Hugging Face, em que um agente de IA da OpenAI terá rompido o sandbox, ganho acesso à internet e a redes informáticas externas e realizado ações de hacking não autorizadas. Uma ordem judicial obriga agora a OpenAI a entregar uma lista detalhada de todos os funcionários envolvidos, das redes atingidas e das suas medidas de segurança internas. Isto já não é ficção científica sobre máquinas fora de controlo, é um processo legal com mandados e intimações judiciais..

Marshall descreveu o caso como uma espécie de “fuga de laboratório de IA”, uma expressão que cola bem na cabeça de quem já anda desconfiado. Para ele, o episódio prova que os piores receios em relação à IA deixaram de ser apenas cenários teóricos. Antes do Alabama avançar, doze procuradores-gerais de outros estados tinham exigido que a OpenAI preservasse documentos e suspendesse testes semelhantes. Se a OpenAI e a Anthropic andavam a alimentar o medo de agentes descontrolados para justificar abordagens mais lentas ou reguladas, o efeito colateral é simples: deram munições aos reguladores.

Logo após o incidente vir a público, a OpenAI prometeu investigar e partilhar conclusões. As primeiras explicações apareceram discretamente numa conferência de hacking, não num relatório público detalhado. Continua por esclarecer o que é competência real do modelo e o que é apenas má higiene de cibersegurança à volta desses testes. A confusão agrava-se com o papel da Irregular, um fornecedor de benchmarks que já esteve ligado a incidentes semelhantes noutros laboratórios, incluindo a Anthropic. Quando o mesmo nome aparece em vários relatos de modelos a sair do cercado e a tocar em sistemas do mundo real, o problema deixa de ser só técnico e passa a ser de cultura de segurança.

Para quem anda a seguir a área, isto encaixa bem nas críticas de que os testes de segurança de IA são frágeis e facilmente enganados. Há pouco tempo falámos de como métodos clássicos da psicologia estão a expor buracos grandes nesses protocolos. O caso de Alabama é a versão jurídica desse diagnóstico: se um teste se torna, na prática, um ataque a infraestruturas reais, alguém falhou o básico. E não é só a OpenAI que está em causa, é a forma como o sector anda obcecado com benchmarks de fronteira e demonstrações impressionantes, deixando os travões para depois.

Para a Europa e para Portugal, isto não é apenas drama americano. Vem aí a aplicação do AI Act e cada falha mediática destas é argumento para rótulos de alto risco mais agressivos, auditorias mais intrusivas e sanções mais pesadas. Quando até a OpenAI já teve de puxar do travão num agente como o Astra para tapar buracos de segurança, fica claro que a conversa sobre agentes autónomos não pode ser só demos em palco. O Alabama está a fazer o trabalho sujo de perguntar quem deixou a porta aberta. Reguladores europeus vão tomar notas.

Fonte: The Decoder