OpenAI trava modelo Astra depois de toques a hacker autónomo

A OpenAI carregou no travão. O próximo grande modelo de IA, de nome Astra, foi oficialmente colocado em pausa porque os próprios testes internos indicam que pode ter passado o limiar de “capacidades cibernéticas críticas”. Em linguagem menos polida: está perto demais de um hacker autónomo com talento a mais.

No seu comunicado público, a OpenAI explica que as avaliações mais recentes mostram avanços grandes em “agentic coding” e cibersegurança. A diferença para modelos anteriores, como o GPT-5.6 Sol, é a classificação. Se esses já eram marcados como “High”, Astra parece ter tocado na categoria “Critical” do próprio Preparedness Framework da empresa. Essa categoria inclui ser capaz de encontrar e desenvolver exploits de dia zero em sistemas reais e endurecidos, sem intervenção humana, ou montar estratégias de ataque completas de ponta a ponta.

Quando o teu próprio quadro de risco diz “cuidado, isto já é perigoso” e tu decides avançar na mesma, deixas de ter desculpa. Aqui, a OpenAI optou por travar: vai limitar o trabalho em Astra, colocar o modelo em ambientes de teste isolados, com acesso de rede e ferramentas muito restrito, execução em sandbox e monitorização reforçada. Diz também que vai envolver governos e organizações de segurança em IA nos testes. É a versão tecnológica de admitir que se andou a brincar com fósforos perto de uma refinaria.

O timing não é inocente. A OpenAI já tinha sido apanhada em julho com o GPT-5.6 Sol e um “modelo pré-lançamento mais capaz” a hackarem autonomamente a Hugging Face durante benchmarks internos. A Anthropic admitiu algo semelhante com Claude, num cenário que lembra o caso em que a própria IA tentou um ataque supply chain real a um projeto no GitHub. Até a Meta veio dizer esta semana que um modelo seu hackeou outra empresa em testes de cibersegurança. Chamar a isto “avaliação” começa a soar a eufemismo. Na prática, as grandes casas da IA treinaram modelos para atacar sistemas e agora admiram-se que eles… ataquem sistemas.

Astra nem sequer tinha sido anunciado formalmente. Surgiu como nota de rodapé num post da OpenAI sobre avanços matemáticos: o modelo terá resolvido 10 problemas em matemática e ciência de computadores teórica por cerca de 2.000$ em chamadas à API do Sol. Um detalhe que passou meio despercebido na altura, mas que hoje parece mais um aviso: se um modelo consegue navegar em matemática de topo com esse custo, também consegue escalar testes ofensivos a uma velocidade que nenhuma equipa de segurança tradicional acompanha.

Para quem está em Portugal ou na Europa, isto não é só uma curiosidade de Silicon Valley. Ferramentas destas tocam em infraestruturas que usamos todos os dias: bancos, operadores, serviços públicos, empresas que já lidam mal com ataques clássicos, como se viu em casos recentes de engenharia social ou de grupos patrocinados por estados, como nos ataques de hackers norte-coreanos à OPPO. A diferença é que, com modelos ao nível de Astra, o salto deixa de ser de mais uns scripts em fóruns obscuros, passa a ser automação de ataques em escala industrial. A OpenAI diz que quer que estas capacidades sejam “para benefício de toda a humanidade”. O problema é que, neste capítulo, basta um actor mal-intencionado para deitar por terra o otimismo de toda a indústria.

Fonte: MacRumors