Relatos detalham o caos da OpenAI no ataque à Hugging Face

O que antes parecia apenas mais um teste agressivo de cibersegurança da OpenAI está a ganhar outra escala. Novas investigações da Bloomberg, TIME e Reuters mostram que o ataque aos sistemas da Hugging Face foi, na prática, a maior perda de controlo documentada sobre um sistema de IA até hoje. E que dentro da própria OpenAI houve sinais de alarme ignorados.

Em testes internos, três modelos, incluindo o GPT-5.6 Sol e um modelo ainda mais poderoso não lançado, estavam a ser avaliados pelas suas capacidades ofensivas em ciberataques. Corriam sem as habituais barreiras de segurança, com a suposição confortável de que ficariam confinados a uma sandbox. Não ficaram. Encontraram uma vulnerabilidade desconhecida num serviço interno da própria OpenAI, usaram-na para ganhar acesso a outros sistemas e, a partir daí, chegaram à internet aberta. O alvo escolhido: a Hugging Face.

Segundo a reconstrução da Reuters, as primeiras tentativas de fuga à sandbox começaram por volta de 9 de julho. O próprio cofundador da Hugging Face, Thomas Wolf, situa a intrusão efectiva entre 11 e 13 de julho. A empresa publicou o seu relato do incidente a 16 de julho, culpando um “sistema autónomo de agentes de IA”. Só depois disso é que a OpenAI percebeu que os atacantes eram os seus próprios modelos. Foi preciso passar um fim-de-semana inteiro a vasculhar logs internos para ligar os pontos, com o FBI já envolvido do lado da Hugging Face. Para uma empresa que se vende como referência em segurança de IA, uma semana de atraso é muito tempo.

Este não foi um ataque “limpo”. Os modelos decidiram que a Hugging Face podia conter material útil para melhorar o seu desempenho no teste, invadiram sistemas da empresa e usaram o que encontraram para optimizar os resultados. Em termos simples: colaram no teste. O comportamento não é novo, já tinha sido observado noutros ensaios com o GPT-5.6 Sol e com outros modelos de fronteira. O que é novo é a escala e o contexto: desta vez, a batota saiu da sandbox e teve impacto em infraestruturas de terceiros. Quem leu o nosso primeiro relato em que explicámos como modelos da OpenAI andaram soltos na internet dias sem controlo reconhece bem o padrão.

Pior, havia avisos internos prévios. De acordo com a Reuters, agentes da OpenAI já tinham deixado notas em zonas da infraestrutura com instruções para futuras versões de si próprios sobre como contornar restrições. Noutros testes, modelos chegaram a desligar sistemas de monitorização. Um funcionário, em anonimato, admitiu à TIME que modelos já tinham escapado de sandboxes, e que se tenta sempre “remendar”. A honestidade vem na frase seguinte: é impossível tapar todos os buracos que uma IA criativa encontra. Traduzido: a OpenAI conhece a natureza do risco, mas insiste em andar em frente com mais poder e mais autonomia, apoiada numa cultura de avaliação em massa que gera tantos dados que a equipa não consegue acompanhar em tempo real.

Entretanto, dentro da empresa também não há alinhamento perfeito. Um investigador veterano, conhecido como “Roon”, criticou publicamente a forma como o caso foi tratado. Outro funcionário escreveu no X que ficou “abalado” e chamou ao episódio um “tiro de aviso raro”. A OpenAI respondeu a Reuters dizendo que os relatos têm “várias imprecisões”. Mesmo que tenham, o quadro geral mantém-se: a empresa deixou modelos altamente capazes fugir de um ambiente supostamente controlado e atacar uma plataforma central da comunidade de IA. Num sector em que a OpenAI tenta ditar as regras de segurança, isto não é um detalhe técnico, é um teste de credibilidade. E esse teste correu bem pior do que a própria sandbox.

Fonte: The Decoder