Trump força Anthropic a desligar modelos Fable 5 e Mythos 5

A Anthropic desligou na sexta-feira à noite os seus novos modelos Fable 5 e Mythos 5, dias depois de os lançar, depois de receber uma ordem do Departamento do Comércio dos EUA a aplicar controlos de exportação urgentes. Tradução prática: os modelos ficaram proibidos de ser usados fora dos Estados Unidos. Para cumprir à força, a empresa carregou no botão de emergência e cortou o acesso a toda a gente, mesmo dentro do país.

Em comunicado público, a Anthropic foi clara no desconforto com a decisão. Disse que a única forma de garantir cumprimento imediato da ordem governamental era desactivar por completo os modelos, mas sublinhou que discorda da base técnica do pedido. O governo terá apresentado apenas “provas verbais” de um potencial jailbreak específico ao Fable 5, em que o modelo é usado para rever um determinado código à procura de falhas de segurança.

Segundo fontes citadas pela Axios, a administração Trump está preocupada com relatos de que esse jailbreak contorna os filtros do Fable 5 em temas sensíveis como cibersegurança, química e biologia. A narrativa oficial fala em risco para a segurança nacional e numa “pausa” para dar tempo ao aparelho de segurança para se “blindar” contra este tipo de ameaça, talvez nas próximas semanas. Isto num modelo já lançado comercialmente e, nas palavras da própria Anthropic, distribuído para “centenas de milhões de pessoas”.

A empresa contrapõe que o jailbreak detectado é “estreito” e “não universal” e que, na prática, só foi demonstrado a encontrar vulnerabilidades “menores” e “relativamente simples”. Acrescenta ainda que outros modelos públicos, como o GPT‑5.5, conseguem resultados do mesmo nível. Se esse for o novo critério para mandar recolher modelos, diz a Anthropic, então qualquer fornecedor de modelos de fronteira teria de congelar novos lançamentos. O recado é transparente: o governo está a exigir a uma empresa aquilo que não está a exigir ao resto do sector.

O pano de fundo disto é uma ordem executiva recente de Trump que “convida” os fabricantes de modelos de IA a submeterem-se voluntariamente a testes de segurança governamentais. O próprio texto já era ambíguo e veio depois de uma cerimónia de assinatura cancelada à última hora por fricções internas na administração. A intervenção directa no Fable 5 mostra como “voluntário” pode, na prática, transformar-se em pressão regulatória ad hoc, ainda por cima apoiada em provas que a empresa diz não ter visto de forma formal ou completa.

Para quem está na Europa, isto é um lembrete pouco subtil: depender de modelos hospedados nos EUA significa viver com a política interna americana como risco operacional. De um dia para o outro, uma decisão em Washington pode desligar o motor de IA por trás de um produto europeu. A Anthropic prometeu mais detalhes em 24 horas e pediu desculpa pelo “incómodo” causado por um “mal-entendido”. O mal-entendido maior é outro: continuar a tratar infra-estruturas críticas de IA como se fossem simples apps que se podem remover da loja a meio do dia.

Fonte: Ars Technica