Casa Branca exige IA impenetrável à Anthropic. A matemática discorda

A Casa Branca subiu mais um degrau na pressão sobre a Anthropic. Se a empresa quiser voltar a pôr online o modelo Claude Fable 5, terá de provar ao governo dos EUA que ninguém consegue contornar os seus guardrails. Não é “reduzir” jailbreaks, é eliminá-los. A exigência encaixa na ofensiva que já detalhámos sobre o bloqueio do Fable 5 com base em controlos de exportação, mas agora a fasquia passou da política para a fantasia técnica.

Segundo fontes citadas, a Agência de Segurança Nacional concluiu que é possível desactivar as barreiras do Fable 5 e aceder a capacidades sensíveis do modelo Mythos ligadas a cibersegurança, química e biologia. A administração Trump decidiu então tratar o assunto como “problema da Anthropic”. Se quer operar na faixa dos modelos de fronteira, que descubra todos os jailbreaks e os reporte ao governo. O detalhe incómodo é que uma boa parte da comunidade de segurança considera isto irrealista, não por falta de vontade, mas por limites básicos de como estes modelos funcionam.

Modelos de linguagem grandes são sistemas probabilísticos, não cofres com fechadura única. Treinam em quantidades absurdas de texto e aprendem padrões de associação. As empresas tentam colar em cima camadas de segurança, desde filtros de treino a técnicas de afinamento como RLHF, mas não existe prova formal de que um modelo esteja “selado”. Há sempre outra formulação de pergunta, outro contexto, outra cadeia de prompts, outro modelo auxiliar a explorar falhas. Pedir um modelo sem jailbreaks é pedir um software complexo sem bugs: podes aproximar-te, nunca chegar lá.

Ao empurrar a responsabilidade quase total para a Anthropic, a administração revela outra fragilidade: nem o Centro para Normas e Inovação em IA do Departamento do Comércio nem a NSA têm pessoas ou tempo para perseguir cada truque de jailbreak que surja em cada modelo novo. A solução política é simples, até cínica, passar a factura ao privado. Mas isso não torna o requisito mais exequível. Na prática, cria um incentivo para as empresas esconderem falhas ou minimizarem riscos, sob pena de verem modelos suspensos de um dia para o outro.

Para quem olha de fora, esta novela mistura genuína preocupação com riscos de IA avançada com um teatro de dureza regulatória. Depois de semanas de braço-de-ferro em torno de Mythos e Fable, que já acompanhámos nos bastidores do conflito, o recado político é claro: se uma empresa não cumprir o padrão impossível, o problema é dela. O efeito colateral é mais opaco, modelos poderosos a circularem com rótulo de “seguros” só porque passaram num conjunto finito de testes, enquanto todos fingem que não existem formas novas de quebrar as defesas.

Para a União Europeia, que prepara regras como o AI Act com uma abordagem de avaliação de risco mais gradual, este episódio é um aviso prático. Se o regulador se limita a exigir impossíveis teóricos, abre espaço a decisões arbitrárias e guerras políticas sobre quem é “responsável”. Se assume que jailbreaks nunca desaparecem, a conversa muda, passa a ser sobre monitorização contínua, limites de uso e responsabilização transparente. A matemática e a engenharia de sistemas já fizeram a sua parte, deixaram claro que um Fable 5 absolutamente impenetrável não existe. O resto é política a tentar dobrar as leis da probabilidade.

Fonte: Wired