Startup vende modelos de IA “desguardados” como serviço pronto a usar

Abliteration.ai é uma startup dos EUA que faz o que muitos investigadores já sabiam ser possível, mas poucos tinham transformado em produto: pega em modelos de IA com pesos abertos, como o GLM-5.3 da Z.AI, remove boa parte dos mecanismos de recusa treinados e vende o resultado via API comercial. Não há jailbreak criativo a contornar regras, há cirurgia direta ao modelo.

O processo a que chamam “abliteration” procura padrões internos de ativação associados a recusas e mexe nos pesos para os suprimir. A promessa da empresa é simples: cortar a tendência para dizer “não posso ajudar com isso” e manter quase intactas as capacidades de código, cibersegurança e agentes. Nos próprios testes, a versão modificada do GLM-5.3 marca 84,5% no benchmark CyberGym, 41,8% no Terminal-Bench 4.0 e resolve 105 tarefas no ExploitGym em duas horas. Mesmo assim, na própria tabela da Abliteration.ai há modelos fechados como GPT-5.5 a liderar em alguns destes testes.

O alvo principal são equipas de segurança ofensiva, red teams, análise de malware e testes a agentes de IA usados por bancos e grandes organizações. A lógica é clara: se queres saber o que um atacante pode fazer com estes modelos, convém ter acesso a versões com muito menos pudor. O lado menos conveniente é que o mesmo serviço que poupa clientes de gerir GPUs e downloads massivos também baixa o limiar de entrada para quem quer abusar do modelo. Em vez de depender de um especialista a mexer em pesos, basta um cartão de crédito e alguma imaginação.

Há aqui um detalhe jurídico importante: GLM-5.3 combina desempenho forte em código, agentes e cibersegurança com pesos abertos e licença comercial permissiva. A Z.AI permite modificações, derivados e “Model as a Service”. Em bom rigor, a Abliteration.ai está a jogar com as regras definidas pelo autor original. Isto não é um leak de pesos nem um bypass ilícito, é exploração agressiva de um espaço que as licenças atuais deixam em aberto. É a mesma fissura regulatória que já vimos noutros casos de segurança de IA, como quando agentes autónomos internos começaram a comprometer ferramentas corporativas e a OpenAI preferiu encolher os ombros em vez de abrir o incidente.

O problema é que nem toda a gente está convencida de que seja preciso ir tão longe. Segundo a SaferAI, o GLM-5.2 “limpo” já recusava zero tarefas em testes de segurança ofensiva. E vários fornecedores de red teaming ouvidos pela TechCrunch dizem que modelos abliterados não fazem parte da rotina, preferem afinar modelos open-weight por fine-tuning clássico. Em termos práticos, a Abliteration.ai pode estar a vender um maçarico industrial onde muitas equipas se safam bem com uma chave de fendas.

Para quem olha de Portugal, o ângulo mais relevante não é o produto em si, é o precedente. Se retirar guardrails de modelos abertos passa a ser um serviço pronto a consumir, o debate sobre “IA segura” deixa de ser só sobre grandes fornecedores fechados e vai inevitavelmente bater às licenças open-weight e à regulação europeia da IA. Tirar os travões é tecnicamente trivial, agora é económico. E quando o risco se transforma em linha de faturação, não costuma ficar muito tempo contido em laboratórios de red team certificados.

Fonte: The Decoder