Ex-CTO da OpenAI lança Inkling, um modelo gigantesco e realmente aberto

Enquanto a OpenAI se embrulha em licenças criativas e caixas negras, a antiga CTO da casa resolveu ir pelo caminho oposto. Mira Murati, agora à frente da Thinking Machines Lab, lançou o Inkling, um modelo de IA de fronteira com pesos abertos, sob licença Apache 2.0. Não é um brinquedo: são 975 mil milhões de parâmetros, pensado para competir com pesos pesados chineses como o DeepSeek V4, GLM 5.2 ou Kimi K2.6.

O número bruto assusta e tem razão para isso. Para correr o Inkling na precisão nativa a 16 bits são precisos mais de 2 TB de memória de GPU, o equivalente a cerca de oito aceleradores Nvidia B300 ou dezasseis H200. Para quem não vive num data center, há uma versão quantizada em NVFP4 que corta o requisito de GPUs para metade. Não é material para um PC gaming, mas entra claramente no território das empresas, universidades e poucos centros de investigação que conseguem pagar esta escala de hardware.

Em termos arquitecturais, o Inkling segue a moda do momento: mistura de peritos, ou MoE (Mixture of Experts). Tem 256 experts encaminhados e dois partilhados, e usa seis experts por token, o que na prática põe cerca de 41 mil milhões de parâmetros activos em cada passo. Isto permite manter um número astronómico de parâmetros totais sem matar a velocidade. A Thinking Machines diz que o throughput se aproxima do DeepSeek V4 quando correm em hardware equivalente, o que, se for verdade, é um recado directo a quem anda a depender de APIs chinesas.

Há também truques no lado do uso. O modelo suporta um contexto de um milhão de tokens, ou seja, uma “memória de curto prazo” suficiente para engolir grandes bases de código, longos relatórios regulatórios ou processos judiciais inteiros e ainda procurar a agulha no palheiro. E, claro, é um modelo de “reasoning”: treinado com RL (aprendizagem por reforço) para prolongar o raciocínio em cadeia antes de responder. A empresa afirma que optimizou estes “thinking tokens” para fazer o mesmo trabalho com menos passos, chegando ao nível do Nemotron 3 Ultra, da Nvidia, usando cerca de um terço dos tokens em benchmarks como o Terminal Bench 2.1.

O discurso é optimista, mas há um detalhe menos glamoroso: pensar custa dinheiro. Em uso via API, cada token de raciocínio conta para a factura, e quanto mais o modelo “reflecte”, maior a conta de cloud. Numa altura em que as grandes tecnológicas já admitem que os custos energéticos e emissões associadas à IA estão a fugir do controlo, como se viu nos números recentes da Microsoft, e em que reguladores e cidades começam a tentar travar a expansão de megacentros de dados, um modelo deste tamanho levanta a mesma pergunta de sempre: quem é que paga a festa, e com que impacto ambiental.

Para já, o Inkling está acessível através da plataforma Tinker, da própria Thinking Machines, que junta API, ferramentas de customização e afinação. A empresa promete ainda levá-lo para serviços de terceiros como TogetherAI, Fireworks, Modal, Databricks e Baseten. A grande diferença em relação ao que a OpenAI ou a Anthropic oferecem está menos na lista de features e mais na filosofia: pesos abertos, licença permissiva, fine-tuning à vontade do freguês. Se as empresas europeias e portuguesas vão mesmo apostar num modelo americano gigante em vez de aceitarem o fecho progressivo da IA como serviço é outra questão, mas Murati acaba de provar que, do lado técnico, a desculpa de que “não dá para abrir” perdeu peso.

Fonte: The Register