Modelos abertos de IA já só ficam 4 meses atrás dos topo de gama

Quatro meses. É esse o “avanço” que as grandes empresas de IA estão a vender a um múltiplo de custo que chega a cinco vezes mais. Segundo o novo relatório State of Open Source AI da Mozilla, o fosso de desempenho entre os modelos de fronteira das Big Tech norte-americanas e os melhores modelos de pesos abertos chineses estreitou-se para 4,4 meses. Em linguagem menos académica, quem paga pelo topo de gama fechado está essencialmente a comprar tempo, não magia.

O exemplo mais claro é o Kimi K3, da chinesa Moonshot AI. No índice Artificial Analysis Intelligence, o Kimi K3 fica apenas três pontos atrás do Fable 5, o modelo fechado da Anthropic, mas custa cerca de 30% do preço. Ou seja, para teres mais uns pontos em benchmarks e alguma margem em tarefas mais longas, pagas mais do triplo. A própria Mozilla, pela voz do CTO Raffi Krikorian, é frontal: os modelos fechados valem o prémio em poucos casos específicos, como trabalho profissional altamente especializado, recuperação intensiva de informação e contextos muito longos.

O resto, que é onde está a esmagadora maioria do uso empresarial, encaixa perfeitamente em modelos de pesos abertos. São modelos que podes descarregar e correr em infraestruturas tuas, com custos operacionais bem mais baixos e menos dependência de APIs externas. Não são verdadeiramente “abertos” no sentido clássico, porque quase ninguém revela dados de treino ou código de preparação, mas já são suficientes para corroer o argumento de que só os modelos fechados “à OpenAI” servem a sério. Para quem acompanha a pressão regulatória e os acordos de segurança de IA descritos em análises como o suposto pacto de segurança da Big Tech, esta aproximação técnica dos modelos abertos não é propriamente uma boa notícia para quem queria manter o mercado bem fechado.

O relatório da Mozilla usa um conceito interessante, importado da organização METR: o horizonte temporal de um modelo. Em vez de falar em exames de escolha múltipla, olha para a duração de tarefas que um modelo consegue fazer com 50% de sucesso confiável. Hoje, o melhor modelo fechado aguenta um trabalho que é 1,7 vezes mais longo do que aquilo que o melhor modelo aberto consegue fazer de forma fiável. Traduzido num exemplo simples que Krikorian partilhou: se a fronteira aberta lida bem com uma tarefa de sete horas, a fronteira fechada aguenta cerca de 12. Em quatro meses, a fronteira aberta apanha essas 12 horas e a fechada passa para algo perto das 20.

Na prática, isto cria uma zona cinzenta entre oito e 12 horas de trabalho humano, onde os modelos fechados ainda têm vantagem real. Abaixo disso, o custo extra é difícil de justificar, acima disso ainda não há modelo para ninguém. E mesmo aqui entra outro detalhe: muitos modelos fechados vêm com um harness próprio, o tal software de orquestração de ferramentas e memória que os faz parecer mais capazes. Tira-se-lhes esse arnês feito à medida, usa-se um sistema de terceiros, e a diferença encolhe. Quando a própria Mozilla diz que a decisão de pagar por modelos fechados deve ser “workload-specific” e não “organization-specific”, está a mandar um recado às empresas que assinam cheques anuais gordos por inércia.

Para o contexto europeu, onde se soma a factura da IA à da conformidade com o AI Act e o RGPD, esta aritmética é tudo menos académica. Se um modelo aberto de topo custa 30% de um fechado e fica tecnicamente a uns meses de distância, a pressão para internalizar, adaptar e controlar a pilha de IA só vai aumentar. Sobretudo quando a mesma corrida que vimos na “guerra fria” entre laboratórios de IA começa a ser travada também entre blocos geopolíticos. A diferença é que, desta vez, o lado aberto não está a jogar com brinquedos de segunda. Está a poucos meses, e bem menos euros, de chegar ao mesmo sítio.

Fonte: Ars Technica