IA aberta ou só pesos abertos? Porque a diferença importa mesmo

Na IA, a palavra “open” já virou tática de marketing. Basta uma empresa despejar ficheiros de modelo no Hugging Face e, de repente, aquilo passa a circular como “modelo open source”. Na maioria dos casos, não é. São apenas pesos abertos. E a diferença não é detalhe jurídico, é poder real sobre a tecnologia.

Os tais pesos são os números aprendidos pelo modelo durante o treino. Juntam-se à arquitetura e ao código de inferência e tens um LLM funcional. Se os pesos são públicos, podes descarregar, correr num servidor teu, afinar com dados internos e evitar mandar prompts para uma API fechada. Ganhas controlo sobre dados e custos, foges um pouco ao vendor lock-in. É útil, sobretudo para empresas europeias com alergia a meter informação sensível em clouds alheias.

Mas isto está longe da ideia clássica de open source. A Open Source Initiative, que guarda a definição original de software livre de restrições, é clara: pesos abertos são só a camada final do bolo. Sem código de treino, sem documentação séria e, sobretudo, sem transparência sobre os dados usados, tens apenas distribuição aberta, não desenvolvimento aberto. Como resume James Landay, do Stanford HAI, continuas sem ver como o modelo foi construído, o que comeu em treino e porque se comporta como se comporta.

Para ciência, auditoria e regulação, isto é um problema óbvio. Sem saber que corpora entram, não há como avaliar se houve scraping agressivo de obras protegidas por direitos de autor, se dados médicos foram expostos, se português, africano ou qualquer outra comunidade linguística foi praticamente ignorada. Também não sabes se conjuntos de teste foram reutilizados em treino, o que estraga benchmarks que depois são citados em relatórios e propostas de lei em Bruxelas. A definição de Open Source AI da OSI, a OSAID 1.0, tenta justamente fechar estes buracos, exigindo um rasto auditável do processo, não só o binário final com esteróides.

As grandes plataformas preferem a ambiguidade. Pesos abertos dão-lhes uma narrativa de “abertura” simpática para reguladores europeus, sem cederem o verdadeiro poder: dados, receita de treino, pipeline completo. A discussão lembra o que já vimos noutros lados, do Android ao Chromium. Código “aberto” o suficiente para criar dependência, fechado o suficiente para manter o controlo. Quando cruzas isto com debates sobre pactos de segurança e cartéis de IA, a pinta estratégica é demasiado óbvia para ser coincidência.

Para quem decide hoje que modelo adoptar num ministério, num hospital ou numa fintech em Lisboa ou São Paulo, a pergunta certa não é “há pesos abertos?”. É: existe licença clara, código de treino, documentação de dados, possibilidade legal de redistribuir e modificar sem rasteiras? Sem isso, o rótulo “open” vale pouco mais do que um selo verde numa embalagem de plástico. A IA gosta de vender transparência, mas continua, na prática, a esconder a parte que mais conta.

Fonte: The Register