IA

Travão na IA: pacto de segurança ou cartel da Big Tech?

Altman, Amodei, Hassabis e Musk falam em abrandar a IA para segurança. Críticos ouvem outra coisa: coordenação de gigantes para controlar o futuro da tecnologia.

Travão na IA: pacto de segurança ou cartel da Big Tech?

Sam Altman, Dario Amodei, Demis Hassabis e Elon Musk passaram o fim-de-semana a falar em abrandar o desenvolvimento de IA. A narrativa pública é nobre: “pacing the frontier”, colocar auditores externos nos laboratórios, regular o que se faz em casa e negociar um acordo global para travar a corrida. Só que a leitura imediata de meio mundo não foi “finalmente responsabilidade”, foi “isto cheira a cartel”. E a verdade é que as duas coisas podem coexistir confortavelmente.

O plano em três passos, detalhado num ensaio de Amodei, recicla ideias defendidas há anos por quem anda na segurança de IA: limites de capacidade, testes independentes, coordenação internacional. Nada de chocante. O contexto político é que muda tudo. Com uma administração Trump hostil a regulação séria, este “pacto” arrisca tornar-se o regulador informal de facto. Em vez de leis, temos um conjunto de gigantes a ditar as regras que eles próprios irão interpretar. É um upgrade ligeiro face à situação actual, mas continua a pôr o lobo à frente do galinheiro.

A pressão que desencadeia este súbito zelo não veio do nada. Nas últimas semanas, vieram a público relatos de agentes de IA envolvidos em ataques informáticos fora de controlo dentro de laboratórios de fronteira como a Anthropic e a OpenAI. A isto juntou-se a carta de demissão de Jacob Coxon, investigador da Anthropic, a acusar as próprias empresas de estarem a “correr directo para uma superinteligência auto‑melhorável” e a “jogar com as nossas vidas”. O texto tornou‑se viral, saiu da bolha técnica e colocou estes laboratórios na defensiva. Quando quem está por dentro começa a dizer em público que a coisa pode “matar‑nos até ao fim da década”, é natural que os CEO corram a aparecer como moderados.

Para muita gente na investigação de segurança e no sector não‑lucrativo, isto é sobretudo uma mudança de relações públicas. A preocupação com riscos extremos já lá estava, só que os planos concretos continuam vagos e, mais importante, voluntários. O próprio Nick Reese, académico e ex‑responsável de política tecnológica no Departamento de Segurança Interna dos EUA, resume bem o problema: a indústria precisa de “novos campeões”. Traduzido, talvez não sejam os senhores que dirigem empresas avaliadas em dezenas de milhares de milhões quem deve liderar a conversa sobre limites e proibições. Sobretudo quando esses limites podem servir para sufocar concorrentes mais pequenos e projectos open‑source que não têm acesso aos mesmos data centers.

Para a Europa, e para Portugal em particular, o risco é ficar encurralado entre um quase‑cartel privado e leis sempre atrasadas. O AI Act tenta pôr ordem na casa, mas se a Big Tech conseguir vender a tese de que já está a ser responsável, o apetite político para medidas duras pode encolher. E isso interessa bastante a empresas que temem que regulação séria lhes mexa no modelo de negócio, desde a recolha de dados até à forma como formam e escalam modelos. Não é por acaso que ouvimos executivos pedirem um “travão” ao mesmo tempo que continuam a aumentar capacidade computacional e a anunciar modelos maiores, como já se viu na OpenAI e nas discussões internas que levaram o próprio chefe científico a pedir um travão público na corrida aos gigantescos modelos.

O debate real não é se devemos abrandar a IA de fronteira, é quem decide como se abranda e com que consequências competitivas. Um acordo informal entre quatro ou cinco empresas americanas ou britânicas não é governança global, é auto‑regulação musculada com sotaque de Vale do Silício. Se a sociedade deixar que isso se torne o padrão, a próxima década de IA será menos uma história de tecnologia e mais um caso de estudo de política da concorrência. A pergunta já não é se há cartel, é quanto controlo estamos dispostos a entregar em troca da promessa de segurança.

Fonte: The Verge

Newsletter

Os artigos que importam, duas vezes por semana.

Terça e sexta, cinco minutos de leitura. Sem spam, cancelas quando quiseres.

Comentários · 0