Anthropic quer travão global na IA antes que esta se reescreva

A Anthropic publicou um texto a defender aquilo que, há um ano, seria heresia em Silicon Valley: um abrandamento global do desenvolvimento de IA avançada. O argumento central é simples e pouco reconfortante. A curva actual aponta para sistemas capazes de desenhar e treinar os seus próprios sucessores. Ainda não estamos aí, mas a empresa diz que esse ponto pode chegar “mais cedo do que a maior parte das instituições está preparada”.

No artigo do Anthropic Institute, a empresa admite que uma IA com capacidade de auto-melhoria poderia trazer ganhos enormes em ciência e saúde. Mas sublinha o outro lado: aumenta bastante o risco de perda de controlo humano sobre sistemas de IA. É o velho medo de Skynet, mas posto em linguagem de laboratório. A receita proposta passa por um abrandamento global, ou mesmo uma pausa temporária no avanço na fronteira, para dar tempo às estruturas sociais e à investigação em alinhamento para acompanharem a tecnologia.

Há aqui um detalhe que não convém ignorar. A Anthropic não é um think tank académico, é uma das empresas mais bem posicionadas na corrida da IA generativa. Ao contrário de alguns rivais, até já aponta para o primeiro trimestre lucrativo e tem papéis entregues ao regulador norte-americano para ir para bolsa ainda este ano. Pede um travão precisamente quando se prepara para cristalizar a sua vantagem junto de investidores. A comparação com os tratados nucleares aparece no próprio texto: se as potências atómicas conseguiram acordos de limitação, talvez as grandes labs de IA também consigam. A diferença é que as centrais nucleares não cabem num rack anónimo de servidores em qualquer lado.

Não admira que haja quem veja sobretudo marketing. Críticos citados pelo Wall Street Journal acusam a Anthropic de usar os avisos como polimento de reputação, para se posicionar como a mais responsável do pelotão e, ao mesmo tempo, sugerir que os seus modelos estão tão à frente que precisam de contenção especial. O exemplo óbvio é o modelo de cibersegurança Mythos, que a empresa revelou com forte controlo de acesso. Oficialmente, por ser poderoso demais nas mãos erradas, capaz de encontrar vulnerabilidades depressa demais. Extra-oficialmente, há quem leia a decisão como hype cuidadosamente coreografado ou pura gestão comercial, reservando a ferramenta para grandes empresas com capacidade de pagar.

A Anthropic responde que estas posições vêm do Anthropic Institute, a divisão de investigação criada em março para estudar riscos de sistemas avançados. O instituto quer analisar o que seria necessário para tornar credível qualquer pausa: mecanismos de verificação entre vários laboratórios bem financiados, em vários países, capazes de confirmar que todos abrandaram de facto. Sem isso, o incentivo óbvio é alguém continuar em segredo e saltar à frente. Em IA, onde modelos podem ser treinados em infra-estruturas alugadas e dados dispersos, a fiscalização é bem mais difusa que em silos de mísseis.

Para quem está em Portugal ou noutro país europeu, esta discussão não é teórica. Bruxelas anda a legislar a correr atrás da IA com o AI Act, mas sem travão global qualquer empresa pode deslocar a parte mais agressiva da investigação para jurisdições mais permissivas e vender depois interfaces polidas no mercado europeu. A proposta de abrandamento da Anthropic toca num ponto real: há uma assimetria entre a velocidade do código e a lentidão da política. A dúvida é se um dos principais aceleradores da corrida é a melhor entidade para pedir sinal vermelho, ou se estamos a ver a velha táctica de fechar a porta a cadeado depois de já estar confortavelmente lá dentro.

Fonte: Engadget