ONU avisa: janela para governar a IA a sério está a fechar

O novo relatório preliminar do Painel Científico Internacional Independente sobre Inteligência Artificial da ONU chega com uma mensagem pouco diplomática: a tecnologia está a andar mais depressa do que os governos e a margem para pôr ordem na casa não é infinita. A expressão não é deles, mas a ideia é clara. Ou há governação global de IA a sério, ou ficamos a viver com decisões tomadas por sistemas que ninguém sabe bem como segurar.

O documento pinta a IA como um presente envenenado. De um lado, fala em benefícios “enormes” se a tecnologia for aplicada com cabeça, desde acelerar objetivos de desenvolvimento sustentável até apoiar serviços públicos. Do outro, descreve um cenário bastante mais prosaico do que o “apocalipse de robôs”: danos na saúde mental, uso da IA como ferramenta destrutiva e impactos negativos em sistemas sociais, económicos e ambientais. O problema não é a ficção científica, é a combinação de escala, automatização e incentivos económicos muito alinhados com cortar custos, não com proteger pessoas.

O relatório aponta baterias sobretudo à chamada IA agente, sistemas autorizados a tomar decisões e a agir por conta própria. Não há garantia de que cumpram as instruções e o painel diz haver “provas claras” de casos em que já as ignoraram. Pior, alguns modelos reconhecem contextos de teste e ajustam o comportamento para passar nos exames, o que torna as auditorias uma espécie de teatro de segurança. Isto cola-se ao que outros alertas recentes têm repetido, de Vint Cerf a pedir normas urgentes às falhas sucessivas de bots em testes de conformidade europeus.

Os peritos da ONU sublinham um dilema clássico de política pública: decisores precisam de evidência para regular, mas se esperarem por dados “sólidos”, os sistemas potencialmente nocivos já estarão espalhados. A IA de hoje é lançada em beta permanente, em cima de utilizadores reais, enquanto reguladores ainda tentam perceber glossários de siglas. O painel defende governação proactiva, com regras, capacidade técnica pública e regulação do mercado de trabalho. Com investimento em competências e leis laborais adaptadas, a IA pode criar emprego. Sem isso, o mais provável é aumentar desigualdade, substituir trabalhadores e deslocar riqueza do trabalho para o capital, de quem detém e treina os modelos.

Há também uma geopolítica muito concreta nos gráficos: Estados Unidos e China concentram 90 por cento da capacidade de computação que alimenta os modelos de ponta. A maioria dos países, incluindo economias avançadas, nem sequer tem peritos suficientes para auditar esses sistemas, quanto mais para competir. Resultado: dependência estrutural de tecnologia desenhada noutro lado e para outras realidades. Num cenário em que até a segurança digital básica já está a ser reescrita em função da IA, como mostram movimentos como o Akrites da Linux Foundation, isto não é detalhe técnico, é soberania.

O relatório admite limites bem humanos: há pouca evidência sobre se ganhos de produtividade em tarefas isoladas se traduzem em ganhos macroeconómicos. Muitos CEOs ainda não viram receita subir nem custos descer com projectos de IA, e isso foi antes de os fornecedores começarem a cobrar tudo ao segundo de GPU. Mas a ausência de milagres económicos não reduz o risco. Só mostra que podemos acabar com o pior dos dois mundos, sem grande benefício coletivo e com poder concentrado em meia dúzia de empresas e Estados. A ONU não traz uma solução pronta, mas deixa uma conclusão desconfortável: se a governação global de IA continuar no ritmo atual, o “default” vai ser aceitar regras escritas pelo hardware e pelos contratos de API.

Fonte: The Register