O erro de 24 milhões que pôs a Estónia a passar leis por IA

Uma expressão mal escrita numa lei fiscal pode valer tanto como um lobby bem pago. Em dezembro, o parlamento da Estónia aprovou alterações à lei do imposto sobre o jogo online para baixar a taxa, mas o texto final falava só em “jogos de perícia” para aquele ano, deixando de fora os jogos de fortuna ou azar. Resultado: um mercado de jogo online avaliado em cerca de 300 milhões de euros saía, por acidente, da rede fiscal durante doze meses, com uma perda estimada de 24 milhões de euros para o Estado.

O erro não foi encontrado por um auditor ou por uma comissão parlamentar. Foi um jurista de uma operadora de jogo que percebeu a oportunidade dourada no meio da trapalhada. A humilhação subiu de nível quando Luukas Ilves, antigo subsecretário para a transformação digital, decidiu pegar na lei aprovada e passá-la pelo Claude e pelo Gemini. Ambas as IA sinalizaram logo a inconsistência. Ou seja, dois modelos comerciais viram em segundos o que o processo legislativo inteiro não apanhou em meses.

Ilves não ficou por aí. Em poucas horas criou um protótipo chamado Apsakaleidja, ou “Fuckup Finder”, que puxa automaticamente projectos de lei do site do parlamento e lhes faz uma varredura em busca de referências quebradas, formulações contraditórias, erros de aritmética e datas impossíveis. A ferramenta classifica cada falha em risco alto, médio ou baixo. De 112 propostas de lei analisadas, 102 aparecem como alto risco. O protótipo é público, já foi mostrado na televisão nacional e, de forma pouco subtil, está a dizer aos deputados que o seu processo de revisão é tudo menos robusto.

O primeiro-ministro, Kristen Michal, olhou para o embaraço e viu uma alavanca política. Apresentou o Apsakaleidja como prova de que a IA pode ser um assistente útil no Estado e defendeu que ferramentas deste tipo sejam usadas logo na redacção das leis para fechar buracos antes de chegarem ao plenário. Em paralelo, lançou o programa Eesti.ai, um esforço nacional para treinar cidadãos no uso de IA com a meta ambiciosa de duplicar a produtividade até 2035. No conselho deste programa estão nomes como Markus Villig, fundador da Bolt, e o próprio Ilves.

Em abril, o governo foi mais longe e enviou ao parlamento uma proposta que dá às entidades públicas o direito de usar soluções digitais, incluindo IA, para automatizar processos administrativos. A ideia é que decisões estritamente baseadas em regras e factos verificáveis possam ser tomadas por sistemas automáticos, libertando humanos para os casos em que há discricionariedade real. É a distinção clássica entre “cumpre os critérios, recebe o benefício” e tudo o resto. Em junho, Michal avançou ainda mais um passo e prometeu que a Estónia quer ser o primeiro país a criar identidades digitais oficiais para agentes de IA, uma espécie de NIF para sistemas automáticos que interagem com o Estado.

É aqui que a visão digital-first da Estónia, com 99 por cento dos serviços públicos online e identidade digital obrigatória, mostra tanto a vantagem como o risco. A infra-estrutura está pronta para testar ideias que muitos países da UE ainda nem conseguem discutir, mas também torna mais fácil normalizar decisões automáticas com pouca transparência. Investigadores de ética tecnológica lembram o óbvio: alguém tem de ler as leis de princípio ao fim, com contexto, e assumir responsabilidade pelas consequências. Num momento em que até a ONU admite que a IA corre mais depressa do que as leis, a Estónia está a tentar pôr a própria lei a correr com IA ao lado. Se isto é prudência ou excesso de confiança, depende de quão confortável estás com a ideia de que a próxima grande falha legal pode ser assinada por um agente artificial, mas com documentos perfeitamente em ordem.

Fonte: Wired