OpenAI abre a porta a auditorias do governo dos EUA à sua IA

OpenAI vai deixar o governo dos Estados Unidos rever os seus modelos de IA antes de estes chegarem ao público. Não é uma obrigação legal, é adesão voluntária a uma ordem executiva assinada por Donald Trump, desenhada para pôr algum travão em sistemas com capacidades avançadas, sobretudo em cibersegurança.

A primeira versão dessa ordem, trabalhada com vários intervenientes, previa um prazo de 90 dias entre a submissão do modelo ao governo e o lançamento. A indústria pressionou, Trump disse que “não gostou de certos aspectos”, e o resultado foi uma versão diluída: 30 dias de antecedência e um esquema de participação apenas “recomendada”. Em pano de fundo, figuras como Elon Musk e o investidor David Sacks avisaram para um suposto “efeito de arrefecimento” no desenvolvimento de IA se o escrutínio fosse demasiado apertado.

Mesmo assim, a OpenAI decidiu alinhar. George Osborne, chefe de países da empresa, disse à CNBC que é “bastante correto que governos democráticos tenham um grande papel” em como a tecnologia é usada e lançada. Defende reguladores fortes, mas com muita flexibilidade na forma como operam. Lido ao contrário: a empresa admite regras, desde que elásticas o suficiente para não travar o seu ritmo de produto. Não é exatamente um pedido de travões, é um pedido de semáforos com muito amarelo.

A ordem dá ao governo uma ferramenta de classificação: certos sistemas podem ser rotulados como “covered frontier model”, o que na prática pode limitar venda e distribuição. O foco está em capacidades avançadas de ciber-ofensiva e outros riscos sistémicos. Falta perceber o que cabe nessa etiqueta e, sobretudo, quem decide os critérios técnicos. Num contexto em que a mesma administração tem sido simpática para com a indústria, é difícil imaginar revisões agressivas em ano de eleições e com Silicon Valley ao telefone.

Críticos dizem que o documento fica muito aquém do necessário. O congressista Don Beyer chama-lhe “política desapontante” e fala num ambiente de faroeste para o desenvolvimento de IA. O diagnóstico é duro, mas faz sentido: uma ordem voluntária, redesenhada após lobby de grandes tecnológicas, com prazos curtos e conceitos vagos, é mais firewall política do que travão real. Serve para a Casa Branca dizer que não está a dormir e para empresas como a OpenAI mostrarem boa vontade regulatória sem perder controlo do calendário.

Visto da Europa, que anda a montar o AI Act com obrigações pesadas para sistemas de alto risco, o modelo norte‑americano continua a apostar mais na auto-regulação supervisionada do que em regras duras. Para a OpenAI é simples: dar ao governo 30 dias de acesso é um custo baixo em troca de manter a vantagem competitiva. Para quem se preocupa com impactos sociais, laborais e de segurança, é pouca rede para tanto salto acrobático.

Fonte: Engadget