OpenAI e Anthropic pedem leis contra ADN sintético sem controlo

Quando Sam Altman, Demis Hassabis e Dario Amodei aparecem na mesma linha de assinatura, não é para discutir chatbots fofinhos. A OpenAI, a Anthropic, a Google DeepMind e a Microsoft AI juntaram-se a cientistas e empresas de biotecnologia numa carta aberta a exigir leis mais duras para o rastreio de ADN e ARN sintéticos nos EUA. O alvo são as empresas que “imprimem” sequências genéticas por encomenda, hoje acessíveis a quem tenha cartão de crédito e alguma paciência para ler protocolos.

A carta, organizada pelo Institute for Progress e pela Foundation for American Innovation, parte de uma constatação desconfortável: com o ritmo actual da IA, as barreiras de conhecimento que travavam amadores com más intenções estão a encolher. Se em 2017 um grupo canadiano precisou de cerca de 100 mil dólares em ADN por correio para reconstruir o vírus da horsepox, hoje a síntese é mais barata e os modelos de linguagem conseguem ajudar a desenhar toxinas e agentes patogénicos. Ainda é preciso formação em biologia para passar de uma sequência no ecrã a um vírus funcional, mas a fasquia está mais baixa do que devia.

O problema não é novo para a indústria de síntese genética. Desde 2009 que o International Gene Synthesis Consortium promove práticas voluntárias de controlo e muitas empresas já usam software para filtrar “sequências de preocupação”, fragmentos que podem aumentar a toxicidade ou capacidade de infecção de um organismo. Twist Bioscience e Ansa Biotechnologies, ambas signatárias, dizem o óbvio que durante anos ficou no voluntarismo: se tens tecnologia para sintetizar ADN, tens de saber o que estás a produzir e para quem. A carta quer que essa obrigação deixe de depender da boa vontade de meia dúzia de empresas responsáveis.

Nos EUA, o governo Biden já tinha dado um pequeno passo, exigindo que projectos com financiamento federal comprem ADN apenas a fornecedores que façam rastreio. O novo projecto de lei bipartidário no Senado vai mais longe: pretende obrigar todos os fornecedores de síntese a controlar clientes e encomendas, independentemente da origem do dinheiro. Mas mesmo com leis, o sistema tem falhas. Investigadores da Microsoft mostraram recentemente que ferramentas de design de proteínas baseadas em IA conseguiram criar sequências potencialmente perigosas que passaram ilesas pelos filtros actuais, em parte porque os modelos inventam variantes suficientemente diferentes para escapar às listas negras.

É aqui que a batata quente volta para as próprias OpenAI, Anthropic e companhia. Especialistas como Geoff Ralston defendem que os laboratórios que treinaram modelos com competências em biologia têm de fazer o seu próprio policiamento, não apenas apontar o dedo às empresas de síntese. Em teoria, deveria ser quase impossível pedir a um modelo ajuda directa para algo claramente perigoso. Na prática, como sublinha David Relman, basta saber formular pedidos menos óbvios para contornar alertas e encontrar fornecedores com rastreio frouxo. Quando o screening de ADN falha, o único travão que sobra é o comportamento dos sistemas de IA.

Para quem lê isto da Europa, incluindo Portugal, a questão não é distante. Empresas europeias também vendem ADN por catálogo e os grandes modelos de IA são globais, apesar de serem treinados nos EUA. Bruxelas anda ocupada com o DMA e afins, mas a combinação IA + biologia ganha peso geopolítico real, não é apenas medo abstracto de ficção científica. Se as próprias Big Tech pedem regras mais duras em biotecnologia, é porque perceberam que não querem carregar sozinhas a responsabilidade quando alguém tentar usar os seus modelos como manual de instruções para o próximo patógeno famoso.

Fonte: Wired