Pangram, o novo detector de IA que decide carreiras literárias

Uma empresa de 24 pessoas por cima de um fast food em Brooklyn está a decidir se romances chegam às livrarias ou vão diretamente para o caixote. Chama-se Pangram, deteta IA em texto e, em poucos meses, ganhou o estatuto informal de polícia do Word. Sem escrutínio sério, com muito poder colado.

A ideia é simples na superfície. O Pangram aceita um texto e cospe uma percentagem de “envolvimento de IA” na sua produção. Esse número, apresentado como melhor estimativa, já foi suficiente para Hachette cancelar a publicação de Shy Girl, depois de o CEO da Pangram ter dito no X que o livro era 78 por cento gerado por IA. A autora negou. O veredito de uma startup valeu mais do que a sua palavra, o contrato e o trabalho editorial.

Seguiram-se casos em série. Uma crónica da rubrica Modern Love no New York Times levanta suspeitas, leva com 100 por cento Pangram. Um vencedor do Commonwealth Short Story Prize, 100 por cento. O romance Daggermouth, 60 por cento. Um thriller vendido por 2,4 milhões de dólares, 97 por cento. Em julho, a Substack integrou o Pangram na própria plataforma, para qualquer leitor ver um rótulo de suspeita de IA ao lado da newsletter. Não é só detetar, é colar um estigma à frente de toda a gente.

O método técnico tem nomes respeitáveis, “synthetic mirroring” e “hard negative mining”. Na prática, o Pangram pega em texto humano, pede a grandes modelos de linguagem para imitarem esse estilo e aprende daí o que “parece” IA. Depois caça falsos positivos nos seus próprios resultados e usa essas falhas para refinar o modelo. É um sistema treinado em cima das mesmas máquinas que tenta apanhar. E, mesmo assim, é tratado como oráculo por editoras, universidades e empresas de recrutamento, num contexto em que a desconfiança em relação à IA já vinha a crescer, como vimos quando olhámos para como os trabalhadores estão fartos do entusiasmo vazio em torno destes sistemas.

O problema não é só técnico. É político e económico. Se um detector privado falha para um lado, pode arruinar carreiras de escritores que nunca abriram o ChatGPT. Se falha para o outro, legitima fraudes literárias e académicas com selo “humano”. Tudo isto com dados e modelos que não são transparentes, geridos por fundadores ainda a meio da casa dos 30, com histórico em Google, Tesla e afins, bem treinados na cultura de “move fast, pede desculpa depois”. O discurso sobre “datasets devidamente licenciados” soa bem, mas não resolve a assimetria óbvia de poder entre um autor individual e uma empresa de software que ninguém elegeu.

Na Europa, onde a conversa regulatória se foca no controlo da IA de geração, os detectores como o Pangram estão a passar pela lateral. Universidades portuguesas já usam ferramentas semelhantes para apanharem trabalhos suspeitos, editoras olham para estes serviços com curiosidade e receio. Se aceitarmos o Pangram como padrão de facto, estamos a terceirizar a noção de autoria para uma caixa negra norte‑americana. E, quando a próxima polémica rebentar, não vai ser o algoritmo a sentar-se no banco dos réus, vão ser pessoas com nome na capa.

Fonte: Wired