IA a moderar IA: quando o remédio apaga a própria comunidade

Num subreddit como o r/AskHistorians, cada resposta é quase um mini‑ensaio académico. Horas de pesquisa, cruzamento de fontes, contexto. Em abril, anos dessa memória foram apagados em segundos por ferramentas de moderação com IA da própria Reddit. Comentários e posts com mais de uma década desapareceram, aparentemente porque todos tinham algo em comum: ligavam para o site Rare Historical Photos, que o sistema decidiu tratar como spam. Sem explicação clara, sem botão de recurso, sem humano à vista.

O caso, contado por uma das moderadoras, a historiadora Sarah Gilbert, é um bom choque de realidade para quem acha que mais IA na moderação é sempre melhor. A Reddit gaba‑se de ter aumentado em mais de 200 por cento as acções contra discurso de ódio e violência, e de reduzir em 40 por cento a exposição a conteúdo potencialmente nocivo. Número bonito em transparência corporativa, menos bonito quando corresponde a apagar respostas longas e rigorosas porque o modelo decidiu que certo domínio “cheira” a lixo.

O contexto não ajuda. As mesmas ferramentas que hoje limpam spam já são usadas para caçar padrões “subtis” de comportamento falso e hype artificial. Só que a fronteira entre hype, marketing agressivo e simples divulgação é mais cinzenta do que os comunicados admitem. Como já se viu quando a própria Reddit começou a apertar com agências que inundavam a plataforma para empurrar marcas para os chatbots, num movimento muito próximo do que contámos em Reddit, IA e spam: a nova guerra pelo topo das pesquisas. A mesma IA que caça votações falsas revoga “quase 2 milhões de votos por dia”. Ninguém lá dentro parece muito interessado em quantos desses são falsos positivos em comunidades pequenas que não têm megafone mediático.

Entretanto, o outro lado da barricada também aprendeu o truque. Gilbert fala em “inundação” de spambots alimentados por modelos de linguagem nos últimos meses. Agências de marketing já produzem posts pensados não para humanos, mas para agradar a modelos de IA que geram respostas e resumos. Startups especializadas, como a ReachLLM, moderam elas próprias subreddits criados à medida de clientes. Ou seja, há IA a escrever para IA, em plataformas moderadas por IA. Nesta sopa, qualquer utilizador de boa‑fé passa a ruído estatístico, mais uma conta a vigiar.

Perante isto, muitas plataformas refugiam‑se na inevitabilidade: só com IA se consegue escalar, dizem. É verdade que nenhuma equipa humana aguenta o volume bruto de lixo e ódio que circula em redes como Reddit, Discord ou X. Mas a escolha nunca foi entre IA total ou caos absoluto. A escolha é entre IA como filtro grosseiro com revisão humana séria, ou IA como juiz final porque fica mais barato no fim do trimestre. E hoje a balança está desequilibrada para o lado do corte de custos.

Para quem modera comunidades concretas, a lição é menos abstrata. Confiar cegamente nos sistemas da plataforma é pôr anos de trabalho à mercê de um classificador opaco treinado em dados que ninguém viu. Para quem participa, significa perceber que aquele comentário paciente a explicar uma lei fiscal portuguesa ou um episódio da história do Brasil pode desaparecer porque um modelo decidiu que a fonte “parece promo”. A ironia é simples: as empresas que venderam as redes sociais como praça pública global estão a delegar a polícia dessa praça em agentes automáticos que nem sequer entendem o idioma local. E quando se apaga o arquivo, o dano não é técnico, é cultural.

Fonte: Ars Technica