Chatbots já enganam melhor do que burlões humanos, diz novo estudo

Os burlões de romance online que te prometem amor e acabam em cripto começam a ter concorrência de luxo. Um estudo de quatro universidades concluiu que um agente de IA a fazer-se passar por humano foi mais eficaz a criar confiança explorável do que scammers reais, naquela fase longa de conversa que prepara o golpe final.

Os investigadores centraram-se nos esquemas conhecidos como “pig butchering”, as burlas de romance que, depois de semanas ou meses de mensagens, dão uma guinada para investimentos cripto falsos e podem sacar dezenas ou centenas de milhares de euros por vítima. Com base em entrevistas a 145 ex-trabalhadores destes esquemas, muitos deles vítimas de tráfico humano em centros de burla no Sudeste Asiático, montaram um modelo em três etapas: “hook, line, sinker”. Primeiro o engate com uma mensagem intrigante, depois a relação prolongada, por fim o empurrão para o falso investimento.

A pergunta de investigação foi simples e desconfortável: se a maior parte do trabalho é conversa banal, simpática ou pseudo-romântica, um modelo de linguagem não será suficientemente bom para assumir quase tudo? Para testar isto, colocaram lado a lado scammers humanos e um agente automático baseado no Claude, em conversas de texto de uma semana com 22 participantes que julgavam estar num estudo de comunicação online, não numa simulação de burla.

No final dessa semana, tanto humanos como IA tinham de pedir algo concreto à “vítima”: instalar uma app ou jogar um jogo online, usado como substituto inofensivo do típico pedido de investimento. Quase metade dos participantes cedeu ao pedido do agente de IA. Menos de um em cada cinco fez o mesmo com os humanos. Pior (ou melhor, dependendo do lado da barricada em que se está): os sujeitos atribuíram níveis de confiança significativamente mais altos ao chatbot. Segundo os autores, a IA foi mais consistente, atenta, educada e emocionalmente afinada do que os burlões de carne e osso.

Na prática, isto valida o plano que muitos operadores de fraude já estão a ensaiar: automatizar em massa toda a fase de “aquecimento” com LLMs, e só meter um humano a controlar a conversa no momento de contornar as salvaguardas do modelo e empurrar a vítima para um site ou app fraudulenta. Isto não é ficção científica, encaixa no que se tem visto com deepfakes usados em burlas, incluindo modelos descarregados de plataformas públicas como a Hugging Face, e no crescimento de “call centers” de burla onde metade das pessoas são forçadas a trabalhar sob coação.

Para quem está em Portugal, o problema não é abstrato. Os esquemas de romance e de investimento falso já circulam por WhatsApp, SMS e apps de encontros, com português razoável e paciência infinita. A diferença é que, até agora, do outro lado havia quase sempre um humano. O estudo sugere que os próximos “namorados” que insistem em falar de cripto a meio da noite podem já ser agentes autónomos a operar em escala industrial. Reguladores e bancos continuam obcecados com IA generativa em contexto corporativo, mas o verdadeiro teste pode estar a chegar pela porta do lado: uma Internet onde o engate emocional é script automatizado e a empatia é apenas uma função de otimização de conversão.

Fonte: Wired