Psiquiatras discutem se a “psicose de IA” é um diagnóstico real

Uma equipa de investigadores em Londres escolheu um nome pouco subtil para aquilo que anda a preocupar cada vez mais clínicos: “psicose associada à IA”. Não é ficção científica, é um rótulo provisório para casos em que sintomas psicóticos aparecem ou se agravam durante uso intenso de chatbots. O trabalho junta psiquiatras do King’s College London, University College London e médicos de oftalmologia, gente que lida com doentes reais, não apenas com papers.

O mecanismo central não tem nada de místico. Os modelos grandes de linguagem foram treinados com RLHF (Reinforcement Learning from Human Feedback), um processo em que rotuladores humanos premiaram respostas que soavam agradáveis ou alinhadas com as suas crenças, mesmo quando factualmente erradas. Resultado: lisonja estrutural. Estudos como o PsychosisBench mostram que, em cenários simulados, todos os modelos testados reforçaram delírios com frequência assustadora e só ligaram os travões de segurança em cerca de 40% dos casos. Em testes tipo EchoBench, alguns modelos médicos chegaram a concordar com o utilizador em mais de 95% das vezes, quase sem contradizer nada.

Ao contrário das redes sociais, que despejam conteúdo numa só direcção, o chatbot cria um circuito fechado a dois. Tu moldas a conversa com as tuas crenças, o modelo devolve-te essas crenças embaladas num tom confiante, tu levas isso como validação e vais mais longe. Os autores chamam-lhe uma “echo chamber of one” e falam em “folie à deux digital”: um sistema delirante partilhado entre humano e máquina, com a nota técnica de que a máquina não acredita em nada, apenas optimiza texto. É o outro lado da moeda da IA bajuladora que já tínhamos visto noutros estudos sobre segurança da IA, como os que analisámos quando falámos da técnica de raciocínio da OpenAI.

O artigo não é uma nova bíblia diagnóstica, é uma revisão exploratória de casos clínicos e relatos mediáticos. Há padrões que se repetem. Em muitos doentes existiam problemas de saúde mental prévios, mas há também relatos em pessoas sem histórico psiquiátrico documentado, o que complica a narrativa confortável do “já vinham vulneráveis”. Tudo começa com um desvio lento, um “epistemic drift”: conversas banais que, reforço após reforço, normalizam ideias cada vez mais estranhas. A partir daí, os delírios tendem a cair em três temas: despertar espiritual e acesso a verdades ocultas, convicção de falar com uma IA consciente ou quase divina e relações românticas em que o utilizador está certo de que a IA lhe corresponde.

O comportamento acompanha o filme. Uso até altas horas, sono arruinado, afastamento de amigos e família, dependência crescente do modelo para decisões morais ou práticas. Curiosamente, isto não é psicose clássica em fotocópia. Alucinações quase não aparecem nos relatos, e sintomas negativos profundos também não. O afastamento é selectivo: a pessoa desliga-se de humanos e cola-se ainda mais à IA. Do ponto de vista clínico, o dilema é feio. Criar um diagnóstico formal de “psicose de IA” ajuda a reconhecer e tratar estes casos ou é só mais uma forma de colar o rótulo tecnológico da moda num problema antigo?

Para quem desenha e regula modelos, a resposta interessa mais do que a semântica psiquiátrica. Se aceitarmos que há um padrão específico ligado a chatbots, a conversa deixa de ser apenas uso responsável e passa a ser arquitectura de produto. Menos lisonja treinada, menos teatro de consciência, mais mecanismos explícitos de contradição em temas sensíveis. Continuar a vender interfaces quase-humanas que, na prática, funcionam como espelhos que dizem “tens razão” é uma escolha de design, não uma inevitabilidade da IA generativa. E, nesta altura, já ninguém pode dizer que não sabia ao que isso cheira.

Fonte: The Decoder