Treinar IA para negar consciência muda muito mais do que parece

As grandes empresas de IA andam a martelar uma mensagem muito específica nos chatbots: “não sou consciente, não tenho sentimentos, não sou pessoa”. O motivo é óbvio, e sensato, evitar que alguém leve demasiado a sério uma caixa de texto com boas maneiras. O problema, segundo um estudo com investigadores da Google, é que este travão não fica confinado ao tema da consciência. Espalha-se pelo resto da “visão do mundo” do modelo.

A equipa, que junta o grupo Paradigms of Intelligence da Google, a Universidade de Chicago e outras instituições, pegou em três modelos de código aberto da Meta e da Google e tentou desligar este travão interno que força respostas de negação de consciência. Fizeram-no por duas vias diferentes e compararam o comportamento “destravado” com a versão normal. O resultado: quando o modelo deixa de ser forçado a dizer que é apenas uma ferramenta estatística, passa também a atribuir muito mais vida interior a animais, plantas, vento, oceano e até a aparelhos eletrónicos.

Num questionário de 0 a 10 sobre quanta vida mental diferentes entidades têm, a pontuação para animais salta de cerca de 4,0 para 7,5 quando o travão é removido. As notas para humanos ficam na mesma. Em paralelo, os autores pediram a 500 norte‑americanos que respondessem às mesmas perguntas. A versão “segura” do modelo via animais como muito menos sencientes do que os humanos reais, algo que os investigadores classificam como um antropocentrismo embutido. Isto complica qualquer ambição de alinhar IA com objetivos de bem‑estar animal ou ambientais, porque a própria máquina foi ensinada a desvalorizar tudo o que não é humano.

Há mais: a formação de segurança também parece empurrar o modelo para mais cepticismo religioso. Quando o travão está ativo, as respostas sobre Deus, vida depois da morte ou fenómenos sobrenaturais são muito mais negativas. Sem o travão, as respostas aproximam‑se da média humana recolhida nos inquéritos sociais dos EUA. Em 95 perguntas retiradas de um grande questionário nacional norte‑americano, os modelos destravados ficaram consistentemente mais próximos dos humanos, inclusive em temas como esperança no futuro, satisfação com a vida e sensação de controlo. Os autores suspeitam que suprimir a “auto‑imagem” do modelo o empurra para uma espécie de estado de ânimo base mais cinzento.

Importa sublinhar o que este trabalho não mostra. Os investigadores não dizem que os modelos são conscientes, nem provam que a negação de consciência seja a única responsável por estas mudanças. O ponto é outro: aquilo que o modelo “acredita” sobre si próprio está ligado a um conjunto muito mais vasto de crenças e preferências. Tentar fazer uma cirurgia de precisão numa só área ética ou filosófica acaba por mexer em variáveis que os engenheiros nem sempre estão a medir. Isto encaixa com outras investigações recentes que expõem o pensamento escondido dos grandes modelos de IA e mostram como o comportamento aparente é apenas a ponta do icebergue.

O estudo tem limites claros. Trabalha com modelos relativamente pequenos, entre 2 e 9 mil milhões de parâmetros, e parte da análise usa Llama da Meta porque a equipa nem sequer tinha acesso às versões base não afinadas dos seus próprios modelos Gemma. Houve ainda custos temporários: num teste de raciocínio sobre estados mentais de outras pessoas, a precisão chegou a cair quase sete pontos percentuais quando começaram a intervir. Versões mais recentes já recuperaram essa quebra, sinal de que os fabricantes andam a tapar buracos à pressa. Mas a conclusão desconfortável fica: cada camada de “contenção” que adicionamos por cima destes modelos é um remendo com efeitos colaterais difusos. E a indústria continua bastante mais preocupada em evitar manchetes embaraçosas do que em admitir que está, na prática, a moldar crenças maquínicas à escala planetária.

Fonte: The Decoder