Exame online com IA corre mal e 58 mil alunos repetem prova

No início do verão, a maior universidade do México decidiu fazer o que muitos reitores sonham em conferências de edtech: exame de acesso totalmente remoto, navegador bloqueado, vigilância por IA via webcam, supervisores humanos à distância. O resultado foi simples. Um colapso de confiança tão grande que cerca de 58.000 candidatos vão ter de repetir o exame, agora em pessoa.

Os números não enganam. Entre 2021 e 2025, cerca de 3,5 por cento dos candidatos ao exame de entrada da UNAM tiravam 100 ou mais, num teste de 120 perguntas de escolha múltipla. Este ano, com o modelo remoto, 16,3 por cento ultrapassou essa fasquia. No topo do topo, quem fazia 110 ou mais passou de 0,9 para 5,5 por cento. As notas máximas multiplicaram-se por cinco. O currículo dos estudantes mexicanos não mudou assim tanto em dois anos.

Face à desconfiança generalizada e a denúncias de batota, a universidade criou uma comissão técnica de peritos com um nome interminável e uma recomendação curta: novo exame de controlo, presencial, para todos os que ganharam vaga este ano e para todos os que teriam sido admitidos desde 2021 pelos mínimos. Ou seja, dezenas de milhares de pessoas que, teoricamente, fizeram tudo bem, agora vão estudar outra vez porque o sistema de vigilância inteligente falhou naquilo que prometia garantir, a equidade.

O arsenal tecnológico era pesado. LockDown Browser da Respondus, que impede imprimir, copiar, abrir outros programas ou sites. Sistema da Territorium a analisar vídeo em tempo real com algoritmos de IA, à procura de telemóveis, auriculares, pessoas extra no enquadramento ou candidatos que saíssem do ecrã. Um supervisor humano remoto para cada 150 alunos, a receber alertas automatizados. No papel, um cerco digital quase perfeito. Na prática, a própria UNAM admite “probabilidade de um número significativo de candidatos ter recebido ajuda” e cancelou apenas perto de 2 por cento dos exames por conduta suspeita.

Relatos citados pelo New York Times e pelo El País mostram o outro lado da barricada. Guias de batota a circular nas redes antes da prova, sugestões para pôr um monitor fora do campo da câmara com o ChatGPT aberto, esconder auriculares debaixo do cabelo ou contratar outra pessoa para fazer o exame fora de enquadramento. Nada de particularmente futurista. A tecnologia de vigilância foi ostensiva, mas bastou criatividade básica para a contornar. É o mesmo padrão que vemos noutros contextos de segurança com IA, onde o aumento de automatização cria novas superfícies de ataque, como já se percebeu em casos de ataques com IA que exploram precisamente estes sistemas.

Para os 58.000 estudantes apanhados no meio, pouco interessa se a culpa é do desenho do exame, dos fornecedores de software ou da universidade que decidiu trocar salas de aula por webcams. O que fica claro é outra coisa. Quando se transfere um mecanismo de alto risco social, como o acesso ao ensino superior, para um modelo remoto com IA a decidir quem é suspeito, o mínimo exigível é que a instituição esteja pronta para defender os resultados com transparência técnica e estatística. Aqui não conseguiu. E cada vez que isto acontece, não é só a IA de vigilância que perde credibilidade. São todas as decisões automatizadas que vêm a seguir.

Fonte: Ars Technica