Google não deixa escolas desligar a IA da pesquisa, alerta ONG infantil

A Common Sense Media, organização de referência na avaliação de produtos digitais para crianças nos EUA, classificou a Pesquisa Google com IA como um “risco inaceitável” para alunos. E o ponto mais delicado nem é técnico, é estrutural: escolas e pais não têm forma de desligar o modo de IA sem cortar o acesso completo ao Google.

O problema é o chamado AI Mode na Pesquisa, alimentado pelos mesmos modelos Gemini que a própria Google sujeita a controlo de idade noutras áreas do seu portefólio. Em contas de teste, a Common Sense Media encontrou respostas que fazem trabalhos de casa quase completos, repetem desinformação com ar de certeza absoluta e expõem menores a geração de conteúdos que, noutros produtos, está bloqueada por idade. Resumindo: as barreiras de segurança que existem no YouTube ou no Gemini chat evaporam-se quando passas para a caixa de pesquisa.

A crítica central é de desenho de produto. A Google ligou o AI Mode para toda a gente, incluindo contas de educação, e não criou qualquer botão de desligar. Um administrador escolar pode bloquear Google.com para todos os alunos. Um encarregado de educação pode fazer o mesmo no controlo parental. Mas não pode dizer “quero só a pesquisa clássica, sem resumos de IA”. Numa escola onde todo o trabalho passa por Chromebooks e Workspace for Education, isto equivale a admitir que a infra-estrutura pedagógica está acoplada a um sistema de geração automática de respostas que ninguém localmente controla.

Organizações como a Fairplay for Kids sobem o tom e falam em risco direto para a educação e para a segurança dos miúdos, acusando a Google de recusar uma solução básica: desligar a IA para contas escolares. Ao mesmo tempo, o modelo de pesquisa com resumos de IA já tinha sido criticado por empurrar para segundo plano o acesso ao web aberto, trocando listas de links por um texto pronto-a-consumir. Na sala de aula, o efeito é ainda mais perverso. Substitui o acto de procurar, comparar e avaliar fontes por um botão que cospe “a resposta certa”. Não é só um atalho, é outro tipo de escola.

A Google respondeu dizendo que os testes da Common Sense Media são “estreitos e ambíguos” e que não medem bem a segurança do produto. A empresa sublinha que a análise foi feita em contas de consumidor e não em contas de educação, embora admita que a experiência de IA é essencialmente a mesma. Entretanto, um tribunal alemão já considerou que a Google é legalmente responsável pelos conteúdos produzidos pelos seus resumos de IA. A partir do momento em que a empresa escolhe sintetizar o web por ti, a desculpa de ser “só um intermediário” começa a perder peso.

Para Portugal e resto da Europa, o caso levanta uma questão prática: quem decide que nível de IA é aceitável na escola, a direcção pedagógica ou um produto em beta permanente em Mountain View. Enquanto reguladores afinam leis como o DMA e a Lei dos Serviços Digitais para lidar com plataformas, a Pesquisa com IA entra pelas salas de aula adentro sem granularidade de controlo. A escolha real, hoje, é binária: ou aceitas a IA da Google como está, ou abdicas da pesquisa que domina o acesso à informação. Para um sector que gosta de falar em “autonomia digital”, é uma ironia pouco simpática.

Fonte: The Next Web