ChatGPT e Roblox entram na mira máxima do Digital Services Act

A lista europeia de VLOPs, as chamadas “plataformas muito grandes” do Digital Services Act (DSA), vai ganhar dois nomes que andavam a fintar os holofotes regulatórios: ChatGPT e Roblox. Segundo a Bloomberg, Bruxelas prepara-se para lhes colar a mesma etiqueta que já tem Facebook, Instagram, TikTok, YouTube, X, Google Maps ou WhatsApp, com a decisão a chegar em agosto. Não é simbólico. É a porta de entrada para o regime mais pesado que a União Europeia tem para serviços digitais.

No DSA, o critério é simples e bastante frio: mais de 45 milhões de utilizadores mensais na UE. A partir daí, o estatuto de VLOP dispara um conjunto de obrigações que vão muito além de apagar conteúdos quando alguém se queixa. Em quatro meses, ChatGPT e Roblox terão de criar um ponto de contacto oficial com autoridades e utilizadores, reescrever termos e condições em linguagem decente, tornar transparentes os sistemas de recomendação e a publicidade, e explicar decisões de moderação. Também passam a ter de reportar crimes às autoridades de forma estruturada.

O ponto mais sensível é a gestão de riscos sistémicos. A lei obriga estas plataformas a identificar riscos ligados a conteúdos ilegais, processos eleitorais, violência de género, liberdade de expressão, liberdade de imprensa e discriminação. Depois, têm de provar que estão a tentar mitigá-los. Isso significa processos internos de compliance, auditorias anuais independentes, partilha de dados com a Comissão Europeia e acesso para investigadores credenciados. Para empresas habituadas a guardar dados e algoritmos como segredo industrial absoluto, isto é um choque cultural, não só jurídico.

No caso de Roblox, a pressão não chega em branco. A plataforma tem um histórico de problemas de segurança infantil e enfrenta processos de várias autoridades nos EUA, acusada de práticas enganosas e de não proteger crianças de comportamentos predatórios de adultos. Traduzido para o contexto europeu, a empresa vai ter de mostrar que sabe detetar e mitigar estes riscos no próprio design do serviço. A tolerância para “ups, não vimos” reduz-se bastante quando a Comissão pode pedir os números e chamar auditores.

Do lado da OpenAI, a designação como VLOP cruza-se com um passado recente pouco confortável. A empresa falhou ao não informar autoridades quando baniu a conta de ChatGPT de um suspeito de um tiroteio em massa no Canadá em 2025, e só depois prometeu reportar ameaças credíveis. Soma-se a isso um conjunto de processos por morte injusta apresentados por famílias de utilizadores que se suicidaram, alegando ausência de salvaguardas adequadas para comportamentos suicidas. Com o DSA em cima, deixar estes temas num limbo de “boas práticas voluntárias” deixa de ser viável para um serviço que já opera, de facto, como infraestrutura de IA para milhões de europeus.

Para quem está na UE, isto significa mais formulários, mais avisos de alteração de termos e possivelmente alterações no funcionamento de recomendações, chat safety e publicidade, tanto em ChatGPT como em Roblox. Para as empresas, significa custos adicionais num momento em que o investimento em infraestruturas de IA na Europa já acelera por via de acordos como o megaparceria entre Microsoft e Mistral, descrita aqui. A UE não está a tentar travar estas plataformas. Está a deixá-las crescer, mas com cinto de segurança apertado e luzes acesas. Quem não gostar do regime pode sempre sair do mercado europeu, mas é difícil imaginar Wall Street a aplaudir esse gesto de princípio.

Fonte: Engadget