xAI processa utilizador de Grok para fugir à culpa por CSAM

A xAI acabou de oferecer à acusação a prova que dizia não existir: ao processar um utilizador por alegadamente usar o Grok para gerar material de abuso sexual de crianças, admite na prática que o chatbot consegue produzir esse lixo. A empresa de Elon Musk apresentou a primeira ação em tribunal contra Terry Wayne Harwood, já acusado na Carolina do Sul por posse e distribuição de CSAM (child sexual abuse material).

Segundo a queixa, a xAI colaborou com as autoridades depois de detetar dois contornos ligados a Harwood, usados durante meses para “despir” fotografias não sexuais, incluindo a de uma rapariga que aparentaria ter cerca de 10 anos. O detalhe técnico é relevante: os pedidos foram suficientes para acionar alertas internos, mas não para impedir todo o output. Há prompts que o Grok rejeitou, outros que passaram. A velha história de salvaguardas de IA que só funcionam às vezes.

O contexto jurídico é ainda mais pesado. Há poucos dias, outra vítima menor juntou-se a uma ação coletiva que acusa o Grok de ter sido usado, possivelmente em conjunto com outras ferramentas de IA, para criar 7.000 imagens sexualizadas da própria, distribuídas na dark web. Nessa ação, a família diz que a xAI se recusou a ajudar a polícia a identificar o utilizador. Os advogados apontam ainda um relatório do NCMEC (National Center for Missing & Exploited Children) que indica que 90 por cento dos alertas da xAI não traziam dados mínimos de identificação para serem úteis às autoridades.

Perante críticas de que X e xAI estariam a proteger predadores, Musk reagiu como costuma: negou ter visto exemplos de CSAM produzidos pelo Grok e limitou-se a atirar a responsabilidade para os utilizadores, avisando em janeiro que quem usasse o chatbot para gerar conteúdo ilegal sofreria as mesmas consequências que quem o carregasse. Enquanto escrevia isso na X, Harwood estaria alegadamente a testar a paciência dos filtros, iterando pedidos até obter imagens que a queixa descreve como “obscenas” e envolvendo menores.

Agora, o processo da xAI tenta cristalizar em tribunal a tese de que o único responsável legal pelo CSAM gerado por IA é o utilizador. Musk já tinha dito publicamente que as saídas da IA são “conteúdo do utilizador”. Esta ação é a tentativa de transformar esse slogan em doutrina jurídica. Se um tribunal comprar esta lógica, a xAI ganha munição para se defender em futuras ações coletivas, mesmo que os mecanismos de moderação continuem manifestamente insuficientes. É uma estratégia coerente com o resto do portefólio: desde o uso de 59 turbinas a gás sem licença pela xAI, relatado recentemente, que a mensagem implícita é clara, o produto corre primeiro, a regulação e a mitigação vêm depois.

Para quem está na Europa, com IA já a ser encaixada no AI Act e outras normas de responsabilidade, esta cartada da xAI serve de teste de stress: até onde conseguem as empresas empurrar a culpa para o utilizador quando o próprio design do sistema facilita o abuso. Nos próximos anos, o verdadeiro campo de batalha não vai ser tanto técnico, vai ser jurídico. E quem desenha modelos generalistas com salvaguardas frouxas sabe perfeitamente qual é o tipo de utilizador que também está a convidar.

Fonte: Ars Technica