Um advogado norte-americano foi multado em 5.000 dólares, cerca de 4.600€, por apresentar ao Supremo Tribunal do Novo México um recurso de homicídio recheado de testemunhas inventadas e depoimentos de polícia que nunca existiram. A origem da ficção jurídica: um texto gerado por IA, alegadamente com ajuda do ChatGPT, que o advogado tratou como se fosse uma transcrição fiável do julgamento.
No acórdão divulgado esta semana, o tribunal diz que o articulado de Stephen Aarons “continha depoimentos falsos de testemunhas totalmente fabricadas”, bem como falsas descrições da roupa e aparência do atirador. A linguagem é dura: o Supremo declarou-o em contempt of court, uma espécie de desrespeito qualificado, por não ter verificado “as afirmações factuais e a autoridade legal” do texto gerado por IA antes de o entregar como se fosse trabalho sério.
Durante a audição em agosto, citada pela Reuters, a juíza C. Shannon Bacon não teve muita paciência para o argumento de ingenuidade tecnológica. Ao ouvir Aarons admitir que acreditava que a IA iria produzir um resumo “à prova de bala” do julgamento, respondeu com uma pergunta que devia ser tatuada em muitos escritórios de advogados: “Dr. advogado, vê notícias? Ouve rádio? Lê alguma coisa sobre o que se passa no mundo?” E sublinhou que o problema de advogados a confiarem em alucinações de IA “é história de primeira página todos os dias”.
O caso encaixa numa sequência já longa de disparates jurídicos com IA generativa. No ano passado, um juiz em Nova Iorque criticou dois escritórios por entregarem um articulado com “inúmeras citações e citações legais falsas, imprecisas e enganosas” criadas por um modelo de IA, e os advogados do empresário conspiracionista Mike Lindell também foram multados por usarem citações inventadas. A diferença agora é o contexto: estamos a falar de um recurso de condenação por homicídio, não de um litígio comercial abstrato. A fronteira entre automatizar trabalho chato e brincar com a liberdade de alguém foi alegremente ignorada.
Aarons diz, em declaração enviada à Reuters, que está arrependido e espera que a ordem disciplinar tenha em conta tratar-se de “um erro honesto”. O problema é que a desculpa do “erro honesto” começa a soar a padrão de negligência. Não é segredo que modelos de linguagem alucinam, não é segredo que as ordens dos advogados em vários países já emitiram avisos claros. Quem continua a despejar respostas de IA em peças processuais sem verificação está menos a experimentar tecnologia e mais a externalizar responsabilidade.
Para quem olha a partir de Portugal, o recado é simples: a IA pode resumir, sugerir e ajudar, mas a autoria permanece humana, e a responsabilidade também. Numa altura em que já vimos a IA ser usada para extorsão sexual e manipulação de prova digital, tratar um modelo de texto como se fosse um estenógrafo infalível é perigosamente ingénuo. Os tribunais, nos EUA ou aqui, não vão ajustar o padrão de diligência profissional só porque um advogado decidiu delegar o trabalho no chatbot da moda.
Fonte: The Verge
Comentários · 0