Sem ChatGPT no tribunal: juiz manda que conteúdos IA sejam checados

Usar o ChatGPT para preencher uma petição ou apresentar argumentos no tribunal do juiz Brantley Starr no Distrito Norte do Texas, nos EUA, tornou-se uma aventura arriscada para qualquer advogado. É que o magistrado não quer correr riscos de que a “criatividade delirante” da IA generativa prejudique o bom andamento dos processos, como ocorreu recentemente em um tribunal de Manhattan.

Embora não citado formalmente pelo juiz Starr, o caso ocorrido na semana passada envolveu a “complementação” da pesquisa jurídica feita pelo advogado Steven Schwartz, através do ChatGPT. Para espanto de todos, os seis casos argumentativos apresentados não eram reais, mas uma criação “alucinada”, leia-se inventada, pelo modelo de linguagem.

Para evitar que esse tipo de gafe de proporções nacionais ocorra em sua área de atuação, o magistrado utilizou suas prerrogativas como titular de uma das cortes mais importantes do país para criar uma “Certificação obrigatório em relação à inteligência artificial generativa”, de preenchimento obrigatório por todos os advogados.

O que é a Certificação obrigatória para IA generativa?

O modelo de certificado obrigatório idealizado pelo juiz Starr deve ser assinado por todos os advogados que atuarem naquele tribunal e arquivado junto ao processo, atestando que nenhuma parte dele foi redigida por IA artificial generativa (como ChatGPT, Harvey.AI ou Google Bard ou similares).

No caso de parte dos processos ter sido redigida por esse tipo de dispositivo, os autores da petição devem igualmente atestar que os conteúdos “foram verificados quanto à precisão, utilizando relatórios impressos ou bancos de dados jurídicos tradicionais, por um ser humano”.

Sobre o motivo da criação do modelo, a explicação apresentada foi que, no seu formato atual, essas plataformas de IA generativa “inventam coisas — de citações a referências”. Além disso, diz a nota explicativa, enquanto advogados reais juram deixar de lado seus preconceitos, o mesmo não ocorre com programas criados por humanos sem essa preocupação.