Tribunais de diferentes países estão registrando um crescimento de petições judiciais produzidas com auxílio de ferramentas de inteligência artificial que trazem citações de processos inexistentes e outros erros factuais. Nos últimos seis meses, pelo menos 490 documentos com informações falsas — conhecidas como “alucinações” — foram identificados, de acordo com o advogado e cientista de dados francês Damien Charlotin, pesquisador da HEC Paris.
Segundo Charlotin, o problema atinge até profissionais experientes. “A IA é maravilhosa, mas também perigosa”, afirmou o pesquisador.
Em casos recentes nos Estados Unidos, juízes chegaram a aplicar multas. Um advogado que representa a MyPillow Inc. foi penalizado após apresentar dezenas de citações incorretas geradas por inteligência artificial.
Recomendações para o uso responsável
Especialistas aconselham que as ferramentas de IA sejam tratadas como apoio de produtividade, jamais como substitutas do julgamento humano. “Pense nela como uma ferramenta que melhora o fluxo de trabalho”, declarou Maria Flynn, diretora-executiva da organização Jobs for the Future.
Flynn ressalta a necessidade de checagem manual de cada dado inserido em documentos jurídicos: “A IA pode confundir fatos, e cabe ao usuário conferir cada informação antes de confiar nela”.
Imagem: THICHA SATAPITAN
Advogados também alertam para riscos de privacidade, especialmente no manuseio de informações confidenciais e em gravações automáticas de reuniões alimentadas em modelos de IA.
Com informações de WizyThec
