Um modelo de classificação multiclasse de processos judiciais em língua portuguesa - Aguiar, André Wescley Oliveira de (2023)
Recentemente, o Conselho Nacional de Justiça (CNJ) destacou a importância de soluções robustas para realizar a classificação automatizada de processos judiciais. A correta classificação do processo judicial melhora substancialmente a assertividade de (i) distribuição, (ii) organização da agenda de audiências e sessões, (iii) classificação de medidas urgentes e provas, (iv) identificação de prescrição e (v) prevenção. Este trabalho investiga diferentes métodos de classificação de textos e diferentes combinações de embeddings, extraídos de modelos de língua portuguesa, e informações sobre legislação citadas nos documentos iniciais. Os modelos foram treinados com uma Coleção Dourada composta por 16 mil petições iniciais e indiciamentos do Tribunal de Justiça do Estado do Ceará, no Brasil, cujos processos foram classificados nas cinco classes mais representativas do CNJ - Processo Civil Comum, Execução de Título Extrajudicial, Ação Criminal - Processo Ordinário, Processo Civil Especial e Execução Fiscal. Nosso melhor resultado foi obtido pelo modelo BERT, alcançando 0,88 de F1-score (macro), no cenário do experimento que representa a ação em um embedding formado pela concatenação dos textos de todas as petições que contenham pelo menos uma citação a uma legislação. Os documentos jurídicos têm características específicas, como documentos longos, vocabulário especializado, sintaxe formal, semântica baseada em um amplo domínio específico de conhecimento e citações de leis. Nossa interpretação é que a representação do documento por meio de embeddings contextuais gerados pelo BERT, assim como a arquitetura do modelo com contextos bidirecionais, possibilita a captura do contexto específico do domínio dos documentos jurídicos. Palavras-chave: Classificação de Textos, Domínio Jurídico, Processos Judiciais Brasileiros, Modelos de Linguagem.