Um modelo para classificação de código CID utilizando mecanismos de atenção e redes transformers
| Ano de defesa: | 2022 |
|---|---|
| Autor(a) principal: | |
| Orientador(a): | |
| Banca de defesa: | |
| Tipo de documento: | Dissertação |
| Tipo de acesso: | Acesso aberto |
| Idioma: | por |
| Instituição de defesa: |
Não Informado pela instituição
|
| Programa de Pós-Graduação: |
Não Informado pela instituição
|
| Departamento: |
Não Informado pela instituição
|
| País: |
Não Informado pela instituição
|
| Palavras-chave em Português: | |
| Link de acesso: | https://repositorio.fei.edu.br/handle/FEI/5762 |
Resumo: | A família de códigos International Classification of Diseases (ICD) se tornou o padrão internacional de classificação de diagnósticos médicos, sendo utilizada por mais de 117 países (JAKOB, 2017). A variação Brasileira é conhecida por Classificação Estatística Internacional de Doenças e Problemas Relacionados com a Saúde (CID), atualmente na sua décima versão, sendo compulsória nos casos de informações de mortalidade e morbidade (LAURENTI et al., 2013). Prontuários eletrônicos de pacientes usualmente apresentam descrições textuais do diagnóstico e pessoas especializadas são responsáveis pela revisão e atribuição dos códigos seguindo diretrizes de seleção. Esse processo é manual, demorado, sujeito a erros e de alto investimento financeiro, uma vez que esses documentos apresentam regionalismos linguísticos, abreviações e a não utilização da norma culta do idioma (XIE; XING, 2018). Uma abordagem ao problema, no contexto de Processamento de Linguagem Natural (PLN), é a utilização de codificadores-decodificadores, que são amplamente empregados em Máquinas Neurais de Tradução (NMTs) e possuem a capacidade de transformar uma sequência de entrada em uma sequência de saída. Normalmente, as primeiras etapas desses modelos são o pré-processamento e tokenização do texto e a representação semântica das palavras em um domínio vetorial. As etapas de codificação e decodificação são livres para serem modeladas com redes neurais artificiais distintas, e algumas técnicas que tem apresentado resultados promissores são baseadas nos mecanismos de atenção (BAHDANAU; CHO; BENGIO, 2016). Esses mecanismos podem ser empregados em conjunto com as Redes Neurais Recorrentes (RNNs) ou através das topologias Transformers, arquitetura de rede onde o mecanismo de atenção é predominante (VASWANI et al., 2017). Desse modo, o presente trabalho busca modelar e implementar uma rede neural artificial com mecanismos de atenção para classificação de códigos ICD em prontuários médicos e investigar a influência da tokenização do texto nessa aplicação. |
| id |
FEI_8cf28e9ecd213e2251089b707c5e27d6 |
|---|---|
| oai_identifier_str |
oai:repositorio.fei.edu.br:FEI/5762 |
| network_acronym_str |
FEI |
| network_name_str |
Repositório do Conhecimento Institucional do Centro Universitário da Fundação Educacional Inaciana (FEI) |
| repository_id_str |
|
| spelling |
Borges, Cláudio Aparecido http://lattes.cnpq.br/4456728413230670https://orcid.org/0000-0003-0873-3236Lopes, Guilherme Alberto Wachs2025-05-20T21:25:34Z2022-03-25https://repositorio.fei.edu.br/handle/FEI/5762A família de códigos International Classification of Diseases (ICD) se tornou o padrão internacional de classificação de diagnósticos médicos, sendo utilizada por mais de 117 países (JAKOB, 2017). A variação Brasileira é conhecida por Classificação Estatística Internacional de Doenças e Problemas Relacionados com a Saúde (CID), atualmente na sua décima versão, sendo compulsória nos casos de informações de mortalidade e morbidade (LAURENTI et al., 2013). Prontuários eletrônicos de pacientes usualmente apresentam descrições textuais do diagnóstico e pessoas especializadas são responsáveis pela revisão e atribuição dos códigos seguindo diretrizes de seleção. Esse processo é manual, demorado, sujeito a erros e de alto investimento financeiro, uma vez que esses documentos apresentam regionalismos linguísticos, abreviações e a não utilização da norma culta do idioma (XIE; XING, 2018). Uma abordagem ao problema, no contexto de Processamento de Linguagem Natural (PLN), é a utilização de codificadores-decodificadores, que são amplamente empregados em Máquinas Neurais de Tradução (NMTs) e possuem a capacidade de transformar uma sequência de entrada em uma sequência de saída. Normalmente, as primeiras etapas desses modelos são o pré-processamento e tokenização do texto e a representação semântica das palavras em um domínio vetorial. As etapas de codificação e decodificação são livres para serem modeladas com redes neurais artificiais distintas, e algumas técnicas que tem apresentado resultados promissores são baseadas nos mecanismos de atenção (BAHDANAU; CHO; BENGIO, 2016). Esses mecanismos podem ser empregados em conjunto com as Redes Neurais Recorrentes (RNNs) ou através das topologias Transformers, arquitetura de rede onde o mecanismo de atenção é predominante (VASWANI et al., 2017). Desse modo, o presente trabalho busca modelar e implementar uma rede neural artificial com mecanismos de atenção para classificação de códigos ICD em prontuários médicos e investigar a influência da tokenização do texto nessa aplicação.The International Classification of Diseases (ICD) family of codes has become the international standard for the classification of medical diagnoses, being used by more than 117 countries (JAKOB, 2017). The Brazilian variant is the Classificação Estatística Internacional de Doenças e Problemas Relacionados com a Saúde (CID), currently in its tenth version, and is compulsory in cases of mortality and morbidity information (LAURENTI et al., 2013). Electronic Health Records usually present textual descriptions of the diagnosis, and specialized staffs are responsible for reviewing and assigning codes following selection guidelines. This process is manual, time-consuming, error prone, and costly, since these documents present linguistic regionalisms, abbreviations, and the non-use of the official language standard (XIE; XING, 2018). One approach to the problem, in the context of Natural Language Processing (NLP), is the use of encoders-decoders, which are widely used in Neural Machine Translations (NMTs) and have the ability to transform an input sequence into an output sequence. Usually, the first steps of these models are text pre-processing and tokenization, and the semantic representation of words in a vector domain. The encoding and decoding steps are free to be modeled with different artificial neural networks, and some techniques that have shown promising results are based on attention mechanisms (BAHDANAU; CHO; BENGIO, 2016). These mechanisms can be employed in conjunction with Recurrent Neural Networks (RNNs) or through Transformers topology, a network architecture where the attention mechanism is dominant. Therefore, this work seeks to model and implement an artificial neural network with attention mechanisms for the classification of ICD codes in medical records and investigate the influence of text tokenization in this application.Fundação Educacional Inaciana Padre Saboia de Medeiros94codificador-decodificadorreponame:Repositório do Conhecimento Institucional do Centro Universitário da Fundação Educacional Inaciana (FEI)instname:Centro Universitário da Fundação Educacional Inaciana (FEI)instacron:FEIatençãocidicdlstmtransformerattentionncoder-decoderUm modelo para classificação de código CID utilizando mecanismos de atenção e redes transformersinfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisInteligência Artificial Aplicada à Automação e Robóticainfo:eu-repo/semantics/openAccesspor2025São BernardoORIGINALfulltextfulltextapplication/pdf3871676https://repositorio.fei.edu.br/bitstreams/a0f551ba-0941-473b-ae3d-30b9500293b7/download8107b92f43d8ab9349054fb9e7777434MD51trueAnonymousREADLICENSElicense.txtlicense.txttext/plain; charset=utf-81782https://repositorio.fei.edu.br/bitstreams/ed7911fc-003c-4f19-ac01-a0390e96a6f1/downloada8599e541ca34db5dd9a6620d60cb675MD52falseAnonymousREADTEXTfulltext.txtfulltext.txtExtracted texttext/plain103612https://repositorio.fei.edu.br/bitstreams/c832cbc0-a0e2-4c0f-a32e-259de54a99c5/download96567535ee4667112db2c296c7143846MD53falseAnonymousREADTHUMBNAILfulltext.jpgfulltext.jpgGenerated Thumbnailimage/jpeg2483https://repositorio.fei.edu.br/bitstreams/0141e72c-1528-4fda-be34-8ba2f8bc7d44/download30a1ab58975eb3dcd972c3110fe69803MD54falseAnonymousREADFEI/57622026-06-01 18:54:09.509open.accessoai:repositorio.fei.edu.br:FEI/5762https://repositorio.fei.edu.brBiblioteca Digital de Teses e Dissertaçõeshttp://sofia.fei.edu.br/pergamum/biblioteca/PRIhttps://repositorio-api.fei.edu.br/server/oai/requestcfernandes@fei.edu.bropendoar:2026-06-01T18:54:09Repositório do Conhecimento Institucional do Centro Universitário da Fundação Educacional Inaciana (FEI) - Centro Universitário da Fundação Educacional Inaciana (FEI)falseTGljZW7Dp2EgZGUgRGlzdHJpYnVpw6fDo28gTsOjby1FeGNsdXNpdmEKPGJyPgpBbyBjb25jb3JkYXIgY29tIG9zIHRlcm1vcyBlIGFjZWl0YXIgZXN0YSBsaWNlbsOnYSB2b2PDqiAoYXV0b3Igb3UgZGV0ZW50b3IgZG9zIGRpcmVpdG9zIGF1dG9yYWlzKToKPGJyPgphKSBDb25jZWRlIGFvIENlbnRybyBVbml2ZXJzaXTDoXJpbyBGRUkgbyBkaXJlaXRvIG7Do28gZXhjbHVzaXZvIGRlIGFycXVpdmFyLCByZXByb2R1emlyLCBjb252ZXJ0ZXIgKGNvbW8gZGVmaW5pZG8gYWJhaXhvKSwgZS9vdSBkaXN0cmlidWlyIG8gZG9jdW1lbnRvIHN1Ym1ldGlkbyAoaW5jbHVpbmRvIG8gcmVzdW1vL2Fic3RyYWN0KSBlbSBmb3JtYXRvIGRpZ2l0YWwgb3UgcG9yIHF1YWxxdWVyIG91dHJvIG1laW87PGJyPgpiKSBDb25jZWRlIGFvIENlbnRybyBVbml2ZXJzaXTDoXJpbyBGRUkgbyBkaXJlaXRvIGRlIGNvbnZlcnRlciBlc3RlIGRvY3VtZW50bywgc2VtIGFsdGVyYXIgbyBzZXUgY29udGXDumRvIG9yaWdpbmFsLCBwYXJhIHF1YWxxdWVyIG1laW8gb3UgZm9ybWF0bywgYXNzaW0gY29tbywgYSBtYW50ZXIgbWFpcyBkZSB1bWEgY8OzcGlhIGRvIGRvY3VtZW50byBzdWJtZXRpZG8gcGFyYSBlZmVpdG9zIGRlIHNlZ3VyYW7Dp2EsIGJhY2stdXAgZS9vdSBwcmVzZXJ2YcOnw6NvOzxicj4KYykgRGVjbGFyYSBxdWUgbyBkb2N1bWVudG8gc3VibWV0aWRvIMOpIHNldSB0cmFiYWxobyBvcmlnaW5hbCwgZSBxdWUgZGV0w6ltIG8gZGlyZWl0byBkZSBjb25jZWRlciBvcyBkaXJlaXRvcyBjb250aWRvcyBuZXN0YSBsaWNlbsOnYS4gRGVjbGFyYSB0YW1iw6ltIHF1ZSBhIHN1Ym1pc3PDo28gZG8gZG9jdW1lbnRvLCBkZSBhY29yZG8gY29tIG8gc2V1IGNvbmhlY2ltZW50bywgbsOjbyBpbmZyaW5nZSBvcyBkaXJlaXRvcyBhdXRvcmFpcyBkZSBxdWFscXVlciBwZXNzb2Egb3UgZW50aWRhZGU7PGJyPgpkKSBTZSBvIGRvY3VtZW50byBzdWJtZXRpZG8gY29udMOpbSBtYXRlcmlhbCBkbyBxdWFsIG7Do28gZGV0w6ltIG9zIGRpcmVpdG9zIGRlIGF1dG9yLCBkZWNsYXJhIHF1ZSBvYnRldmUgYSBhdXRvcml6YcOnw6NvIGlycmVzdHJpdGEgZG9zIGRpcmVpdG9zIGF1dG9yYWlzIHBhcmEgY2VkZXIgYW8gQ2VudHJvIFVuaXZlcnNpdMOhcmlvIEZFSSBjb25mb3JtZSByZXF1ZXJpZG8gcG9yIGVzdGEgTGljZW7Dp2EuIERlY2xhcmEgdGFtYsOpbSBxdWUgdGFsIG1hdGVyaWFsLCBjdWpvcyBkaXJlaXRvcyBzw6NvIGRlIHRlcmNlaXJvcywgZXN0w6EgY2xhcmFtZW50ZSBpZGVudGlmaWNhZG8gZSByZWNvbmhlY2lkbyBubyB0ZXh0byBvdSBjb250ZcO6ZG8gZGEgc3VibWlzc8Ojby48YnI+CmUpIFNlIG8gZG9jdW1lbnRvIHN1Ym1ldGlkbyDDqSBiYXNlYWRvIGVtIHRyYWJhbGhvIGZpbmFuY2lhZG8gb3UgYXBvaWFkbyBwb3Igb3V0cmEgaW5zdGl0dWnDp8OjbyBxdWUgbsOjbyBvIENlbnRybyBVbml2ZXJzaXTDoXJpbyBGRUksIGRlY2xhcmEgcXVlIGN1bXByaXUgcXVhaXNxdWVyIG9icmlnYcOnw7VlcyBleGlnaWRhcyBwb3IgdGFsIGNvbnRyYXRvIG91IGFjb3JkbzsKPGJyPgpPIENlbnRybyBVbml2ZXJzaXTDoXJpbyBGRUkgaWRlbnRpZmljYXLDoSBjbGFyYW1lbnRlIG8ocykgbm9tZShzKSBkbyhzKSBhdXRvcihlcykgb3UgZGV0ZW50b3IoZXMpIGRvcyBkaXJlaXRvcyBhdXRvcmFpcyBkbyBkb2N1bWVudG8gc3VibWV0aWRvIGUgbsOjbyBmYXLDoSBxdWFscXVlciBhbHRlcmHDp8OjbywgcGFyYSBhbMOpbSBkYXMgcGVybWl0aWRhcyBwb3IgZXN0YSBsaWNlbsOnYS4K |
| dc.title.none.fl_str_mv |
Um modelo para classificação de código CID utilizando mecanismos de atenção e redes transformers |
| title |
Um modelo para classificação de código CID utilizando mecanismos de atenção e redes transformers |
| spellingShingle |
Um modelo para classificação de código CID utilizando mecanismos de atenção e redes transformers Borges, Cláudio Aparecido atenção cid icd lstm transformer attention ncoder-decoder |
| title_short |
Um modelo para classificação de código CID utilizando mecanismos de atenção e redes transformers |
| title_full |
Um modelo para classificação de código CID utilizando mecanismos de atenção e redes transformers |
| title_fullStr |
Um modelo para classificação de código CID utilizando mecanismos de atenção e redes transformers |
| title_full_unstemmed |
Um modelo para classificação de código CID utilizando mecanismos de atenção e redes transformers |
| title_sort |
Um modelo para classificação de código CID utilizando mecanismos de atenção e redes transformers |
| author |
Borges, Cláudio Aparecido |
| author_facet |
Borges, Cláudio Aparecido |
| author_role |
author |
| dc.contributor.advisorLattes.none.fl_str_mv |
http://lattes.cnpq.br/4456728413230670 |
| dc.contributor.advisorOrcid.none.fl_str_mv |
https://orcid.org/0000-0003-0873-3236 |
| dc.contributor.author.fl_str_mv |
Borges, Cláudio Aparecido |
| dc.contributor.advisor1.fl_str_mv |
Lopes, Guilherme Alberto Wachs |
| contributor_str_mv |
Lopes, Guilherme Alberto Wachs |
| dc.subject.por.fl_str_mv |
atenção cid icd lstm transformer attention ncoder-decoder |
| topic |
atenção cid icd lstm transformer attention ncoder-decoder |
| description |
A família de códigos International Classification of Diseases (ICD) se tornou o padrão internacional de classificação de diagnósticos médicos, sendo utilizada por mais de 117 países (JAKOB, 2017). A variação Brasileira é conhecida por Classificação Estatística Internacional de Doenças e Problemas Relacionados com a Saúde (CID), atualmente na sua décima versão, sendo compulsória nos casos de informações de mortalidade e morbidade (LAURENTI et al., 2013). Prontuários eletrônicos de pacientes usualmente apresentam descrições textuais do diagnóstico e pessoas especializadas são responsáveis pela revisão e atribuição dos códigos seguindo diretrizes de seleção. Esse processo é manual, demorado, sujeito a erros e de alto investimento financeiro, uma vez que esses documentos apresentam regionalismos linguísticos, abreviações e a não utilização da norma culta do idioma (XIE; XING, 2018). Uma abordagem ao problema, no contexto de Processamento de Linguagem Natural (PLN), é a utilização de codificadores-decodificadores, que são amplamente empregados em Máquinas Neurais de Tradução (NMTs) e possuem a capacidade de transformar uma sequência de entrada em uma sequência de saída. Normalmente, as primeiras etapas desses modelos são o pré-processamento e tokenização do texto e a representação semântica das palavras em um domínio vetorial. As etapas de codificação e decodificação são livres para serem modeladas com redes neurais artificiais distintas, e algumas técnicas que tem apresentado resultados promissores são baseadas nos mecanismos de atenção (BAHDANAU; CHO; BENGIO, 2016). Esses mecanismos podem ser empregados em conjunto com as Redes Neurais Recorrentes (RNNs) ou através das topologias Transformers, arquitetura de rede onde o mecanismo de atenção é predominante (VASWANI et al., 2017). Desse modo, o presente trabalho busca modelar e implementar uma rede neural artificial com mecanismos de atenção para classificação de códigos ICD em prontuários médicos e investigar a influência da tokenização do texto nessa aplicação. |
| publishDate |
2022 |
| dc.date.issued.fl_str_mv |
2022-03-25 |
| dc.date.accessioned.fl_str_mv |
2025-05-20T21:25:34Z |
| dc.type.status.fl_str_mv |
info:eu-repo/semantics/publishedVersion |
| dc.type.driver.fl_str_mv |
info:eu-repo/semantics/masterThesis |
| format |
masterThesis |
| status_str |
publishedVersion |
| dc.identifier.uri.fl_str_mv |
https://repositorio.fei.edu.br/handle/FEI/5762 |
| url |
https://repositorio.fei.edu.br/handle/FEI/5762 |
| dc.language.iso.fl_str_mv |
por |
| language |
por |
| dc.rights.driver.fl_str_mv |
info:eu-repo/semantics/openAccess |
| eu_rights_str_mv |
openAccess |
| dc.format.none.fl_str_mv |
94 |
| dc.coverage.area.none.fl_str_mv |
Inteligência Artificial Aplicada à Automação e Robótica |
| dc.source.none.fl_str_mv |
codificador-decodificador reponame:Repositório do Conhecimento Institucional do Centro Universitário da Fundação Educacional Inaciana (FEI) instname:Centro Universitário da Fundação Educacional Inaciana (FEI) instacron:FEI |
| instname_str |
Centro Universitário da Fundação Educacional Inaciana (FEI) |
| instacron_str |
FEI |
| institution |
FEI |
| reponame_str |
Repositório do Conhecimento Institucional do Centro Universitário da Fundação Educacional Inaciana (FEI) |
| collection |
Repositório do Conhecimento Institucional do Centro Universitário da Fundação Educacional Inaciana (FEI) |
| bitstream.url.fl_str_mv |
https://repositorio.fei.edu.br/bitstreams/a0f551ba-0941-473b-ae3d-30b9500293b7/download https://repositorio.fei.edu.br/bitstreams/ed7911fc-003c-4f19-ac01-a0390e96a6f1/download https://repositorio.fei.edu.br/bitstreams/c832cbc0-a0e2-4c0f-a32e-259de54a99c5/download https://repositorio.fei.edu.br/bitstreams/0141e72c-1528-4fda-be34-8ba2f8bc7d44/download |
| bitstream.checksum.fl_str_mv |
8107b92f43d8ab9349054fb9e7777434 a8599e541ca34db5dd9a6620d60cb675 96567535ee4667112db2c296c7143846 30a1ab58975eb3dcd972c3110fe69803 |
| bitstream.checksumAlgorithm.fl_str_mv |
MD5 MD5 MD5 MD5 |
| repository.name.fl_str_mv |
Repositório do Conhecimento Institucional do Centro Universitário da Fundação Educacional Inaciana (FEI) - Centro Universitário da Fundação Educacional Inaciana (FEI) |
| repository.mail.fl_str_mv |
cfernandes@fei.edu.br |
| _version_ |
1873510161973248000 |