Estudo comparativo entre modelos transformers aplicados ao desenvolvimento de chatbots

Detalhes bibliográficos
Ano de defesa: 2023
Autor(a) principal: Nascimento, Ormazabal Lima do
Orientador(a): Araújo, Daniel Sabino Amorim de
Banca de defesa: Não Informado pela instituição
Tipo de documento: Dissertação
Tipo de acesso: Acesso aberto
Idioma: por
Instituição de defesa: Universidade Federal do Rio Grande do Norte
Programa de Pós-Graduação: PROGRAMA DE PÓS-GRADUAÇÃO EM TECNOLOGIA DA INFORMAÇÃO
Departamento: Não Informado pela instituição
País: Brasil
Palavras-chave em Português:
Chatbot
Transformers
Inteligência artificial
Área do conhecimento CNPq:
CNPQ::ENGENHARIAS
Link de acesso: https://repositorio.ufrn.br/handle/123456789/58117
Resumo: Os chatbots são softwares que utilizam linguagem natural para se comunicar com seus usuários. Para a sua criação podem ser utilizados os modelos transformers, um tipo de rede neural que vêm apresentando resultados promissores em áreas de estudo como processamento de linguagem natural (NLP). A variedade de modelos existentes impõe desafios na seleção das melhores opções para o nicho de mercado em que o chatbot irá atuar. Este trabalho apresenta um estudo comparativo entre os modelos transformers DIET, LaBSE, BERTimbau, DistilBERT, RoBERTa, GPT, GPT-2 e XLNET aplicado ao desenvolvimento um chatbot submetido aos dados capturados nos atendimentos ao público realizados pelo Tribunal de Contas do Estado do Rio Grande do Norte (TCE/RN). O estudo considerou métricas como acurácia e precisão, além dos tempos de treinamento e de processamento de resposta. DIET foi considerado o melhor modelo por conseguir equilibrar bons resultados nas métricas de qualidade e tempo em conjunto, destacando-se no fator tempo por responder até 2,5 vezes mais rápido que os demais.
id UFRN_622c4c9d6f5586d0afe535ea0a850d11
oai_identifier_str oai:https://repositorio.ufrn.br:123456789/58117
network_acronym_str UFRN
network_name_str Repositório Institucional da UFRN
repository_id_str
spelling Nascimento, Ormazabal Lima dohttp://lattes.cnpq.br/4741685468690055https://orcid.org/0000-0001-5572-0505http://lattes.cnpq.br/4744754780165354Xavier Júnior, João Carloshttp://lattes.cnpq.br/5088238300241110Rego, Thais Gaudencio doAraújo, Daniel Sabino Amorim de2024-04-11T23:28:00Z2024-04-11T23:28:00Z2023-12-15NASCIMENTO, Ormazabal Lima do. Estudo comparativo entre modelos transformers aplicados ao desenvolvimento de chatbots. Orientador: Dr. Daniel Sabino Amorim de Araújo. 2023. 74f. Dissertação (Mestrado Profissional em Tecnologia da Informação) - Instituto Metrópole Digital, Universidade Federal do Rio Grande do Norte, Natal, 2023.https://repositorio.ufrn.br/handle/123456789/58117Os chatbots são softwares que utilizam linguagem natural para se comunicar com seus usuários. Para a sua criação podem ser utilizados os modelos transformers, um tipo de rede neural que vêm apresentando resultados promissores em áreas de estudo como processamento de linguagem natural (NLP). A variedade de modelos existentes impõe desafios na seleção das melhores opções para o nicho de mercado em que o chatbot irá atuar. Este trabalho apresenta um estudo comparativo entre os modelos transformers DIET, LaBSE, BERTimbau, DistilBERT, RoBERTa, GPT, GPT-2 e XLNET aplicado ao desenvolvimento um chatbot submetido aos dados capturados nos atendimentos ao público realizados pelo Tribunal de Contas do Estado do Rio Grande do Norte (TCE/RN). O estudo considerou métricas como acurácia e precisão, além dos tempos de treinamento e de processamento de resposta. DIET foi considerado o melhor modelo por conseguir equilibrar bons resultados nas métricas de qualidade e tempo em conjunto, destacando-se no fator tempo por responder até 2,5 vezes mais rápido que os demais.Chatbots are software that use natural language to communicate with their users. Transformers models can be used to create them, a type of neural network that has been showing promising results in areas of study such as natural language processing (NLP). The variety of existing models poses challenges in selecting the best options for the niche market in which the chatbot will operate. This work presents a comparative study between the transformer models DIET, LaBSE, BERTimbau, DistilBERT, RoBERTa, GPT, GPT-2 and XLNET applied to the development of a chatbot submitted to data captured in public services carried out by the Court of Auditors of the State of Rio Grande do Norte (TCE/RN). The study considered metrics such as accuracy and precision, in addition to training and response processing times. DIET was considered the best model for managing to balance good results in quality and time metrics together, standing out in the time factor for responding up to 2.5 times faster than the others.Universidade Federal do Rio Grande do NortePROGRAMA DE PÓS-GRADUAÇÃO EM TECNOLOGIA DA INFORMAÇÃOUFRNBrasilCNPQ::ENGENHARIASChatbotTransformersInteligência artificialEstudo comparativo entre modelos transformers aplicados ao desenvolvimento de chatbotsinfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisinfo:eu-repo/semantics/openAccessporreponame:Repositório Institucional da UFRNinstname:Universidade Federal do Rio Grande do Norte (UFRN)instacron:UFRNORIGINALEstudocomparativomodelos_Nascimento_2023.pdfapplication/pdf1364511https://repositorio.ufrn.br/bitstream/123456789/58117/1/Estudocomparativomodelos_Nascimento_2023.pdf7bf5d68ab3e4966045cc93fcb6f2b987MD51123456789/581172024-04-11 20:28:38.151oai:https://repositorio.ufrn.br:123456789/58117Repositório de PublicaçõesPUBhttp://repositorio.ufrn.br/oai/opendoar:2024-04-11T23:28:38Repositório Institucional da UFRN - Universidade Federal do Rio Grande do Norte (UFRN)false
dc.title.pt_BR.fl_str_mv Estudo comparativo entre modelos transformers aplicados ao desenvolvimento de chatbots
title Estudo comparativo entre modelos transformers aplicados ao desenvolvimento de chatbots
spellingShingle Estudo comparativo entre modelos transformers aplicados ao desenvolvimento de chatbots
Nascimento, Ormazabal Lima do
CNPQ::ENGENHARIAS
Chatbot
Transformers
Inteligência artificial
title_short Estudo comparativo entre modelos transformers aplicados ao desenvolvimento de chatbots
title_full Estudo comparativo entre modelos transformers aplicados ao desenvolvimento de chatbots
title_fullStr Estudo comparativo entre modelos transformers aplicados ao desenvolvimento de chatbots
title_full_unstemmed Estudo comparativo entre modelos transformers aplicados ao desenvolvimento de chatbots
title_sort Estudo comparativo entre modelos transformers aplicados ao desenvolvimento de chatbots
author Nascimento, Ormazabal Lima do
author_facet Nascimento, Ormazabal Lima do
author_role author
dc.contributor.authorLattes.pt_BR.fl_str_mv http://lattes.cnpq.br/4741685468690055
dc.contributor.advisorID.pt_BR.fl_str_mv https://orcid.org/0000-0001-5572-0505
dc.contributor.advisorLattes.pt_BR.fl_str_mv http://lattes.cnpq.br/4744754780165354
dc.contributor.referees1.none.fl_str_mv Xavier Júnior, João Carlos
dc.contributor.referees1Lattes.pt_BR.fl_str_mv http://lattes.cnpq.br/5088238300241110
dc.contributor.referees2.none.fl_str_mv Rego, Thais Gaudencio do
dc.contributor.author.fl_str_mv Nascimento, Ormazabal Lima do
dc.contributor.advisor1.fl_str_mv Araújo, Daniel Sabino Amorim de
contributor_str_mv Araújo, Daniel Sabino Amorim de
dc.subject.cnpq.fl_str_mv CNPQ::ENGENHARIAS
topic CNPQ::ENGENHARIAS
Chatbot
Transformers
Inteligência artificial
dc.subject.por.fl_str_mv Chatbot
Transformers
Inteligência artificial
description Os chatbots são softwares que utilizam linguagem natural para se comunicar com seus usuários. Para a sua criação podem ser utilizados os modelos transformers, um tipo de rede neural que vêm apresentando resultados promissores em áreas de estudo como processamento de linguagem natural (NLP). A variedade de modelos existentes impõe desafios na seleção das melhores opções para o nicho de mercado em que o chatbot irá atuar. Este trabalho apresenta um estudo comparativo entre os modelos transformers DIET, LaBSE, BERTimbau, DistilBERT, RoBERTa, GPT, GPT-2 e XLNET aplicado ao desenvolvimento um chatbot submetido aos dados capturados nos atendimentos ao público realizados pelo Tribunal de Contas do Estado do Rio Grande do Norte (TCE/RN). O estudo considerou métricas como acurácia e precisão, além dos tempos de treinamento e de processamento de resposta. DIET foi considerado o melhor modelo por conseguir equilibrar bons resultados nas métricas de qualidade e tempo em conjunto, destacando-se no fator tempo por responder até 2,5 vezes mais rápido que os demais.
publishDate 2023
dc.date.issued.fl_str_mv 2023-12-15
dc.date.accessioned.fl_str_mv 2024-04-11T23:28:00Z
dc.date.available.fl_str_mv 2024-04-11T23:28:00Z
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/masterThesis
format masterThesis
status_str publishedVersion
dc.identifier.citation.fl_str_mv NASCIMENTO, Ormazabal Lima do. Estudo comparativo entre modelos transformers aplicados ao desenvolvimento de chatbots. Orientador: Dr. Daniel Sabino Amorim de Araújo. 2023. 74f. Dissertação (Mestrado Profissional em Tecnologia da Informação) - Instituto Metrópole Digital, Universidade Federal do Rio Grande do Norte, Natal, 2023.
dc.identifier.uri.fl_str_mv https://repositorio.ufrn.br/handle/123456789/58117
identifier_str_mv NASCIMENTO, Ormazabal Lima do. Estudo comparativo entre modelos transformers aplicados ao desenvolvimento de chatbots. Orientador: Dr. Daniel Sabino Amorim de Araújo. 2023. 74f. Dissertação (Mestrado Profissional em Tecnologia da Informação) - Instituto Metrópole Digital, Universidade Federal do Rio Grande do Norte, Natal, 2023.
url https://repositorio.ufrn.br/handle/123456789/58117
dc.language.iso.fl_str_mv por
language por
dc.rights.driver.fl_str_mv info:eu-repo/semantics/openAccess
eu_rights_str_mv openAccess
dc.publisher.none.fl_str_mv Universidade Federal do Rio Grande do Norte
dc.publisher.program.fl_str_mv PROGRAMA DE PÓS-GRADUAÇÃO EM TECNOLOGIA DA INFORMAÇÃO
dc.publisher.initials.fl_str_mv UFRN
dc.publisher.country.fl_str_mv Brasil
publisher.none.fl_str_mv Universidade Federal do Rio Grande do Norte
dc.source.none.fl_str_mv reponame:Repositório Institucional da UFRN
instname:Universidade Federal do Rio Grande do Norte (UFRN)
instacron:UFRN
instname_str Universidade Federal do Rio Grande do Norte (UFRN)
instacron_str UFRN
institution UFRN
reponame_str Repositório Institucional da UFRN
collection Repositório Institucional da UFRN
bitstream.url.fl_str_mv https://repositorio.ufrn.br/bitstream/123456789/58117/1/Estudocomparativomodelos_Nascimento_2023.pdf
bitstream.checksum.fl_str_mv 7bf5d68ab3e4966045cc93fcb6f2b987
bitstream.checksumAlgorithm.fl_str_mv MD5
repository.name.fl_str_mv Repositório Institucional da UFRN - Universidade Federal do Rio Grande do Norte (UFRN)
repository.mail.fl_str_mv
_version_ 1797777766496600064

Registros relacionados