Estudo comparativo entre modelos transformers aplicados ao desenvolvimento de chatbots

Detalhes bibliográficos
Ano de defesa: 2023
Autor(a) principal: Nascimento, Ormazabal Lima do
Orientador(a): Não Informado pela instituição
Banca de defesa: Não Informado pela instituição
Tipo de documento: Dissertação
Tipo de acesso: Acesso aberto
Idioma: por
Instituição de defesa: Universidade Federal do Rio Grande do Norte
Brasil
UFRN
PROGRAMA DE PÓS-GRADUAÇÃO EM TECNOLOGIA DA INFORMAÇÃO
Programa de Pós-Graduação: Não Informado pela instituição
Departamento: Não Informado pela instituição
País: Não Informado pela instituição
Palavras-chave em Português:
Chatbot
Transformers
Inteligência artificial
CNPQ::ENGENHARIAS
Link de acesso: https://repositorio.ufrn.br/handle/123456789/58117
Resumo: Chatbots are software that use natural language to communicate with their users. Transformers models can be used to create them, a type of neural network that has been showing promising results in areas of study such as natural language processing (NLP). The variety of existing models poses challenges in selecting the best options for the niche market in which the chatbot will operate. This work presents a comparative study between the transformer models DIET, LaBSE, BERTimbau, DistilBERT, RoBERTa, GPT, GPT-2 and XLNET applied to the development of a chatbot submitted to data captured in public services carried out by the Court of Auditors of the State of Rio Grande do Norte (TCE/RN). The study considered metrics such as accuracy and precision, in addition to training and response processing times. DIET was considered the best model for managing to balance good results in quality and time metrics together, standing out in the time factor for responding up to 2.5 times faster than the others.
id UFRN_3d594433d71d976ce96329d707ec660a
oai_identifier_str oai:repositorio.ufrn.br:123456789/58117
network_acronym_str UFRN
network_name_str Repositório Institucional da UFRN
repository_id_str
spelling Estudo comparativo entre modelos transformers aplicados ao desenvolvimento de chatbotsChatbotTransformersInteligência artificialCNPQ::ENGENHARIASChatbots are software that use natural language to communicate with their users. Transformers models can be used to create them, a type of neural network that has been showing promising results in areas of study such as natural language processing (NLP). The variety of existing models poses challenges in selecting the best options for the niche market in which the chatbot will operate. This work presents a comparative study between the transformer models DIET, LaBSE, BERTimbau, DistilBERT, RoBERTa, GPT, GPT-2 and XLNET applied to the development of a chatbot submitted to data captured in public services carried out by the Court of Auditors of the State of Rio Grande do Norte (TCE/RN). The study considered metrics such as accuracy and precision, in addition to training and response processing times. DIET was considered the best model for managing to balance good results in quality and time metrics together, standing out in the time factor for responding up to 2.5 times faster than the others.Os chatbots são softwares que utilizam linguagem natural para se comunicar com seus usuários. Para a sua criação podem ser utilizados os modelos transformers, um tipo de rede neural que vêm apresentando resultados promissores em áreas de estudo como processamento de linguagem natural (NLP). A variedade de modelos existentes impõe desafios na seleção das melhores opções para o nicho de mercado em que o chatbot irá atuar. Este trabalho apresenta um estudo comparativo entre os modelos transformers DIET, LaBSE, BERTimbau, DistilBERT, RoBERTa, GPT, GPT-2 e XLNET aplicado ao desenvolvimento um chatbot submetido aos dados capturados nos atendimentos ao público realizados pelo Tribunal de Contas do Estado do Rio Grande do Norte (TCE/RN). O estudo considerou métricas como acurácia e precisão, além dos tempos de treinamento e de processamento de resposta. DIET foi considerado o melhor modelo por conseguir equilibrar bons resultados nas métricas de qualidade e tempo em conjunto, destacando-se no fator tempo por responder até 2,5 vezes mais rápido que os demais.Universidade Federal do Rio Grande do NorteBrasilUFRNPROGRAMA DE PÓS-GRADUAÇÃO EM TECNOLOGIA DA INFORMAÇÃOAraújo, Daniel Sabino Amorim dehttp://lattes.cnpq.br/4741685468690055https://orcid.org/0000-0001-5572-0505http://lattes.cnpq.br/4744754780165354Xavier Júnior, João Carloshttp://lattes.cnpq.br/5088238300241110Rego, Thais Gaudencio doNascimento, Ormazabal Lima do2024-04-11T23:28:00Z2024-04-11T23:28:00Z2023-12-15info:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisapplication/pdfNASCIMENTO, Ormazabal Lima do. Estudo comparativo entre modelos transformers aplicados ao desenvolvimento de chatbots. Orientador: Dr. Daniel Sabino Amorim de Araújo. 2023. 74f. Dissertação (Mestrado Profissional em Tecnologia da Informação) - Instituto Metrópole Digital, Universidade Federal do Rio Grande do Norte, Natal, 2023.https://repositorio.ufrn.br/handle/123456789/58117info:eu-repo/semantics/openAccessporreponame:Repositório Institucional da UFRNinstname:Universidade Federal do Rio Grande do Norte (UFRN)instacron:UFRN2024-04-11T23:28:38Zoai:repositorio.ufrn.br:123456789/58117Repositório InstitucionalPUBhttp://repositorio.ufrn.br/oai/repositorio@bczm.ufrn.bropendoar:2024-04-11T23:28:38Repositório Institucional da UFRN - Universidade Federal do Rio Grande do Norte (UFRN)false
dc.title.none.fl_str_mv Estudo comparativo entre modelos transformers aplicados ao desenvolvimento de chatbots
title Estudo comparativo entre modelos transformers aplicados ao desenvolvimento de chatbots
spellingShingle Estudo comparativo entre modelos transformers aplicados ao desenvolvimento de chatbots
Nascimento, Ormazabal Lima do
Chatbot
Transformers
Inteligência artificial
CNPQ::ENGENHARIAS
title_short Estudo comparativo entre modelos transformers aplicados ao desenvolvimento de chatbots
title_full Estudo comparativo entre modelos transformers aplicados ao desenvolvimento de chatbots
title_fullStr Estudo comparativo entre modelos transformers aplicados ao desenvolvimento de chatbots
title_full_unstemmed Estudo comparativo entre modelos transformers aplicados ao desenvolvimento de chatbots
title_sort Estudo comparativo entre modelos transformers aplicados ao desenvolvimento de chatbots
author Nascimento, Ormazabal Lima do
author_facet Nascimento, Ormazabal Lima do
author_role author
dc.contributor.none.fl_str_mv Araújo, Daniel Sabino Amorim de
http://lattes.cnpq.br/4741685468690055
https://orcid.org/0000-0001-5572-0505
http://lattes.cnpq.br/4744754780165354
Xavier Júnior, João Carlos
http://lattes.cnpq.br/5088238300241110
Rego, Thais Gaudencio do
dc.contributor.author.fl_str_mv Nascimento, Ormazabal Lima do
dc.subject.por.fl_str_mv Chatbot
Transformers
Inteligência artificial
CNPQ::ENGENHARIAS
topic Chatbot
Transformers
Inteligência artificial
CNPQ::ENGENHARIAS
description Chatbots are software that use natural language to communicate with their users. Transformers models can be used to create them, a type of neural network that has been showing promising results in areas of study such as natural language processing (NLP). The variety of existing models poses challenges in selecting the best options for the niche market in which the chatbot will operate. This work presents a comparative study between the transformer models DIET, LaBSE, BERTimbau, DistilBERT, RoBERTa, GPT, GPT-2 and XLNET applied to the development of a chatbot submitted to data captured in public services carried out by the Court of Auditors of the State of Rio Grande do Norte (TCE/RN). The study considered metrics such as accuracy and precision, in addition to training and response processing times. DIET was considered the best model for managing to balance good results in quality and time metrics together, standing out in the time factor for responding up to 2.5 times faster than the others.
publishDate 2023
dc.date.none.fl_str_mv 2023-12-15
2024-04-11T23:28:00Z
2024-04-11T23:28:00Z
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/masterThesis
format masterThesis
status_str publishedVersion
dc.identifier.uri.fl_str_mv NASCIMENTO, Ormazabal Lima do. Estudo comparativo entre modelos transformers aplicados ao desenvolvimento de chatbots. Orientador: Dr. Daniel Sabino Amorim de Araújo. 2023. 74f. Dissertação (Mestrado Profissional em Tecnologia da Informação) - Instituto Metrópole Digital, Universidade Federal do Rio Grande do Norte, Natal, 2023.
https://repositorio.ufrn.br/handle/123456789/58117
identifier_str_mv NASCIMENTO, Ormazabal Lima do. Estudo comparativo entre modelos transformers aplicados ao desenvolvimento de chatbots. Orientador: Dr. Daniel Sabino Amorim de Araújo. 2023. 74f. Dissertação (Mestrado Profissional em Tecnologia da Informação) - Instituto Metrópole Digital, Universidade Federal do Rio Grande do Norte, Natal, 2023.
url https://repositorio.ufrn.br/handle/123456789/58117
dc.language.iso.fl_str_mv por
language por
dc.rights.driver.fl_str_mv info:eu-repo/semantics/openAccess
eu_rights_str_mv openAccess
dc.format.none.fl_str_mv application/pdf
dc.publisher.none.fl_str_mv Universidade Federal do Rio Grande do Norte
Brasil
UFRN
PROGRAMA DE PÓS-GRADUAÇÃO EM TECNOLOGIA DA INFORMAÇÃO
publisher.none.fl_str_mv Universidade Federal do Rio Grande do Norte
Brasil
UFRN
PROGRAMA DE PÓS-GRADUAÇÃO EM TECNOLOGIA DA INFORMAÇÃO
dc.source.none.fl_str_mv reponame:Repositório Institucional da UFRN
instname:Universidade Federal do Rio Grande do Norte (UFRN)
instacron:UFRN
instname_str Universidade Federal do Rio Grande do Norte (UFRN)
instacron_str UFRN
institution UFRN
reponame_str Repositório Institucional da UFRN
collection Repositório Institucional da UFRN
repository.name.fl_str_mv Repositório Institucional da UFRN - Universidade Federal do Rio Grande do Norte (UFRN)
repository.mail.fl_str_mv repositorio@bczm.ufrn.br
_version_ 1855758859401953280

Registros relacionados