Arquitetura dinâmica para o balanceamento de réplicas em sistemas de arquivos distribuídos

Detalhes bibliográficos
Ano de defesa: 2022
Autor(a) principal: Fazul, Rhauani Weber Aita
Orientador(a): Não Informado pela instituição
Banca de defesa: Não Informado pela instituição
Tipo de documento: Dissertação
Tipo de acesso: Acesso aberto
dARK ID: ark:/26339/0013000010m4n
Idioma: por
Instituição de defesa: Universidade Federal de Santa Maria
Brasil
Ciência da Computação
UFSM
Programa de Pós-Graduação em Ciência da Computação
Centro de Tecnologia
Programa de Pós-Graduação: Não Informado pela instituição
Departamento: Não Informado pela instituição
País: Não Informado pela instituição
Palavras-chave em Português:
Link de acesso: http://repositorio.ufsm.br/handle/1/26470
Resumo: Distributed file systems are essential to support applications that handle large volumes of data. One of the most widely used file systems is the HDFS, Apache Hadoop’s Distributed File System. Data replication, which is at the core of the HDFS storage model, is essential for fault tolerance and performance since the placement of the data across the cluster directly affects replica balancing and data locality. As new data is loaded into the system, it is common for the distribution of the replicas among the nodes to become unbalanced. HDFS Balancer is the official solution for data balancing by rearranging the replicas already stored in the cluster. Nevertheless, its current balancing policy does not address the characteristics and specific needs of the applications during data rearrangement. Besides that, it is up to the system administrator to monitor the HDFS status and, when considered necessary, run the balancer daemon, which creates a dependency that is inadequate and inefficient in many situations. To address these limitations, this work presents DARB, a dynamic architecture that promotes reactive and proactive replica balancing. The reactive strategy arises from the PRBP, a customized and prioritized replica balancing policy for the HDFSBalancer. The PRBP is based on an adaptable and configurable system of priorities, from which association rules were defined to allow the use of multiple priorities simultaneously. Along with the rules, a set of usage guidelines has been formalized and evaluated through practical experiments, which validated the behavior and applicability of the PRBP. The proactive strategy of DARB, in contrast, consists of an event-driven strategy to make the replica balancing process in HDFS transparent. To this end, a metrics observation model and a structure were created to automatically determine when corrective actions should be taken and trigger the balancing process in the file system based on standardized trigger events. The evaluation results reinforce that the proposed solution removes the need for manual configuration and utilization of the HDFS Balancer while actively acting to keep the cluster balanced taking into account performance, reliability, and data availability perspectives. In this way, DARB presents itself as a specialized solution, flexibilizing the balancing process and introducing to HDFS the concept of context-aware replica balancing.
id UFSM_5e24aa583b38ebf02db0708d903d6104
oai_identifier_str oai:repositorio.ufsm.br:1/26470
network_acronym_str UFSM
network_name_str Manancial - Repositório Digital da UFSM
repository_id_str
spelling Arquitetura dinâmica para o balanceamento de réplicas em sistemas de arquivos distribuídosDynamic architecture for replica balancing in distributed file systemsArquitetura dinâmicaPolítica de balanceamentoBalanceamento de réplicasReplicação de dadosTolerância a falhasSistemas de arquivos distribuídosDynamic architectureBalancing policyReplica balancingData replicationFault toleranceDistributed file systemsCNPQ::CIENCIAS EXATAS E DA TERRA::CIENCIA DA COMPUTACAODistributed file systems are essential to support applications that handle large volumes of data. One of the most widely used file systems is the HDFS, Apache Hadoop’s Distributed File System. Data replication, which is at the core of the HDFS storage model, is essential for fault tolerance and performance since the placement of the data across the cluster directly affects replica balancing and data locality. As new data is loaded into the system, it is common for the distribution of the replicas among the nodes to become unbalanced. HDFS Balancer is the official solution for data balancing by rearranging the replicas already stored in the cluster. Nevertheless, its current balancing policy does not address the characteristics and specific needs of the applications during data rearrangement. Besides that, it is up to the system administrator to monitor the HDFS status and, when considered necessary, run the balancer daemon, which creates a dependency that is inadequate and inefficient in many situations. To address these limitations, this work presents DARB, a dynamic architecture that promotes reactive and proactive replica balancing. The reactive strategy arises from the PRBP, a customized and prioritized replica balancing policy for the HDFSBalancer. The PRBP is based on an adaptable and configurable system of priorities, from which association rules were defined to allow the use of multiple priorities simultaneously. Along with the rules, a set of usage guidelines has been formalized and evaluated through practical experiments, which validated the behavior and applicability of the PRBP. The proactive strategy of DARB, in contrast, consists of an event-driven strategy to make the replica balancing process in HDFS transparent. To this end, a metrics observation model and a structure were created to automatically determine when corrective actions should be taken and trigger the balancing process in the file system based on standardized trigger events. The evaluation results reinforce that the proposed solution removes the need for manual configuration and utilization of the HDFS Balancer while actively acting to keep the cluster balanced taking into account performance, reliability, and data availability perspectives. In this way, DARB presents itself as a specialized solution, flexibilizing the balancing process and introducing to HDFS the concept of context-aware replica balancing.Conselho Nacional de Pesquisa e Desenvolvimento Científico e Tecnológico - CNPqSistemas de arquivos distribuídos são essenciais para suportar aplicações que lidam com grandes volumes de dados. Um dos sistemas mais utilizados é o HDFS, o sistema de arquivos distribuído do Apache Hadoop. A replicação de dados, que é o elemento central do modelo de armazenamento do HDFS, é essencial para a tolerância a falhas e o desempenho, sendo que o posicionamento das réplicas no cluster afeta diretamente o balanceamento de réplicas e a localidade dos dados. À medida que novos dados são escritos no sistema de arquivos, é comum que a distribuição das réplicas entre os nodos fique desequilibrada. O HDFS Balancer é a solução oficial para o balanceamento de dados por meio do rearranjo das réplicas já armazenadas no cluster. No entanto, sua política de operação atual não considera as características e necessidades específicas das aplicações. Além disso, cabe ao administrador monitorar o estado do HDFS e, quando julgar necessário, executar o balanceador, o que cria uma dependência manual e ineficiente em muitas situações. Para endereçar tais limitações, este trabalho apresenta a DARB, uma arquitetura dinâmica que promove o balanceamento reativo e proativo. Para a parte reativa, foi desenvolvida a PRBP, uma política personalizada com base em prioridades para o HDFS Balancer. A PRBP é formada por um sistema de prioridades adaptável e configurável, a partir do qual foram definidas regras de associação que permitem o uso de múltiplas prioridades em simultâneo. Em conjunto com as regras, guidelines de uso foram formalizadas e avaliadas experimentalmente, validando o comportamento e a aplicabilidade da PRBP. Já para a parte proativa da DARB, foi desenvolvida uma estratégia orientada a eventos que visa tornar transparente o processo de balanceamento de réplicas no HDFS. Para isso, criou-se um modelo de observação de métricas e uma estrutura que, por meio de eventos de disparo, determina automaticamente quando ações corretivas devem ser tomadas no sistema de arquivos. Os resultados da avaliação reforçam que a solução proposta remove a necessidade de configuração e uso manual do HDFS Balancer, enquanto atua ativamente para manter o cluster em umestadobalanceado emproldeperspectivas de desempenho, confiabilidade e disponibilidade dos dados. Desse modo, a DARB apresenta-se como uma solução especializada, flexibilizando o processo de balanceamento e introduzindo ao HDFS o conceito de balanceamento de réplicas sensível ao contexto.Universidade Federal de Santa MariaBrasilCiência da ComputaçãoUFSMPrograma de Pós-Graduação em Ciência da ComputaçãoCentro de TecnologiaBarcelos, Patrícia Pitthan de Araújohttp://lattes.cnpq.br/6069105173950277Lima, João Vicente FerreiraMendizabal, Odorico MachadoFazul, Rhauani Weber Aita2022-10-13T18:58:56Z2022-10-13T18:58:56Z2022-09-28info:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisapplication/pdfhttp://repositorio.ufsm.br/handle/1/26470ark:/26339/0013000010m4nporAttribution-NonCommercial-NoDerivatives 4.0 Internationalinfo:eu-repo/semantics/openAccessreponame:Manancial - Repositório Digital da UFSMinstname:Universidade Federal de Santa Maria (UFSM)instacron:UFSM2022-10-13T18:58:56Zoai:repositorio.ufsm.br:1/26470Biblioteca Digital de Teses e Dissertaçõeshttps://repositorio.ufsm.br/PUBhttps://repositorio.ufsm.br/oai/requestatendimento.sib@ufsm.br||tedebc@gmail.com||manancial@ufsm.bropendoar:2022-10-13T18:58:56Manancial - Repositório Digital da UFSM - Universidade Federal de Santa Maria (UFSM)false
dc.title.none.fl_str_mv Arquitetura dinâmica para o balanceamento de réplicas em sistemas de arquivos distribuídos
Dynamic architecture for replica balancing in distributed file systems
title Arquitetura dinâmica para o balanceamento de réplicas em sistemas de arquivos distribuídos
spellingShingle Arquitetura dinâmica para o balanceamento de réplicas em sistemas de arquivos distribuídos
Fazul, Rhauani Weber Aita
Arquitetura dinâmica
Política de balanceamento
Balanceamento de réplicas
Replicação de dados
Tolerância a falhas
Sistemas de arquivos distribuídos
Dynamic architecture
Balancing policy
Replica balancing
Data replication
Fault tolerance
Distributed file systems
CNPQ::CIENCIAS EXATAS E DA TERRA::CIENCIA DA COMPUTACAO
title_short Arquitetura dinâmica para o balanceamento de réplicas em sistemas de arquivos distribuídos
title_full Arquitetura dinâmica para o balanceamento de réplicas em sistemas de arquivos distribuídos
title_fullStr Arquitetura dinâmica para o balanceamento de réplicas em sistemas de arquivos distribuídos
title_full_unstemmed Arquitetura dinâmica para o balanceamento de réplicas em sistemas de arquivos distribuídos
title_sort Arquitetura dinâmica para o balanceamento de réplicas em sistemas de arquivos distribuídos
author Fazul, Rhauani Weber Aita
author_facet Fazul, Rhauani Weber Aita
author_role author
dc.contributor.none.fl_str_mv Barcelos, Patrícia Pitthan de Araújo
http://lattes.cnpq.br/6069105173950277
Lima, João Vicente Ferreira
Mendizabal, Odorico Machado
dc.contributor.author.fl_str_mv Fazul, Rhauani Weber Aita
dc.subject.por.fl_str_mv Arquitetura dinâmica
Política de balanceamento
Balanceamento de réplicas
Replicação de dados
Tolerância a falhas
Sistemas de arquivos distribuídos
Dynamic architecture
Balancing policy
Replica balancing
Data replication
Fault tolerance
Distributed file systems
CNPQ::CIENCIAS EXATAS E DA TERRA::CIENCIA DA COMPUTACAO
topic Arquitetura dinâmica
Política de balanceamento
Balanceamento de réplicas
Replicação de dados
Tolerância a falhas
Sistemas de arquivos distribuídos
Dynamic architecture
Balancing policy
Replica balancing
Data replication
Fault tolerance
Distributed file systems
CNPQ::CIENCIAS EXATAS E DA TERRA::CIENCIA DA COMPUTACAO
description Distributed file systems are essential to support applications that handle large volumes of data. One of the most widely used file systems is the HDFS, Apache Hadoop’s Distributed File System. Data replication, which is at the core of the HDFS storage model, is essential for fault tolerance and performance since the placement of the data across the cluster directly affects replica balancing and data locality. As new data is loaded into the system, it is common for the distribution of the replicas among the nodes to become unbalanced. HDFS Balancer is the official solution for data balancing by rearranging the replicas already stored in the cluster. Nevertheless, its current balancing policy does not address the characteristics and specific needs of the applications during data rearrangement. Besides that, it is up to the system administrator to monitor the HDFS status and, when considered necessary, run the balancer daemon, which creates a dependency that is inadequate and inefficient in many situations. To address these limitations, this work presents DARB, a dynamic architecture that promotes reactive and proactive replica balancing. The reactive strategy arises from the PRBP, a customized and prioritized replica balancing policy for the HDFSBalancer. The PRBP is based on an adaptable and configurable system of priorities, from which association rules were defined to allow the use of multiple priorities simultaneously. Along with the rules, a set of usage guidelines has been formalized and evaluated through practical experiments, which validated the behavior and applicability of the PRBP. The proactive strategy of DARB, in contrast, consists of an event-driven strategy to make the replica balancing process in HDFS transparent. To this end, a metrics observation model and a structure were created to automatically determine when corrective actions should be taken and trigger the balancing process in the file system based on standardized trigger events. The evaluation results reinforce that the proposed solution removes the need for manual configuration and utilization of the HDFS Balancer while actively acting to keep the cluster balanced taking into account performance, reliability, and data availability perspectives. In this way, DARB presents itself as a specialized solution, flexibilizing the balancing process and introducing to HDFS the concept of context-aware replica balancing.
publishDate 2022
dc.date.none.fl_str_mv 2022-10-13T18:58:56Z
2022-10-13T18:58:56Z
2022-09-28
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/masterThesis
format masterThesis
status_str publishedVersion
dc.identifier.uri.fl_str_mv http://repositorio.ufsm.br/handle/1/26470
dc.identifier.dark.fl_str_mv ark:/26339/0013000010m4n
url http://repositorio.ufsm.br/handle/1/26470
identifier_str_mv ark:/26339/0013000010m4n
dc.language.iso.fl_str_mv por
language por
dc.rights.driver.fl_str_mv Attribution-NonCommercial-NoDerivatives 4.0 International
info:eu-repo/semantics/openAccess
rights_invalid_str_mv Attribution-NonCommercial-NoDerivatives 4.0 International
eu_rights_str_mv openAccess
dc.format.none.fl_str_mv application/pdf
dc.publisher.none.fl_str_mv Universidade Federal de Santa Maria
Brasil
Ciência da Computação
UFSM
Programa de Pós-Graduação em Ciência da Computação
Centro de Tecnologia
publisher.none.fl_str_mv Universidade Federal de Santa Maria
Brasil
Ciência da Computação
UFSM
Programa de Pós-Graduação em Ciência da Computação
Centro de Tecnologia
dc.source.none.fl_str_mv reponame:Manancial - Repositório Digital da UFSM
instname:Universidade Federal de Santa Maria (UFSM)
instacron:UFSM
instname_str Universidade Federal de Santa Maria (UFSM)
instacron_str UFSM
institution UFSM
reponame_str Manancial - Repositório Digital da UFSM
collection Manancial - Repositório Digital da UFSM
repository.name.fl_str_mv Manancial - Repositório Digital da UFSM - Universidade Federal de Santa Maria (UFSM)
repository.mail.fl_str_mv atendimento.sib@ufsm.br||tedebc@gmail.com||manancial@ufsm.br
_version_ 1847153473188003840