Eficiência energética no posicionamento de estações rádio-base móveis baseadas em VANTS aplicando aprendizagem por reforço

Detalhes bibliográficos
Ano de defesa: 2020
Autor(a) principal: Reis, Ana Flávia dos
Orientador(a): Não Informado pela instituição
Banca de defesa: Não Informado pela instituição
Tipo de documento: Dissertação
Tipo de acesso: Acesso aberto
Idioma: por
Instituição de defesa: Universidade Tecnológica Federal do Paraná
Curitiba
Brasil
Programa de Pós-Graduação em Engenharia Elétrica e Informática Industrial
UTFPR
Programa de Pós-Graduação: Não Informado pela instituição
Departamento: Não Informado pela instituição
País: Não Informado pela instituição
Palavras-chave em Português:
Link de acesso: http://repositorio.utfpr.edu.br/jspui/handle/1/4841
Resumo: To meet users demands, 5G cellular networks require high operational efficiency, making energy efficiency one of the primary challenges and objectives of modern communication systems. In addition, the increase in the number of devices and user requirements in these networks may turn analytical solutions applied in the context of energy efficiency and optimization of communication parameters not feasible, given the complexity associated to these solutions. To overcome this problem, more robust and flexible solutions that exploit the data generated by the network and make real-time decisions are required by these future networks. In this context, the use of Machine Learning techniques, capable of analyzing a big amount of data and learning from it, is a possible solution and can be applied, for example, in different self-organizing network contexts. The aim of this work is to analyze a positioning optimization application of UAVs, Unmanned Aerial Vehicles, in a scenario of temporary events based on a Q-learning algorithm, a reinforcement learning technique in which the agents learn to act to maximize a given reward. Two different rewards are proposed and compared, with the first aiming only to minimize the number of users in outage and the second provided to maximize energy efficiency by considering the amount of energy used for UAVs movements. The Q-learning solution is responsible for determining the best three-dimensional positioning and optimal transmit power given some possible power levels. The results show that the optimization of the transmission power reduced the percentage of users in outage, since interference between UAVs was minimized by allocating adequate power. Furthermore, it is shown that the introduction of a discount factor in the algorithm reward for UAV movements has been able to considerably increase the energy efficiency of the network, with a performance penalty over the user coverage. Finally, for the two solutions considered and in accordance with their respective objectives, the Q-learning technique, based on its ability to learn from iteration with an environment and from previous experiences, proved to be able to solve the problem of self-organization of the UAV-based network in an efficient manner, presenting itself as a promising solution for future cellular networks.
id UTFPR-12_1cf70a03220fc998bcca3770df0f1a57
oai_identifier_str oai:repositorio.utfpr.edu.br:1/4841
network_acronym_str UTFPR-12
network_name_str Repositório Institucional da UTFPR (da Universidade Tecnológica Federal do Paraná (RIUT))
repository_id_str
spelling Eficiência energética no posicionamento de estações rádio-base móveis baseadas em VANTS aplicando aprendizagem por reforçoEnergy efficiency in positioning UAV-based mobile base stations applying reinforcement learningEnergia - ConsumoSistemas de telefonia celularSistemas de informação geográficaDroneAprendizado do computadorSistemas de comunicação sem fioSistemas de transmissão de dadosProcessamento eletrônico de dados em tempo realSistemas auto-organizáveisEnergy consumptionCell phone systemsGeographic information systemsDrone aircraftMachine learningWireless communication systemsData transmission systemsReal-time data processingSelf-organizing systemsCNPQ::ENGENHARIAS::ENGENHARIA ELETRICAEngenharia ElétricaTo meet users demands, 5G cellular networks require high operational efficiency, making energy efficiency one of the primary challenges and objectives of modern communication systems. In addition, the increase in the number of devices and user requirements in these networks may turn analytical solutions applied in the context of energy efficiency and optimization of communication parameters not feasible, given the complexity associated to these solutions. To overcome this problem, more robust and flexible solutions that exploit the data generated by the network and make real-time decisions are required by these future networks. In this context, the use of Machine Learning techniques, capable of analyzing a big amount of data and learning from it, is a possible solution and can be applied, for example, in different self-organizing network contexts. The aim of this work is to analyze a positioning optimization application of UAVs, Unmanned Aerial Vehicles, in a scenario of temporary events based on a Q-learning algorithm, a reinforcement learning technique in which the agents learn to act to maximize a given reward. Two different rewards are proposed and compared, with the first aiming only to minimize the number of users in outage and the second provided to maximize energy efficiency by considering the amount of energy used for UAVs movements. The Q-learning solution is responsible for determining the best three-dimensional positioning and optimal transmit power given some possible power levels. The results show that the optimization of the transmission power reduced the percentage of users in outage, since interference between UAVs was minimized by allocating adequate power. Furthermore, it is shown that the introduction of a discount factor in the algorithm reward for UAV movements has been able to considerably increase the energy efficiency of the network, with a performance penalty over the user coverage. Finally, for the two solutions considered and in accordance with their respective objectives, the Q-learning technique, based on its ability to learn from iteration with an environment and from previous experiences, proved to be able to solve the problem of self-organization of the UAV-based network in an efficient manner, presenting itself as a promising solution for future cellular networks.Coordenação de Aperfeiçoamento de Pessoal de Nível Superior (CAPES)Para suprir as exigências de seus usuários, as redes celulares 5G devem ser altamente eficientes, tornando a eficiência energética um dos desafios e objetivos primários dos cenários de comunicações modernos. Além disso, o aumento no número de dispositivos e requisitos dos usuários dessas redes podem tornar as soluções analíticas aplicadas no contexto da eficiência energética e otimização de parâmetros da comunicação não factíveis, dada a complexidade atrelada à essas soluções. Para superar esse problema, soluções mais robustas e flexíveis, que exploram os dados gerados pela rede e tornam decisões em tempo real são as exigidas por essas redes futuras. Nesse contexto, a utilização de técnicas de Aprendizado de Máquina, capazes de analisar uma enorme quantidade de dados e aprender com eles, é uma possível solução, podendo ser aplicadas, por exemplo, em diferentes contextos de redes auto-organizáveis. O objetivo da presente dissertação é analisar uma aplicação de otimização do posicionamento de VANTs, Veículos Aéreos Não Tripulados, em um cenário de eventos temporários baseando-se em um algoritmo Q-learning, uma técnica de aprendizado por reforço, na qual os agentes das soluções propostas aprendem a agir para maximizar uma determinada recompensa. Duas diferentes recompensas são propostas e comparadas, com a primeira visando apenas minimizar o número de usuários em indisponibilidade e a segunda buscando maximizar a eficiência energética, considerando a quantidade de energia usada para a movimentação VANTs. A solução Q-learning é responsável por determinar o melhor posicionamento no espaço tridimensional e a potência de transmissão ideal, dados alguns níveis de potência possíveis. Os resultados obtidos mostram que a otimização da potência de transmissão implementada reduziu a probabilidade de indisponibilidade dos usuários da rede, uma vez que a interferência entre os VANTs foi minimizada a partir da alocação da potência adequada e, além disso, é mostrado que a introdução de um fator de desconto na recompensa do algoritmo relacionado ao gasto de energia para as movimentações VANTs foi capaz de aumentar consideravelmente a eficiência energética da rede, com uma penalidade no desempenho em relação à cobertura de usuários. Finalmente, para as duas soluções consideradas e de acordo os seus respectivos objetivos, a técnica Q-learning, a partir da sua capacidade de aprender com a iteração com um ambiente e de experiências anteriores, mostrou-se capaz de resolver o problema de auto-organização da rede baseada em VANTs de uma maneira eficiente, apresentando-se como uma solução promissora para as futuras redes celulares.Universidade Tecnológica Federal do ParanáCuritibaBrasilPrograma de Pós-Graduação em Engenharia Elétrica e Informática IndustrialUTFPRBrante, Glauber Gomes de Oliveirahttp://lattes.cnpq.br/8347190422243353Souza, Richard Demohttp://lattes.cnpq.br/6825512654223870Brante, Glauber Gomes de Oliveirahttp://lattes.cnpq.br/8347190422243353Farhat, Jamil de Araujohttp://lattes.cnpq.br/7539776887110465Pellenz, Marcelo Eduardohttp://lattes.cnpq.br/6834497622047154Reis, Ana Flávia dos2020-04-09T22:33:19Z2020-04-09T22:33:19Z2020-02-21info:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisapplication/pdfREIS, Ana Flávia dos. Eficiência energética no posicionamento de estações rádio-base móveis baseadas em VANTS aplicando aprendizagem por reforço. 2020. Dissertação (Mestrado em Engenharia Elétrica e Informática Industrial) - Universidade Tecnológica Federal do Paraná, Curitiba, 2020.http://repositorio.utfpr.edu.br/jspui/handle/1/4841porinfo:eu-repo/semantics/openAccessreponame:Repositório Institucional da UTFPR (da Universidade Tecnológica Federal do Paraná (RIUT))instname:Universidade Tecnológica Federal do Paraná (UTFPR)instacron:UTFPR2020-04-10T06:01:05Zoai:repositorio.utfpr.edu.br:1/4841Repositório InstitucionalPUBhttp://repositorio.utfpr.edu.br:8080/oai/requestriut@utfpr.edu.br || sibi@utfpr.edu.bropendoar:2020-04-10T06:01:05Repositório Institucional da UTFPR (da Universidade Tecnológica Federal do Paraná (RIUT)) - Universidade Tecnológica Federal do Paraná (UTFPR)false
dc.title.none.fl_str_mv Eficiência energética no posicionamento de estações rádio-base móveis baseadas em VANTS aplicando aprendizagem por reforço
Energy efficiency in positioning UAV-based mobile base stations applying reinforcement learning
title Eficiência energética no posicionamento de estações rádio-base móveis baseadas em VANTS aplicando aprendizagem por reforço
spellingShingle Eficiência energética no posicionamento de estações rádio-base móveis baseadas em VANTS aplicando aprendizagem por reforço
Reis, Ana Flávia dos
Energia - Consumo
Sistemas de telefonia celular
Sistemas de informação geográfica
Drone
Aprendizado do computador
Sistemas de comunicação sem fio
Sistemas de transmissão de dados
Processamento eletrônico de dados em tempo real
Sistemas auto-organizáveis
Energy consumption
Cell phone systems
Geographic information systems
Drone aircraft
Machine learning
Wireless communication systems
Data transmission systems
Real-time data processing
Self-organizing systems
CNPQ::ENGENHARIAS::ENGENHARIA ELETRICA
Engenharia Elétrica
title_short Eficiência energética no posicionamento de estações rádio-base móveis baseadas em VANTS aplicando aprendizagem por reforço
title_full Eficiência energética no posicionamento de estações rádio-base móveis baseadas em VANTS aplicando aprendizagem por reforço
title_fullStr Eficiência energética no posicionamento de estações rádio-base móveis baseadas em VANTS aplicando aprendizagem por reforço
title_full_unstemmed Eficiência energética no posicionamento de estações rádio-base móveis baseadas em VANTS aplicando aprendizagem por reforço
title_sort Eficiência energética no posicionamento de estações rádio-base móveis baseadas em VANTS aplicando aprendizagem por reforço
author Reis, Ana Flávia dos
author_facet Reis, Ana Flávia dos
author_role author
dc.contributor.none.fl_str_mv Brante, Glauber Gomes de Oliveira
http://lattes.cnpq.br/8347190422243353
Souza, Richard Demo
http://lattes.cnpq.br/6825512654223870
Brante, Glauber Gomes de Oliveira
http://lattes.cnpq.br/8347190422243353
Farhat, Jamil de Araujo
http://lattes.cnpq.br/7539776887110465
Pellenz, Marcelo Eduardo
http://lattes.cnpq.br/6834497622047154
dc.contributor.author.fl_str_mv Reis, Ana Flávia dos
dc.subject.por.fl_str_mv Energia - Consumo
Sistemas de telefonia celular
Sistemas de informação geográfica
Drone
Aprendizado do computador
Sistemas de comunicação sem fio
Sistemas de transmissão de dados
Processamento eletrônico de dados em tempo real
Sistemas auto-organizáveis
Energy consumption
Cell phone systems
Geographic information systems
Drone aircraft
Machine learning
Wireless communication systems
Data transmission systems
Real-time data processing
Self-organizing systems
CNPQ::ENGENHARIAS::ENGENHARIA ELETRICA
Engenharia Elétrica
topic Energia - Consumo
Sistemas de telefonia celular
Sistemas de informação geográfica
Drone
Aprendizado do computador
Sistemas de comunicação sem fio
Sistemas de transmissão de dados
Processamento eletrônico de dados em tempo real
Sistemas auto-organizáveis
Energy consumption
Cell phone systems
Geographic information systems
Drone aircraft
Machine learning
Wireless communication systems
Data transmission systems
Real-time data processing
Self-organizing systems
CNPQ::ENGENHARIAS::ENGENHARIA ELETRICA
Engenharia Elétrica
description To meet users demands, 5G cellular networks require high operational efficiency, making energy efficiency one of the primary challenges and objectives of modern communication systems. In addition, the increase in the number of devices and user requirements in these networks may turn analytical solutions applied in the context of energy efficiency and optimization of communication parameters not feasible, given the complexity associated to these solutions. To overcome this problem, more robust and flexible solutions that exploit the data generated by the network and make real-time decisions are required by these future networks. In this context, the use of Machine Learning techniques, capable of analyzing a big amount of data and learning from it, is a possible solution and can be applied, for example, in different self-organizing network contexts. The aim of this work is to analyze a positioning optimization application of UAVs, Unmanned Aerial Vehicles, in a scenario of temporary events based on a Q-learning algorithm, a reinforcement learning technique in which the agents learn to act to maximize a given reward. Two different rewards are proposed and compared, with the first aiming only to minimize the number of users in outage and the second provided to maximize energy efficiency by considering the amount of energy used for UAVs movements. The Q-learning solution is responsible for determining the best three-dimensional positioning and optimal transmit power given some possible power levels. The results show that the optimization of the transmission power reduced the percentage of users in outage, since interference between UAVs was minimized by allocating adequate power. Furthermore, it is shown that the introduction of a discount factor in the algorithm reward for UAV movements has been able to considerably increase the energy efficiency of the network, with a performance penalty over the user coverage. Finally, for the two solutions considered and in accordance with their respective objectives, the Q-learning technique, based on its ability to learn from iteration with an environment and from previous experiences, proved to be able to solve the problem of self-organization of the UAV-based network in an efficient manner, presenting itself as a promising solution for future cellular networks.
publishDate 2020
dc.date.none.fl_str_mv 2020-04-09T22:33:19Z
2020-04-09T22:33:19Z
2020-02-21
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/masterThesis
format masterThesis
status_str publishedVersion
dc.identifier.uri.fl_str_mv REIS, Ana Flávia dos. Eficiência energética no posicionamento de estações rádio-base móveis baseadas em VANTS aplicando aprendizagem por reforço. 2020. Dissertação (Mestrado em Engenharia Elétrica e Informática Industrial) - Universidade Tecnológica Federal do Paraná, Curitiba, 2020.
http://repositorio.utfpr.edu.br/jspui/handle/1/4841
identifier_str_mv REIS, Ana Flávia dos. Eficiência energética no posicionamento de estações rádio-base móveis baseadas em VANTS aplicando aprendizagem por reforço. 2020. Dissertação (Mestrado em Engenharia Elétrica e Informática Industrial) - Universidade Tecnológica Federal do Paraná, Curitiba, 2020.
url http://repositorio.utfpr.edu.br/jspui/handle/1/4841
dc.language.iso.fl_str_mv por
language por
dc.rights.driver.fl_str_mv info:eu-repo/semantics/openAccess
eu_rights_str_mv openAccess
dc.format.none.fl_str_mv application/pdf
dc.publisher.none.fl_str_mv Universidade Tecnológica Federal do Paraná
Curitiba
Brasil
Programa de Pós-Graduação em Engenharia Elétrica e Informática Industrial
UTFPR
publisher.none.fl_str_mv Universidade Tecnológica Federal do Paraná
Curitiba
Brasil
Programa de Pós-Graduação em Engenharia Elétrica e Informática Industrial
UTFPR
dc.source.none.fl_str_mv reponame:Repositório Institucional da UTFPR (da Universidade Tecnológica Federal do Paraná (RIUT))
instname:Universidade Tecnológica Federal do Paraná (UTFPR)
instacron:UTFPR
instname_str Universidade Tecnológica Federal do Paraná (UTFPR)
instacron_str UTFPR
institution UTFPR
reponame_str Repositório Institucional da UTFPR (da Universidade Tecnológica Federal do Paraná (RIUT))
collection Repositório Institucional da UTFPR (da Universidade Tecnológica Federal do Paraná (RIUT))
repository.name.fl_str_mv Repositório Institucional da UTFPR (da Universidade Tecnológica Federal do Paraná (RIUT)) - Universidade Tecnológica Federal do Paraná (UTFPR)
repository.mail.fl_str_mv riut@utfpr.edu.br || sibi@utfpr.edu.br
_version_ 1850498355656916992