Eficiência energética no posicionamento de estações rádio-base móveis baseadas em VANTS aplicando aprendizagem por reforço
| Ano de defesa: | 2020 |
|---|---|
| Autor(a) principal: | |
| Orientador(a): | |
| Banca de defesa: | |
| Tipo de documento: | Dissertação |
| Tipo de acesso: | Acesso aberto |
| Idioma: | por |
| Instituição de defesa: |
Universidade Tecnológica Federal do Paraná
Curitiba Brasil Programa de Pós-Graduação em Engenharia Elétrica e Informática Industrial UTFPR |
| Programa de Pós-Graduação: |
Não Informado pela instituição
|
| Departamento: |
Não Informado pela instituição
|
| País: |
Não Informado pela instituição
|
| Palavras-chave em Português: | |
| Link de acesso: | http://repositorio.utfpr.edu.br/jspui/handle/1/4841 |
Resumo: | To meet users demands, 5G cellular networks require high operational efficiency, making energy efficiency one of the primary challenges and objectives of modern communication systems. In addition, the increase in the number of devices and user requirements in these networks may turn analytical solutions applied in the context of energy efficiency and optimization of communication parameters not feasible, given the complexity associated to these solutions. To overcome this problem, more robust and flexible solutions that exploit the data generated by the network and make real-time decisions are required by these future networks. In this context, the use of Machine Learning techniques, capable of analyzing a big amount of data and learning from it, is a possible solution and can be applied, for example, in different self-organizing network contexts. The aim of this work is to analyze a positioning optimization application of UAVs, Unmanned Aerial Vehicles, in a scenario of temporary events based on a Q-learning algorithm, a reinforcement learning technique in which the agents learn to act to maximize a given reward. Two different rewards are proposed and compared, with the first aiming only to minimize the number of users in outage and the second provided to maximize energy efficiency by considering the amount of energy used for UAVs movements. The Q-learning solution is responsible for determining the best three-dimensional positioning and optimal transmit power given some possible power levels. The results show that the optimization of the transmission power reduced the percentage of users in outage, since interference between UAVs was minimized by allocating adequate power. Furthermore, it is shown that the introduction of a discount factor in the algorithm reward for UAV movements has been able to considerably increase the energy efficiency of the network, with a performance penalty over the user coverage. Finally, for the two solutions considered and in accordance with their respective objectives, the Q-learning technique, based on its ability to learn from iteration with an environment and from previous experiences, proved to be able to solve the problem of self-organization of the UAV-based network in an efficient manner, presenting itself as a promising solution for future cellular networks. |
| id |
UTFPR-12_1cf70a03220fc998bcca3770df0f1a57 |
|---|---|
| oai_identifier_str |
oai:repositorio.utfpr.edu.br:1/4841 |
| network_acronym_str |
UTFPR-12 |
| network_name_str |
Repositório Institucional da UTFPR (da Universidade Tecnológica Federal do Paraná (RIUT)) |
| repository_id_str |
|
| spelling |
Eficiência energética no posicionamento de estações rádio-base móveis baseadas em VANTS aplicando aprendizagem por reforçoEnergy efficiency in positioning UAV-based mobile base stations applying reinforcement learningEnergia - ConsumoSistemas de telefonia celularSistemas de informação geográficaDroneAprendizado do computadorSistemas de comunicação sem fioSistemas de transmissão de dadosProcessamento eletrônico de dados em tempo realSistemas auto-organizáveisEnergy consumptionCell phone systemsGeographic information systemsDrone aircraftMachine learningWireless communication systemsData transmission systemsReal-time data processingSelf-organizing systemsCNPQ::ENGENHARIAS::ENGENHARIA ELETRICAEngenharia ElétricaTo meet users demands, 5G cellular networks require high operational efficiency, making energy efficiency one of the primary challenges and objectives of modern communication systems. In addition, the increase in the number of devices and user requirements in these networks may turn analytical solutions applied in the context of energy efficiency and optimization of communication parameters not feasible, given the complexity associated to these solutions. To overcome this problem, more robust and flexible solutions that exploit the data generated by the network and make real-time decisions are required by these future networks. In this context, the use of Machine Learning techniques, capable of analyzing a big amount of data and learning from it, is a possible solution and can be applied, for example, in different self-organizing network contexts. The aim of this work is to analyze a positioning optimization application of UAVs, Unmanned Aerial Vehicles, in a scenario of temporary events based on a Q-learning algorithm, a reinforcement learning technique in which the agents learn to act to maximize a given reward. Two different rewards are proposed and compared, with the first aiming only to minimize the number of users in outage and the second provided to maximize energy efficiency by considering the amount of energy used for UAVs movements. The Q-learning solution is responsible for determining the best three-dimensional positioning and optimal transmit power given some possible power levels. The results show that the optimization of the transmission power reduced the percentage of users in outage, since interference between UAVs was minimized by allocating adequate power. Furthermore, it is shown that the introduction of a discount factor in the algorithm reward for UAV movements has been able to considerably increase the energy efficiency of the network, with a performance penalty over the user coverage. Finally, for the two solutions considered and in accordance with their respective objectives, the Q-learning technique, based on its ability to learn from iteration with an environment and from previous experiences, proved to be able to solve the problem of self-organization of the UAV-based network in an efficient manner, presenting itself as a promising solution for future cellular networks.Coordenação de Aperfeiçoamento de Pessoal de Nível Superior (CAPES)Para suprir as exigências de seus usuários, as redes celulares 5G devem ser altamente eficientes, tornando a eficiência energética um dos desafios e objetivos primários dos cenários de comunicações modernos. Além disso, o aumento no número de dispositivos e requisitos dos usuários dessas redes podem tornar as soluções analíticas aplicadas no contexto da eficiência energética e otimização de parâmetros da comunicação não factíveis, dada a complexidade atrelada à essas soluções. Para superar esse problema, soluções mais robustas e flexíveis, que exploram os dados gerados pela rede e tornam decisões em tempo real são as exigidas por essas redes futuras. Nesse contexto, a utilização de técnicas de Aprendizado de Máquina, capazes de analisar uma enorme quantidade de dados e aprender com eles, é uma possível solução, podendo ser aplicadas, por exemplo, em diferentes contextos de redes auto-organizáveis. O objetivo da presente dissertação é analisar uma aplicação de otimização do posicionamento de VANTs, Veículos Aéreos Não Tripulados, em um cenário de eventos temporários baseando-se em um algoritmo Q-learning, uma técnica de aprendizado por reforço, na qual os agentes das soluções propostas aprendem a agir para maximizar uma determinada recompensa. Duas diferentes recompensas são propostas e comparadas, com a primeira visando apenas minimizar o número de usuários em indisponibilidade e a segunda buscando maximizar a eficiência energética, considerando a quantidade de energia usada para a movimentação VANTs. A solução Q-learning é responsável por determinar o melhor posicionamento no espaço tridimensional e a potência de transmissão ideal, dados alguns níveis de potência possíveis. Os resultados obtidos mostram que a otimização da potência de transmissão implementada reduziu a probabilidade de indisponibilidade dos usuários da rede, uma vez que a interferência entre os VANTs foi minimizada a partir da alocação da potência adequada e, além disso, é mostrado que a introdução de um fator de desconto na recompensa do algoritmo relacionado ao gasto de energia para as movimentações VANTs foi capaz de aumentar consideravelmente a eficiência energética da rede, com uma penalidade no desempenho em relação à cobertura de usuários. Finalmente, para as duas soluções consideradas e de acordo os seus respectivos objetivos, a técnica Q-learning, a partir da sua capacidade de aprender com a iteração com um ambiente e de experiências anteriores, mostrou-se capaz de resolver o problema de auto-organização da rede baseada em VANTs de uma maneira eficiente, apresentando-se como uma solução promissora para as futuras redes celulares.Universidade Tecnológica Federal do ParanáCuritibaBrasilPrograma de Pós-Graduação em Engenharia Elétrica e Informática IndustrialUTFPRBrante, Glauber Gomes de Oliveirahttp://lattes.cnpq.br/8347190422243353Souza, Richard Demohttp://lattes.cnpq.br/6825512654223870Brante, Glauber Gomes de Oliveirahttp://lattes.cnpq.br/8347190422243353Farhat, Jamil de Araujohttp://lattes.cnpq.br/7539776887110465Pellenz, Marcelo Eduardohttp://lattes.cnpq.br/6834497622047154Reis, Ana Flávia dos2020-04-09T22:33:19Z2020-04-09T22:33:19Z2020-02-21info:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisapplication/pdfREIS, Ana Flávia dos. Eficiência energética no posicionamento de estações rádio-base móveis baseadas em VANTS aplicando aprendizagem por reforço. 2020. Dissertação (Mestrado em Engenharia Elétrica e Informática Industrial) - Universidade Tecnológica Federal do Paraná, Curitiba, 2020.http://repositorio.utfpr.edu.br/jspui/handle/1/4841porinfo:eu-repo/semantics/openAccessreponame:Repositório Institucional da UTFPR (da Universidade Tecnológica Federal do Paraná (RIUT))instname:Universidade Tecnológica Federal do Paraná (UTFPR)instacron:UTFPR2020-04-10T06:01:05Zoai:repositorio.utfpr.edu.br:1/4841Repositório InstitucionalPUBhttp://repositorio.utfpr.edu.br:8080/oai/requestriut@utfpr.edu.br || sibi@utfpr.edu.bropendoar:2020-04-10T06:01:05Repositório Institucional da UTFPR (da Universidade Tecnológica Federal do Paraná (RIUT)) - Universidade Tecnológica Federal do Paraná (UTFPR)false |
| dc.title.none.fl_str_mv |
Eficiência energética no posicionamento de estações rádio-base móveis baseadas em VANTS aplicando aprendizagem por reforço Energy efficiency in positioning UAV-based mobile base stations applying reinforcement learning |
| title |
Eficiência energética no posicionamento de estações rádio-base móveis baseadas em VANTS aplicando aprendizagem por reforço |
| spellingShingle |
Eficiência energética no posicionamento de estações rádio-base móveis baseadas em VANTS aplicando aprendizagem por reforço Reis, Ana Flávia dos Energia - Consumo Sistemas de telefonia celular Sistemas de informação geográfica Drone Aprendizado do computador Sistemas de comunicação sem fio Sistemas de transmissão de dados Processamento eletrônico de dados em tempo real Sistemas auto-organizáveis Energy consumption Cell phone systems Geographic information systems Drone aircraft Machine learning Wireless communication systems Data transmission systems Real-time data processing Self-organizing systems CNPQ::ENGENHARIAS::ENGENHARIA ELETRICA Engenharia Elétrica |
| title_short |
Eficiência energética no posicionamento de estações rádio-base móveis baseadas em VANTS aplicando aprendizagem por reforço |
| title_full |
Eficiência energética no posicionamento de estações rádio-base móveis baseadas em VANTS aplicando aprendizagem por reforço |
| title_fullStr |
Eficiência energética no posicionamento de estações rádio-base móveis baseadas em VANTS aplicando aprendizagem por reforço |
| title_full_unstemmed |
Eficiência energética no posicionamento de estações rádio-base móveis baseadas em VANTS aplicando aprendizagem por reforço |
| title_sort |
Eficiência energética no posicionamento de estações rádio-base móveis baseadas em VANTS aplicando aprendizagem por reforço |
| author |
Reis, Ana Flávia dos |
| author_facet |
Reis, Ana Flávia dos |
| author_role |
author |
| dc.contributor.none.fl_str_mv |
Brante, Glauber Gomes de Oliveira http://lattes.cnpq.br/8347190422243353 Souza, Richard Demo http://lattes.cnpq.br/6825512654223870 Brante, Glauber Gomes de Oliveira http://lattes.cnpq.br/8347190422243353 Farhat, Jamil de Araujo http://lattes.cnpq.br/7539776887110465 Pellenz, Marcelo Eduardo http://lattes.cnpq.br/6834497622047154 |
| dc.contributor.author.fl_str_mv |
Reis, Ana Flávia dos |
| dc.subject.por.fl_str_mv |
Energia - Consumo Sistemas de telefonia celular Sistemas de informação geográfica Drone Aprendizado do computador Sistemas de comunicação sem fio Sistemas de transmissão de dados Processamento eletrônico de dados em tempo real Sistemas auto-organizáveis Energy consumption Cell phone systems Geographic information systems Drone aircraft Machine learning Wireless communication systems Data transmission systems Real-time data processing Self-organizing systems CNPQ::ENGENHARIAS::ENGENHARIA ELETRICA Engenharia Elétrica |
| topic |
Energia - Consumo Sistemas de telefonia celular Sistemas de informação geográfica Drone Aprendizado do computador Sistemas de comunicação sem fio Sistemas de transmissão de dados Processamento eletrônico de dados em tempo real Sistemas auto-organizáveis Energy consumption Cell phone systems Geographic information systems Drone aircraft Machine learning Wireless communication systems Data transmission systems Real-time data processing Self-organizing systems CNPQ::ENGENHARIAS::ENGENHARIA ELETRICA Engenharia Elétrica |
| description |
To meet users demands, 5G cellular networks require high operational efficiency, making energy efficiency one of the primary challenges and objectives of modern communication systems. In addition, the increase in the number of devices and user requirements in these networks may turn analytical solutions applied in the context of energy efficiency and optimization of communication parameters not feasible, given the complexity associated to these solutions. To overcome this problem, more robust and flexible solutions that exploit the data generated by the network and make real-time decisions are required by these future networks. In this context, the use of Machine Learning techniques, capable of analyzing a big amount of data and learning from it, is a possible solution and can be applied, for example, in different self-organizing network contexts. The aim of this work is to analyze a positioning optimization application of UAVs, Unmanned Aerial Vehicles, in a scenario of temporary events based on a Q-learning algorithm, a reinforcement learning technique in which the agents learn to act to maximize a given reward. Two different rewards are proposed and compared, with the first aiming only to minimize the number of users in outage and the second provided to maximize energy efficiency by considering the amount of energy used for UAVs movements. The Q-learning solution is responsible for determining the best three-dimensional positioning and optimal transmit power given some possible power levels. The results show that the optimization of the transmission power reduced the percentage of users in outage, since interference between UAVs was minimized by allocating adequate power. Furthermore, it is shown that the introduction of a discount factor in the algorithm reward for UAV movements has been able to considerably increase the energy efficiency of the network, with a performance penalty over the user coverage. Finally, for the two solutions considered and in accordance with their respective objectives, the Q-learning technique, based on its ability to learn from iteration with an environment and from previous experiences, proved to be able to solve the problem of self-organization of the UAV-based network in an efficient manner, presenting itself as a promising solution for future cellular networks. |
| publishDate |
2020 |
| dc.date.none.fl_str_mv |
2020-04-09T22:33:19Z 2020-04-09T22:33:19Z 2020-02-21 |
| dc.type.status.fl_str_mv |
info:eu-repo/semantics/publishedVersion |
| dc.type.driver.fl_str_mv |
info:eu-repo/semantics/masterThesis |
| format |
masterThesis |
| status_str |
publishedVersion |
| dc.identifier.uri.fl_str_mv |
REIS, Ana Flávia dos. Eficiência energética no posicionamento de estações rádio-base móveis baseadas em VANTS aplicando aprendizagem por reforço. 2020. Dissertação (Mestrado em Engenharia Elétrica e Informática Industrial) - Universidade Tecnológica Federal do Paraná, Curitiba, 2020. http://repositorio.utfpr.edu.br/jspui/handle/1/4841 |
| identifier_str_mv |
REIS, Ana Flávia dos. Eficiência energética no posicionamento de estações rádio-base móveis baseadas em VANTS aplicando aprendizagem por reforço. 2020. Dissertação (Mestrado em Engenharia Elétrica e Informática Industrial) - Universidade Tecnológica Federal do Paraná, Curitiba, 2020. |
| url |
http://repositorio.utfpr.edu.br/jspui/handle/1/4841 |
| dc.language.iso.fl_str_mv |
por |
| language |
por |
| dc.rights.driver.fl_str_mv |
info:eu-repo/semantics/openAccess |
| eu_rights_str_mv |
openAccess |
| dc.format.none.fl_str_mv |
application/pdf |
| dc.publisher.none.fl_str_mv |
Universidade Tecnológica Federal do Paraná Curitiba Brasil Programa de Pós-Graduação em Engenharia Elétrica e Informática Industrial UTFPR |
| publisher.none.fl_str_mv |
Universidade Tecnológica Federal do Paraná Curitiba Brasil Programa de Pós-Graduação em Engenharia Elétrica e Informática Industrial UTFPR |
| dc.source.none.fl_str_mv |
reponame:Repositório Institucional da UTFPR (da Universidade Tecnológica Federal do Paraná (RIUT)) instname:Universidade Tecnológica Federal do Paraná (UTFPR) instacron:UTFPR |
| instname_str |
Universidade Tecnológica Federal do Paraná (UTFPR) |
| instacron_str |
UTFPR |
| institution |
UTFPR |
| reponame_str |
Repositório Institucional da UTFPR (da Universidade Tecnológica Federal do Paraná (RIUT)) |
| collection |
Repositório Institucional da UTFPR (da Universidade Tecnológica Federal do Paraná (RIUT)) |
| repository.name.fl_str_mv |
Repositório Institucional da UTFPR (da Universidade Tecnológica Federal do Paraná (RIUT)) - Universidade Tecnológica Federal do Paraná (UTFPR) |
| repository.mail.fl_str_mv |
riut@utfpr.edu.br || sibi@utfpr.edu.br |
| _version_ |
1850498355656916992 |