Planejamento de trajetória explorativa e informativa para monitoramento de ambientes desconhecidos com UAV: uma abordagem BO-POMDP

Detalhes bibliográficos
Ano de defesa: 2023
Autor(a) principal: Santos, Marcela Aparecida Aniceto dos
Orientador(a): Vivaldini, Kelen Cristiane Teixeira lattes
Banca de defesa: Não Informado pela instituição
Tipo de documento: Tese
Tipo de acesso: Acesso aberto
Idioma: por
Instituição de defesa: Universidade Federal de São Carlos
Câmpus São Carlos
Programa de Pós-Graduação: Programa de Pós-Graduação em Ciência da Computação - PPGCC
Departamento: Não Informado pela instituição
País: Não Informado pela instituição
Palavras-chave em Português:
Palavras-chave em Inglês:
Área do conhecimento CNPq:
Link de acesso: https://repositorio.ufscar.br/handle/20.500.14289/20032
Resumo: Unmanned Aerial Vehicles (UAVs) have been used for several applications in monitoring complex and unknown environments. The challenge is to plan missions for the UAV where the vehicle needs to visit and explore an area and analyze it in real time to define the route to be followed. This visit involves maximizing the search area through trajectory definitions, enabling information collection to gain Knowledge about the environment and generate a map. This type of problem is known as Informative Path Planning and Autonomous Exploration. In this context, Bayesian Optimization (BO) has been used together with Gaussian Process to collect information from an unknown environment and define the trajectories. Moreover, However, for the definition of trajectories to be carried out sequentially and specific constraints to be considered, there is a need for a planner responsible for making these decisions and, in this case, the Partially Observable Markov Decision Process (POMDP) can be used. POMDP is considered a non-myopic method as it allows you to efficiently calculate the best action by checking several steps ahead. Therefore, considering these methods, the aim of this work is to develop a strategy for explorative and informative path planning in unknown environments using UAV. For this approach, a system for sequential decision making under uncertainty was developed based on the BO-POMDP approach. Tests were carried out and demonstrated that the non-Myopic approach to exploration/exploitation obtained better results compared to the Myopic and random methods. With the RMSE and Tr(P) metrics used to evaluate the models, it was inferred that the non-myopic approach obtained lower error and that uncertainty about the environment decreases throughout the algorithm iterations. Furthermore, the results demonstrated that the use of the non-myopic strategy led to a reduction in the trajectory to be covered by the UAV in a time that was equivalent to the time of the myopic method. This fact corroborates the idea that non-myopic algorithms can efficiently calculate the best action, taking shorter trajectories and, due to planning aiming for future rewards, obtaining a greater chance of finding global optimal solutions.
id SCAR_7b66022cfbd2169dcd65a7bd11f72205
oai_identifier_str oai:repositorio.ufscar.br:20.500.14289/20032
network_acronym_str SCAR
network_name_str Repositório Institucional da UFSCAR
repository_id_str
spelling Santos, Marcela Aparecida Aniceto dosVivaldini, Kelen Cristiane Teixeirahttp://lattes.cnpq.br/5245409138233148http://lattes.cnpq.br/1794896249292950https://orcid.org/0000-0002-3390-6402https://orcid.org/0000-0001-5985-96352024-07-17T11:50:38Z2024-07-17T11:50:38Z2023-10-31SANTOS, Marcela Aparecida Aniceto dos. Planejamento de trajetória explorativa e informativa para monitoramento de ambientes desconhecidos com UAV: uma abordagem BO-POMDP. 2023. Tese (Doutorado em Ciência da Computação) – Universidade Federal de São Carlos, São Carlos, 2023. Disponível em: https://repositorio.ufscar.br/handle/20.500.14289/20032.https://repositorio.ufscar.br/handle/20.500.14289/20032Unmanned Aerial Vehicles (UAVs) have been used for several applications in monitoring complex and unknown environments. The challenge is to plan missions for the UAV where the vehicle needs to visit and explore an area and analyze it in real time to define the route to be followed. This visit involves maximizing the search area through trajectory definitions, enabling information collection to gain Knowledge about the environment and generate a map. This type of problem is known as Informative Path Planning and Autonomous Exploration. In this context, Bayesian Optimization (BO) has been used together with Gaussian Process to collect information from an unknown environment and define the trajectories. Moreover, However, for the definition of trajectories to be carried out sequentially and specific constraints to be considered, there is a need for a planner responsible for making these decisions and, in this case, the Partially Observable Markov Decision Process (POMDP) can be used. POMDP is considered a non-myopic method as it allows you to efficiently calculate the best action by checking several steps ahead. Therefore, considering these methods, the aim of this work is to develop a strategy for explorative and informative path planning in unknown environments using UAV. For this approach, a system for sequential decision making under uncertainty was developed based on the BO-POMDP approach. Tests were carried out and demonstrated that the non-Myopic approach to exploration/exploitation obtained better results compared to the Myopic and random methods. With the RMSE and Tr(P) metrics used to evaluate the models, it was inferred that the non-myopic approach obtained lower error and that uncertainty about the environment decreases throughout the algorithm iterations. Furthermore, the results demonstrated that the use of the non-myopic strategy led to a reduction in the trajectory to be covered by the UAV in a time that was equivalent to the time of the myopic method. This fact corroborates the idea that non-myopic algorithms can efficiently calculate the best action, taking shorter trajectories and, due to planning aiming for future rewards, obtaining a greater chance of finding global optimal solutions.Os Veículos Aéreos não Tripulados (Unmanned Aerial Vehicles - UAVs) vêm sendo usados para diversas aplicações em monitoramento de ambientes complexos e desconhecidos. Um dos desafios está no planejamento de missões em que o UAV visita e explora uma área, analisando-a em tempo real, para que seja possível definir a rota a ser seguida. Essa visita envolve a maximização da área de busca a partir da definição das trajetórias. Isso possibilita a coleta de informações para aquisição de conhecimentos sobre o ambiente fornecendo um mapa do mesmo. Esse tipo de problema é conhecido como Planejamento de Trajetória Informativa (Informative Path Plannning - IPP) e Exploração Autônoma. Nesse contexto, a Otimização Bayesiana (Bayesian Optimization - BO) tem sido usada em conjunto com Processo Gaussiano para coletar informações de um ambiente desconhecido e para realizar a definição das trajetórias. No entanto, para que a definição das trajetórias sejam realizadas de forma sequencial e sejam consideradas restrições específicas, existe a necessidade de um planejador responsável por essas tomadas de decisões e, neste caso, pode-se usar o Processo de Decisão de Markov Parcialmente Observável (Partially Observable Markov Decision Processes - POMDP). O POMDP é considerado um método não-míope, pois permite calcular com eficiência a melhor ação, verificando vários passos à frente. Portanto, considerando esses métodos, o objetivo deste trabalho é o desenvolvimento de uma estratégia para planejamento de trajetória explorativa e informativa em ambientes desconhecidos usando UAV. Para essa abordagem foi desenvolvido um sistema para a tomada de decisão sequencial sob incertezas baseado na abordagem BO-POMDP. Testes foram realizados e demonstraram que a abordagem não-míope para exploração/explotação obteve melhores resultados se comparados com o método Míope e o randômico. Com as métricas RMSE e Tr(P) usadas para avaliar os modelos, foi inferido que abordagem não-míope obteve menor erro e que a incerteza sobre o ambiente diminui ao longo da iterações do algoritmo. Além disso, os resultados demonstraram que o uso da estratégia não-míope levou à redução da trajetória a ser percorrida pelo UAV em um tempo que foi equivalente ao tempo do método míope. Esse fato corrobora com a ideia de que algoritmos não-míopes podem calcular com eficiência a melhor ação, realizando trajetórias menores e, devido ao planejamento visando recompensas futuras, obtendo maior chance de encontrar soluções ótimas globais.Coordenação de Aperfeiçoamento de Pessoal de Nível Superior (CAPES)88882.426798/2019-01porUniversidade Federal de São CarlosCâmpus São CarlosPrograma de Pós-Graduação em Ciência da Computação - PPGCCUFSCarAttribution-NonCommercial-NoDerivs 3.0 Brazilhttp://creativecommons.org/licenses/by-nc-nd/3.0/br/info:eu-repo/semantics/openAccessPlanejamento de trajetória informativaExploraçãoMonitoramento de ambienteOtimização bayesianaProcesso de decisão de Markov parcialmente observávelProcesso gaussianoInformative path planningExplorationEnvironmental monitoringBayesian optimizationPartially observable Markov decision processesGaussian processesCIENCIAS EXATAS E DA TERRA::CIENCIA DA COMPUTACAO::METODOLOGIA E TECNICAS DA COMPUTACAOPlanejamento de trajetória explorativa e informativa para monitoramento de ambientes desconhecidos com UAV: uma abordagem BO-POMDPExplorative and informative path planning for monitoring unknown environments with UAV: ​​a BO-POMDP approachinfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/doctoralThesisreponame:Repositório Institucional da UFSCARinstname:Universidade Federal de São Carlos (UFSCAR)instacron:UFSCARTEXTTese-Doutorado_MarcelaAniceto_VersaoFinal.pdf.txtTese-Doutorado_MarcelaAniceto_VersaoFinal.pdf.txtExtracted texttext/plain103519https://repositorio.ufscar.br/bitstreams/4ffdd418-6eda-468f-b227-0bb56a2eb13b/download6014236dcedf8a53877375a2be466800MD53falseAnonymousREADTHUMBNAILTese-Doutorado_MarcelaAniceto_VersaoFinal.pdf.jpgTese-Doutorado_MarcelaAniceto_VersaoFinal.pdf.jpgGenerated Thumbnailimage/jpeg6204https://repositorio.ufscar.br/bitstreams/5077b09a-bcf7-453f-bc06-1e5c7ea78b5c/downloadb596f7a7d9d7dfd1a741428ea6a39586MD54falseAnonymousREADORIGINALTese-Doutorado_MarcelaAniceto_VersaoFinal.pdfTese-Doutorado_MarcelaAniceto_VersaoFinal.pdfTese Doutoradoapplication/pdf5670518https://repositorio.ufscar.br/bitstreams/540f2919-5b37-46d0-a0f1-9954b96cecac/downloadc563669938ad9c9438609b27e1bb320fMD51trueAnonymousREADCC-LICENSElicense_rdflicense_rdfapplication/rdf+xml; charset=utf-8810https://repositorio.ufscar.br/bitstreams/7a28e802-1897-4090-943c-6752e91219d3/downloadf337d95da1fce0a22c77480e5e9a7aecMD52falseAnonymousREAD20.500.14289/200322025-02-06 02:31:41.681http://creativecommons.org/licenses/by-nc-nd/3.0/br/Attribution-NonCommercial-NoDerivs 3.0 Brazilopen.accessoai:repositorio.ufscar.br:20.500.14289/20032https://repositorio.ufscar.brRepositório InstitucionalPUBhttps://repositorio.ufscar.br/oai/requestrepositorio.sibi@ufscar.bropendoar:43222025-02-06T05:31:41Repositório Institucional da UFSCAR - Universidade Federal de São Carlos (UFSCAR)false
dc.title.por.fl_str_mv Planejamento de trajetória explorativa e informativa para monitoramento de ambientes desconhecidos com UAV: uma abordagem BO-POMDP
dc.title.alternative.eng.fl_str_mv Explorative and informative path planning for monitoring unknown environments with UAV: ​​a BO-POMDP approach
title Planejamento de trajetória explorativa e informativa para monitoramento de ambientes desconhecidos com UAV: uma abordagem BO-POMDP
spellingShingle Planejamento de trajetória explorativa e informativa para monitoramento de ambientes desconhecidos com UAV: uma abordagem BO-POMDP
Santos, Marcela Aparecida Aniceto dos
Planejamento de trajetória informativa
Exploração
Monitoramento de ambiente
Otimização bayesiana
Processo de decisão de Markov parcialmente observável
Processo gaussiano
Informative path planning
Exploration
Environmental monitoring
Bayesian optimization
Partially observable Markov decision processes
Gaussian processes
CIENCIAS EXATAS E DA TERRA::CIENCIA DA COMPUTACAO::METODOLOGIA E TECNICAS DA COMPUTACAO
title_short Planejamento de trajetória explorativa e informativa para monitoramento de ambientes desconhecidos com UAV: uma abordagem BO-POMDP
title_full Planejamento de trajetória explorativa e informativa para monitoramento de ambientes desconhecidos com UAV: uma abordagem BO-POMDP
title_fullStr Planejamento de trajetória explorativa e informativa para monitoramento de ambientes desconhecidos com UAV: uma abordagem BO-POMDP
title_full_unstemmed Planejamento de trajetória explorativa e informativa para monitoramento de ambientes desconhecidos com UAV: uma abordagem BO-POMDP
title_sort Planejamento de trajetória explorativa e informativa para monitoramento de ambientes desconhecidos com UAV: uma abordagem BO-POMDP
author Santos, Marcela Aparecida Aniceto dos
author_facet Santos, Marcela Aparecida Aniceto dos
author_role author
dc.contributor.authorlattes.por.fl_str_mv http://lattes.cnpq.br/1794896249292950
dc.contributor.authororcid.por.fl_str_mv https://orcid.org/0000-0002-3390-6402
dc.contributor.advisor1orcid.por.fl_str_mv https://orcid.org/0000-0001-5985-9635
dc.contributor.author.fl_str_mv Santos, Marcela Aparecida Aniceto dos
dc.contributor.advisor1.fl_str_mv Vivaldini, Kelen Cristiane Teixeira
dc.contributor.advisor1Lattes.fl_str_mv http://lattes.cnpq.br/5245409138233148
contributor_str_mv Vivaldini, Kelen Cristiane Teixeira
dc.subject.por.fl_str_mv Planejamento de trajetória informativa
Exploração
Monitoramento de ambiente
Otimização bayesiana
Processo de decisão de Markov parcialmente observável
Processo gaussiano
topic Planejamento de trajetória informativa
Exploração
Monitoramento de ambiente
Otimização bayesiana
Processo de decisão de Markov parcialmente observável
Processo gaussiano
Informative path planning
Exploration
Environmental monitoring
Bayesian optimization
Partially observable Markov decision processes
Gaussian processes
CIENCIAS EXATAS E DA TERRA::CIENCIA DA COMPUTACAO::METODOLOGIA E TECNICAS DA COMPUTACAO
dc.subject.eng.fl_str_mv Informative path planning
Exploration
Environmental monitoring
Bayesian optimization
Partially observable Markov decision processes
Gaussian processes
dc.subject.cnpq.fl_str_mv CIENCIAS EXATAS E DA TERRA::CIENCIA DA COMPUTACAO::METODOLOGIA E TECNICAS DA COMPUTACAO
description Unmanned Aerial Vehicles (UAVs) have been used for several applications in monitoring complex and unknown environments. The challenge is to plan missions for the UAV where the vehicle needs to visit and explore an area and analyze it in real time to define the route to be followed. This visit involves maximizing the search area through trajectory definitions, enabling information collection to gain Knowledge about the environment and generate a map. This type of problem is known as Informative Path Planning and Autonomous Exploration. In this context, Bayesian Optimization (BO) has been used together with Gaussian Process to collect information from an unknown environment and define the trajectories. Moreover, However, for the definition of trajectories to be carried out sequentially and specific constraints to be considered, there is a need for a planner responsible for making these decisions and, in this case, the Partially Observable Markov Decision Process (POMDP) can be used. POMDP is considered a non-myopic method as it allows you to efficiently calculate the best action by checking several steps ahead. Therefore, considering these methods, the aim of this work is to develop a strategy for explorative and informative path planning in unknown environments using UAV. For this approach, a system for sequential decision making under uncertainty was developed based on the BO-POMDP approach. Tests were carried out and demonstrated that the non-Myopic approach to exploration/exploitation obtained better results compared to the Myopic and random methods. With the RMSE and Tr(P) metrics used to evaluate the models, it was inferred that the non-myopic approach obtained lower error and that uncertainty about the environment decreases throughout the algorithm iterations. Furthermore, the results demonstrated that the use of the non-myopic strategy led to a reduction in the trajectory to be covered by the UAV in a time that was equivalent to the time of the myopic method. This fact corroborates the idea that non-myopic algorithms can efficiently calculate the best action, taking shorter trajectories and, due to planning aiming for future rewards, obtaining a greater chance of finding global optimal solutions.
publishDate 2023
dc.date.issued.fl_str_mv 2023-10-31
dc.date.accessioned.fl_str_mv 2024-07-17T11:50:38Z
dc.date.available.fl_str_mv 2024-07-17T11:50:38Z
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/doctoralThesis
format doctoralThesis
status_str publishedVersion
dc.identifier.citation.fl_str_mv SANTOS, Marcela Aparecida Aniceto dos. Planejamento de trajetória explorativa e informativa para monitoramento de ambientes desconhecidos com UAV: uma abordagem BO-POMDP. 2023. Tese (Doutorado em Ciência da Computação) – Universidade Federal de São Carlos, São Carlos, 2023. Disponível em: https://repositorio.ufscar.br/handle/20.500.14289/20032.
dc.identifier.uri.fl_str_mv https://repositorio.ufscar.br/handle/20.500.14289/20032
identifier_str_mv SANTOS, Marcela Aparecida Aniceto dos. Planejamento de trajetória explorativa e informativa para monitoramento de ambientes desconhecidos com UAV: uma abordagem BO-POMDP. 2023. Tese (Doutorado em Ciência da Computação) – Universidade Federal de São Carlos, São Carlos, 2023. Disponível em: https://repositorio.ufscar.br/handle/20.500.14289/20032.
url https://repositorio.ufscar.br/handle/20.500.14289/20032
dc.language.iso.fl_str_mv por
language por
dc.rights.driver.fl_str_mv Attribution-NonCommercial-NoDerivs 3.0 Brazil
http://creativecommons.org/licenses/by-nc-nd/3.0/br/
info:eu-repo/semantics/openAccess
rights_invalid_str_mv Attribution-NonCommercial-NoDerivs 3.0 Brazil
http://creativecommons.org/licenses/by-nc-nd/3.0/br/
eu_rights_str_mv openAccess
dc.publisher.none.fl_str_mv Universidade Federal de São Carlos
Câmpus São Carlos
dc.publisher.program.fl_str_mv Programa de Pós-Graduação em Ciência da Computação - PPGCC
dc.publisher.initials.fl_str_mv UFSCar
publisher.none.fl_str_mv Universidade Federal de São Carlos
Câmpus São Carlos
dc.source.none.fl_str_mv reponame:Repositório Institucional da UFSCAR
instname:Universidade Federal de São Carlos (UFSCAR)
instacron:UFSCAR
instname_str Universidade Federal de São Carlos (UFSCAR)
instacron_str UFSCAR
institution UFSCAR
reponame_str Repositório Institucional da UFSCAR
collection Repositório Institucional da UFSCAR
bitstream.url.fl_str_mv https://repositorio.ufscar.br/bitstreams/4ffdd418-6eda-468f-b227-0bb56a2eb13b/download
https://repositorio.ufscar.br/bitstreams/5077b09a-bcf7-453f-bc06-1e5c7ea78b5c/download
https://repositorio.ufscar.br/bitstreams/540f2919-5b37-46d0-a0f1-9954b96cecac/download
https://repositorio.ufscar.br/bitstreams/7a28e802-1897-4090-943c-6752e91219d3/download
bitstream.checksum.fl_str_mv 6014236dcedf8a53877375a2be466800
b596f7a7d9d7dfd1a741428ea6a39586
c563669938ad9c9438609b27e1bb320f
f337d95da1fce0a22c77480e5e9a7aec
bitstream.checksumAlgorithm.fl_str_mv MD5
MD5
MD5
MD5
repository.name.fl_str_mv Repositório Institucional da UFSCAR - Universidade Federal de São Carlos (UFSCAR)
repository.mail.fl_str_mv repositorio.sibi@ufscar.br
_version_ 1851688802899197952