Formulação e solução do problema de alocação de veículos estocástico por meio de programação dinâmica aproximada

Detalhes bibliográficos
Ano de defesa: 2023
Autor(a) principal: Mendonça, Vitória Ingrid Teles
Orientador(a): Pitombeira Neto, Anselmo Ramalho
Banca de defesa: Não Informado pela instituição
Tipo de documento: Dissertação
Tipo de acesso: Acesso aberto
Idioma: por
Instituição de defesa: Não Informado pela instituição
Programa de Pós-Graduação: Não Informado pela instituição
Departamento: Não Informado pela instituição
País: Não Informado pela instituição
Área do conhecimento CNPq:
Link de acesso: http://repositorio.ufc.br/handle/riufc/78286
Resumo: The dynamic and stochastic vehicle allocation problem is a problem with a vast field of applications, which has gained considerable evidence since the emergence of on-demand urban mobility service platforms. In this work, the vehicle allocation problem consists of allocating vehicles to calls that arrive at a call center at random times in order to minimize the waiting time. This problem is formulated as a semi-Markov decision problem. Given that the size of the state space as well as the decision states are sensitive points for obtaining an optimal policy, approximate dynamic programming methods are presented as an alternative way to build approximate decision policies. Therefore, we present a solution to the vehicle allocation problem based on the rollout algorithm, an approximate policy iteration algorithm, that is, given an initial policy, it builds an improved policy based on two steps: policy evaluation and policy improvement. The policies produced by the rollout algorithm are of the lookahead type, which, compared to myopic policies, have the advantage of leading to decisions that balance current and future returns. The rollout algorithm was tested in a simulated environment based on discrete-event simulation, so that the natural process of the semi-Markovian decision process was modeled as a queuing system, controlling the arrival process of new tickets, service of each vehicle, and the discipline of the queue. Thus, the rollout algorithm is based on three basic policies: FIFO, the ticket is chosen prioritizing the waiting time in the queue; NV, the call is chosen prioritizing the distance between vehicles; RANDOM, the call is chosen at random. And it aims to improve the performance of these policies. Overall, the results show that for all these policies, the rollout algorithm was able to produce an average reduction of up to 69% of the average accumulated delay.
id UFC-7_3c3d29625dc0d1858a5bb7ff84497816
oai_identifier_str oai:repositorio.ufc.br:riufc/78286
network_acronym_str UFC-7
network_name_str Repositório Institucional da Universidade Federal do Ceará (UFC)
repository_id_str
spelling Mendonça, Vitória Ingrid TelesPitombeira Neto, Anselmo Ramalho2024-09-25T12:11:21Z2024-09-25T12:11:21Z2023MENDONÇA, Vitória Ingrid Teles. Formulação e solução do problema de alocação de veículos estocástico por meio de programação dinâmica aproximada. 2023. 83 p. Dissertação (Mestrado em Modelagem e Métodos Quantitativos) – Centro de Ciências, Universidade Federal do Ceará, Fortaleza, 2023.http://repositorio.ufc.br/handle/riufc/78286The dynamic and stochastic vehicle allocation problem is a problem with a vast field of applications, which has gained considerable evidence since the emergence of on-demand urban mobility service platforms. In this work, the vehicle allocation problem consists of allocating vehicles to calls that arrive at a call center at random times in order to minimize the waiting time. This problem is formulated as a semi-Markov decision problem. Given that the size of the state space as well as the decision states are sensitive points for obtaining an optimal policy, approximate dynamic programming methods are presented as an alternative way to build approximate decision policies. Therefore, we present a solution to the vehicle allocation problem based on the rollout algorithm, an approximate policy iteration algorithm, that is, given an initial policy, it builds an improved policy based on two steps: policy evaluation and policy improvement. The policies produced by the rollout algorithm are of the lookahead type, which, compared to myopic policies, have the advantage of leading to decisions that balance current and future returns. The rollout algorithm was tested in a simulated environment based on discrete-event simulation, so that the natural process of the semi-Markovian decision process was modeled as a queuing system, controlling the arrival process of new tickets, service of each vehicle, and the discipline of the queue. Thus, the rollout algorithm is based on three basic policies: FIFO, the ticket is chosen prioritizing the waiting time in the queue; NV, the call is chosen prioritizing the distance between vehicles; RANDOM, the call is chosen at random. And it aims to improve the performance of these policies. Overall, the results show that for all these policies, the rollout algorithm was able to produce an average reduction of up to 69% of the average accumulated delay.O problema de alocação de veículos dinâmico e estocástico é um problema com vasto campo de aplicações, que ganhou notória evidência desde o surgimento das plataformas de serviço de mobilidade urbana sob demanda. Neste trabalho, o problema de alocação de veículos consiste em alocar veículos aos chamados que chegam em uma central de atendimento em instantes de tempo aleatório objetivando minimizar o tempo de espera. Este problema é formulado como um problema de decisão semimarkoviano. Dado que o tamanho do espaço de estados, bem como do estados de decisão são pontos sensíveis para obtenção de uma política ótima, métodos de programação dinâmica aproximada se apresentam como um caminho alternativo para construir políticas de decisão aproximadas. Por isso, apresentamos uma solução para o problema de alocação de veículos baseada no algoritmo rollout, um algoritmo de iteração de política aproximada, ou seja, dado uma política inicial, constrói uma política melhorada baseado em duas etapas: avaliação da política e melhoria da política. As políticas produzidas pelo algoritmo rollout são do tipo lookahead, que em comparação as políticas míopes, apresentam a vantagem de conduzir as decisões que equilibram o retorno atual e o retorno futuro. O algoritmo rollout foi experimentado em um ambiente simulado baseado em simulação de eventos discretos, de modo que o processo natural do processo de decisão semimarkoviano foi modelado como um sistema de filas, controlando o processo de chegada de novos chamados, tempo de atendimento de cada veículo, e a disciplina da fila. Assim, o algoritmo rollout parte de três políticas base: FIFO, o chamado é escolhido priorizando o tempo de espera na fila; NV, o chamado é escolhido priorizando a distância entre os veículos; RANDOM, o chamado é escolhido aleatoriamente. E tem por objetivo melhorar a performance destas políticas. No geral, os resultados mostram que para todas estas políticas, o algoritmo rollout foi capaz de produzir uma redução média de até 69% do atraso acumulado médio.Formulação e solução do problema de alocação de veículos estocástico por meio de programação dinâmica aproximadaFormulating and solving the stochastic vehicle allocation problem using approximate dynamic programminginfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisProblema de Alocação de VeículosProcesso de decisão semimarkovianoProgramação dinâmica aproximadaSimulação de eventos discretosOtimização combinatóriaOtimização baseada em simulaçãoIteração de política aproximadaPolíticas heurísticasStochastic vehicle allocation problemSemi-Markov decision processesApproximate Dynamic ProgrammingDiscret Event SimulationCombinatorial OptimizationSimulation Based OptimizationApproximate Policy IterationHeuristics policiesCNPQ::CIENCIAS EXATAS E DA TERRA::MATEMATICA::MATEMATICA APLICADAinfo:eu-repo/semantics/openAccessporreponame:Repositório Institucional da Universidade Federal do Ceará (UFC)instname:Universidade Federal do Ceará (UFC)instacron:UFChttp://lattes.cnpq.br/7598045660301974https://orcid.org/0000-0001-9234-8917http://lattes.cnpq.br/56615874135647132023ORIGINAL2022_dis_vitmendonça.pdf2022_dis_vitmendonça.pdfDissertação Versão Finalapplication/pdf2066426http://repositorio.ufc.br/bitstream/riufc/78286/3/2022_dis_vitmendon%c3%a7a.pdfcd3a2805d11889c5c88c774c96f2bc27MD53LICENSElicense.txtlicense.txttext/plain; charset=utf-81748http://repositorio.ufc.br/bitstream/riufc/78286/4/license.txt8a4605be74aa9ea9d79846c1fba20a33MD54riufc/782862024-09-25 09:11:23.827oai:repositorio.ufc.br:riufc/78286Tk9URTogUExBQ0UgWU9VUiBPV04gTElDRU5TRSBIRVJFClRoaXMgc2FtcGxlIGxpY2Vuc2UgaXMgcHJvdmlkZWQgZm9yIGluZm9ybWF0aW9uYWwgcHVycG9zZXMgb25seS4KCk5PTi1FWENMVVNJVkUgRElTVFJJQlVUSU9OIExJQ0VOU0UKCkJ5IHNpZ25pbmcgYW5kIHN1Ym1pdHRpbmcgdGhpcyBsaWNlbnNlLCB5b3UgKHRoZSBhdXRob3Iocykgb3IgY29weXJpZ2h0Cm93bmVyKSBncmFudHMgdG8gRFNwYWNlIFVuaXZlcnNpdHkgKERTVSkgdGhlIG5vbi1leGNsdXNpdmUgcmlnaHQgdG8gcmVwcm9kdWNlLAp0cmFuc2xhdGUgKGFzIGRlZmluZWQgYmVsb3cpLCBhbmQvb3IgZGlzdHJpYnV0ZSB5b3VyIHN1Ym1pc3Npb24gKGluY2x1ZGluZwp0aGUgYWJzdHJhY3QpIHdvcmxkd2lkZSBpbiBwcmludCBhbmQgZWxlY3Ryb25pYyBmb3JtYXQgYW5kIGluIGFueSBtZWRpdW0sCmluY2x1ZGluZyBidXQgbm90IGxpbWl0ZWQgdG8gYXVkaW8gb3IgdmlkZW8uCgpZb3UgYWdyZWUgdGhhdCBEU1UgbWF5LCB3aXRob3V0IGNoYW5naW5nIHRoZSBjb250ZW50LCB0cmFuc2xhdGUgdGhlCnN1Ym1pc3Npb24gdG8gYW55IG1lZGl1bSBvciBmb3JtYXQgZm9yIHRoZSBwdXJwb3NlIG9mIHByZXNlcnZhdGlvbi4KCllvdSBhbHNvIGFncmVlIHRoYXQgRFNVIG1heSBrZWVwIG1vcmUgdGhhbiBvbmUgY29weSBvZiB0aGlzIHN1Ym1pc3Npb24gZm9yCnB1cnBvc2VzIG9mIHNlY3VyaXR5LCBiYWNrLXVwIGFuZCBwcmVzZXJ2YXRpb24uCgpZb3UgcmVwcmVzZW50IHRoYXQgdGhlIHN1Ym1pc3Npb24gaXMgeW91ciBvcmlnaW5hbCB3b3JrLCBhbmQgdGhhdCB5b3UgaGF2ZQp0aGUgcmlnaHQgdG8gZ3JhbnQgdGhlIHJpZ2h0cyBjb250YWluZWQgaW4gdGhpcyBsaWNlbnNlLiBZb3UgYWxzbyByZXByZXNlbnQKdGhhdCB5b3VyIHN1Ym1pc3Npb24gZG9lcyBub3QsIHRvIHRoZSBiZXN0IG9mIHlvdXIga25vd2xlZGdlLCBpbmZyaW5nZSB1cG9uCmFueW9uZSdzIGNvcHlyaWdodC4KCklmIHRoZSBzdWJtaXNzaW9uIGNvbnRhaW5zIG1hdGVyaWFsIGZvciB3aGljaCB5b3UgZG8gbm90IGhvbGQgY29weXJpZ2h0LAp5b3UgcmVwcmVzZW50IHRoYXQgeW91IGhhdmUgb2J0YWluZWQgdGhlIHVucmVzdHJpY3RlZCBwZXJtaXNzaW9uIG9mIHRoZQpjb3B5cmlnaHQgb3duZXIgdG8gZ3JhbnQgRFNVIHRoZSByaWdodHMgcmVxdWlyZWQgYnkgdGhpcyBsaWNlbnNlLCBhbmQgdGhhdApzdWNoIHRoaXJkLXBhcnR5IG93bmVkIG1hdGVyaWFsIGlzIGNsZWFybHkgaWRlbnRpZmllZCBhbmQgYWNrbm93bGVkZ2VkCndpdGhpbiB0aGUgdGV4dCBvciBjb250ZW50IG9mIHRoZSBzdWJtaXNzaW9uLgoKSUYgVEhFIFNVQk1JU1NJT04gSVMgQkFTRUQgVVBPTiBXT1JLIFRIQVQgSEFTIEJFRU4gU1BPTlNPUkVEIE9SIFNVUFBPUlRFRApCWSBBTiBBR0VOQ1kgT1IgT1JHQU5JWkFUSU9OIE9USEVSIFRIQU4gRFNVLCBZT1UgUkVQUkVTRU5UIFRIQVQgWU9VIEhBVkUKRlVMRklMTEVEIEFOWSBSSUdIVCBPRiBSRVZJRVcgT1IgT1RIRVIgT0JMSUdBVElPTlMgUkVRVUlSRUQgQlkgU1VDSApDT05UUkFDVCBPUiBBR1JFRU1FTlQuCgpEU1Ugd2lsbCBjbGVhcmx5IGlkZW50aWZ5IHlvdXIgbmFtZShzKSBhcyB0aGUgYXV0aG9yKHMpIG9yIG93bmVyKHMpIG9mIHRoZQpzdWJtaXNzaW9uLCBhbmQgd2lsbCBub3QgbWFrZSBhbnkgYWx0ZXJhdGlvbiwgb3RoZXIgdGhhbiBhcyBhbGxvd2VkIGJ5IHRoaXMKbGljZW5zZSwgdG8geW91ciBzdWJtaXNzaW9uLgo=Repositório InstitucionalPUBhttp://www.repositorio.ufc.br/ri-oai/requestbu@ufc.br || repositorio@ufc.bropendoar:2024-09-25T12:11:23Repositório Institucional da Universidade Federal do Ceará (UFC) - Universidade Federal do Ceará (UFC)false
dc.title.pt_BR.fl_str_mv Formulação e solução do problema de alocação de veículos estocástico por meio de programação dinâmica aproximada
dc.title.en.pt_BR.fl_str_mv Formulating and solving the stochastic vehicle allocation problem using approximate dynamic programming
title Formulação e solução do problema de alocação de veículos estocástico por meio de programação dinâmica aproximada
spellingShingle Formulação e solução do problema de alocação de veículos estocástico por meio de programação dinâmica aproximada
Mendonça, Vitória Ingrid Teles
CNPQ::CIENCIAS EXATAS E DA TERRA::MATEMATICA::MATEMATICA APLICADA
Problema de Alocação de Veículos
Processo de decisão semimarkoviano
Programação dinâmica aproximada
Simulação de eventos discretos
Otimização combinatória
Otimização baseada em simulação
Iteração de política aproximada
Políticas heurísticas
Stochastic vehicle allocation problem
Semi-Markov decision processes
Approximate Dynamic Programming
Discret Event Simulation
Combinatorial Optimization
Simulation Based Optimization
Approximate Policy Iteration
Heuristics policies
title_short Formulação e solução do problema de alocação de veículos estocástico por meio de programação dinâmica aproximada
title_full Formulação e solução do problema de alocação de veículos estocástico por meio de programação dinâmica aproximada
title_fullStr Formulação e solução do problema de alocação de veículos estocástico por meio de programação dinâmica aproximada
title_full_unstemmed Formulação e solução do problema de alocação de veículos estocástico por meio de programação dinâmica aproximada
title_sort Formulação e solução do problema de alocação de veículos estocástico por meio de programação dinâmica aproximada
author Mendonça, Vitória Ingrid Teles
author_facet Mendonça, Vitória Ingrid Teles
author_role author
dc.contributor.author.fl_str_mv Mendonça, Vitória Ingrid Teles
dc.contributor.advisor1.fl_str_mv Pitombeira Neto, Anselmo Ramalho
contributor_str_mv Pitombeira Neto, Anselmo Ramalho
dc.subject.cnpq.fl_str_mv CNPQ::CIENCIAS EXATAS E DA TERRA::MATEMATICA::MATEMATICA APLICADA
topic CNPQ::CIENCIAS EXATAS E DA TERRA::MATEMATICA::MATEMATICA APLICADA
Problema de Alocação de Veículos
Processo de decisão semimarkoviano
Programação dinâmica aproximada
Simulação de eventos discretos
Otimização combinatória
Otimização baseada em simulação
Iteração de política aproximada
Políticas heurísticas
Stochastic vehicle allocation problem
Semi-Markov decision processes
Approximate Dynamic Programming
Discret Event Simulation
Combinatorial Optimization
Simulation Based Optimization
Approximate Policy Iteration
Heuristics policies
dc.subject.ptbr.pt_BR.fl_str_mv Problema de Alocação de Veículos
Processo de decisão semimarkoviano
Programação dinâmica aproximada
Simulação de eventos discretos
Otimização combinatória
Otimização baseada em simulação
Iteração de política aproximada
Políticas heurísticas
dc.subject.en.pt_BR.fl_str_mv Stochastic vehicle allocation problem
Semi-Markov decision processes
Approximate Dynamic Programming
Discret Event Simulation
Combinatorial Optimization
Simulation Based Optimization
Approximate Policy Iteration
Heuristics policies
description The dynamic and stochastic vehicle allocation problem is a problem with a vast field of applications, which has gained considerable evidence since the emergence of on-demand urban mobility service platforms. In this work, the vehicle allocation problem consists of allocating vehicles to calls that arrive at a call center at random times in order to minimize the waiting time. This problem is formulated as a semi-Markov decision problem. Given that the size of the state space as well as the decision states are sensitive points for obtaining an optimal policy, approximate dynamic programming methods are presented as an alternative way to build approximate decision policies. Therefore, we present a solution to the vehicle allocation problem based on the rollout algorithm, an approximate policy iteration algorithm, that is, given an initial policy, it builds an improved policy based on two steps: policy evaluation and policy improvement. The policies produced by the rollout algorithm are of the lookahead type, which, compared to myopic policies, have the advantage of leading to decisions that balance current and future returns. The rollout algorithm was tested in a simulated environment based on discrete-event simulation, so that the natural process of the semi-Markovian decision process was modeled as a queuing system, controlling the arrival process of new tickets, service of each vehicle, and the discipline of the queue. Thus, the rollout algorithm is based on three basic policies: FIFO, the ticket is chosen prioritizing the waiting time in the queue; NV, the call is chosen prioritizing the distance between vehicles; RANDOM, the call is chosen at random. And it aims to improve the performance of these policies. Overall, the results show that for all these policies, the rollout algorithm was able to produce an average reduction of up to 69% of the average accumulated delay.
publishDate 2023
dc.date.issued.fl_str_mv 2023
dc.date.accessioned.fl_str_mv 2024-09-25T12:11:21Z
dc.date.available.fl_str_mv 2024-09-25T12:11:21Z
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/masterThesis
format masterThesis
status_str publishedVersion
dc.identifier.citation.fl_str_mv MENDONÇA, Vitória Ingrid Teles. Formulação e solução do problema de alocação de veículos estocástico por meio de programação dinâmica aproximada. 2023. 83 p. Dissertação (Mestrado em Modelagem e Métodos Quantitativos) – Centro de Ciências, Universidade Federal do Ceará, Fortaleza, 2023.
dc.identifier.uri.fl_str_mv http://repositorio.ufc.br/handle/riufc/78286
identifier_str_mv MENDONÇA, Vitória Ingrid Teles. Formulação e solução do problema de alocação de veículos estocástico por meio de programação dinâmica aproximada. 2023. 83 p. Dissertação (Mestrado em Modelagem e Métodos Quantitativos) – Centro de Ciências, Universidade Federal do Ceará, Fortaleza, 2023.
url http://repositorio.ufc.br/handle/riufc/78286
dc.language.iso.fl_str_mv por
language por
dc.rights.driver.fl_str_mv info:eu-repo/semantics/openAccess
eu_rights_str_mv openAccess
dc.source.none.fl_str_mv reponame:Repositório Institucional da Universidade Federal do Ceará (UFC)
instname:Universidade Federal do Ceará (UFC)
instacron:UFC
instname_str Universidade Federal do Ceará (UFC)
instacron_str UFC
institution UFC
reponame_str Repositório Institucional da Universidade Federal do Ceará (UFC)
collection Repositório Institucional da Universidade Federal do Ceará (UFC)
bitstream.url.fl_str_mv http://repositorio.ufc.br/bitstream/riufc/78286/3/2022_dis_vitmendon%c3%a7a.pdf
http://repositorio.ufc.br/bitstream/riufc/78286/4/license.txt
bitstream.checksum.fl_str_mv cd3a2805d11889c5c88c774c96f2bc27
8a4605be74aa9ea9d79846c1fba20a33
bitstream.checksumAlgorithm.fl_str_mv MD5
MD5
repository.name.fl_str_mv Repositório Institucional da Universidade Federal do Ceará (UFC) - Universidade Federal do Ceará (UFC)
repository.mail.fl_str_mv bu@ufc.br || repositorio@ufc.br
_version_ 1847793079728209920