Re-Identificação de veículos em uma rede de câmeras não sobrepostas

Detalhes bibliográficos
Ano de defesa: 2021
Autor(a) principal: Oliveira, Icaro Oliveira de
Orientador(a): Não Informado pela instituição
Banca de defesa: Não Informado pela instituição
Tipo de documento: Tese
Tipo de acesso: Acesso aberto
Idioma: eng
Instituição de defesa: Universidade Tecnológica Federal do Paraná
Curitiba
Brasil
Programa de Pós-Graduação em Engenharia Elétrica e Informática Industrial
UTFPR
Programa de Pós-Graduação: Não Informado pela instituição
Departamento: Não Informado pela instituição
País: Não Informado pela instituição
Palavras-chave em Português:
Link de acesso: http://repositorio.utfpr.edu.br/jspui/handle/1/26663
Resumo: The vehicle re-identification through a network of non-overlapping cameras is an important task to assist surveillance activities, travel time estimation, enforcement of speed limits, criminal investigations, and traffic flow. The challenges of this problem come from the high inter-class similarity, caused by distinct vehicles manufactured in the same color, model and brand that often look exactly the same, and from the high intra-class dissimilarity, caused by abrupt illumination changes or camera viewpoints, that makes two instances of the same vehicle have no significant resemblance. In this thesis we investigated the main features that could be extracted and combined só as to solve the vehicle re-identification problem. For that purpose, we developed a two-stream Convolutional Neural Network (CNN) that simultaneously uses two of the most distinctive and persistent features available: the vehicle’s appearance and its license plate. In the first network stream, shape similarities are identified by a Siamese CNN that uses a pair of low-resolution vehicle patches recorded by two different cameras. In the second stream, we use a CNN for Optical Character Recognition (OCR) to extract textual information, confidence scores, and string similarities from a pair of high-resolution license plate patches. Then, features from both streams are merged by a sequence of fully connected layers for decision. State-of-the-art algorithms for this task usually take advantage of one of these attributes, however, in many cases it is difficult to distinguish one vehicle from another by considering only one type of feature. As another important contribution, we introduce a novel dataset for vehicle identification, called Vehicle-Rear, that contains more than three hours of high-resolution videos, with accurate information about the brand, model, color and year of nearly 3,000 vehicles, recorded in two roadway intersections of Curitiba city — whose infrastructure was carried out with support of the City Hall — and that has the unique characteristic of having high quality images of vehicle’s rear end, which allows its identification by the license plate. The main issue of existing datasets for vehicle re-identification is the fact that the license plates in many other countries are linked/related to the owner, not to the vehicle as in Brazil, and therefore they are intentionally redacted to respect privacy restrictions. In our experiments, our architecture achieved an accuracy, recall and -score of 99.3 %, 98.5 % and 98.9 %, respectively. As a final contribution, we also discuss and compare three alternative architectures that also explore features over the vehicle’s shape and license plate, but using additional streams and temporal information.
id UTFPR-12_28c192368084c21c8c91908ec8a40ed6
oai_identifier_str oai:repositorio.utfpr.edu.br:1/26663
network_acronym_str UTFPR-12
network_name_str Repositório Institucional da UTFPR (da Universidade Tecnológica Federal do Paraná (RIUT))
repository_id_str
spelling Re-Identificação de veículos em uma rede de câmeras não sobrepostasVehicle re-identification in a network of non-overlapping camerasVeículos - IdentificaçãoRedes neurais (Computação)Visão por computadorProcessamento de imagensSistemas de reconhecimento de padrõesAlgoritmosVehicles - IdentificationNeural networks (Computer science)Computer visionImage processingPattern recognition systemsAlgorithmsCNPQ::ENGENHARIAS::ENGENHARIA ELETRICA::TELECOMUNICACOES::SISTEMAS DE TELECOMUNICACOESEngenharia ElétricaThe vehicle re-identification through a network of non-overlapping cameras is an important task to assist surveillance activities, travel time estimation, enforcement of speed limits, criminal investigations, and traffic flow. The challenges of this problem come from the high inter-class similarity, caused by distinct vehicles manufactured in the same color, model and brand that often look exactly the same, and from the high intra-class dissimilarity, caused by abrupt illumination changes or camera viewpoints, that makes two instances of the same vehicle have no significant resemblance. In this thesis we investigated the main features that could be extracted and combined só as to solve the vehicle re-identification problem. For that purpose, we developed a two-stream Convolutional Neural Network (CNN) that simultaneously uses two of the most distinctive and persistent features available: the vehicle’s appearance and its license plate. In the first network stream, shape similarities are identified by a Siamese CNN that uses a pair of low-resolution vehicle patches recorded by two different cameras. In the second stream, we use a CNN for Optical Character Recognition (OCR) to extract textual information, confidence scores, and string similarities from a pair of high-resolution license plate patches. Then, features from both streams are merged by a sequence of fully connected layers for decision. State-of-the-art algorithms for this task usually take advantage of one of these attributes, however, in many cases it is difficult to distinguish one vehicle from another by considering only one type of feature. As another important contribution, we introduce a novel dataset for vehicle identification, called Vehicle-Rear, that contains more than three hours of high-resolution videos, with accurate information about the brand, model, color and year of nearly 3,000 vehicles, recorded in two roadway intersections of Curitiba city — whose infrastructure was carried out with support of the City Hall — and that has the unique characteristic of having high quality images of vehicle’s rear end, which allows its identification by the license plate. The main issue of existing datasets for vehicle re-identification is the fact that the license plates in many other countries are linked/related to the owner, not to the vehicle as in Brazil, and therefore they are intentionally redacted to respect privacy restrictions. In our experiments, our architecture achieved an accuracy, recall and -score of 99.3 %, 98.5 % and 98.9 %, respectively. As a final contribution, we also discuss and compare three alternative architectures that also explore features over the vehicle’s shape and license plate, but using additional streams and temporal information.Conselho Nacional do Desenvolvimento Científico e Tecnológico (CNPq)Coordenação de Aperfeiçoamento de Pessoal de Nível Superior (CAPES)A re-identificação de veículos em uma rede de câmeras não sobrepostas é um problema de pesquisa importante, que auxilia em atividades de vigilância, estimativa de tempo de viagem, controle de velocidade, investigações criminais e estimativas de fluxo de tráfego. Os desafios deste problema de pesquisa vêm da alta similaridade interclasse, causada por veículos distintos mas fabricados na mesma cor, modelo e marca, e que muitas vezes parecem iguais, com exceção da placa de identificação quando existente, e pela alta dissimilaridade intraclasse, causada por mudanças abruptas de iluminação ou pontos de vista da câmera, que faz com que duas instâncias do mesmo veículo não tenham semelhança significativa. Nesta tese, nós investigamos quais são as características mais distintas e persistentes em imagens de veículos que podem ser extraídas e combinadas para resolver o problema da re-identificação. Para tanto, desenvolvemos um conjunto de redes siamesas que usam duas das características mais importantes disponíveis: a forma ou aparência do veículo e os atributos textuais da placa de identificação. Outros algoritmos estado-daarte para esse problema geralmente tiram vantagem de um desses atributos, no entanto, em muitos casos é difícil distinguir um veículo de outro considerando apenas um tipo de característica. Outra contribuição importante, é a proposta de uma nova base de dados para o problema de reidentificação de veículos, que possui mais de três horas de duração, abrangendo aproximadamente 3000 veículos em dois cruzamentos da cidade de Curitiba — cuja infra-estrutura necessária em relação a instalação de câmeras foi realizada com o apoio da prefeitura — e que tem a característica única de possuir imagens de alta qualidade da traseira do veículo, o que permite a identificação da placa veicular. Em nossos experimentos, nossas arquiteturas alcançaram uma precisão, recall e -score de 99,3%, 98,5% e 98,9%, respectivamente. Como última contribuição, nós discutimos e comparamos três arquiteturas que exploram características da forma do veículo e da placa, mas usando fluxos adicionais e informação temporal.Universidade Tecnológica Federal do ParanáCuritibaBrasilPrograma de Pós-Graduação em Engenharia Elétrica e Informática IndustrialUTFPRFonseca, Keiko Veronica Onohttps://orcid.org/ 0000-0003-4685-299Xhttp://lattes.cnpq.br/8827013568855482Minetto, Rodrigohttps://orcid.org/0000-0003-2277-4632http://lattes.cnpq.br/8366112479020867Todt, Eduardohttps://orcid.org/0000-0001-6045-1274http://lattes.cnpq.br/9942240121225139Pio, Jose Luiz de Souzahttps://orcid.org/ 0000-0001-5864-8983http://lattes.cnpq.br/1014904168887285Fonseca, Keiko Veronica Onohttps://orcid.org/ 0000-0003-4685-299Xhttp://lattes.cnpq.br/8827013568855482Delgado, Myriam Regattieri de Biase da Silvahttps://orcid.org/0000-0002-2791-174Xhttp://lattes.cnpq.br/4166922845507601Silva, Ricardo Dutra dahttps://orcid.org/0000-0002-8002-8411http://lattes.cnpq.br/8512085741397097Oliveira, Icaro Oliveira de2021-12-10T18:34:23Z2021-12-10T18:34:23Z2021-09-29info:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/doctoralThesisapplication/pdfOLIVEIRA, Icaro Oliveira de. Re-Identificação de veículos em uma rede de câmeras não sobrepostas. 2021. Tese (Doutorado em Engenharia Elétrica e Informática Industrial) - Universidade Tecnológica Federal do Paraná, Curitiba, 2021.http://repositorio.utfpr.edu.br/jspui/handle/1/26663enghttp://creativecommons.org/licenses/by/4.0/info:eu-repo/semantics/openAccessreponame:Repositório Institucional da UTFPR (da Universidade Tecnológica Federal do Paraná (RIUT))instname:Universidade Tecnológica Federal do Paraná (UTFPR)instacron:UTFPR2021-12-11T06:06:14Zoai:repositorio.utfpr.edu.br:1/26663Repositório InstitucionalPUBhttp://repositorio.utfpr.edu.br:8080/oai/requestriut@utfpr.edu.br || sibi@utfpr.edu.bropendoar:2021-12-11T06:06:14Repositório Institucional da UTFPR (da Universidade Tecnológica Federal do Paraná (RIUT)) - Universidade Tecnológica Federal do Paraná (UTFPR)false
dc.title.none.fl_str_mv Re-Identificação de veículos em uma rede de câmeras não sobrepostas
Vehicle re-identification in a network of non-overlapping cameras
title Re-Identificação de veículos em uma rede de câmeras não sobrepostas
spellingShingle Re-Identificação de veículos em uma rede de câmeras não sobrepostas
Oliveira, Icaro Oliveira de
Veículos - Identificação
Redes neurais (Computação)
Visão por computador
Processamento de imagens
Sistemas de reconhecimento de padrões
Algoritmos
Vehicles - Identification
Neural networks (Computer science)
Computer vision
Image processing
Pattern recognition systems
Algorithms
CNPQ::ENGENHARIAS::ENGENHARIA ELETRICA::TELECOMUNICACOES::SISTEMAS DE TELECOMUNICACOES
Engenharia Elétrica
title_short Re-Identificação de veículos em uma rede de câmeras não sobrepostas
title_full Re-Identificação de veículos em uma rede de câmeras não sobrepostas
title_fullStr Re-Identificação de veículos em uma rede de câmeras não sobrepostas
title_full_unstemmed Re-Identificação de veículos em uma rede de câmeras não sobrepostas
title_sort Re-Identificação de veículos em uma rede de câmeras não sobrepostas
author Oliveira, Icaro Oliveira de
author_facet Oliveira, Icaro Oliveira de
author_role author
dc.contributor.none.fl_str_mv Fonseca, Keiko Veronica Ono
https://orcid.org/ 0000-0003-4685-299X
http://lattes.cnpq.br/8827013568855482
Minetto, Rodrigo
https://orcid.org/0000-0003-2277-4632
http://lattes.cnpq.br/8366112479020867
Todt, Eduardo
https://orcid.org/0000-0001-6045-1274
http://lattes.cnpq.br/9942240121225139
Pio, Jose Luiz de Souza
https://orcid.org/ 0000-0001-5864-8983
http://lattes.cnpq.br/1014904168887285
Fonseca, Keiko Veronica Ono
https://orcid.org/ 0000-0003-4685-299X
http://lattes.cnpq.br/8827013568855482
Delgado, Myriam Regattieri de Biase da Silva
https://orcid.org/0000-0002-2791-174X
http://lattes.cnpq.br/4166922845507601
Silva, Ricardo Dutra da
https://orcid.org/0000-0002-8002-8411
http://lattes.cnpq.br/8512085741397097
dc.contributor.author.fl_str_mv Oliveira, Icaro Oliveira de
dc.subject.por.fl_str_mv Veículos - Identificação
Redes neurais (Computação)
Visão por computador
Processamento de imagens
Sistemas de reconhecimento de padrões
Algoritmos
Vehicles - Identification
Neural networks (Computer science)
Computer vision
Image processing
Pattern recognition systems
Algorithms
CNPQ::ENGENHARIAS::ENGENHARIA ELETRICA::TELECOMUNICACOES::SISTEMAS DE TELECOMUNICACOES
Engenharia Elétrica
topic Veículos - Identificação
Redes neurais (Computação)
Visão por computador
Processamento de imagens
Sistemas de reconhecimento de padrões
Algoritmos
Vehicles - Identification
Neural networks (Computer science)
Computer vision
Image processing
Pattern recognition systems
Algorithms
CNPQ::ENGENHARIAS::ENGENHARIA ELETRICA::TELECOMUNICACOES::SISTEMAS DE TELECOMUNICACOES
Engenharia Elétrica
description The vehicle re-identification through a network of non-overlapping cameras is an important task to assist surveillance activities, travel time estimation, enforcement of speed limits, criminal investigations, and traffic flow. The challenges of this problem come from the high inter-class similarity, caused by distinct vehicles manufactured in the same color, model and brand that often look exactly the same, and from the high intra-class dissimilarity, caused by abrupt illumination changes or camera viewpoints, that makes two instances of the same vehicle have no significant resemblance. In this thesis we investigated the main features that could be extracted and combined só as to solve the vehicle re-identification problem. For that purpose, we developed a two-stream Convolutional Neural Network (CNN) that simultaneously uses two of the most distinctive and persistent features available: the vehicle’s appearance and its license plate. In the first network stream, shape similarities are identified by a Siamese CNN that uses a pair of low-resolution vehicle patches recorded by two different cameras. In the second stream, we use a CNN for Optical Character Recognition (OCR) to extract textual information, confidence scores, and string similarities from a pair of high-resolution license plate patches. Then, features from both streams are merged by a sequence of fully connected layers for decision. State-of-the-art algorithms for this task usually take advantage of one of these attributes, however, in many cases it is difficult to distinguish one vehicle from another by considering only one type of feature. As another important contribution, we introduce a novel dataset for vehicle identification, called Vehicle-Rear, that contains more than three hours of high-resolution videos, with accurate information about the brand, model, color and year of nearly 3,000 vehicles, recorded in two roadway intersections of Curitiba city — whose infrastructure was carried out with support of the City Hall — and that has the unique characteristic of having high quality images of vehicle’s rear end, which allows its identification by the license plate. The main issue of existing datasets for vehicle re-identification is the fact that the license plates in many other countries are linked/related to the owner, not to the vehicle as in Brazil, and therefore they are intentionally redacted to respect privacy restrictions. In our experiments, our architecture achieved an accuracy, recall and -score of 99.3 %, 98.5 % and 98.9 %, respectively. As a final contribution, we also discuss and compare three alternative architectures that also explore features over the vehicle’s shape and license plate, but using additional streams and temporal information.
publishDate 2021
dc.date.none.fl_str_mv 2021-12-10T18:34:23Z
2021-12-10T18:34:23Z
2021-09-29
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/doctoralThesis
format doctoralThesis
status_str publishedVersion
dc.identifier.uri.fl_str_mv OLIVEIRA, Icaro Oliveira de. Re-Identificação de veículos em uma rede de câmeras não sobrepostas. 2021. Tese (Doutorado em Engenharia Elétrica e Informática Industrial) - Universidade Tecnológica Federal do Paraná, Curitiba, 2021.
http://repositorio.utfpr.edu.br/jspui/handle/1/26663
identifier_str_mv OLIVEIRA, Icaro Oliveira de. Re-Identificação de veículos em uma rede de câmeras não sobrepostas. 2021. Tese (Doutorado em Engenharia Elétrica e Informática Industrial) - Universidade Tecnológica Federal do Paraná, Curitiba, 2021.
url http://repositorio.utfpr.edu.br/jspui/handle/1/26663
dc.language.iso.fl_str_mv eng
language eng
dc.rights.driver.fl_str_mv http://creativecommons.org/licenses/by/4.0/
info:eu-repo/semantics/openAccess
rights_invalid_str_mv http://creativecommons.org/licenses/by/4.0/
eu_rights_str_mv openAccess
dc.format.none.fl_str_mv application/pdf
dc.publisher.none.fl_str_mv Universidade Tecnológica Federal do Paraná
Curitiba
Brasil
Programa de Pós-Graduação em Engenharia Elétrica e Informática Industrial
UTFPR
publisher.none.fl_str_mv Universidade Tecnológica Federal do Paraná
Curitiba
Brasil
Programa de Pós-Graduação em Engenharia Elétrica e Informática Industrial
UTFPR
dc.source.none.fl_str_mv reponame:Repositório Institucional da UTFPR (da Universidade Tecnológica Federal do Paraná (RIUT))
instname:Universidade Tecnológica Federal do Paraná (UTFPR)
instacron:UTFPR
instname_str Universidade Tecnológica Federal do Paraná (UTFPR)
instacron_str UTFPR
institution UTFPR
reponame_str Repositório Institucional da UTFPR (da Universidade Tecnológica Federal do Paraná (RIUT))
collection Repositório Institucional da UTFPR (da Universidade Tecnológica Federal do Paraná (RIUT))
repository.name.fl_str_mv Repositório Institucional da UTFPR (da Universidade Tecnológica Federal do Paraná (RIUT)) - Universidade Tecnológica Federal do Paraná (UTFPR)
repository.mail.fl_str_mv riut@utfpr.edu.br || sibi@utfpr.edu.br
_version_ 1850498244989157376