Information-theoretic analysis of convolutional autoencoders

Detalhes bibliográficos
Ano de defesa: 2022
Autor(a) principal: Amaral, Frederico Carvalho Fontes do
Orientador(a): Não Informado pela instituição
Banca de defesa: Não Informado pela instituição
Tipo de documento: Dissertação
Tipo de acesso: Acesso aberto
Idioma: eng
Instituição de defesa: Não Informado pela instituição
Programa de Pós-Graduação: Não Informado pela instituição
Departamento: Não Informado pela instituição
País: Não Informado pela instituição
Palavras-chave em Português:
Aprendizado teórico
Teoria da informação
Mecanismos de aprendizagem
Link de acesso: https://repositorio.unb.br/handle/10482/45303
Resumo: Dissertação (mestrado) — Universidade de Brasília, Faculdade de Tecnologia, Departamento de Engenharia Elétrica, 2022.
id UNB_7e4b12c279e4c749efa0cd1bf46008bd
oai_identifier_str oai:repositorio.unb.br:10482/45303
network_acronym_str UNB
network_name_str Repositório Institucional da UnB
repository_id_str
spelling Information-theoretic analysis of convolutional autoencodersAprendizado teóricoTeoria da informaçãoMecanismos de aprendizagemDissertação (mestrado) — Universidade de Brasília, Faculdade de Tecnologia, Departamento de Engenharia Elétrica, 2022.O uso de conceitos da Teoria da Informação para entender redes neurais profundas tem sido extensivamente explorado nos últimos anos. O framework do Aprendizado Teórico da Informação que resultou desse uso foi reconhecido como uma ferramenta potencialmente importante para compreender os mecanismos de aprendizado empregados durante o processo de treinamento das redes neurais profundas, para o estudo do qual ainda faltam métodos teóricos e sistemáticos de análise. O uso de medidas estatísticas derivadas da Teoria da Informação, tais como entropia e informação mútua, tem permitido um melhor entendimento de como a informação flui através das redes supracitadas durante seu treinamento. Ele também possibilitou a criação de métodos sistemáticos para projetar e analizar essas redes de uma maneira mais rigorosa, o que por sua vez permite a criação de arquiteturas mais eficientes e robustas. Este trabalho visa investigar a extensão de um método baseado no framework supracitado para a detecção automática da dimensão do gargalo de um autocodificador convolucional, cujo objetivo é encontrar a compressão óptima para as imagens a ele apresentadas.Coordenação de Aperfeiçoamento de Pessoal de Nível Superior (CAPES).The use of Information Theory concepts to understand deep neural networks has been extensively explored in recent years. The Information Theoretic Learning framework that resulted from such use has been acknowledged as a potentially important tool to comprehend the learning mechanisms employed during the deep neural networks’ training process, for the study of which theoretical and systematic methods of analysis are still lacking. The use of statistical measurements derived from Information Theory such as entropy and mutual information has allowed for a better understanding of how the information flows through the aforementioned networks during their training. It also enabled the creation of systematic methods to design and analyze these networks in a more rigorous manner, which in turn allows the creation of more efficient and robust architectures. This work aims to investigate the extension of a method based on the aforementioned framework for the automatic detection of the bottleneck size of a convolutional autoencoder, whose objective is to find the optimal compression for the images presented to it.Faculdade de Tecnologia (FT)Departamento de Engenharia Elétrica (FT ENE)Programa de Pós-Graduação em Engenharia ElétricaSilva, Daniel Guerreiro eAmaral, Frederico Carvalho Fontes do2022-12-15T23:19:33Z2022-12-15T23:19:33Z2022-12-152022-08-31info:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisapplication/pdfAMARAL, Frederico Carvalho Fontes do. Information-theoretic analysis of convolutional autoencoders. 2022. v, 65 f., il. Dissertação (Mestrado em Engenharia Elétrica) — Universidade de Brasília, Brasília, 2022.https://repositorio.unb.br/handle/10482/45303engA concessão da licença deste item refere-se ao termo de autorização impresso assinado pelo autor com as seguintes condições: Na qualidade de titular dos direitos de autor da publicação, autorizo a Universidade de Brasília e o IBICT a disponibilizar por meio dos sites www.bce.unb.br, www.ibict.br, http://hercules.vtls.com/cgi-bin/ndltd/chameleon?lng=pt&skin=ndltd sem ressarcimento dos direitos autorais, de acordo com a Lei nº 9610/98, o texto integral da obra disponibilizada, conforme permissões assinaladas, para fins de leitura, impressão e/ou download, a título de divulgação da produção científica brasileira, a partir desta data.info:eu-repo/semantics/openAccessreponame:Repositório Institucional da UnBinstname:Universidade de Brasília (UnB)instacron:UNB2025-03-19T16:07:29Zoai:repositorio.unb.br:10482/45303Repositório InstitucionalPUBhttps://repositorio.unb.br/oai/requestrepositorio@unb.bropendoar:2025-03-19T16:07:29Repositório Institucional da UnB - Universidade de Brasília (UnB)false
dc.title.none.fl_str_mv Information-theoretic analysis of convolutional autoencoders
title Information-theoretic analysis of convolutional autoencoders
spellingShingle Information-theoretic analysis of convolutional autoencoders
Amaral, Frederico Carvalho Fontes do
Aprendizado teórico
Teoria da informação
Mecanismos de aprendizagem
title_short Information-theoretic analysis of convolutional autoencoders
title_full Information-theoretic analysis of convolutional autoencoders
title_fullStr Information-theoretic analysis of convolutional autoencoders
title_full_unstemmed Information-theoretic analysis of convolutional autoencoders
title_sort Information-theoretic analysis of convolutional autoencoders
author Amaral, Frederico Carvalho Fontes do
author_facet Amaral, Frederico Carvalho Fontes do
author_role author
dc.contributor.none.fl_str_mv Silva, Daniel Guerreiro e
dc.contributor.author.fl_str_mv Amaral, Frederico Carvalho Fontes do
dc.subject.por.fl_str_mv Aprendizado teórico
Teoria da informação
Mecanismos de aprendizagem
topic Aprendizado teórico
Teoria da informação
Mecanismos de aprendizagem
description Dissertação (mestrado) — Universidade de Brasília, Faculdade de Tecnologia, Departamento de Engenharia Elétrica, 2022.
publishDate 2022
dc.date.none.fl_str_mv 2022-12-15T23:19:33Z
2022-12-15T23:19:33Z
2022-12-15
2022-08-31
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/masterThesis
format masterThesis
status_str publishedVersion
dc.identifier.uri.fl_str_mv AMARAL, Frederico Carvalho Fontes do. Information-theoretic analysis of convolutional autoencoders. 2022. v, 65 f., il. Dissertação (Mestrado em Engenharia Elétrica) — Universidade de Brasília, Brasília, 2022.
https://repositorio.unb.br/handle/10482/45303
identifier_str_mv AMARAL, Frederico Carvalho Fontes do. Information-theoretic analysis of convolutional autoencoders. 2022. v, 65 f., il. Dissertação (Mestrado em Engenharia Elétrica) — Universidade de Brasília, Brasília, 2022.
url https://repositorio.unb.br/handle/10482/45303
dc.language.iso.fl_str_mv eng
language eng
dc.rights.driver.fl_str_mv info:eu-repo/semantics/openAccess
eu_rights_str_mv openAccess
dc.format.none.fl_str_mv application/pdf
dc.source.none.fl_str_mv reponame:Repositório Institucional da UnB
instname:Universidade de Brasília (UnB)
instacron:UNB
instname_str Universidade de Brasília (UnB)
instacron_str UNB
institution UNB
reponame_str Repositório Institucional da UnB
collection Repositório Institucional da UnB
repository.name.fl_str_mv Repositório Institucional da UnB - Universidade de Brasília (UnB)
repository.mail.fl_str_mv repositorio@unb.br
_version_ 1839083825817190400

Registros relacionados