Strategies and techniques for deep learning on small data

• Ano de defesa: 2020
• Autor(a) principal: Pereira, Rafael Silva
• Orientador(a): Porto, Fábio André Machado
• Banca de defesa: Porto, Fábio André Machado, Ziviani, Artur, Joly, Alexis, Silva, Eduardo Bezerra da, Gomes, Antônio Tadeu Azevedo
• Tipo de documento: Dissertação
• Tipo de acesso: Acesso aberto
• Idioma: eng
• Instituição de defesa: Laboratório Nacional de Computação Científica
• Programa de Pós-Graduação: Programa de Pós-Graduação em Modelagem Computacional
• Departamento: Coordenação de Pós-Graduação e Aperfeiçoamento (COPGA)
• País: Brasil
• Palavras-chave em Português: Small data; Few shot learning; Deep learning
• Área do conhecimento CNPq: CNPQ::CIENCIAS EXATAS E DA TERRA::CIENCIA DA COMPUTACAO
• Link de acesso: https://tede.lncc.br/handle/tede/320

A construção de modelos permite a interpretação de problemas complexos. Na Ciência da Computação, tais modelos levam à concepção de algoritmos e sua implementação em sistemas computacionais, contribuindo para a solução do problema. No entanto, alguns problemas são muito complexos para serem descritos usando uma abordagem algorítmica. A introdução de métodos de aprendizado de máquina visa criar modelos baseados diretamente nos dados coletados que representam o fenômeno observado. Embora essa abordagem tenha levado a grandes avanços em muitos campos diferentes, os métodos orientados por dados geralmente requerem uma quantidade substancial de dados para compreensão do problema modelado. Neste trabalho, investigamos o problema de poucos dados para métodos de aprendizado profundo. Apresentamos estratégias para minimizar a incerteza na previsão, minimizando a variação intraclasse em tarefas de classificação, restringindo o espaço de solução com base em conhecimento prévio sobre o domínio. Além disso, discutimos os cenários de few shot learning e zero shot learning, onde objetivamos treinar classificadores robustos por meio de uma função de kernel fixa, a fim de criar um modelo que generalize para classes nas quais não foi treinado. Apresentamos experimentos para cada um destes e avaliamos suas propriedades em datasets distintos.