Uma introdução ao aprendizado profundo e à otimização Riemanniana - Drechsler, Monica Maria Funk (2025)
A otimização Riemanniana determina métodos para encontrar pontos mínimos em funções cujo domínio são variedades. Por outro lado, o aprendizado de máquina utilizado pelo aprendizado profundo pode ser visto como um problema de otimização. Neste trabalho iremos apresentar os conceitos fundamentais de ambas as áreas. Apresentamos algoritmos de otimização Riemanniana, teoremas e condições para convergência. Concomitantemente, apresentamos as definições formais de redes neurais, seu método de treinamento e o teorema universal de aproximação, que mostra a capacidade de redes neurais em aproximar funções contínuas. Unimos ambas as áreas testando algoritmos de otimização em redes neurais simples, apresentando seus resultados e códigos de implementação em Python.