Análise da explicabilidade dos métodos de inteligência artificial eXplicável aplicados a segmentação de imagens de peixes pacu - Feitosa, Juliana da Costa [UNESP] (2024)
A concepção envolvendo o termo Inteligência Artificial (IA) traz grandes preocupações em relação a transparência das informações fornecidas como saída, exigindo cada vez mais explicações para que os usuários entendam sobre esse tipo de abordagem. Esse campo de pesquisa é chamado de Inteligência Artificial eXplicável (XAI) e pode ser definido como um conjunto de técnicas que une métodos de IA com abordagens explicativas eficazes para gerar saídas explicáveis, tornando os modelos mais compreensíveis para o ser humano. Apesar da XAI ser apresentada como uma das soluções para a falta de transparência dos modelos de IA do tipo caixa-preta, contestar as explicações geradas por esses métodos também se faz necessário, visto que a explicabilidade é considerada uma tarefa necessária para a melhora dos resultados. Somado a isso, diante dos vários métodos existentes, estratégias de melhoria das explicações tornaram-se contribuições significativas para a área. Com objetivo de analisar e proporcionar melhores resultados aos métodos de XAI aplicados a segmentação de imagens de peixes da espécie Pacu, foram utilizadas 100 imagens de entrada para o presente trabalho. Portanto, dois experimentos foram conduzidos com o intuito de encontrar o melhor método explicável, a partir de técnicas de perturbação de pixels, e também melhorá-los por meio da combinação lógica entre o melhor método e os demais. Foi a primeira vez que essa metodologia foi aplicada no contexto da Aquicultura. A partir dos resultados obtidos, o Mapa de Saliência obteve os melhores resultados ao demonstrar pixels que de fato foram considerados como os de maior relevância pela Mask R-CNN utilizada. Além disso, foi possível observar que a metodologia implementada proporcionou não só a melhora dos métodos explicáveis Grad-CAM, CNN Filters e Layer Grad-CAM, como também foi possível obter resultados melhores do que os alcançados por meio do Mapa de Saliência. Por fim, conclui-se que a principal contribuição deste trabalho está na possibilidade de melhorar a qualidade das explicações de um método explicável de forma simples, bem como a implementação de uma avaliação eficaz baseada em perturbação de pixels.