Avaliação sobre a confiabilidade de conjuntos de imagens de raio-X para treinamento de redes neurais convolucionais em apoio ao diagnóstico - Quirino, Felipe Antunes (2025)
Métodos de inteligência artificial, em particular as Redes Neurais Convolucionais (CNNs), têm sido amplamente aplicadas no suporte ao diagnóstico de anomalias em imagens de radiografia torácica. Entretanto, a natureza de caixa-preta das CNNs pode fazer com que aprendam padrões que não estão diretamente relacionados às opacidades típicas da pneumonia, comprometendo, assim, a imparcialidade do modelo. Esses padrões, a exemplo de aparatos médicos, características demográficas ou anotações presentes nas imagens, podem resultar em desempenhos enganadores durante os testes, dado que os modelos não aprendem necessariamente a resolver o problema proposto. Esse comportamento limita a aplicabilidade dos modelos em sistemas de produção no contexto hospitalar. Considerando que, nas imagens de radiografia torácica, os padrões típicos da pneumonia estão na região dos pulmões e visando investigar esses padrões espúrios, foi implementado um protocolo com dois enfoques principais: ocultar e isolar os pulmões nas imagens. Por meio desse processamento, foi possível avaliar o desempenho dos algoritmos ao serem treinados e testados em três cenários: imagens originais, com pulmões removidos e com pulmões segmentados. Esse protocolo foi aplicado em quatro conjuntos de dados distintos, com avaliações cruzadas entre eles. Os resultados foram analisados estatisticamente por meio de validação cruzada utilizando 10-fold. Além disso, realizamos análises visuais com o método Grad-CAM. Os resultados obtidos indicam que, nos cenários avaliados, as CNNs mantêm um desempenho consistentemente superior ao acaso. Observa-se, também, que as redes conseguem transferir o aprendizado de correlações espúrias entre diferentes conjuntos de dados. As análises visuais sugerem que as redes neurais frequentemente focam em padrões, a exemplo de caracteres inseridos nas imagens e regiões anatômicas não relacionadas aos pulmões. Tais aparatos médicos, ao se mostrar generalizáveis entre bases de dados distintas, representam um desafio para a avaliação do desempenho real dos modelos de CNNs. Esses resultados destacam que as correlações espúrias podem distorcer o aprendizado relevante para o problema em estudo (i.e., opacidades pulmonares), comprometendo a confiabilidade dos modelos para aplicações práticas.