Governança da Inteligência Artificial no setor público: capacidades técnico-administrativas vacilantes, falta de atenção aos municípios e polarização do debate - uma soma perigosa para a municipalização do reconhecimento facial no Brasil

• Ano de defesa: 2025
• Autor(a) principal: Brandão, Rodrigo
• Tipo de documento: Tese
• Tipo de acesso: Acesso aberto
• Idioma: por
• Instituição de defesa: Biblioteca Digitais de Teses e Dissertações da USP
• Palavras-chave em Português: Artificial intelligence; Facial recognition; Governança; Governance; Inteligência artificial; Municipalities; Municípios; Políticas públicas; Public policies; Reconhecimento facial
• Link de acesso: https://www.teses.usp.br/teses/disponiveis/8/8132/tde-21032025-093839/

O principal objetivo da tese é demonstrar que - embora pouco estudada - a experiência do setor público como usuário de sistemas de Inteligência Artificial (IA) pode enriquecer a discussão sobre a governança dessa tecnologia. Sob essa perspectiva, analisamos a disseminação do uso de Sistemas de Reconhecimento Facial (SRF) pelos municípios brasileiros. Conhecido como municipalização do reconhecimento facial, esse fenômeno é expressivo no transporte público, onde a tecnologia costuma ser utilizada para prevenir fraudes em descontos e gratuidades. Esse fenômeno demanda atenção por três razões: (i) está em discussão se os SRF são capazes, ou não, de gerar resultados confiáveis; (ii) muitos municípios possuem capacidades técnico-administrativas vacilantes, mas ainda assim são responsáveis por prestar serviços públicos de interesse local, como o transporte público; (iii) em muitos municípios, a oferta desse serviço é feita por meio de concessão, dependendo, portanto, da coordenação entre atores públicos e privados. Estudamos as capitais estaduais e os municípios com pelo menos um milhão de habitantes. Nas localidades onde a tecnologia é utilizada, buscamos averiguar: (i) se há transparência em relação a aspectos técnicos dos SRF; (ii) se o uso da tecnologia é precedido de testes; (iii) se os operadores humanos recebem treinamento; (iv) se eventuais falhas da tecnologia e dos operadores humanos prejudicam os beneficiários de descontos e gratuidades; (v) se os órgãos públicos de transporte se articulam com as concessionárias para a proteção dos dados pessoais sensíveis dos beneficiários; e (vi) se a relação custo-benefício da tecnologia é positiva. Por meio de consulta a diários oficiais eletrônicos, da utilização da Lei de Acesso à Informação e da realização de entrevistas, identificamos que a municipalização dos SRF é marcada por dificuldades de gestão nessas seis frentes. Já pela consulta a fontes secundárias, reunimos dados que demonstram que a despeito da característica precariedade dos municípios brasileiros as capitais e os municípios mais populosos tendem a possuir capacidades técnico-administrativas ligadas às Tecnologias da Informação e Comunicação. Estes dados não podem ser atribuídos individualmente aos municípios estudados. Todavia, ao serem confrontados com as dificuldades de gestão identificadas, revelam a possibilidade de que mesmo quando os municípios dispõem de recursos favoráveis ao uso responsável dos SRF estes enfrentem dificuldades para mobilizá-los. Para identificar obstáculos à mobilização desses recursos, analisamos o debate sobre o uso de SRF no setor público. Identificamos que ele é marcado por falta de atenção aos municípios e por forte polarização entre entusiastas e críticos da tecnologia. Finalmente, por meio de revisão bibliográfica, de entrevistas com atores ligados à Estratégia Brasileira de IA (EBIA) e da análise de projetos de lei, concluímos que faltam, no Brasil, espaços de interlocução entre diferentes stakeholders que abriguem as tensões em torno da IA e facilitem a elaboração de diretrizes para a utilização da tecnologia no país, as quais poderiam auxiliar os municípios na mobilização dos recursos que possuem em prol do uso responsável dos SRF. Assim, sugerimos que a EBIA e o Plano Brasileiro de IA (PBIA) passem a encorajar a formação de espaços multissetoriais desse tipo.