Inteligência artificial generativa e ética no setor público: reflexões a partir da educação superior

Resumo

Este estudo exploratório aborda as implicações éticas associadas ao uso da Inteligência Artificial Generativa (IAGen) no setor público, tomando como estudo de caso o contexto da educação superior pública brasileira. A pesquisa foi realizada com pós-graduandos do Programa de Pós-Graduação em Gestão da Informação (PPGGI) da Universidade Federal do Paraná (UFPR), focando na identificação de vulnerabilidades éticas emergentes relacionadas à utilização da IAGen, tais como questões de privacidade, dependência tecnológica e opacidade algorítmica. Utilizando o modelo de camadas de vulnerabilidade proposto por Luna (2009; 2019), o estudo destaca a complexidade e a inter-relação entre dimensões individuais, sociais, institucionais e tecnológicas que potencializam riscos diversos na adoção da tecnologia. A análise revelou que 72,2% dos pós-graduandos fazem uso regular de ferramentas como o ChatGPT em suas atividades acadêmicas, entretanto, 44,4% apontam falta de conhecimento técnico aprofundado, sinalizando fragilidades que podem comprometer a ética e a segurança no uso dessas tecnologias. Os resultados indicam que tais vulnerabilidades não são exclusivas do meio acadêmico, estendendo-se ao setor público, onde a confiança do cidadão e a transparência institucional exigem soluções robustas. Diante disso, propõe-se a formulação e implementação de políticas públicas que promovam capacitação contínua, regulação ética e inclusão digital, de forma a fomentar o uso responsável e confiável da IAGen em serviços governamentais.