Resenha Crítica sobre os vieses algorítmicos presentes em sistemas de Inteligência Artificial

Resumo

O artigo “Ethics and discrimination in artificial intelligence-enabled recruitment practices”de Z. Chen (2023) realiza uma análise aprofundada sobre a crescente implementação de sistemas de Inteligência Artificial (IA) em processos de recrutamento e seleção. O autor argumenta que, embora a IA prometa otimizar a contratação, aumentar a eficiência e reduzir tarefas repetitivas, ela carrega o risco intrínseco de perpetuar e amplificar vieses discriminatórios. A pesquisa adverte sobre os perigos do viés algorítmico, que pode institucionalizar práticas de contratação excludentes com base em gênero, raça, cor e personalidade. Chen identifica duas fontes principais para esse problema: o treinamento de algoritmos com conjuntos de dados históricos limitados e enviesados, que refletem preconceitos sociais preexistentes, e os próprios vieses dos desenvolvedores que projetam os sistemas. O artigo também explora a discriminação indireta, que ocorre quando o sistema utiliza variáveis correlacionadas (proxies), como CEP ou a universidade do candidato, para tomar decisões excludentes. Para enfrentar esses desafios, o autor propõe uma abordagem multifacetada, combinando soluções técnicas, como a criação de bancos de dados mais justos e o aumento da transparência algorítmica, com medidas gerenciais, como a implementação de governança ética corporativa e mecanismos de supervisão externa.