Uma empresa brasileira passou a usar um sistema de inteligência artificial para selecionar candidatos a vagas…
Publicado por Alexandre Lombardi dos Santos, fundador do GeraProva
Analisar e avaliar os impasses ético-políticos decorrentes das transformações culturais, sociais, históricas, científicas e tecnológicas no mundo contemporâneo e seus desdobramentos nas atitudes e nos valores de indivíduos, grupos sociais, sociedades e culturas.
Fonte: Base Nacional Comum Curricular (MEC).Questão
Uma empresa brasileira passou a usar um sistema de inteligência artificial para selecionar candidatos a vagas de emprego. O sistema foi treinado com dados de contratações anteriores, nas quais pessoas de determinados bairros periféricos e com certos padrões de escolarização eram escolhidas com menor frequência. Após uma auditoria, verificou-se que o programa continuava atribuindo notas mais baixas a candidatos com características semelhantes, mesmo quando eles apresentavam qualificações equivalentes às de outros concorrentes. A empresa não havia estabelecido mecanismos suficientes para revisar ou contestar as decisões automatizadas. Com base no caso apresentado, identifique o principal desdobramento ético do uso da inteligência artificial nessa situação.
- A) Eliminação de preconceitos históricos
- B) Ampliação da participação democrática
- C) Proteção ampliada da privacidade
- D) Reprodução de desigualdades sociais
- E) Garantia de decisões imparciais
✅ Resposta correta: alternativa D
Resolução passo a passo
- Leia o caso com atenção. O sistema de IA foi treinado com dados de contratações anteriores em que candidatos de bairros periféricos e com certos padrões de escolarização eram escolhidos com menos frequência. Ou seja, o histórico já continha desigualdade.
- Observe o que o sistema fez após a auditoria. Ele continuou atribuindo notas mais baixas a candidatos semelhantes, mesmo com qualificações equivalentes às dos concorrentes. Isso mostra que o algoritmo aprendeu e repetiu o padrão injusto do passado, em vez de corrigi-lo.
- Considere a ausência de mecanismos de revisão e contestação. A empresa não permitia questionar as decisões automatizadas, o que impede que o viés seja identificado e corrigido e torna a desigualdade ainda mais difícil de combater.
- Conclua. O principal desdobramento ético é a reprodução de desigualdades sociais, pois a IA transforma preconceitos e exclusões do passado em critérios de decisão aparentemente neutros e automatizados. A alternativa D é a correta, e o gabarito está coerente com o caso.
- Analise as demais. A: está errada, pois o sistema não eliminou preconceitos, ao contrário, os perpetuou. B: está errada, pois o caso não trata de participação democrática nem amplia qualquer forma de voz dos candidatos. C: está errada, pois o problema central é discriminação na seleção, não violação ou proteção da privacidade. E: está errada, pois a decisão do sistema foi enviesada, o oposto de imparcial.
💡 Dica: Considere exemplos práticos de IA na sociedade.
Alternativa por alternativa
O aluno pode supor que, por ser tecnológica, a IA neutraliza preconceitos humanos, sem perceber que o sistema aprendeu com dados enviesados do passado.
O aluno pode associar automaticamente o uso de tecnologia a mais participação social, sem relacionar a alternativa ao problema de discriminação descrito no caso.
O aluno pode relacionar qualquer uso de dados pessoais a questões de privacidade, desviando o foco da discriminação na avaliação dos candidatos.
Por que engana: Confundir os impactos positivos da inteligência artificial com os negativos, escolhendo alternativas que não refletem a realidade social.
A inteligência artificial reproduziu padrões discriminatórios presentes nos dados históricos usados em seu treinamento. Ao atribuir notas menores a candidatos igualmente qualificados por causa de características associadas à origem social, o sistema compromete a justiça das decisões e pode ampliar desigualdades já existentes. A ausência de mecanismos adequados de revisão e contestação agrava o problema.
O aluno pode acreditar que decisões automatizadas são sempre imparciais por serem baseadas em cálculos, ignorando que o caso mostra notas injustas para candidatos equivalentes.
Raio-X da questão
ética da inteligência artificial
avaliacao
desdobramentos éticos · inteligência artificial
Revisar os princípios éticos relacionados à tecnologia e sociedade.
Confundir os impactos positivos da inteligência artificial com os negativos, escolhendo alternativas que não refletem a realidade social.
cidadania_etica
pensamento_critico
cotidiano
Questões parecidas com resolução
- Uma empresa brasileira passou a usar um sistema de inteligência artificial para selecionar candidatos a vagas de…
- Uma empresa brasileira passou a usar um sistema de inteligência artificial para selecionar candidatos a vagas de…
- Uma empresa brasileira utiliza um sistema de inteligência artificial para classificar currículos. O sistema foi treinado…
- Uma empresa brasileira utiliza uma plataforma digital para organizar candidaturas a vagas de emprego. O sistema foi…
- Uma secretaria municipal passou a usar um sistema de inteligência artificial para selecionar estudantes que receberiam…
- Uma prefeitura brasileira passou a utilizar um sistema de inteligência artificial para organizar pedidos de atendimento…
Todas as questões de Mudanças culturais e seus desdobramentos éticos
🔎 Resolver outra questão
Cole o enunciado e veja a resolução passo a passo, a alternativa correta e por que as outras estão erradas.
Professor: monte a prova com questões como esta, com gabarito e folha de respostas, em 30 segundos. Ver planos · Blog