Em uma cidade brasileira, uma escola pública passou a utilizar um sistema de inteligência artificial para…
Publicado por Alexandre Lombardi dos Santos, fundador do GeraProva
Analisar e avaliar os impasses ético-políticos decorrentes das transformações culturais, sociais, históricas, científicas e tecnológicas no mundo contemporâneo e seus desdobramentos nas atitudes e nos valores de indivíduos, grupos sociais, sociedades e culturas.
Fonte: Base Nacional Comum Curricular (MEC).Questão
Em uma cidade brasileira, uma escola pública passou a utilizar um sistema de inteligência artificial para identificar pessoas nas imagens das câmeras de segurança. Uma auditoria independente constatou que o sistema cometia erros com frequência muito maior ao identificar mulheres negras do que ao identificar homens brancos. Além disso, a empresa responsável não divulgava claramente os critérios usados pelo sistema. Diante dos resultados, pesquisadores recomendaram revisão humana das decisões e transparência sobre o funcionamento da tecnologia. Com base no texto, qual problema ético relacionado ao uso da inteligência artificial é evidenciado pela situação descrita?
- A) Neutralidade dos critérios automatizados
- B) Reprodução de preconceitos sociais
- C) Redução dos erros de identificação
- D) Garantia de decisões imparciais
- E) Proteção integral dos direitos individuais
✅ Resposta correta: alternativa B
Resolução passo a passo
- Leia o texto com atenção. O sistema de inteligência artificial erra com frequência muito maior ao identificar mulheres negras do que homens brancos, ou seja, o desempenho da tecnologia varia conforme características raciais e de gênero das pessoas.
- Identifique o problema ético central. Essa diferença de desempenho indica que a tecnologia trata grupos sociais de forma desigual, o que reflete e amplifica desigualdades já existentes na sociedade. Isso caracteriza a reprodução de preconceitos sociais, seja por dados de treinamento desbalanceados, seja por critérios mal definidos.
- Considere os demais elementos do texto. A falta de divulgação dos critérios e a recomendação de revisão humana e transparência reforçam que o problema é de justiça e responsabilidade no uso da tecnologia.
- Analise as alternativas. A alternativa A está errada, pois o texto mostra justamente que os critérios não são neutros. A alternativa C está errada, pois o texto relata aumento de erros, não sua redução. A alternativa D está errada, pois a decisão automatizada não é imparcial, como a auditoria demonstrou. A alternativa E está errada, pois o texto mostra fragilidade na proteção de direitos, não sua garantia integral.
- Conclusão. A alternativa correta é a B, pois a situação evidencia que a inteligência artificial pode reproduzir preconceitos sociais, o que coincide com o gabarito oficial.
💡 Dica: Considere exemplos práticos da inteligência artificial em sua análise.
Alternativa por alternativa
O aluno supõe que sistemas automatizados são neutros por serem tecnológicos e não humanos, ignorando que os dados e critérios podem carregar vieses.
A auditoria mostrou que o sistema errava mais ao identificar mulheres negras, revelando um tratamento desigual entre grupos sociais. A falta de transparência também dificulta a contestação das decisões. Assim, o caso evidencia o risco de a inteligência artificial reproduzir preconceitos e desigualdades presentes na sociedade.
O aluno pode ter associado o uso de inteligência artificial apenas à eficiência e não leu que o texto relata erros frequentes na identificação.
O aluno acredita que a automação elimina a parcialidade humana, sem perceber que a auditoria constatou desempenho desigual entre grupos.
O aluno pode entender que, por haver regras de transparência e revisão, os direitos individuais estão plenamente protegidos, quando o texto aponta justamente falhas nessa proteção.
Raio-X da questão
ética da inteligência artificial
avaliacao
conceito de ética · inteligência artificial básica
Revisar os princípios éticos relacionados à tecnologia e sua aplicação.
Confundir consequências éticas negativas com benefícios tecnológicos, como aumento de produtividade ou acesso à informação.
cidadania_etica
pensamento_critico
cotidiano
Questões parecidas com resolução
- Em uma cidade brasileira, a prefeitura instalou um sistema de inteligência artificial para identificar pessoas por…
- Uma empresa brasileira utiliza um sistema de inteligência artificial para classificar currículos. O sistema foi treinado…
- Em um hospital público brasileiro, um sistema de inteligência artificial passou a classificar a prioridade de…
- Uma prefeitura brasileira passou a utilizar um sistema de inteligência artificial para organizar pedidos de atendimento…
- Uma empresa brasileira passou a usar um sistema de inteligência artificial para selecionar candidatos a vagas de…
- Uma auditoria independente analisou um sistema de inteligência artificial usado por um município para indicar pessoas…
🔎 Procurar outra questão
Procure no banco do GeraProva pelo tema ou por um trecho do enunciado. Cada questão já vem com resolução comentada e a análise de cada alternativa.
Professor: monte a prova com questões como esta, com gabarito e folha de respostas, em 30 segundos. Ver planos · Blog