Uma auditoria independente analisou um sistema de inteligência artificial usado por um município para indicar…
Publicado por Alexandre Lombardi dos Santos, fundador do GeraProva
Analisar e avaliar os impasses ético-políticos decorrentes das transformações culturais, sociais, históricas, científicas e tecnológicas no mundo contemporâneo e seus desdobramentos nas atitudes e nos valores de indivíduos, grupos sociais, sociedades e culturas.
Fonte: Base Nacional Comum Curricular (MEC).Questão
Uma auditoria independente analisou um sistema de inteligência artificial usado por um município para indicar pessoas que deveriam ser submetidas a uma verificação adicional em serviços públicos. O sistema foi treinado com registros históricos de abordagens policiais. Embora apresentasse a mesma taxa geral de acerto para diferentes grupos, ele produzia falsos positivos com frequência muito maior entre jovens negros. As pessoas indicadas não recebiam explicação sobre o resultado nem tinham um procedimento claro para contestá-lo. Com base no texto, qual impacto da inteligência artificial sobre os direitos individuais é evidenciado pelo funcionamento desse sistema?
- A) Ampliação da autonomia individual por decisões automatizadas.
- B) Fortalecimento da participação política por decisões automatizadas.
- C) Eliminação de preconceitos por decisões automatizadas.
- D) Garantia de tratamento igualitário por decisões automatizadas.
- E) Reprodução de desigualdades sociais por decisões automatizadas.
✅ Resposta correta: alternativa E
Resolução passo a passo
- Leia o texto com atenção. Um sistema de IA indica pessoas para verificação adicional em serviços públicos. Ele foi treinado com registros históricos de abordagens policiais, que já carregam desigualdades. Mesmo com a mesma taxa geral de acerto, errava muito mais (falsos positivos) entre jovens negros, e as pessoas não recebiam explicação nem tinham como contestar a decisão.
- Identifique o impacto evidenciado. O caso mostra que a IA, ao aprender com dados históricos marcados por desigualdade, reproduz e pode ampliar essas desigualdades, prejudicando direitos como o de ser tratado com igualdade, o de receber justificativa e o de recorrer de decisões que afetam a pessoa. Por isso a alternativa E é a correta.
- Analise as demais alternativas. A) está errada, pois o texto mostra perda de autonomia e ausência de contestação, não ampliação. B) está errada, pois o texto não trata de participação política. C) está errada, pois o sistema não elimina preconceitos, ao contrário, os reproduz. D) está errada, pois o tratamento não é igualitário, já que jovens negros são mais afetados.
- Conclusão. A alternativa correta é a E, de acordo com o gabarito oficial.
💡 Dica: Considere exemplos práticos de impacto da IA nos direitos individuais.
Alternativa por alternativa
O aluno pode entender que decisões automatizadas sempre aumentam a autonomia por serem objetivas e técnicas, sem perceber que o texto descreve falta de explicação e de contestação.
O aluno pode associar tecnologia a maior participação social e política, sem relacionar a questão ao tema dos direitos individuais tratado no texto.
O aluno pode acreditar que algoritmos são neutros por operarem com dados e, por isso, eliminariam preconceitos, sem notar que o sistema foi treinado com registros históricos enviesados.
O aluno pode confundir a igualdade de taxa geral de acerto entre grupos com tratamento igualitário, ignorando que os falsos positivos se concentram em jovens negros.
O sistema utiliza dados históricos que refletem práticas sociais desiguais e produz falsos positivos em proporção maior entre jovens negros. Assim, a automatização não elimina preconceitos: ela pode reproduzir desigualdades e afetar o direito à igualdade, especialmente quando não há explicação nem possibilidade de contestação.
Raio-X da questão
inteligência artificial e direitos
diagnostico
inteligencia artificial basica · direitos individuais
Estudar as implicações da tecnologia nos direitos humanos.
Confundir impactos positivos da inteligencia artificial com negativos, como acreditar que ela sempre protege a privacidade.
cidadania_etica
pensamento_critico
cotidiano
Questões parecidas com resolução
- Em uma cidade brasileira, uma escola pública passou a utilizar um sistema de inteligência artificial para identificar…
- Uma prefeitura brasileira passou a utilizar um sistema de inteligência artificial para organizar pedidos de atendimento…
- Em uma cidade brasileira, a prefeitura instalou um sistema de inteligência artificial para identificar pessoas por…
- Uma prefeitura brasileira começou a testar um sistema de reconhecimento facial para auxiliar na identificação de pessoas…
- Uma empresa brasileira passou a usar um sistema de inteligência artificial para selecionar candidatos a vagas de…
- Em uma cidade brasileira, o governo instalou câmeras com reconhecimento facial em estações de transporte público. Os…
Todas as questões de Impactos das transformações tecnológicas na ética
🔎 Procurar outra questão
Procure no banco do GeraProva pelo tema ou por um trecho do enunciado. Cada questão já vem com resolução comentada e a análise de cada alternativa.
Professor: monte a prova com questões como esta, com gabarito e folha de respostas, em 30 segundos. Ver planos · Blog