Uma prefeitura passou a utilizar um sistema de inteligência artificial para selecionar famílias que receberão…
Publicado por Alexandre Lombardi dos Santos, fundador do GeraProva
Analisar e avaliar os impasses ético-políticos decorrentes das transformações culturais, sociais, históricas, científicas e tecnológicas no mundo contemporâneo e seus desdobramentos nas atitudes e nos valores de indivíduos, grupos sociais, sociedades e culturas.
Fonte: Base Nacional Comum Curricular (MEC).Questão
Uma prefeitura passou a utilizar um sistema de inteligência artificial para selecionar famílias que receberão auxílio habitacional. Após uma auditoria, verificou-se que o sistema aprovava mais pedidos de moradores de bairros ricos e rejeitava, em proporção maior, pedidos de moradores de bairros periféricos, embora os grupos apresentassem necessidades semelhantes. No debate público sobre a continuidade do sistema, pesquisadores defenderam sua revisão para evitar que os custos dos erros recaíssem de modo desproporcional sobre um grupo social. Para eles, uma decisão eticamente aceitável deveria considerar a distribuição equilibrada dos benefícios e dos prejuízos produzidos pela tecnologia. Com base no texto, qual valor ético deve orientar a revisão do sistema de inteligência artificial?
- A) Justiça
- B) Eficiência
- C) Segurança
- D) Inovação
- E) Lucratividade
✅ Resposta correta: alternativa A
Resolução passo a passo
- O texto descreve um sistema que favorece moradores de bairros ricos e rejeita, em proporção maior, pedidos de bairros periféricos, mesmo com necessidades semelhantes. Ou seja, há desigualdade de tratamento entre grupos comparáveis.
- Os pesquisadores defendem a revisão para evitar que os custos dos erros recaiam de modo desproporcional sobre um grupo e afirmam que uma decisão eticamente aceitável deve considerar a distribuição equilibrada de benefícios e prejuízos.
- Essa ideia de distribuir de forma equilibrada benefícios e encargos, e de não prejudicar um grupo específico, corresponde ao valor da justiça (equidade na distribuição de bens e ônus sociais).
- A alternativa B (Eficiência) está errada, pois o problema não é o desempenho técnico do sistema, e sim a forma desigual como ele distribui benefícios e prejuízos. A alternativa C (Segurança) está errada, pois o texto não trata de proteção contra riscos ou danos físicos ou informáticos. A alternativa D (Inovação) está errada, já que a tecnologia já existe e a discussão é sobre seus efeitos, não sobre novidade. A alternativa E (Lucratividade) está errada, porque o texto não menciona ganhos financeiros nem custos econômicos como critério.
- Portanto, o valor ético que deve orientar a revisão é a justiça, e o gabarito oficial A está correto.
💡 Dica: Pense em valores éticos relevantes para a IA.
Alternativa por alternativa
O problema apresentado é a distribuição desigual dos benefícios e dos prejuízos do sistema: moradores de bairros periféricos são prejudicados desproporcionalmente, apesar de terem necessidades semelhantes. O valor que exige tratamento imparcial e distribuição equilibrada dos efeitos da decisão é a justiça.
O aluno pode ter associado a revisão do sistema a melhorar o desempenho e a rapidez da seleção, ignorando que o problema central é a distribuição desigual dos efeitos entre grupos.
O aluno pode ter entendido 'custos dos erros' e 'prejuízos' como riscos a serem evitados por medidas de proteção, confundindo o foco em equidade com a ideia de segurança contra danos.
O aluno pode ter relacionado a revisão de um sistema de inteligência artificial à ideia de avanço tecnológico, supondo que a solução seria criar algo novo em vez de corrigir o viés existente.
Por que engana: Confundir valores éticos com objetivos práticos ou econômicos, como lucro ou eficiência.
O aluno pode ter buscado no texto um critério econômico, pensando que a avaliação do sistema depende de custos e retornos financeiros, sem perceber que o texto trata de equilíbrio social.
Raio-X da questão
valores éticos em IA
avaliacao
valores éticos básicos · conceito de inteligência artificial
Revisar os principais valores éticos discutidos em filosofia.
Confundir valores éticos com objetivos práticos ou econômicos, como lucro ou eficiência.
cidadania_etica
tomada_decisao
cotidiano
Questões parecidas com resolução
- Uma prefeitura pretende usar um sistema de inteligência artificial para selecionar, entre milhares de solicitações…
- Em 2024, uma prefeitura brasileira passou a utilizar um sistema digital para definir a prioridade de famílias inscritas…
- Uma secretaria municipal passou a usar um sistema de inteligência artificial para selecionar estudantes que receberiam…
- Uma prefeitura brasileira passou a utilizar um sistema de inteligência artificial para organizar pedidos de atendimento…
- Em uma escola pública, um sistema de inteligência artificial foi adotado para indicar estudantes com maior risco de…
- Uma prefeitura brasileira passou a usar um sistema de inteligência artificial para ordenar pedidos de auxílio social. O…
Todas as questões de Impactos das transformações tecnológicas na ética
🔎 Procurar outra questão
Procure no banco do GeraProva pelo tema ou por um trecho do enunciado. Cada questão já vem com resolução comentada e a análise de cada alternativa.
Professor: monte a prova com questões como esta, com gabarito e folha de respostas, em 30 segundos. Ver planos · Blog
