Em serviços públicos, qual é a consequência ética mais direta da adoção de sistemas automatizados que avaliam…
Publicado por Alexandre Lombardi dos Santos, fundador do GeraProva
Analisar e avaliar os impasses ético-políticos decorrentes das transformações culturais, sociais, históricas, científicas e tecnológicas no mundo contemporâneo e seus desdobramentos nas atitudes e nos valores de indivíduos, grupos sociais, sociedades e culturas.
Fonte: Base Nacional Comum Curricular (MEC).Questão
Em serviços públicos, qual é a consequência ética mais direta da adoção de sistemas automatizados que avaliam cidadãos com base em grandes conjuntos de dados?
- A) Todos os cidadãos são avaliados de maneira justa, independentemente dos dados usados.
- B) Sistemas automatizados favorecem a equidade e justiça em serviços públicos.
- C) Risco ampliado de discriminação e violação de privacidade por vieses algorítmicos e opacidade decisória.
- D) A automação em serviços públicos elimina completamente o risco de erros humanos.
- E) Avaliações automatizadas sempre mantêm a privacidade do cidadão intocada.
✅ Resposta correta: alternativa C
Resolução passo a passo
- A questão pede a consequência ética mais direta de sistemas automatizados que avaliam cidadãos a partir de grandes volumes de dados em serviços públicos.
- Sistemas desse tipo são treinados com dados históricos. Se esses dados refletem desigualdades ou preconceitos, o algoritmo tende a reproduzi-los e até a amplificá-los, o que gera risco de discriminação.
- Além disso, o uso massivo de dados pessoais expõe informações sensíveis dos cidadãos, criando risco de violação de privacidade. A opacidade decisória, isto é, a dificuldade de explicar como o sistema chegou a uma decisão, dificulta a contestação e a responsabilização.
- Logo, a alternativa C descreve a consequência ética central: risco ampliado de discriminação e de violação de privacidade, decorrentes de vieses e da falta de transparência.
- A alternativa A está errada, pois afirma uma justiça automática que a própria existência de vieses nos dados desmente. A alternativa B está errada, pois supõe que a automação favorece a equidade por si só, o que não é garantido. A alternativa D está errada, pois a automação não elimina erros, apenas pode transferi-los ou padroniza-los para escala maior. A alternativa E está errada, pois o tratamento de grandes volumes de dados costuma ameaçar a privacidade, e não mantê-la intocada.
- Resultado: a resposta correta é C, em concordância com o gabarito oficial.
💡 Dica: Considere as implicações éticas da automação na avaliação de cidadãos.
Alternativa por alternativa
Acredita que a avaliação feita por máquina é neutra e objetiva por natureza, ignorando que os dados usados podem carregar desigualdades históricas.
Assume que, por ser automatizado, o sistema é necessariamente mais equitativo, sem considerar que a automação pode reproduzir preconceitos já presentes nos dados.
Por que engana: O aluno pode confundir a ideia de que a automação garante justiça, ignorando os riscos de discriminação e privacidade.
Modelos treinados em dados históricos reproduzem desigualdades; decisões automatizadas sem transparência dificultam contestação e ampliam injustiças institucionais.
Confunde automação com infalibilidade, imaginando que máquinas não cometem erros; na prática, erros de programação e de dados podem ocorrer e se repetir em grande escala.
Supõe que, se o sistema não divulga nomes, a privacidade fica preservada, desconsiderando que o cruzamento de grandes conjuntos de dados pode expor informações pessoais.
Raio-X da questão
ética em serviços públicos
avaliacao
ética em serviços públicos · vieses algorítmicos
Revisar as implicações éticas da automação e uso de dados.
O aluno pode confundir a ideia de que a automação garante justiça, ignorando os riscos de discriminação e privacidade.
cidadania_etica
pensamento_critico
cotidiano
Questões parecidas com resolução
- Uma secretaria pública passa a usar um sistema de inteligência artificial para selecionar estudantes beneficiados por um…
- Uma prefeitura brasileira passou a utilizar um sistema de inteligência artificial para organizar pedidos de atendimento…
- Em uma cidade brasileira, a prefeitura instalou um sistema de inteligência artificial para identificar pessoas por…
- Uma secretaria municipal passou a usar um sistema de inteligência artificial para selecionar estudantes que receberiam…
- Em até 12 linhas, analise os impasses ético-políticos gerados pela automação de decisões públicas (por exemplo…
- Uma empresa adota um sistema de inteligência artificial para selecionar currículos e reduzir custos. Alguns…
Todas as questões de Impactos das transformações tecnológicas na ética
🔎 Procurar outra questão
Procure no banco do GeraProva pelo tema ou por um trecho do enunciado. Cada questão já vem com resolução comentada e a análise de cada alternativa.
Professor: monte a prova com questões como esta, com gabarito e folha de respostas, em 30 segundos. Ver planos · Blog