Uma secretaria municipal passou a usar um sistema de inteligência artificial para selecionar estudantes que…
Publicado por Alexandre Lombardi dos Santos, fundador do GeraProva
Analisar e avaliar os impasses ético-políticos decorrentes das transformações culturais, sociais, históricas, científicas e tecnológicas no mundo contemporâneo e seus desdobramentos nas atitudes e nos valores de indivíduos, grupos sociais, sociedades e culturas.
Fonte: Base Nacional Comum Curricular (MEC).Questão
Uma secretaria municipal passou a usar um sistema de inteligência artificial para selecionar estudantes que receberiam bolsas de permanência. O programa foi treinado com dados de concessões anteriores. Após alguns meses, uma auditoria mostrou que estudantes de escolas localizadas em regiões periféricas recebiam pontuações menores, mesmo quando apresentavam desempenho escolar semelhante ao de estudantes de outras regiões. A empresa responsável afirmou que o sistema apenas reproduzia os padrões presentes nos dados utilizados. Diante do problema, a secretaria decidiu exigir explicações sobre os critérios empregados, revisar os dados e permitir que as decisões fossem contestadas por uma comissão humana. Considerando o caso apresentado, qual análise relaciona adequadamente tecnologia e ética na sociedade contemporânea?
- A) A tecnologia elimina a responsabilidade dos agentes humanos.
- B) A tecnologia pode reproduzir desigualdades quando utiliza dados sociais enviesados.
- C) A tecnologia garante neutralidade às decisões automatizadas.
- D) A tecnologia resolve conflitos sociais pela eficiência técnica.
- E) A tecnologia protege igualmente todos os grupos envolvidos.
✅ Resposta correta: alternativa B
Resolução passo a passo
- Leia o caso com atenção. Um sistema de IA treinado com dados de concessões anteriores passou a dar pontuações menores a estudantes de regiões periféricas, mesmo com desempenho semelhante. Ou seja, o sistema reproduziu um padrão já presente nos dados.
- Identifique o problema central. A empresa alegou que o sistema apenas reproduzia padrões dos dados, o que mostra que a tecnologia herdou um viés social do passado. A decisão automatizada não é neutra quando os dados de entrada carregam desigualdades.
- Verifique a resposta das autoridades. A secretaria exigiu explicações sobre os critérios, revisou os dados e garantiu contestação humana. Essas medidas mostram que a responsabilidade ética permanece com pessoas e instituições, e que é preciso controle sobre a tecnologia.
- Conclua. A alternativa B relaciona corretamente tecnologia e ética, pois reconhece que a tecnologia pode reproduzir desigualdades quando usa dados sociais enviesados.
- Analise as alternativas erradas. A) está errada, porque a tecnologia não elimina a responsabilidade humana; o caso mostra justamente que pessoas precisaram responder pelo sistema. C) está errada, porque decisões automatizadas não são neutras por natureza, e a auditoria comprovou isso. D) está errada, porque a eficiência técnica não resolve conflitos sociais, já que a eficiência pode até acentuar a injustiça. E) está errada, porque o caso mostra que o sistema prejudicou um grupo específico, o que contradiz a ideia de proteção igual a todos.
💡 Dica: Considere exemplos atuais de tecnologia e ética.
Alternativa por alternativa
Acredita que, por ser automatizada, a decisão deixa de ter responsáveis humanos, como se o sistema decidisse sozinho sem autoria de ninguém.
Por que engana: Achar que a tecnologia sempre traz benefícios éticos claros, ignorando seus efeitos negativos como a desinformação.
O sistema automatizado não é eticamente neutro: ao ser treinado com dados que refletem desigualdades anteriores, pode reproduzir ou ampliar tratamentos injustos. Por isso, a transparência dos critérios, a revisão dos dados, a possibilidade de contestação e a responsabilização humana são medidas éticas necessárias.
Supõe que algoritmos são neutros porque operam com números e regras, ignorando que os dados de treino podem carregar preconceitos históricos.
Entende que a eficiência técnica basta para resolver problemas sociais, sem considerar que um sistema rápido e eficiente pode ser injusto.
Imagina que a tecnologia beneficia todos da mesma forma, sem perceber que o caso descreve um grupo específico prejudicado pelo sistema.
Raio-X da questão
tecnologia e ética
avaliacao
impacto social da tecnologia · conceitos básicos de ética
Revisar os impactos da tecnologia na ética contemporânea.
Achar que a tecnologia sempre traz benefícios éticos claros, ignorando seus efeitos negativos como a desinformação.
cidadania_etica
pensamento_critico
cotidiano
Questões parecidas com resolução
- Em uma escola pública, um sistema de inteligência artificial foi adotado para indicar estudantes com maior risco de…
- Uma empresa brasileira passou a usar um sistema de inteligência artificial para selecionar candidatos a vagas de…
- Uma secretaria pública passa a usar um sistema de inteligência artificial para selecionar estudantes beneficiados por um…
- Uma prefeitura brasileira passou a usar um sistema de inteligência artificial para ordenar pedidos de auxílio social. O…
- Em uma cidade brasileira, uma escola pública passou a utilizar um sistema de inteligência artificial para identificar…
- Uma prefeitura brasileira passou a utilizar um sistema de inteligência artificial para organizar pedidos de atendimento…
Todas as questões de Ética e ciência: dilemas contemporâneos
🔎 Resolver outra questão
Cole o enunciado e veja a resolução passo a passo, a alternativa correta e por que as outras estão erradas.
Professor: monte a prova com questões como esta, com gabarito e folha de respostas, em 30 segundos. Ver planos · Blog