Em sistemas de inteligência artificial usados para seleção de crédito, afirma-se: 'A responsabilidade ética…
Publicado por Alexandre Lombardi dos Santos, fundador do GeraProva
Analisar e avaliar os impasses ético-políticos decorrentes das transformações culturais, sociais, históricas, científicas e tecnológicas no mundo contemporâneo e seus desdobramentos nas atitudes e nos valores de indivíduos, grupos sociais, sociedades e culturas.
Fonte: Base Nacional Comum Curricular (MEC).Questão
Em sistemas de inteligência artificial usados para seleção de crédito, afirma-se: 'A responsabilidade ética por decisões discriminatórias cabe exclusivamente aos desenvolvedores.' Analise essa afirmação e responda se é verdadeira ou falsa.
- A) Apenas os desenvolvedores são responsáveis por erros de IA.
- B) A IA toma decisões sem qualquer influência externa.
- C) Vieses em IA são causados apenas pela programação inicial.
- D) Falso — a responsabilidade é compartilhada entre desenvolvedores, operadores e instituições.
- E) Os usuários finais não têm nenhum papel na ética das decisões.
✅ Resposta correta: alternativa D
Resolução passo a passo
- Analisei a afirmação por conta própria. Ela diz que a responsabilidade ética por decisões discriminatórias cabe 'exclusivamente' aos desenvolvedores. A palavra 'exclusivamente' torna a afirmação absoluta, e é isso que precisa ser testado.
- Em sistemas de IA para crédito, a decisão final resulta de várias etapas. Os desenvolvedores escolhem algoritmos, variáveis e métodos de teste. Os operadores e as instituições financeiras escolhem os dados, os critérios de aprovação, o contexto de uso e o monitoramento. Os órgãos de governança e a regulação definem limites e deveres. Por isso, a responsabilidade ética é compartilhada entre esses agentes.
- Vieses discriminatórios podem surgir de dados históricos que refletem desigualdades passadas, da escolha de variáveis correlacionadas com grupos sociais ou do uso do sistema em contextos para os quais ele não foi validado. Ou seja, o viés não nasce apenas da programação inicial, e a atribuição de culpa não pode ser exclusiva de quem programou.
- Conclusão: a afirmação é falsa, e a alternativa D está correta, pois afirma exatamente isso e indica a responsabilidade compartilhada. O gabarito oficial está correto.
- Por que as outras estão erradas: A repete o erro da exclusividade, ignorando operadores e instituições. B nega a influência externa, mas a IA depende de dados e decisões humanas. C atribui o viés somente à programação inicial, desconsiderando os dados e o uso. E afirma que usuários não têm papel algum, quando eles e as instituições podem influenciar as decisões e devem responder por elas.
💡 Dica: Considere as implicações éticas da inteligência artificial.
Alternativa por alternativa
O aluno acredita que, por terem criado o sistema, os desenvolvedores são os únicos responsáveis por qualquer erro ou discriminação. Ele não considera operadores e instituições que configuram e usam a IA.
Por que engana: O aluno pode confundir a responsabilidade exclusiva dos desenvolvedores com a ideia de que todos os envolvidos têm um papel na ética das decisões de IA.
O aluno entende que a IA funciona de forma totalmente autônoma e neutra, sem depender de dados ou de decisões humanas. Isso ignora que os modelos são treinados com dados produzidos por pessoas e instituições.
O aluno acha que o viés depende somente do código escrito inicialmente. Ele não percebe que dados históricos desiguais e o contexto de uso também produzem discriminação.
Vieses surgem de dados, decisões de projeto e políticas institucionais; como apontam reflexões sobre responsabilidade em estruturas burocráticas (p.ex. Arendt), é necessária prestação de contas múltipla e regulatória.
O aluno pensa que o usuário final é apenas um receptor passivo da decisão automatizada. Ele não nota que o usuário pode fornecer dados, contestar resultados e influenciar o uso do sistema.
Raio-X da questão
responsabilidade ética
avaliacao
responsabilidade ética · impacto da tecnologia na sociedade
Revisar os princípios éticos na tecnologia e suas implicações sociais.
O aluno pode confundir a responsabilidade exclusiva dos desenvolvedores com a ideia de que todos os envolvidos têm um papel na ética das decisões de IA.
cidadania_etica
pensamento_critico
cotidiano
Questões parecidas com resolução
- Durante a revisão do regulamento de uma rede de hotéis, candidatos a vagas de recepção relataram que a empresa exigia…
- — Se a audiodescrição atende a poucas pessoas, não seria melhor oferecê-la somente em sessões especiais? — perguntou um…
- Considere a clonagem reprodutiva: a técnica copia o genoma de um indivíduo. Analise a afirmação: 'Clonagem produz cópias…
- Diante de dilemas bioéticos envolvendo clonagem e sistemas de IA que afetam direitos e desigualdades, elabore uma…
- Um algoritmo hospitalar usa marcadores genéticos para prever expectativa de vida e priorizar receptores de transplante…
- Em um debate sobre justiça social, uma pesquisadora afirmou que a igualdade não consiste apenas em oferecer formalmente…
Todas as questões de Dilemas Éticos da Tecnologia e Vida (Clonagem, IA)
🔎 Procurar outra questão
Procure no banco do GeraProva pelo tema ou por um trecho do enunciado. Cada questão já vem com resolução comentada e a análise de cada alternativa.
Professor: monte a prova com questões como esta, com gabarito e folha de respostas, em 30 segundos. Ver planos · Blog