Em uma clínica de bairro, uma equipe avaliou um sistema de inteligência artificial que prioriza pacientes para…
Publicado por Alexandre Lombardi dos Santos, fundador do GeraProva
Analisar situações da vida cotidiana, estilos de vida, valores, condutas etc., desnaturalizando e problematizando formas de desigualdade, preconceito, intolerância e discriminação, e identificar ações que promovam os Direitos Humanos, a solidariedade e o respeito às diferenças e às liberdades individuais.
Fonte: Base Nacional Comum Curricular (MEC).Questão
Em uma clínica de bairro, uma equipe avaliou um sistema de inteligência artificial que prioriza pacientes para consultas rápidas. Em uma representação de barras descrita no relatório, cada barra indica a porcentagem de casos urgentes que o sistema deixou de priorizar: para pacientes do grupo A, 8%; para pacientes do grupo B, 19%. A equipe também observou que os dois grupos apresentavam proporções semelhantes de casos urgentes na amostra analisada. Considerando os dados apresentados, qual medida responde de modo mais adequado ao problema ético identificado?
- A) Definir a priorização pela proporção geral de casos urgentes, sem considerar os resultados separados por grupo.
- B) Investigar as causas da diferença, revisar o sistema e acompanhar seus resultados para reduzir o risco de tratamento desigual entre os grupos.
- C) Manter o sistema como está, pois a diferença observada pode decorrer de variação aleatória na amostra.
- D) Ajustar o sistema até que a porcentagem de casos urgentes não priorizados seja igual nos dois grupos.
- E) Retirar do sistema a identificação dos grupos e manter as demais configurações da priorização.
✅ Resposta correta: alternativa B
Resolução passo a passo
- O sistema deixa de priorizar 8% dos casos urgentes do grupo A e 19% dos do grupo B. Como as proporções de casos urgentes eram semelhantes, a diferença sugere possível tratamento desigual que merece investigação.
- A medida mais adequada é investigar as causas, revisar o sistema e acompanhar seus resultados, buscando reduzir o risco de desigualdade sem presumir previamente qual ajuste resolverá o problema. Portanto, B está correta.
- A está errada porque usar apenas o resultado geral pode ocultar a diferença entre os grupos. C está errada porque atribuir a diferença ao acaso sem investigar não é uma resposta responsável. D está errada porque impor taxas iguais pode não corrigir as causas da disparidade nem garantir uma priorização justa. E está errada porque ocultar a identificação dos grupos não necessariamente elimina vieses presentes nos dados ou no funcionamento do sistema.
💡 Dica: Compare os resultados dos grupos e escolha uma resposta que investigue e reduza o risco de desigualdade sem presumir sua causa.
Alternativa por alternativa
A pessoa supõe que uma medida agregada representa igualmente os dois grupos. Isso pode mascarar a diferença observada entre eles.
Como as proporções de casos urgentes eram semelhantes, a diferença de falhas sugere que o sistema pode prejudicar mais um grupo. Investigar e corrigir o problema, com acompanhamento, ajuda a evitar discriminação nas decisões de saúde.
A pessoa trata a possibilidade de variação aleatória como motivo suficiente para manter o sistema sem apuração. O dado exige investigação antes de se concluir que a diferença é casual.
Por que engana: Confundir igualdade de resultados percentuais com garantia suficiente de justiça, ou ignorar uma diferença relevante por ser possivelmente aleatória.
A pessoa entende que igualdade nas porcentagens é, por si só, garantia de justiça. Igualar o indicador sem investigar as causas pode não resolver o tratamento desigual.
A pessoa supõe que retirar a identificação explícita dos grupos elimina o viés. As disparidades podem persistir por características correlacionadas ou por outros aspectos dos dados e do sistema.
Raio-X da questão
Justiça e tratamento equitativo em sistemas de IA
avaliacao
Igualdade e não discriminação · Interpretação de percentuais por grupo
Viés algorítmico e direitos humanos
Confundir igualdade de resultados percentuais com garantia suficiente de justiça, ou ignorar uma diferença relevante por ser possivelmente aleatória.
Direitos humanos e cidadania digital
Responsabilidade e pensamento crítico
cientifico
Questões parecidas com resolução
- Em uma unidade de saúde, um sistema de inteligência artificial organiza a prioridade de consultas. Um relatório descreve…
- Em um hospital público brasileiro, um sistema de inteligência artificial foi treinado com dados de atendimentos…
- Em um hospital público, um sistema de inteligência artificial passou a recomendar quais pacientes deveriam receber…
- Em um hospital público brasileiro, um sistema de inteligência artificial passou a classificar a prioridade de…
- Um serviço brasileiro de telemonitoramento usa inteligência artificial para analisar dados de pessoas com doenças…
- Em um hospital público brasileiro, um sistema de inteligência artificial é usado para analisar exames e indicar casos…
Todas as questões de Dilemas Éticos da Tecnologia e Vida (Clonagem, IA)
🔎 Procurar outra questão
Procure no banco do GeraProva pelo tema ou por um trecho do enunciado. Cada questão já vem com resolução comentada e a análise de cada alternativa.
Professor: monte a prova com questões como esta, com gabarito e folha de respostas, em 30 segundos. Ver planos · Blog