Em um hospital público brasileiro, um sistema de inteligência artificial passou a classificar a prioridade de…
Publicado por Alexandre Lombardi dos Santos, fundador do GeraProva
Analisar e avaliar os impasses ético-políticos decorrentes das transformações culturais, sociais, históricas, científicas e tecnológicas no mundo contemporâneo e seus desdobramentos nas atitudes e nos valores de indivíduos, grupos sociais, sociedades e culturas.
Fonte: Base Nacional Comum Curricular (MEC).Questão
Em um hospital público brasileiro, um sistema de inteligência artificial passou a classificar a prioridade de atendimento dos pacientes a partir de seus dados clínicos. Após dois meses, uma auditoria identificou que o sistema recomendava prioridades menores para mulheres negras com sintomas semelhantes aos de outros grupos, porque os dados usados em seu treinamento representavam pouco essa população. Além disso, o sistema não apresentava justificativas compreensíveis para suas recomendações. Embora os médicos pudessem revisar as classificações, a direção do hospital determinou que eles continuariam responsáveis pelas decisões finais e deveriam informar os pacientes sobre o uso da ferramenta. Com base no texto, qual implicação ética do uso da inteligência artificial na medicina é mais diretamente evidenciada pela situação apresentada?
- A) A substituição integral dos profissionais pelo sistema de classificação hospitalar.
- B) A necessidade de supervisão humana diante de decisões automatizadas opacas e potencialmente discriminatórias.
- C) A dispensa de transparência no uso hospitalar de dados e recomendações automatizadas.
- D) A eliminação da responsabilidade médica pelas decisões automatizadas e opacas.
- E) A neutralidade dos diagnósticos produzidos por sistemas treinados com dados clínicos.
✅ Resposta correta: alternativa B
Resolução passo a passo
- Leio o texto e identifico os problemas relatados: o sistema recomendava prioridades menores para mulheres negras por causa de dados de treinamento pouco representativos (viés e discriminação), e não apresentava justificativas compreensíveis (opacidade).
- Verifico a resposta que a própria situação evidencia. Como o sistema é opaco e pode discriminar, é necessário que um ser humano supervisione e revise as decisões automatizadas. A direção do hospital também mantém os médicos responsáveis pelas decisões finais, o que reforça essa supervisão.
- Comparo com o gabarito oficial, que é B, e concluo que coincide com minha resolução.
- Por que as outras alternativas estão erradas:
- A) O texto mostra os médicos mantidos como responsáveis, não a substituição integral dos profissionais.
- C) A situação evidencia justamente a falta de transparência, pois o sistema não justificava suas recomendações; a alternativa defende o oposto.
- D) A direção determina que os médicos continuem responsáveis, ou seja, a responsabilidade não é eliminada.
- E) O caso mostra que o sistema produziu recomendações discriminatórias por causa de dados pouco representativos, o que contraria a ideia de neutralidade.
💡 Dica: Considere diferentes perspectivas éticas sobre a IA na medicina.
Alternativa por alternativa
O aluno entendeu que, por causa dos problemas do sistema, a solução seria trocar totalmente os profissionais pela ferramenta automatizada, ignorando que o texto mantém os médicos como responsáveis.
Por que engana: Confundir os benefícios da inteligência artificial com suas implicações éticas, acreditando que todos os aspectos são positivos.
O texto apresenta duas razões éticas para a supervisão humana: o sistema produz resultados potencialmente discriminatórios por utilizar dados pouco representativos e não explica de modo compreensível os critérios de suas recomendações. Como os médicos continuam responsáveis pelas decisões finais, a inteligência artificial deve apoiar, e não substituir, o julgamento profissional responsável.
O aluno pode ter confundido a exigência de informar os pacientes sobre o uso da ferramenta com ausência de transparência, ou considerou que dados automatizados não precisam ser explicados.
O aluno pode ter interpretado que, por ser o sistema automatizado, a responsabilidade pelas decisões passa para a máquina, quando o texto determina que os médicos permanecem responsáveis pelas decisões finais.
O aluno pode ter assumido a intuição de que dados e cálculos são automaticamente objetivos e imparciais, desconsiderando que o texto mostra vieses causados por dados pouco representativos.
Raio-X da questão
ética da inteligência artificial
diagnostico
implicações éticas · inteligência artificial
Revisar os princípios éticos aplicados à tecnologia na saúde.
Confundir os benefícios da inteligência artificial com suas implicações éticas, acreditando que todos os aspectos são positivos.
cidadania_etica
pensamento_critico
cientifico
Questões parecidas com resolução
- Em um hospital público brasileiro, um sistema de inteligência artificial foi treinado com dados de atendimentos…
- Em um hospital público, um sistema de inteligência artificial passou a recomendar quais pacientes deveriam receber…
- Em uma cidade brasileira, uma escola pública passou a utilizar um sistema de inteligência artificial para identificar…
- Uma prefeitura brasileira passou a utilizar um sistema de inteligência artificial para organizar pedidos de atendimento…
- Em sistemas de IA usados na triagem médica, qual preocupação ética central compromete a equidade no acesso à saúde?
- Uma empresa brasileira utiliza um sistema de inteligência artificial para classificar currículos. O sistema foi treinado…
Todas as questões de Ética e ciência: dilemas contemporâneos
🔎 Procurar outra questão
Procure no banco do GeraProva pelo tema ou por um trecho do enunciado. Cada questão já vem com resolução comentada e a análise de cada alternativa.
Professor: monte a prova com questões como esta, com gabarito e folha de respostas, em 30 segundos. Ver planos · Blog