Em um hospital público, um sistema de inteligência artificial passou a recomendar quais pacientes deveriam…
Publicado por Alexandre Lombardi dos Santos, fundador do GeraProva
Analisar e avaliar os impasses ético-políticos decorrentes das transformações culturais, sociais, históricas, científicas e tecnológicas no mundo contemporâneo e seus desdobramentos nas atitudes e nos valores de indivíduos, grupos sociais, sociedades e culturas.
Fonte: Base Nacional Comum Curricular (MEC).Questão
Em um hospital público, um sistema de inteligência artificial passou a recomendar quais pacientes deveriam receber prioridade em uma unidade de terapia intensiva. O programa foi treinado com registros históricos de atendimentos e apresenta suas recomendações sem informar claramente quais critérios utilizou. Uma auditoria constatou que os dados reproduziam desigualdades anteriores no acesso à saúde. A direção do hospital decidiu seguir automaticamente as recomendações, sem estabelecer quem responderia por eventuais danos aos pacientes. Com base no texto, qual problema ético deve orientar a avaliação do uso desse sistema de inteligência artificial em decisões de vida ou morte?
- A) Impedir qualquer uso de inteligência artificial em serviços de saúde
- B) Exigir transparência, supervisão humana e responsabilização pelas decisões
- C) Substituir integralmente os profissionais para acelerar o atendimento hospitalar
- D) Aceitar as recomendações como imparciais por serem produzidas por tecnologia
- E) Priorizar a redução de custos sobre a igualdade entre os pacientes
✅ Resposta correta: alternativa B
Resolução passo a passo
- O texto descreve um sistema de inteligência artificial que recomenda prioridade de atendimento em UTI sem explicar seus critérios, que reproduz desigualdades presentes nos dados históricos e cujas recomendações são seguidas automaticamente, sem definição de quem responde por danos.
- Esses três elementos apontam para a falta de transparência (critérios não informados), a ausência de supervisão humana efetiva (decisões seguidas automaticamente) e a falta de responsabilização (ninguém definido para responder por danos). Por isso, a alternativa B é a correta, e ela coincide com o gabarito oficial.
- Por que as outras estão erradas:
- A) Propõe proibir qualquer uso de IA, o que não é exigido pelo texto, que trata de um problema de governança e não da tecnologia em si.
- C) Propõe substituir integralmente os profissionais, o que agrava o problema da falta de supervisão humana descrito no texto.
- D) Trata a recomendação como imparcial, quando a auditoria mostrou que ela reproduz desigualdades anteriores.
- E) Prioriza custos sobre igualdade, contrariando o problema de desigualdade de acesso apontado pela auditoria.
💡 Dica: Analise as diferentes perspectivas éticas sobre a IA.
Alternativa por alternativa
O aluno pode acreditar que o problema central é a própria tecnologia, e que a única solução segura seria eliminar seu uso, sem considerar a possibilidade de regulá-la.
Por que engana: Achar que a inteligência artificial é sempre benéfica e não considerar suas limitações éticas e sociais.
O texto apresenta três problemas relacionados: o sistema não explica seus critérios, seus dados reproduzem desigualdades e a direção não definiu responsáveis pelos efeitos das decisões. Por isso, a avaliação ética deve exigir transparência, supervisão humana e responsabilização, especialmente porque as recomendações afetam o acesso a um recurso vital.
O aluno pode entender que, para resolver os problemas, bastaria aumentar a autonomia da máquina, retirando os profissionais, o que ignora que o texto critica justamente a falta de supervisão humana.
O aluno pode cair no senso comum de que máquinas são neutras e objetivas, ignorando que o texto informa que a auditoria constatou reprodução de desigualdades nos dados.
O aluno pode focar na eficiência econômica do hospital e não perceber que o texto trata de desigualdade no acesso à saúde como problema ético central.
Raio-X da questão
ética da inteligência artificial
diagnostico
implicações éticas · inteligência artificial
Revisar os princípios éticos relacionados à tecnologia e saúde.
Achar que a inteligência artificial é sempre benéfica e não considerar suas limitações éticas e sociais.
cidadania_etica
pensamento_critico
cientifico
Questões parecidas com resolução
- Em um hospital público brasileiro, um sistema de inteligência artificial foi treinado com dados de atendimentos…
- Em um hospital público brasileiro, um sistema de inteligência artificial passou a classificar a prioridade de…
- Uma pesquisa nacional indica que a maioria da população aprova o uso de sistemas de inteligência artificial em decisões…
- Em um hospital público brasileiro, um sistema de inteligência artificial é usado para analisar exames e indicar casos…
- Qual é o principal risco ético de usar algoritmos de IA para decidir prioridades em triagem médica?
- Em sistemas de IA usados na triagem médica, qual preocupação ética central compromete a equidade no acesso à saúde?
Todas as questões de Ética e ciência: dilemas contemporâneos
🔎 Procurar outra questão
Procure no banco do GeraProva pelo tema ou por um trecho do enunciado. Cada questão já vem com resolução comentada e a análise de cada alternativa.
Professor: monte a prova com questões como esta, com gabarito e folha de respostas, em 30 segundos. Ver planos · Blog