Em um hospital público brasileiro, um sistema de inteligência artificial foi treinado com dados de…
Publicado por Alexandre Lombardi dos Santos, fundador do GeraProva
Analisar e avaliar os impasses ético-políticos decorrentes das transformações culturais, sociais, históricas, científicas e tecnológicas no mundo contemporâneo e seus desdobramentos nas atitudes e nos valores de indivíduos, grupos sociais, sociedades e culturas.
Fonte: Base Nacional Comum Curricular (MEC).Questão
Em um hospital público brasileiro, um sistema de inteligência artificial foi treinado com dados de atendimentos anteriores para indicar quais pacientes deveriam receber prioridade em consultas especializadas. O sistema passou a recomendar menor prioridade para determinados grupos, mas a equipe médica não conseguia compreender quais critérios haviam produzido cada resultado. Mesmo quando identificavam informações incompletas no cadastro, os profissionais não tinham um procedimento definido para contestar a recomendação. O hospital justificou o uso da ferramenta pela possibilidade de agilizar o atendimento e reduzir os custos administrativos. Considerando a situação apresentada, qual dilema ético está diretamente relacionado ao uso do sistema de inteligência artificial nesse hospital?
- A) Adotar ferramentas digitais para diminuir os custos administrativos
- B) Substituir critérios profissionais por recomendações baseadas em dados
- C) Delegar decisões de prioridade sem transparência e supervisão humana
- D) Usar tecnologia para ampliar a velocidade do atendimento hospitalar
- E) Organizar prioridades de consultas conforme registros de atendimentos anteriores
✅ Resposta correta: alternativa C
Resolução passo a passo
- Leia o caso com atenção. Um sistema de inteligência artificial recomenda menor prioridade para certos grupos de pacientes, a equipe não entende os critérios que geraram cada resultado, não há procedimento para contestar a recomendação e há informações incompletas no cadastro.
- Identifique o problema central. A decisão sobre prioridade de atendimento, que afeta a saúde das pessoas, está sendo tomada pela máquina sem transparência (ninguém sabe por que a recomendação foi feita) e sem supervisão humana efetiva (não há mecanismo para contestar ou revisar). Esse é o dilema ético direto do caso.
- Resolva por conta própria. A alternativa que descreve exatamente essa situação é a C: delegar decisões de prioridade sem transparência e supervisão humana.
- Compare com as demais alternativas.
- A) Redução de custos é a justificativa do hospital, não o dilema ético em si; o caso não questiona a adoção de ferramentas digitais em si.
- B) Substituir critérios profissionais por dados é uma preocupação real, mas o caso mostra que a equipe ainda tenta compreender e contestar o sistema; o problema central é a falta de transparência e supervisão, não a substituição em si.
- D) A velocidade do atendimento é o benefício alegado pelo hospital, não um dilema ético.
- E) Organizar prioridades com base em registros anteriores descreve o funcionamento do sistema, mas não aponta um conflito ético; o registro histórico pode, inclusive, carregar vieses, o que é um problema de transparência, já contemplado na alternativa C.
- Conclusão. A alternativa C é a correta e coincide com o gabarito oficial. O dilema ético está em permitir que uma decisão que afeta pacientes seja tomada sem que se possa explicar seus critérios nem corrigi-la por meio de revisão humana.
💡 Dica: Identifique os principais aspectos éticos envolvidos na IA na saúde.
Alternativa por alternativa
O aluno pode ter tomado a justificativa econômica do hospital como o centro do dilema, achando que o problema é usar tecnologia para reduzir custos.
O aluno pode ter entendido que o problema é a simples substituição do julgamento humano por dados, sem perceber que o caso enfatiza a falta de transparência e de possibilidade de contestação.
O dilema decorre do conflito entre a eficiência proporcionada pela automação e a necessidade de garantir decisões justificáveis, revisáveis e submetidas à responsabilidade profissional. Como o sistema define prioridades sem explicar seus critérios e sem permitir contestação adequada, sua utilização pode comprometer a autonomia dos profissionais, a igualdade de tratamento e o direito dos pacientes à revisão da decisão.
O aluno pode ter focado no benefício de agilidade mencionado no texto e tratado a rapidez do atendimento como o dilema, quando ela é apenas a vantagem alegada.
Por que engana: Confundir beneficios gerais da IA com dilemas eticos especificos, como a responsabilidade em decisoes automatizadas.
O aluno pode ter achado que basear prioridades em atendimentos anteriores já é em si antiético, sem perceber que o problema é a falta de explicação e de revisão, não o uso do histórico.
Raio-X da questão
dilema ético IA saúde
avaliacao
dilemas eticos basicos · inteligencia artificial fundamentos
Revisar os princípios éticos na aplicação da inteligência artificial na saúde.
Confundir beneficios gerais da IA com dilemas eticos especificos, como a responsabilidade em decisoes automatizadas.
ciencia_tecnologia
pensamento_critico
cientifico
Questões parecidas com resolução
- Em um hospital público, um sistema de inteligência artificial passou a recomendar quais pacientes deveriam receber…
- Em um hospital público brasileiro, um sistema de inteligência artificial passou a classificar a prioridade de…
- Uma pesquisa nacional indica que a maioria da população aprova o uso de sistemas de inteligência artificial em decisões…
- Em um hospital público brasileiro, um sistema de inteligência artificial é usado para analisar exames e indicar casos…
- Uma prefeitura brasileira passou a utilizar um sistema de inteligência artificial para organizar pedidos de atendimento…
- Em sistemas de IA usados na triagem médica, qual preocupação ética central compromete a equidade no acesso à saúde?
🔎 Procurar outra questão
Procure no banco do GeraProva pelo tema ou por um trecho do enunciado. Cada questão já vem com resolução comentada e a análise de cada alternativa.
Professor: monte a prova com questões como esta, com gabarito e folha de respostas, em 30 segundos. Ver planos · Blog