Em um hospital público, um sistema de inteligência artificial passou a recomendar quais pacientes deveriam receber prioridade em uma unidade de terapia intensiva. O programa foi treinado com registros históricos de atendimentos e apresenta suas recomendações sem informar claramente quais critérios utilizou. Uma auditoria constatou que os dados reproduziam desigualdades anteriores no acesso à saúde. A direção do hospital decidiu seguir automaticamente as recomendações, sem estabelecer quem responderia por eventuais danos aos pacientes. Com base no texto, qual problema ético deve orientar a avaliação do uso desse sistema de inteligência artificial em decisões de vida ou morte?
- A) Impedir qualquer uso de inteligência artificial em serviços de saúde
- B) Exigir transparência, supervisão humana e responsabilização pelas decisões
- C) Substituir integralmente os profissionais para acelerar o atendimento hospitalar
- D) Aceitar as recomendações como imparciais por serem produzidas por tecnologia
- E) Priorizar a redução de custos sobre a igualdade entre os pacientes
📖 Análise pedagógica e resolução comentada
ética da inteligência artificial
Analise as diferentes perspectivas éticas sobre a IA.
O texto apresenta três problemas relacionados: o sistema não explica seus critérios, seus dados reproduzem desigualdades e a direção não definiu responsáveis pelos efeitos das decisões. Por isso, a avaliação ética deve exigir transparência, supervisão humana e responsabilização, especialmente porque as recomendações afetam o acesso a um recurso vital.
Revisar os princípios éticos relacionados à tecnologia e saúde.
