Uma equipe de um serviço de telemedicina avaliou um sistema de inteligência artificial usado para apoiar…

Questão

Uma equipe de um serviço de telemedicina avaliou um sistema de inteligência artificial usado para apoiar profissionais. Em testes com 100 casos de cada tipo, o sistema acertou 96 recomendações de orientação geral e 72 recomendações sobre ajuste de medicamentos. A equipe também registrou que erros na segunda categoria poderiam trazer consequências mais graves à saúde dos pacientes. Considerando os dados apresentados e a diferença entre os possíveis impactos das decisões, qual conclusão é eticamente mais adequada para o uso desse sistema?

1. A) O sistema pode decidir sobre medicamentos sem avaliação profissional, pois seu desempenho nos testes indica capacidade suficiente para orientar essas escolhas.
2. B) A inteligência artificial pode apoiar orientações gerais, mas decisões sobre medicamentos exigem avaliação profissional, pois o menor índice de acerto pode expor pacientes a riscos relevantes.
3. C) O sistema pode receber o mesmo nível de autonomia nas duas categorias, pois a diferença entre os índices de acerto não altera a responsabilidade ética de seu uso.
4. D) O sistema não deve ser usado em nenhuma orientação, pois a existência de erros torna eticamente inadequado qualquer apoio tecnológico aos profissionais.
5. E) O sistema deve ser usado prioritariamente para ajustar medicamentos, porque as decisões de maior impacto são justamente aquelas em que o apoio tecnológico é mais necessário.

✅ Resposta correta: alternativa B

Resolução passo a passo

1. O sistema acertou 96 de 100 recomendações de orientação geral e 72 de 100 sobre ajuste de medicamentos. Portanto, seu desempenho foi menor na segunda categoria.
2. Além do menor índice de acerto, os erros sobre medicamentos podem causar consequências mais graves. Isso exige cautela proporcional ao risco e avaliação profissional.
3. A alternativa B é a mais adequada: a IA pode apoiar orientações gerais, mas não deve substituir o julgamento profissional em decisões sobre medicamentos.
4. A está errada porque os dados não justificam decisões sobre medicamentos sem avaliação profissional. C ignora tanto a diferença de desempenho quanto a gravidade desigual dos possíveis erros. D conclui que nenhum uso é aceitável, embora a IA possa servir como apoio. E presume que decisões de maior impacto devam receber mais autonomia da IA, quando o risco demanda supervisão mais cuidadosa.

💡 Dica: Compare a taxa de acerto com a gravidade das consequências dos erros.

Alternativa por alternativa

Raio-X da questão

Questões parecidas com resolução

• Um serviço brasileiro de telemonitoramento usa inteligência artificial para analisar dados de pessoas com doenças…
• Em um hospital público, um sistema de inteligência artificial passou a recomendar quais pacientes deveriam receber…
• Em um hospital público brasileiro, um sistema de inteligência artificial é usado para analisar exames e indicar casos…
• Em uma unidade de saúde, um sistema de inteligência artificial organiza a prioridade de consultas. Um relatório descreve…
• Em um hospital público brasileiro, um sistema de inteligência artificial foi treinado com dados de atendimentos…
• Em um hospital público brasileiro, um sistema de inteligência artificial passou a classificar a prioridade de…

Todas as questões de Dilemas Éticos da Tecnologia e Vida (Clonagem, IA)