“O sistema aponta quem tem maior chance de se envolver em ocorrências nas próximas semanas”, disse um…

Questão

“O sistema aponta quem tem maior chance de se envolver em ocorrências nas próximas semanas”, disse um comandante ao apresentar, em coletiva, o uso de um software de policiamento preditivo. O programa cruza registros de abordagens anteriores, locais de ocorrência e horários para gerar um “índice de risco” por pessoa e por área. Após três meses, a prefeitura divulgou queda de 6% em furtos no centro e aumento de 18% em detenções por delitos leves em dois bairros periféricos, onde as rondas foram intensificadas. Moradores relataram revistas repetidas e sensação de vigilância permanente. A defensoria solicitou acesso aos critérios do algoritmo para contestar abordagens, mas a empresa alegou segredo comercial. O prefeito argumentou que “o importante é o resultado” e que a tecnologia “apenas orienta” a ação policial. A partir do texto, aplique o princípio de responsabilidade de Hans Jonas para identificar a orientação ética mais adequada ao decidir sobre a continuidade e a expansão desse software.

1. A) Adotar a correção por tentativa e erro, ajustando o sistema somente após danos comprovados a grupos abordados.
2. B) Adotar a decisão privada como suficiente, aceitando o segredo industrial como limite legítimo ao controle social.
3. C) Adotar a precaução como dever, exigindo auditabilidade e evidências de não discriminação antes de ampliar o uso.
4. D) Adotar a neutralidade do cálculo como garantia, dispensando transparência e deliberação pública sobre o algoritmo.
5. E) Adotar a eficiência como critério decisivo, mantendo o sistema sempre que reduzir estatísticas de crime.

✅ Resposta correta: alternativa C

Resolução passo a passo

1. O enunciado descreve um software de policiamento preditivo que gera índices de risco por pessoa e área, com efeitos já visíveis: queda de furtos no centro, mas aumento de detenções por delitos leves nos bairros periféricos, revistas repetidas, sensação de vigilância permanente e recusa da empresa em revelar os critérios do algoritmo.
2. Hans Jonas, em O Princípio Responsabilidade, afirma que, diante de tecnologias de alcance amplo e consequências irreversíveis ou de difícil previsão, devemos agir com base na heurística do temor, isto é, dar mais peso às piores consequências possíveis do que às promessas de benefício. Daí decorre a exigência de precaução: não se deve expandir uma ação cujos efeitos sobre pessoas ainda não são conhecidos e podem ser graves.
3. Aplicando isso ao caso, a orientação mais adequada é a alternativa C: antes de ampliar o software, é preciso exigir auditabilidade (possibilidade de verificar o funcionamento) e evidências de que não há discriminação contra grupos específicos. Isso protege a sociedade, especialmente as populações periféricas, de danos que podem ser irreversíveis, como abordagens injustas e estigmatização.
4. Por que as outras estão erradas: A propõe corrigir o sistema só depois de danos comprovados, o que inverte a lógica da precaução; B aceita o segredo comercial como limite ao controle social, contrariando a responsabilidade pública; D dispensa transparência e deliberação, justamente o oposto do que Jonas exige; E toma a eficiência estatística como critério decisivo, ignorando os danos aos cidadãos.
5. Conclusão: a responsabilidade ampliada de Jonas exige que a decisão sobre expandir a tecnologia seja precedida de verificação e de debate público sobre seus riscos, e não apenas de resultados estatísticos.

💡 Dica: Analise o texto e relacione com o princípio ético de responsabilidade de Hans Jonas.

Alternativa por alternativa

Raio-X da questão

Questões parecidas com resolução

• Algoritmos preditivos de policiamento, treinados em dados históricos, recomendam intensificar patrulhamento em…
• Uma secretaria municipal passou a usar um sistema de inteligência artificial para selecionar estudantes que receberiam…
• Em um bairro residencial de grande cidade, câmeras de reconhecimento facial foram instaladas em pontos estratégicos para…
• Durante as comemorações do centenário da cidade, autoridades ativaram um sistema de vigilância baseado em câmeras de…
• Em uma escola pública, um sistema de inteligência artificial foi adotado para indicar estudantes com maior risco de…
• Em uma cidade, um novo projeto de lei propõe a utilização de inteligência artificial para monitorar a segurança pública…

Todas as questões de Avaliação de impasses ético-políticos