Estudo recente avaliou um sistema de inteligência artificial usado por um banco para aprovar pedidos de…

Questão

Estudo recente avaliou um sistema de inteligência artificial usado por um banco para aprovar pedidos de empréstimo. O algoritmo foi treinado com dados históricos das últimas duas décadas, período em que certos grupos sociais receberam menos crédito por fatores socioeconômicos. Ao analisar 10 000 solicitações, o modelo aprovou 65% dos pedidos de um grupo privilegiado e apenas 40% dos de um grupo menos favorecido. Especialistas alertam que esse desequilíbrio reflete vieses incorporados nos dados de treinamento, comprometendo a justiça das decisões automatizadas. Analise o texto e identifique qual estratégia é mais adequada para reduzir o viés algorítmico em sistemas de IA descritos.

1. A) Criptografar dados sensíveis para proteger privacidade
2. B) Aumentar capacidade computacional para acelerar o processamento
3. C) Diversificar e equilibrar o conjunto de dados de treinamento
4. D) Reajustar hiperparâmetros para melhorar acurácia
5. E) Manter intervenção humana apenas nas aprovações finais

✅ Resposta correta: alternativa C

Resolução passo a passo

1. O texto descreve um algoritmo treinado com dados históricos em que certos grupos receberam menos crédito. Assim, o modelo aprende o padrão passado e reproduz a desigualdade: aprova 65% do grupo privilegiado e apenas 40% do menos favorecido. O problema central é o viés nos dados de treinamento.
2. Para reduzir um viés que está nos dados, a estratégia mais adequada é atacar a origem do problema, ou seja, diversificar e equilibrar o conjunto de dados de treinamento, com representação adequada dos grupos e correção de registros historicamente enviesados. Isso corresponde à alternativa C, que também é a resposta oficial.
3. Por que as outras estão erradas:
4. A) Criptografia protege a privacidade dos dados, mas não altera o padrão de decisão do modelo, então não reduz a desigualdade.
5. B) Mais capacidade computacional acelera o processamento, porém um modelo mais rápido apenas reproduz o viés com mais eficiência.
6. D) Reajustar hiperparâmetros melhora a acurácia medida nos dados históricos, o que pode até reforçar o viés já existente.
7. E) Intervenção humana apenas nas aprovações finais chega tarde e não corrige o aprendizado enviesado do modelo, além de não tratar a causa.
8. Conclusão: a alternativa C é a única que age diretamente sobre a causa identificada no texto, justificando o gabarito oficial.

💡 Dica: Analise o impacto dos dados de treinamento no viés do algoritmo.

Alternativa por alternativa

Raio-X da questão

Questões parecidas com resolução

• Uma empresa brasileira adotou um sistema para selecionar currículos e agilizar a primeira etapa do recrutamento. O…
• Explique como um algoritmo de correção automática de avaliações pode apresentar viés por causa dos dados de treinamento…
• Uma escola debateu o uso de inteligência artificial para analisar currículos de candidatos a estágio. Para reduzir…
• Selecione a situacao em que uma IA pode tratar pessoas de modo injusto ao analisar dados de candidatos a um trabalho.
• Por que é importante usar dados corretos e respeitosos ao treinar uma inteligência artificial?
• Analise como algoritmos de seleção de currículos podem influenciar o mundo do trabalho e a evolução da sociedade…

Todas as questões de Analisar situações do mundo contemporâneo, selecionando técnicas computacionais apropriadas para a solução de problemas.