Explique como um algoritmo de correção automática de avaliações pode apresentar viés por causa dos dados de…
Publicado por Alexandre Lombardi dos Santos, fundador do GeraProva
Analisar o consumo de tecnologia na sociedade, compreendendo criticamente o caminho da produção dos recursos bem como aspectos ligados à obsolescência e a sustentabilidade.
Fonte: Base Nacional Comum Curricular (MEC).Questão
Explique como um algoritmo de correção automática de avaliações pode apresentar viés por causa dos dados de treinamento e proponha duas ações concretas que a escola pode adotar para reduzir esse viés.
✍️ Questão dissertativa: veja abaixo a resposta esperada e a explicação.
Resposta esperada
Algoritmos de correção automática aprendem padrões dos dados usados para treiná-los; se esses dados refletem desigualdades (ex.: textos de um mesmo perfil cultural), o sistema pode pontuar melhor respostas que seguem esse padrão e prejudicar outros estudantes. Para mitigar: 1) diversificar e revisar o conjunto de dados de treinamento incluindo exemplos de diferentes estilos de resposta e contextos socioculturais; 2) combinar correção automática com revisão humana e auditorias periódicas para identificar erros e ajustar critérios, além de documentar o funcionamento do algoritmo para transparência.
Explicação
A explicação aborda como a homogeneidade nos dados de treinamento pode levar a um viés na avaliação, favorecendo certos grupos em detrimento de outros. As ações propostas visam garantir uma maior representatividade nos dados e a inclusão de uma revisão humana, o que ajuda a identificar e corrigir possíveis falhas do algoritmo. Essa abordagem promove uma avaliação mais justa e equitativa para todos os estudantes.
Raio-X da questão
viés em algoritmos
diagnostico
viés em algoritmos · dados de treinamento
Estudar sobre viés em algoritmos e suas implicações.
O aluno pode não perceber que o viés é resultado dos dados de treinamento e, portanto, não propor ações concretas para mitigá-lo.
ciencia_tecnologia
pensamento_critico
cientifico
Questões parecidas com resolução
- Estudo recente avaliou um sistema de inteligência artificial usado por um banco para aprovar pedidos de empréstimo. O…
- Analise e justifique a escolha entre usar um sistema automatizado baseado em aprendizado de máquina ou um procedimento…
- Analise como algoritmos de seleção de currículos podem influenciar o mundo do trabalho e a evolução da sociedade…
- Analise como um algoritmo de recomendação em uma rede escolar pode afetar privacidade e direitos autorais; proponha três…
- Analise o impacto dos algoritmos de recomendação em uma rede social escolar e proponha duas ações que a escola pode…
- Descreva, usando decomposição, as etapas para projetar um algoritmo que detecte anomalias nos dados de frequência…
🔎 Procurar outra questão
Procure no banco do GeraProva pelo tema ou por um trecho do enunciado. Cada questão já vem com resolução comentada e a análise de cada alternativa.
Professor: monte a prova com questões como esta, com gabarito e folha de respostas, em 30 segundos. Ver planos · Blog