Uma rede pública de ensino passou a utilizar um sistema de inteligência artificial para atribuir uma nota…
Publicado por Alexandre Lombardi dos Santos, fundador do GeraProva
Analisar e avaliar os impasses ético-políticos decorrentes das transformações culturais, sociais, históricas, científicas e tecnológicas no mundo contemporâneo e seus desdobramentos nas atitudes e nos valores de indivíduos, grupos sociais, sociedades e culturas.
Fonte: Base Nacional Comum Curricular (MEC).Questão
Uma rede pública de ensino passou a utilizar um sistema de inteligência artificial para atribuir uma nota preliminar a redações. Em uma auditoria, pesquisadores entregaram ao sistema pares de textos com argumentos, organização e extensão equivalentes. Em cada par, um texto empregava características reconhecidas de uma variedade linguística regional, enquanto o outro seguia mais de perto a norma-padrão escolar. Os textos com marcas regionais receberam, de modo recorrente, notas menores. A empresa responsável informou que o sistema foi treinado principalmente com redações anteriormente avaliadas com notas altas, sem apresentar dados sobre a diversidade linguística desse conjunto. Com base no texto, qual interpretação filosófica caracteriza melhor o problema ético-político envolvido no uso desse sistema de avaliação?
- A) A reprodução automatizada do preconceito linguístico, apresentada como avaliação neutra, produz uma forma de exclusão cultural e de desigualdade educacional.
- B) A principal vantagem do sistema está em acelerar a correção das redações, tornando secundária a discussão sobre os critérios usados para avaliá-las.
- C) A adoção de um critério linguístico uniforme, apresentada como necessária, garante tratamento idêntico e justiça entre todos os estudantes.
- D) A substituição da avaliação docente por procedimentos automatizados elimina julgamentos subjetivos e torna os resultados plenamente imparciais.
- E) A diferença entre as notas decorre principalmente da inadequação dos estudantes às exigências escolares, e não do funcionamento do sistema avaliador.
✅ Resposta correta: alternativa A
Resolução passo a passo
- O texto descreve um sistema de inteligência artificial que atribui notas a redações. Em pares com argumentação, organização e extensão equivalentes, os textos com marcas de uma variedade regional recebem notas menores de modo recorrente. Ou seja, a diferença de nota não se explica pelo conteúdo ou pela qualidade argumentativa, mas pela forma linguística.
- A causa provável apontada é o treinamento do sistema com redações de notas altas, sem dados sobre a diversidade linguística desse conjunto. Assim, o sistema aprende a associar a norma-padrão escolar à excelência e reproduz, como critério de avaliação, um preconceito linguístico já presente nos dados.
- O problema ético-político central é que essa reprodução é apresentada como avaliação neutra e técnica, o que a torna mais difícil de questionar. Isso gera exclusão cultural e desigualdade educacional, pois estudantes de certas regiões são sistematicamente penalizados por sua forma de falar e escrever, e não por sua capacidade de argumentar. A alternativa A é, portanto, a que melhor caracteriza o problema.
- Por que as outras estão erradas: a B prioriza a rapidez e tira importância justamente dos critérios, que são o cerne do problema; a C defende a uniformidade linguística como justa, quando o texto mostra que ela gera desigualdade; a D supõe que a automação elimina preconceitos, mas o sistema apenas os reproduz; a E atribui a diferença de notas aos estudantes, ignorando que o viés está no funcionamento do sistema.
- Observação: a alternativa A é compatível com o gabarito oficial, sem divergência.
💡 Dica: Observe quem é prejudicado pelo padrão único de avaliação.
Alternativa por alternativa
O sistema não apenas aplica uma regra técnica: ele reproduz padrões presentes nos dados usados em seu treinamento. Como esses dados privilegiam a norma-padrão e penalizam variedades regionais, a automação transforma uma hierarquia social e linguística em aparente critério objetivo. O problema ético-político está na reprodução de desigualdades e na exclusão de formas legítimas de expressão.
O aluno pode supor que, se o sistema corrige com rapidez e eficiência, os critérios de avaliação ficam em segundo plano. Ele não percebe que a velocidade não resolve a questão de se o critério é justo.
O aluno pode entender que aplicar um critério linguístico único trata todos igualmente e, por isso, é justo. Ele confunde tratamento idêntico com justiça, sem considerar que a norma-padrão favorece grupos com mais acesso a ela.
O aluno pode acreditar que a automação, por ser técnica, elimina o subjetivismo e garante imparcialidade. Isso ignora que o sistema aprende com dados humanos e pode reproduzir vieses.
Por que engana: Achar que tecnologia sempre corrige injustiças.
O aluno pode atribuir a nota menor a uma suposta falta de adequação do estudante às exigências escolares, aceitando a culpa individual. Ele não considera que os pares de textos eram equivalentes em conteúdo e que o viés está no sistema.
Raio-X da questão
Justiça e diversidade na avaliação.
Reconhecer viés e ex
Ética · Diversidade cultural
Viés algorítmico e exclusão cultural.
Achar que tecnologia sempre corrige injustiças.
Diversidade cultural
Empatia
Ética da tecnologia
Questões parecidas com resolução
- Uma secretaria municipal passou a usar um sistema de inteligência artificial para selecionar estudantes que receberiam…
- Em uma escola, uma ferramenta de inteligência artificial passa a sugerir notas e analisar a participação dos estudantes…
- Uma secretaria pública passa a usar um sistema de inteligência artificial para selecionar estudantes beneficiados por um…
- Em uma escola pública, um sistema de inteligência artificial foi adotado para indicar estudantes com maior risco de…
- Uma empresa brasileira utiliza um sistema de inteligência artificial para classificar currículos. O sistema foi treinado…
- Uma secretaria municipal de cultura testou um aplicativo de inteligência artificial para indicar crianças a oficinas de…
🔎 Resolver outra questão
Cole o enunciado e veja a resolução passo a passo, a alternativa correta e por que as outras estão erradas.
Professor: monte a prova com questões como esta, com gabarito e folha de respostas, em 30 segundos. Ver planos · Blog
