Uma secretaria municipal de cultura testou um aplicativo de inteligência artificial para indicar crianças a…
Publicado por Alexandre Lombardi dos Santos, fundador do GeraProva
Analisar e avaliar os impasses ético-políticos decorrentes das transformações culturais, sociais, históricas, científicas e tecnológicas no mundo contemporâneo e seus desdobramentos nas atitudes e nos valores de indivíduos, grupos sociais, sociedades e culturas.
Fonte: Base Nacional Comum Curricular (MEC).Questão
Uma secretaria municipal de cultura testou um aplicativo de inteligência artificial para indicar crianças a oficinas de artes. O sistema foi treinado com avaliações anteriores, nas quais predominavam determinados estilos de desenho e pintura. Em uma auditoria, verificou-se que o aplicativo atribuía notas mais altas às produções semelhantes às do banco de dados e notas mais baixas a trabalhos de estilos diferentes. Além disso, o sistema não informava os critérios usados nem permitia contestar facilmente o resultado. Com base no caso apresentado, qual risco ético é diretamente evidenciado pelo uso desse aplicativo na identificação de talentos artísticos?
- A) Ampliar automaticamente a diversidade das expressões artísticas.
- B) Garantir reconhecimento justo de todos os talentos infantis.
- C) Reforçar desigualdades ao excluir talentos fora do padrão.
- D) Eliminar preconceitos presentes nas avaliações artísticas humanas.
- E) Substituir professores na orientação artística das crianças.
✅ Resposta correta: alternativa C
Resolução passo a passo
- Identifique o problema central do caso. O aplicativo foi treinado com avaliações anteriores que privilegiavam determinados estilos, por isso passou a dar notas mais altas a produções semelhantes às do banco de dados e notas mais baixas às de estilos diferentes. Além disso, não informava os critérios nem permitia contestar facilmente o resultado. Passo 2: Relacione o caso ao conceito de viés algorítmico. O sistema reproduz o padrão histórico de preferência e transforma uma preferência restrita em critério de exclusão de crianças. Passo 3: Analise a alternativa C. Ela descreve exatamente esse risco, pois o sistema reforça desigualdades ao excluir talentos que fogem do padrão dominante. Passo 4: Veja por que as outras estão erradas. A afirma o contrário do que o caso mostra, pois o sistema tende a reduzir a diversidade e não a ampliá-la. B é um objetivo desejável, mas o caso mostra justamente que ele não está sendo cumprido. D inverte a situação, já que o aplicativo tende a reproduzir preconceitos do banco de dados, e não a eliminá-los. E trata da substituição de professores, algo que o caso não menciona. Passo 5: Conclusão. A alternativa correta é a C, em concordância com o gabarito oficial.
💡 Dica: Considere as implicações éticas e sociais da tecnologia.
Alternativa por alternativa
Supõe que a inteligência artificial é neutra e que, por ser automatizada, amplia a diversidade artística sem necessidade de controle sobre os dados de treinamento.
Por que engana: O aluno pode confundir as consequências positivas e negativas da IA, escolhendo uma alternativa que parece benéfica, mas ignora os riscos de exclusão.
Confunde o objetivo declarado de reconhecer talentos com o resultado efetivamente observado na auditoria, que mostrou avaliação desigual de estilos diferentes.
O aplicativo reproduz como critério de avaliação os estilos predominantes em seu banco de dados. Ao valorizar produções semelhantes a esse padrão e desvalorizar estilos diferentes, pode limitar o reconhecimento de talentos, reproduzir vieses e excluir crianças de oportunidades artísticas. A falta de explicação e de possibilidade de contestação agrava o problema.
Acredita que sistemas automatizados eliminam automaticamente preconceitos humanos, quando o caso mostra que o algoritmo pode reproduzir e até amplificar os vieses presentes nos dados históricos.
Associa o uso do aplicativo à substituição de professores, mas o caso trata da avaliação e da seleção de crianças para oficinas, sem mencionar qualquer papel docente.
Raio-X da questão
consequências éticas da IA
diagnostico
consequências éticas da tecnologia · impacto da IA na sociedade
Revisar os princípios éticos relacionados à tecnologia e à educação.
O aluno pode confundir as consequências positivas e negativas da IA, escolhendo uma alternativa que parece benéfica, mas ignora os riscos de exclusão.
cidadania_etica
pensamento_critico
cotidiano
Questões parecidas com resolução
- Em uma cidade brasileira, uma escola pública passou a utilizar um sistema de inteligência artificial para identificar…
- Uma empresa brasileira passou a usar um sistema de inteligência artificial para selecionar candidatos a vagas de…
- Uma secretaria municipal passou a usar um sistema de inteligência artificial para selecionar estudantes que receberiam…
- Uma auditoria independente analisou um sistema de inteligência artificial usado por um município para indicar pessoas…
- Uma prefeitura brasileira passou a utilizar um sistema de inteligência artificial para organizar pedidos de atendimento…
- Uma prefeitura brasileira passou a usar um sistema de inteligência artificial para ordenar pedidos de auxílio social. O…
🔎 Procurar outra questão
Procure no banco do GeraProva pelo tema ou por um trecho do enunciado. Cada questão já vem com resolução comentada e a análise de cada alternativa.
Professor: monte a prova com questões como esta, com gabarito e folha de respostas, em 30 segundos. Ver planos · Blog