Tabela: resultados de uma IA generativa que cria imagens de “exploradores históricos” mostram praticamente…
Publicado por Alexandre Lombardi dos Santos, fundador do GeraProva
Identificar mudanças e permanências ao longo do tempo, discutindo os sentidos dos grandes marcos da história da humanidade (nomadismo, desenvolvimento da agricultura e do pastoreio, criação da indústria etc.).
Fonte: Base Nacional Comum Curricular (MEC).Questão
Tabela: resultados de uma IA generativa que cria imagens de “exploradores históricos” mostram praticamente apenas pessoas de um mesmo gênero e tom de pele. Avalie o problema e escolha a melhor ação para reduzir viés ético nesses resultados, incluindo o papel dos algoritmos de recomendação.
- A) O algoritmo de recomendação deve ser usado para reforçar os mesmos padrões de inclusão.
- B) Diversificar dados significa adicionar mais imagens do mesmo gênero racial.
- C) Reconhecer o viés na IA generativa, revisar e diversificar os dados de treinamento e ajustar algoritmos de recomendação para promover representações variadas e mais justas.
- D) A solução é ignorar o viés e continuar usando os dados como estão.
- E) O problema é que a IA não tem autonomia e não pode ser corrigida.
✅ Resposta correta: alternativa C
Resolução passo a passo
- O enunciado descreve um viés de representação: a IA generativa produz quase só pessoas de um mesmo gênero e tom de pele ao criar imagens de exploradores históricos. Isso distorce a diversidade real do passado e reforça estereótipos, o que é um problema ético. O enunciado traz o resultado em texto, então não falta informação para resolver a questão.
- Para reduzir esse viés, é preciso agir em três frentes: reconhecer que o viés existe, revisar e diversificar os dados de treinamento e ajustar os algoritmos de recomendação para favorecer representações variadas e mais justas. Essa é a alternativa C, que cobre o problema de forma completa, incluindo o papel dos algoritmos de recomendação.
- A alternativa A está errada, pois usar o algoritmo para reforçar os mesmos padrões de inclusão mantém e amplia o viés que se quer corrigir.
- A alternativa B está errada, pois adicionar mais imagens do mesmo grupo racial e de gênero aumenta o volume, mas não a diversidade.
- A alternativa D está errada, pois ignorar o viés e manter os dados como estão perpetua a desigualdade nos resultados.
- A alternativa E está errada, pois sistemas de IA são projetados e treinados por pessoas, portanto podem ser auditados, ajustados e corrigidos.
- Conclusão: a resposta correta é a C, coincidindo com o gabarito oficial.
💡 Dica: Considere a diversidade ao avaliar as imagens geradas.
Alternativa por alternativa
O aluno acredita que, se o algoritmo já recomenda certos padrões, mantê-los é a forma segura de agir. Ele não percebe que esses mesmos padrões são justamente a origem do viés.
O aluno confunde diversidade com quantidade, achando que mais imagens do mesmo grupo resolvem o problema. Não percebe que a falta de variedade persiste mesmo com mais dados.
Por que engana: O aluno pode confundir a necessidade de diversificação de dados com a simples adição de mais imagens do mesmo gênero racial, sem entender a complexidade do viés ético.
O problema é viés nos dados e nas decisões algorítmicas; a solução envolve mudança nos dados usados, transparência e ajustes nos algoritmos que recomendam ou geram conteúdo.
O aluno aceita o resultado enviesado como algo normal, talvez por senso comum de que a máquina apenas reflete os dados. Não percebe que o viés gera consequências éticas que precisam ser corrigidas.
O aluno acredita que a IA é autônoma e, portanto, imune à intervenção humana. Ele desconhece que os sistemas são projetados, treinados e ajustados por pessoas e podem ser corrigidos.
Raio-X da questão
viés ético em IA
diagnostico
viés ético em tecnologia · algoritmos de recomendação
Revisar conceitos de diversidade e inclusão em tecnologia.
O aluno pode confundir a necessidade de diversificação de dados com a simples adição de mais imagens do mesmo gênero racial, sem entender a complexidade do viés ético.
cidadania_etica
pensamento_critico
cotidiano
Questões parecidas com resolução
- Uma equipe de estudantes utiliza uma ferramenta de inteligência artificial generativa para reconstruir rotas comerciais…
- Descrição de imagem gerada por IA: uma ilustração mostra uma família italiana desembarcando no Brasil com roupa…
- Imagem descrita: uma fotografia de arquivo de uma passeata durante a redemocratização foi alterada por uma ferramenta de…
- Leia o breve texto: “Uma ferramenta de IA generativa cria anúncios personalizados para um comércio local, mas tende a…
- Relatório sobre testes de reconhecimento facial em aeroportos, publicado em 2023, informa que a tecnologia reduziu as…
- Cenário: Uma escola recebe dois vídeos gerados por IA sobre um tema político local. Um vídeo apresenta apenas uma versão…
🔎 Procurar outra questão
Procure no banco do GeraProva pelo tema ou por um trecho do enunciado. Cada questão já vem com resolução comentada e a análise de cada alternativa.
Professor: monte a prova com questões como esta, com gabarito e folha de respostas, em 30 segundos. Ver planos · Blog