Informática · 11.º Ano

Ideias de aprendizagem ativa

Ética e Enviesamento em IA

A aprendizagem ativa funciona especialmente bem neste tópico porque a ética e o enviesamento em IA não são conceitos teóricos abstratos. Os alunos precisam de os experienciar para entender que os algoritmos não são caixas negras neutras. Ao manipularem dados, debaterem casos e simularem cenários, tornam-se críticos ativos das tecnologias que utilizam diariamente, desenvolvendo uma literacia digital mais consciente e reflexiva.

• Aprendizagens Essenciais
• DGE: Secundário - Ética Computacional
• DGE: Secundário - Impacto Social

• 25–45 min
• Pares → Turma inteira
• 4 atividades

Atividade 01

• Discussão em Aquário
• 30 min · pares

Debate em Pares: Algoritmos e Preconceitos

Divida a turma em pares para debater uma questão chave, como 'Os algoritmos perpetuam preconceitos sociais?'. Cada par prepara argumentos a favor e contra com base em exemplos reais, depois partilha com a turma. Conclua com votação e reflexão coletiva.

Como podem os algoritmos perpetuar ou amplificar preconceitos sociais existentes?

Sugestão de Facilitação

Durante o debate em pares, forneça aos alunos dois minutos para registarem os seus argumentos por escrito antes de iniciarem a discussão, garantindo que todos participam ativamente.

O que observar

Apresente aos alunos um cenário fictício onde um algoritmo de recomendação de notícias exibe consistentemente notícias mais negativas para um grupo demográfico específico. Questione: 'Quais são as potenciais fontes de enviesamento neste algoritmo? Como é que isto pode afetar a perceção e o comportamento desse grupo? Que passos poderiam ser tomados para corrigir esta situação?'

• Analisar
• Avaliar
• Consciência Social
• Autoconsciência

Atividade 02

• Discussão em Aquário
• 45 min · Pequenos grupos

Análise de Dados: Auditoria de Enviesamento

Forneça conjuntos de dados de recrutamento simulados. Em pequenos grupos, os alunos identificam enviesamentos por género ou etnia, calculam estatísticas simples e propõem correções. Apresentem os resultados num quadro partilhado.

Analise as fontes de enviesamento nos dados de treino de modelos de IA.

Sugestão de Facilitação

Na auditoria de enviesamento, distribua datasets com enviesamentos óbvios mas não evidentes, como discrepâncias na representação de género em fotos de 'engenheiros', para que os alunos os identifiquem através de números.

O que observar

Peça aos alunos para escreverem num pequeno papel: 1) Um exemplo de um tipo de enviesamento em IA que aprenderam hoje. 2) Uma consequência social negativa desse enviesamento. 3) Uma sugestão para tornar um sistema de IA mais justo.

• Analisar
• Avaliar
• Consciência Social
• Autoconsciência

Atividade 03

• Discussão em Aquário
• 40 min · Pequenos grupos

Role-Play: Decisões de IA Enviesadas

Crie cenários como empréstimos bancários ou avaliações policiais. Grupos representam stakeholders afetados, simulam decisões de IA e discutem impactos. Rotacione papéis para empatia.

Proponha estratégias para mitigar o enviesamento em sistemas de inteligência artificial.

Sugestão de Facilitação

No role-play, atribua papéis com perspetivas opostas (por exemplo, um programador vs. um ativista social) para forçar os alunos a considerarem múltiplas facetas do problema.

O que observar

Mostre aos alunos duas imagens geradas por IA: uma que parece equilibrada e outra que demonstra um enviesamento claro (por exemplo, retratando apenas um género numa profissão). Peça para identificarem o enviesamento na segunda imagem e explicarem brevemente por que é problemático.

• Analisar
• Avaliar
• Consciência Social
• Autoconsciência

Atividade 04

• Discussão em Aquário
• 25 min · Turma inteira

Brainstorming Coletivo: Estratégias de Mitigação

Em aula inteira, brainstorm estratégias como diversificação de dados ou testes de equidade. Registem ideias num mapa mental digital e votem nas melhores para um projeto futuro.

Como podem os algoritmos perpetuar ou amplificar preconceitos sociais existentes?

Sugestão de Facilitação

No brainstorming coletivo, use post-its para registar as sugestões e agrupe-as por categorias (dados, algoritmo, interface) para estruturar a reflexão final.

O que observar

Apresente aos alunos um cenário fictício onde um algoritmo de recomendação de notícias exibe consistentemente notícias mais negativas para um grupo demográfico específico. Questione: 'Quais são as potenciais fontes de enviesamento neste algoritmo? Como é que isto pode afetar a perceção e o comportamento desse grupo? Que passos poderiam ser tomados para corrigir esta situação?'

• Analisar
• Avaliar
• Consciência Social
• Autoconsciência

Algumas notas sobre lecionar esta unidade

Comece por mostrar exemplos de IA que os alunos conhecem, como recomendações de redes sociais ou assistentes virtuais, e peça-lhes que identifiquem comportamentos que lhes pareçam estranhos ou injustos. Evite explicar logo o conceito de enviesamento; prefira que eles o descubram através da observação e discussão. A investigação mostra que quando os alunos descobrem padrões por si mesmos, a aprendizagem é mais duradoura. Além disso, evite apresentar a IA como um vilão. O foco deve estar nas decisões humanas por trás dos sistemas, não na tecnologia em si.

No final das atividades, espera-se que os alunos identifiquem fontes concretas de enviesamento em exemplos de IA, expliquem o impacto social dessas distorções e proponham soluções realistas para mitigar problemas. O sucesso mede-se pela capacidade de ligarem o conteúdo teórico a situações do mundo real e de defenderem as suas ideias com argumentos fundamentados.

---

Atenção a estes erros comuns

• Durante o debate em pares sobre algoritmos e preconceitos, watch for alunos que afirmem que 'a IA é sempre neutra'.

  Peça-lhes que analisem o exemplo de um algoritmo de recrutamento que favorece candidatos de uma determinada universidade. Questione-os sobre os dados de treino: 'Quem foram os recrutadores que avaliaram esses currículos? Que viéses humanos podem ter influenciado a seleção dos dados?'.

• Durante a análise de dados: auditoria de enviesamento, watch for alunos que atribuam o problema apenas ao código do algoritmo.

  Mostre-lhes um dataset onde 80% dos exemplos são de um género em particular. Peça-lhes para calcularem a proporção e questionem: 'Se os dados foram recolhidos assim, como pode o algoritmo não refletir este enviesamento? O problema está no algoritmo ou na forma como os dados foram selecionados?'.

• Durante o role-play sobre decisões de IA enviesadas, watch for alunos que digam 'é impossível corrigir estes problemas'.

  Peça-lhes que simulem uma auditoria a um algoritmo de justiça criminal. Durante a discussão, introduza a ideia de reequilíbrio de dados ou de inclusão de variáveis de controlo. Questione: 'Se alterássemos a representação dos dados de treino, como mudaria o resultado do algoritmo?'.

---

Metodologias usadas neste resumo

• Discussão em Aquário