Ética e Enviesamento em IA

A aprendizagem ativa funciona especialmente bem neste tópico porque a ética e o enviesamento em IA não são conceitos teóricos abstratos. Os alunos precisam de os experienciar para entender que os algoritmos não são caixas negras neutras. Ao manipularem dados, debaterem casos e simularem cenários, tornam-se críticos ativos das tecnologias que utilizam diariamente, desenvolvendo uma literacia digital mais consciente e reflexiva.

• 11° Ano
• Inovação Digital e Pensamento Computacional Avançado
• 4 atividades
• 25 min–45 min

Objetivos de Aprendizagem

1. Analisar exemplos concretos de como algoritmos de IA podem perpetuar ou amplificar preconceitos sociais existentes, como em sistemas de contratação ou reconhecimento facial.
2. Identificar e classificar as principais fontes de enviesamento em dados de treino de modelos de IA, incluindo enviesamentos de amostragem, de medição e de representação.
3. Avaliar criticamente as implicações sociais e éticas do enviesamento em IA, como a discriminação e a falta de equidade em diferentes domínios.
4. Propor e justificar estratégias técnicas e organizacionais para mitigar o enviesamento em sistemas de inteligência artificial, considerando a diversidade de dados e equipas de desenvolvimento.

Discussão em Aquário

⏱ 30 min·pares

Debate em Pares: Algoritmos e Preconceitos

Divida a turma em pares para debater uma questão chave, como 'Os algoritmos perpetuam preconceitos sociais?'. Cada par prepara argumentos a favor e contra com base em exemplos reais, depois partilha com a turma. Conclua com votação e reflexão coletiva.

Preparação e detalhes

Como podem os algoritmos perpetuar ou amplificar preconceitos sociais existentes?

Sugestão de Facilitação: Durante o debate em pares, forneça aos alunos dois minutos para registarem os seus argumentos por escrito antes de iniciarem a discussão, garantindo que todos participam ativamente.

Setup: Círculo interior com 4 a 6 cadeiras e um círculo exterior envolvente

Materials: Guião de debate ou questão essencial, Grelha de observação e notas

• Analisar
• Avaliar
• Consciência Social
• Autoconsciência

Discussão em Aquário

⏱ 45 min·Pequenos grupos

Análise de Dados: Auditoria de Enviesamento

Forneça conjuntos de dados de recrutamento simulados. Em pequenos grupos, os alunos identificam enviesamentos por género ou etnia, calculam estatísticas simples e propõem correções. Apresentem os resultados num quadro partilhado.

Preparação e detalhes

Analise as fontes de enviesamento nos dados de treino de modelos de IA.

Sugestão de Facilitação: Na auditoria de enviesamento, distribua datasets com enviesamentos óbvios mas não evidentes, como discrepâncias na representação de género em fotos de 'engenheiros', para que os alunos os identifiquem através de números.

Setup: Círculo interior com 4 a 6 cadeiras e um círculo exterior envolvente

Materials: Guião de debate ou questão essencial, Grelha de observação e notas

• Analisar
• Avaliar
• Consciência Social
• Autoconsciência

Discussão em Aquário

⏱ 40 min·Pequenos grupos

Role-Play: Decisões de IA Enviesadas

Crie cenários como empréstimos bancários ou avaliações policiais. Grupos representam stakeholders afetados, simulam decisões de IA e discutem impactos. Rotacione papéis para empatia.

Preparação e detalhes

Proponha estratégias para mitigar o enviesamento em sistemas de inteligência artificial.

Sugestão de Facilitação: No role-play, atribua papéis com perspetivas opostas (por exemplo, um programador vs. um ativista social) para forçar os alunos a considerarem múltiplas facetas do problema.

Setup: Círculo interior com 4 a 6 cadeiras e um círculo exterior envolvente

Materials: Guião de debate ou questão essencial, Grelha de observação e notas

• Analisar
• Avaliar
• Consciência Social
• Autoconsciência

Discussão em Aquário

⏱ 25 min·Turma inteira

Brainstorming Coletivo: Estratégias de Mitigação

Em aula inteira, brainstorm estratégias como diversificação de dados ou testes de equidade. Registem ideias num mapa mental digital e votem nas melhores para um projeto futuro.

Preparação e detalhes

Como podem os algoritmos perpetuar ou amplificar preconceitos sociais existentes?

Sugestão de Facilitação: No brainstorming coletivo, use post-its para registar as sugestões e agrupe-as por categorias (dados, algoritmo, interface) para estruturar a reflexão final.

Setup: Círculo interior com 4 a 6 cadeiras e um círculo exterior envolvente

Materials: Guião de debate ou questão essencial, Grelha de observação e notas

• Analisar
• Avaliar
• Consciência Social
• Autoconsciência

Ensinar Este Tópico

Comece por mostrar exemplos de IA que os alunos conhecem, como recomendações de redes sociais ou assistentes virtuais, e peça-lhes que identifiquem comportamentos que lhes pareçam estranhos ou injustos. Evite explicar logo o conceito de enviesamento; prefira que eles o descubram através da observação e discussão. A investigação mostra que quando os alunos descobrem padrões por si mesmos, a aprendizagem é mais duradoura. Além disso, evite apresentar a IA como um vilão. O foco deve estar nas decisões humanas por trás dos sistemas, não na tecnologia em si.

O Que Esperar

No final das atividades, espera-se que os alunos identifiquem fontes concretas de enviesamento em exemplos de IA, expliquem o impacto social dessas distorções e proponham soluções realistas para mitigar problemas. O sucesso mede-se pela capacidade de ligarem o conteúdo teórico a situações do mundo real e de defenderem as suas ideias com argumentos fundamentados.

Atenção a estes erros comuns

Erro comum

Durante o debate em pares sobre algoritmos e preconceitos, watch for alunos que afirmem que 'a IA é sempre neutra'.

O que ensinar em alternativa

Peça-lhes que analisem o exemplo de um algoritmo de recrutamento que favorece candidatos de uma determinada universidade. Questione-os sobre os dados de treino: 'Quem foram os recrutadores que avaliaram esses currículos? Que viéses humanos podem ter influenciado a seleção dos dados?'.

Erro comum

Durante a análise de dados: auditoria de enviesamento, watch for alunos que atribuam o problema apenas ao código do algoritmo.

O que ensinar em alternativa

Mostre-lhes um dataset onde 80% dos exemplos são de um género em particular. Peça-lhes para calcularem a proporção e questionem: 'Se os dados foram recolhidos assim, como pode o algoritmo não refletir este enviesamento? O problema está no algoritmo ou na forma como os dados foram selecionados?'.

Erro comum

Durante o role-play sobre decisões de IA enviesadas, watch for alunos que digam 'é impossível corrigir estes problemas'.

O que ensinar em alternativa

Peça-lhes que simulem uma auditoria a um algoritmo de justiça criminal. Durante a discussão, introduza a ideia de reequilíbrio de dados ou de inclusão de variáveis de controlo. Questione: 'Se alterássemos a representação dos dados de treino, como mudaria o resultado do algoritmo?'.

Ideias de Avaliação

Questão para Discussão

Durante a atividade de debate em pares sobre algoritmos e preconceitos, apresente o seguinte cenário: 'Um algoritmo de recomendação de emprego envia 90% das oportunidades para candidatos do sexo masculino.' Peça aos alunos que identifiquem as potenciais fontes de enviesamento e discutam em pares como este problema pode afetar a igualdade de oportunidades.

Bilhete de Saída

Após a auditoria de enviesamento, peça aos alunos para entregarem um bilhete com: 1) Um exemplo concreto de enviesamento encontrado no dataset analisado. 2) Uma consequência social desse enviesamento. 3) Uma sugestão para tornar o sistema mais justo, com base na atividade.

Verificação Rápida

Durante o role-play sobre decisões de IA enviesadas, mostre duas imagens geradas por IA: uma de uma sala de aula com alunos de diferentes origens e outra onde apenas aparecem alunos de um único grupo étnico. Peça aos alunos para identificarem o enviesamento na segunda imagem e explicarem, em uma frase, por que é problemático.

Extensões e Apoio

• Peça aos alunos que pesquisem um caso real de enviesamento em IA (ex. um algoritmo de recrutamento que favorece homens) e apresentem uma análise crítica em 5 minutos, incluindo propostas de correção.
• Para alunos com dificuldades, forneça um dataset pré-selecionado com enviesamentos evidentes (ex. imagens de médicos maioritariamente masculinas) e guie-os na identificação dos padrões.
• Para exploração mais profunda, desafie os alunos a desenhar um sistema de IA fictício que inclua mecanismos de mitigação de enviesamentos, justificando cada escolha com base na ética e nos dados.

Vocabulário-Chave

Enviesamento algorítmico	Tendência de um sistema de IA para produzir resultados sistematicamente injustos ou discriminatórios, refletindo preconceitos presentes nos dados ou no design.
Dados de treino	Conjuntos de dados utilizados para ensinar um modelo de IA a reconhecer padrões e a tomar decisões. A qualidade e representatividade destes dados são cruciais.
Equidade em IA	Objetivo de garantir que os sistemas de IA tratem todos os indivíduos e grupos de forma justa, evitando a discriminação e promovendo a igualdade de oportunidades.
Mitigação de enviesamento	Processo de identificação e redução do enviesamento em sistemas de IA, através de técnicas de pré-processamento de dados, modificação de algoritmos ou pós-processamento de resultados.