Informática · 10.º Ano · Impactos da Computação na Sociedade · 3o Periodo

Ética e Enviesamentos na IA

Os alunos discutem os enviesamentos que podem existir em sistemas de inteligência artificial e as suas implicações éticas e sociais.

• Aprendizagens Essenciais
• DGE: Secundário - Segurança e Ética
• DGE: Secundário - Cidadania Digital

Sobre este tópico

A ética e os enviesamentos na IA centram-se na análise de como os sistemas de inteligência artificial podem reproduzir preconceitos humanos presentes nos dados de treino. Os alunos do 10.º ano examinam casos concretos, como algoritmos de recomendação que reforçam estereótipos de género ou sistemas de justiça preditiva que penalizam desproporcionalmente minorias étnicas. Estas discussões respondem às perguntas-chave do currículo, como identificar enviesamentos e avaliar os seus impactos sociais, alinhando-se aos standards de Segurança e Ética e Cidadania Digital do Currículo Nacional.

No âmbito do Pensamento Computacional e Literacia Digital Avançada, este tema promove competências essenciais: pensamento crítico sobre decisões algorítmicas, avaliação de implicações éticas e elaboração de estratégias de mitigação, como auditorias de dados diversificados ou transparência nos modelos. Os alunos compreendem que enviesamentos não são acidentais, mas resultam de escolhas humanas na conceção de sistemas, fomentando uma cidadania digital responsável.

A aprendizagem ativa beneficia especialmente este tema, pois atividades colaborativas como debates e análises de datasets reais tornam conceitos abstractos pessoais e urgentes. Quando os alunos propõem soluções em grupo ou simulam enviesamentos, desenvolvem empatia e habilidades práticas para uma IA inclusiva.

Questões-Chave

1. Analise os enviesamentos que podem existir num sistema de inteligência artificial.
2. Avalie o impacto de decisões algorítmicas enviesadas na sociedade.
3. Proponha estratégias para mitigar enviesamentos em algoritmos de IA.

Objetivos de Aprendizagem

• Identificar e explicar os tipos comuns de enviesamentos em sistemas de IA, como enviesamento de amostragem e enviesamento de confirmação.
• Analisar criticamente exemplos de como decisões algorítmicas enviesadas afetam grupos sociais específicos, como em recrutamento ou concessão de crédito.
• Avaliar as implicações éticas e sociais do uso de IA em áreas sensíveis, como justiça criminal ou cuidados de saúde.
• Propor e justificar estratégias concretas para mitigar enviesamentos em conjuntos de dados e modelos de IA, como a diversificação de dados ou a auditoria de algoritmos.
• Comparar diferentes abordagens para garantir a equidade e a transparência em sistemas de IA.

Antes de Começar

Introdução aos Conceitos de IA e Machine Learning

Porquê: Os alunos precisam de uma compreensão básica do que é IA e como os modelos aprendem a partir de dados para poderem discutir enviesamentos.

Análise de Dados e Visualização

Porquê: A capacidade de interpretar dados e identificar padrões é fundamental para detetar enviesamentos em conjuntos de dados e resultados de algoritmos.

Ética e Responsabilidade Digital

Porquê: Uma base em princípios éticos digitais ajuda os alunos a contextualizar as implicações sociais e morais do uso de IA.

Vocabulário-Chave

Enviesamento algorítmico	Tendência de um sistema de IA para produzir resultados sistematicamente injustos ou discriminatórios, refletindo preconceitos presentes nos dados de treino ou no design do algoritmo.
Dados de treino	Conjuntos de informações utilizados para ensinar um modelo de inteligência artificial a reconhecer padrões e a tomar decisões. A qualidade e representatividade destes dados são cruciais.
Equidade algorítmica	Medida que avalia se um algoritmo trata diferentes grupos de forma justa, minimizando disparidades injustas nos resultados, mesmo que os dados de entrada não sejam perfeitamente equilibrados.
Transparência (IA)	Grau em que o funcionamento interno de um sistema de IA e as razões por trás das suas decisões podem ser compreendidos por humanos. Essencial para identificar e corrigir enviesamentos.
Justiça preditiva	Uso de algoritmos para prever a probabilidade de reincidência criminal ou outras decisões no sistema de justiça. Frequentemente criticado por enviesamentos raciais e socioeconómicos.

Atenção a estes erros comuns

Erro comum

A IA é sempre imparcial porque é matemática.

O que ensinar em alternativa

Os enviesamentos surgem de dados humanos enviesados, não da matemática pura. Discussões em grupo sobre exemplos reais ajudam os alunos a desconstruir esta ideia, comparando modelos enviesados com neutros para ver impactos concretos.

Erro comum

Enviesamentos afetam só indivíduos, não a sociedade.

O que ensinar em alternativa

Decisões algorítmicas enviesadas amplificam desigualdades sociais em larga escala. Atividades de debate revelam estas ligações, incentivando os alunos a mapear efeitos em comunidades e propor soluções coletivas.

Erro comum

Não é possível mitigar enviesamentos em IA.

O que ensinar em alternativa

Estratégias como auditorias e dados diversificados são eficazes. Simulações práticas mostram aos alunos como implementar estas medidas, construindo confiança na sua capacidade de influenciar sistemas.

Ideias de aprendizagem ativa

Debate em Pares: Casos Reais de Enviesamento

Apresente dois casos de IA enviesada, como recrutamento discriminatório e reconhecimento facial. Os pares preparam argumentos pró e contra a responsabilização das empresas, debatem por 10 minutos e partilham conclusões com a turma. Registe ideias num quadro partilhado.

30 min·Pares

Análise de Dataset: Detetar Viés em Dados

Forneça datasets simples de imagens ou textos com viés evidente. Em pequenos grupos, os alunos classificam dados, identificam padrões enviesados e propõem correções. Discuta resultados em plenário para ligar à ética.

45 min·Pequenos grupos

Estratégias de Mitigação: Brainstorming Coletivo

Divida a turma em grupos para brainstormar estratégias contra enviesamentos, como diversificação de dados ou testes de equidade. Cada grupo apresenta uma proposta com passos concretos. Vote na mais viável como turma.

40 min·Pequenos grupos

Simulação Individual: Criar um Algoritmo Ético

Os alunos criam fluxogramas de um algoritmo simples, incorporando controlos éticos para evitar viés. Partilhem e critiquem mutuamente os designs para refinar ideias.

35 min·Individual

Ligações ao Mundo Real

• Empresas de tecnologia como a Google e a Microsoft enfrentam escrutínio público e legal devido a enviesamentos detetados nos seus algoritmos de reconhecimento facial, que apresentam taxas de erro mais elevadas para mulheres e pessoas de pele escura.
• Bancos e instituições financeiras utilizam sistemas de IA para avaliar pedidos de crédito. Enviesamentos nestes sistemas podem levar à negação injusta de empréstimos a minorias ou a pessoas de baixos rendimentos, perpetuando desigualdades económicas.
• Plataformas de redes sociais como o Facebook e o Twitter usam algoritmos para decidir que conteúdo mostrar aos utilizadores. Enviesamentos podem criar 'bolhas de filtro' ou amplificar desinformação e discursos de ódio, impactando o debate público e a coesão social.

Ideias de Avaliação

Questão para Discussão

Apresente aos alunos um cenário fictício onde um algoritmo de IA é usado para selecionar candidatos a uma bolsa de estudos. Peça-lhes para discutirem em pequenos grupos: Que tipos de enviesamentos podem surgir neste sistema? Como é que estes enviesamentos poderiam afetar os candidatos? Que perguntas fariam para investigar a equidade do algoritmo?

Bilhete de Saída

Distribua um pequeno conjunto de dados simulado (ex: avaliações de desempenho de funcionários com enviesamento de género implícito). Peça aos alunos para identificarem no 'ticket': 1) Um possível enviesamento presente nos dados. 2) Uma consequência negativa desse enviesamento. 3) Uma sugestão para tornar os dados mais justos.

Verificação Rápida

Mostre aos alunos um vídeo curto ou um artigo sobre um caso real de enviesamento em IA (ex: sistemas de recrutamento). Após a visualização, peça a cada aluno para escrever numa folha: Qual foi o principal problema ético? Que grupo foi mais afetado? Que medida poderia ter prevenido ou mitigado o problema?

Perguntas frequentes

O que são enviesamentos na IA?

Enviesamentos na IA ocorrem quando modelos aprendem padrões discriminatórios dos dados de treino, como preferir candidatos masculinos em recrutamento devido a históricos enviesados. Isso leva a decisões injustas. No 10.º ano, os alunos analisam causas e impactos para promover IA ética, alinhada aos standards de Cidadania Digital.

Qual o impacto social de algoritmos enviesados?

Algoritmos enviesados perpetuam desigualdades, como em sistemas de crédito que excluem minorias ou redes sociais que polarizam opiniões. Avaliar estes efeitos desenvolve pensamento crítico. Atividades como debates ajudam os alunos a ligar casos reais à sociedade portuguesa, fomentando cidadania ativa.

Como mitigar enviesamentos em sistemas de IA?

Estratégias incluem usar datasets diversificados, auditorias regulares de equidade e transparência nos modelos. Os alunos propõem estas soluções em grupo, testando-as em simulações simples. Isso reforça competências do Currículo Nacional em ética computacional.

Como usar aprendizagem ativa para ensinar ética e enviesamentos na IA?

Atividades como análise de datasets em grupos e debates sobre casos reais tornam o tema concreto e envolvente. Os alunos detetam viés em dados, debatem implicações e criam estratégias, internalizando conceitos éticos. Estas abordagens colaborativas promovem empatia e retenção, superando aulas expositivas passivas.