Idéer för aktivt lärande
Etik och bias i AI-system handlar om hur mänskliga fördomar kan överföras till algoritmer. Om träningsdatan är partisk kommer även AI-modellen att bli det, vilket kan leda till diskriminering inom områden som rekrytering, banklån eller ansiktsigenkänning. Detta är en av de viktigaste samhällsfrågorna inom modern IT.
Aktivitet 01
Ge eleverna ett dataset för ett fiktivt antagningssystem som innehåller historiska fördomar. De ska analysera datan, identifiera vilka grupper som missgynnas och föreslå hur man kan korrigera modellen.
Hur uppstår bias i maskininlärningsmodeller?
Aktivitet 02
Debattera användningen av ansiktsigenkänning av polisen. Ena sidan fokuserar på säkerhetsvinster, den andra på riskerna med felaktiga identifieringar (bias) och hotet mot den personliga integriteten.
Vilka konsekvenser kan partiska AI-system få i samhället?
Aktivitet 03
Presentera ett scenario där en självkörande bil orsakar en olycka. Eleverna diskuterar i par vem som är ansvarig: programmeraren, bilföretaget, ägaren eller AI-modellen själv.
Hur kan vi utveckla mer rättvisa och transparenta algoritmer?
Några anteckningar om att undervisa detta avsnitt
Se upp för dessa missuppfattningar
Att algoritmer är objektiva eftersom de är matematiska.
Algoritmer speglar den data de tränas på. Om datan innehåller historiska fördomar kommer algoritmen att förstärka dem. Genom att visa exempel på partiska resultat blir detta tydligt för eleverna.
Att bias bara handlar om ras eller kön.
Bias kan handla om allt från ålder och bostadsort till teknisk utrustning. En bred diskussion om olika typer av diskriminering hjälper eleverna att se vidden av problemet.
Metoder som används i denna översikt
Grundläggande maskininlärning
Introduktion till övervakad och oövervakad inlärning samt hur algoritmer kan tränas på data.
8 methodologies
Tillämpad AI och projektarbete
Praktisk tillämpning där eleverna designar ett koncept eller en enkel prototyp som använder AI för att lösa ett problem.
8 methodologies