Informatik und Gesellschaft: Verantwortung tragen · 1. Halbjahr

Künstliche Intelligenz und Algorithmen-Ethik

Diskussion ueber Funktionsweise und Vorurteile von KI-Systemen.

Über dieses Thema

Künstliche Intelligenz und Algorithmen-Ethik beleuchtet, wie KI-Systeme aus großen Datensätzen lernen und Entscheidungen treffen. Schüler der Klasse 7 erkunden, dass Algorithmen Muster erkennen, doch Trainingsdaten oft Vorurteile enthalten, wie Geschlechterstereotype in Stellenanzeigen. Dies führt zu ungerechten Ergebnissen, die reale Auswirkungen haben.

Im Kontext von Informatik und Gesellschaft analysieren Lernende, wer verantwortlich ist, wenn KI fehlerhaft entscheidet: Entwickler, Betreiber oder Nutzer? Sie untersuchen Empfehlungsalgorithmen, etwa auf Social-Media-Plattformen, die ähnliche Inhalte vorschlagen und so Echokammern schaffen. Diese fördern einseitige Meinungen und beeinflussen Wahlen oder Kaufentscheidungen. Die KMK-Standards zu Analysieren und Bewerten werden hier direkt umgesetzt.

Aktives Lernen eignet sich hervorragend, da abstrakte ethische Fragen durch Debatten, Fallanalysen und Rollenspiele konkret werden. Schüler entwickeln Argumentationsfähigkeiten, wenn sie reale Beispiele diskutieren und eigene Positionen vertreten.

Lernziele

• Analysiere, wie Trainingsdaten Vorurteile in KI-Systemen erzeugen können, und nenne konkrete Beispiele für ungerechte Ergebnisse.
• Bewerte die ethische Verantwortung verschiedener Akteure (Entwickler, Betreiber, Nutzer) bei Fehlentscheidungen von KI-Systemen.
• Erkläre, wie Empfehlungsalgorithmen auf Social-Media-Plattformen die Meinungsbildung beeinflussen und zur Bildung von Echokammern beitragen.
• Vergleiche die Funktionsweise von einfachen Algorithmen (z.B. Sortieralgorithmen) mit komplexen KI-Systemen im Hinblick auf Datennutzung und Entscheidungsfindung.

Bevor es losgeht

Grundlagen der Programmierung und Logik

Warum: Ein grundlegendes Verständnis dafür, wie Anweisungen und Regeln zu einem Ergebnis führen, ist hilfreich, um die Funktionsweise von Algorithmen zu verstehen.

Datentypen und einfache Datenstrukturen

Warum: Schüler sollten wissen, wie Daten organisiert und gespeichert werden, um zu verstehen, wie Trainingsdaten für KI aufbereitet werden.

Schlüsselvokabular

Algorithmus	Eine Schritt-für-Schritt-Anleitung oder ein Regelwerk, das ein Computer befolgt, um eine Aufgabe zu lösen oder eine Entscheidung zu treffen.
Künstliche Intelligenz (KI)	Die Fähigkeit eines Computersystems, Aufgaben auszuführen, die normalerweise menschliche Intelligenz erfordern, wie Lernen, Problemlösen und Entscheidungsfindung.
Trainingsdaten	Die Datensätze, die einer KI zur Verfügung gestellt werden, damit sie Muster erkennen und lernen kann, wie sie Aufgaben ausführt oder Entscheidungen trifft.
Vorurteil (Bias)	Eine systematische Verzerrung in den Trainingsdaten oder im Algorithmus selbst, die zu ungerechten oder diskriminierenden Ergebnissen führen kann.
Empfehlungsalgorithmus	Ein Algorithmus, der basierend auf früheren Interaktionen und Vorlieben eines Nutzers personalisierte Vorschläge für Inhalte, Produkte oder Dienstleistungen macht.

Ideen für aktives Lernen

Debatte: Faire Algorithmen?

Teilen Sie die Klasse in Pro- und Contra-Gruppen. Jede Gruppe bereitet Argumente zu einem KI-Fall vor, wie diskriminierende Kreditzuweisung. Nach 10 Minuten Präsentation folgt eine offene Abstimmung und Reflexion.

⏱ 45 Min.·Kleingruppen

Mission erstellen

Fallstudie-Analyse: Vorurteile aufspüren

Verteilen Sie Beispiele wie biased Gesichtserkennung. In Paaren identifizieren Schüler Ursachen der Vorurteile, notieren Lösungsvorschläge und präsentieren diese der Klasse.

⏱ 30 Min.·Partnerarbeit

Mission erstellen

Rollenspiel: Verantwortung klären

Schüler übernehmen Rollen wie KI-Entwickler, Nutzer und Geschädigter bei einer Fehlentscheidung. Sie simulieren eine Anhörung, argumentieren und erarbeiten Regeln für ethische KI.

⏱ 40 Min.·Kleingruppen

Mission erstellen

Filterblase-Tracking

Jeder Schüler notiert eine Woche lang Empfehlungen auf einer Plattform. Gemeinsam kategorisieren und diskutieren sie, wie diese die eigene Meinung formen.

⏱ 35 Min.·Ganze Klasse

Mission erstellen

Bezüge zur Lebenswelt

Online-Shopping-Plattformen wie Amazon nutzen Empfehlungsalgorithmen, um Nutzern Produkte vorzuschlagen, die sie möglicherweise kaufen möchten, basierend auf früheren Käufen und angesehenen Artikeln. Dies kann Kaufentscheidungen beeinflussen.

Soziale Medien wie TikTok oder Instagram verwenden KI-gesteuerte Algorithmen, um Nutzern Inhalte anzuzeigen. Diese Algorithmen können dazu beitragen, dass Nutzer hauptsächlich Inhalte sehen, die ihre bestehenden Ansichten bestätigen, was zur Bildung von Echokammern führen kann.

Automatisierte Bewerbungssysteme, die von Unternehmen eingesetzt werden, um Lebensläufe zu filtern, können durch voreingenommene Trainingsdaten dazu führen, dass bestimmte Bewerbergruppen systematisch benachteiligt werden.

Vorsicht vor diesen Fehlvorstellungen

Häufige Fehlvorstellung

Algorithmen sind immer neutral und fair.

Was Sie stattdessen lehren sollten

Algorithmen spiegeln Vorurteile in Trainingsdaten wider. Aktive Diskussionen von Beispielen helfen Schülern, dies zu erkennen und Lösungen wie diverse Daten zu erarbeiten.

Häufige Fehlvorstellung

KI denkt wie Menschen und trifft moralische Entscheidungen.

Was Sie stattdessen lehren sollten

KI folgt nur programmierten Regeln, ohne echtes Verständnis. Rollenspiele verdeutlichen dies, indem Schüler Entscheidungswege nachvollziehen und Verantwortung zuordnen.

Häufige Fehlvorstellung

Empfehlungsalgorithmen zeigen objektive Inhalte.

Was Sie stattdessen lehren sollten

Sie priorisieren Nutzerdaten und verstärken Vorlieben. Gemeinsame Analysen eigener Feeds zeigen Muster und fördern Bewusstsein für Filterblasen.

Ideen zur Lernstandserhebung

Diskussionsfrage

Stellen Sie die Frage: 'Stellen Sie sich vor, eine KI entscheidet über die Vergabe von Krediten. Wer trägt die Verantwortung, wenn die KI einen Kreditantrag ungerechtfertigt ablehnt: der Programmierer, die Bank, die die KI einsetzt, oder die Person, die die Daten eingegeben hat? Begründet eure Meinung.' Lassen Sie die Schüler in Kleingruppen diskutieren und anschließend die wichtigsten Argumente im Plenum vorstellen.

Lernstandskontrolle

Geben Sie jedem Schüler eine Karte mit einer der folgenden Fragen: 'Nenne ein Beispiel für eine KI, die Vorurteile enthalten könnte, und erkläre, warum.' oder 'Wie kann ein Empfehlungsalgorithmus deine eigene Meinung beeinflussen?' Die Schüler schreiben ihre Antwort auf die Karte und geben sie ab.

Kurze Überprüfung

Zeigen Sie ein anonymisiertes Beispiel für eine Stellenanzeige, die stereotypische Formulierungen enthält. Fragen Sie die Schüler: 'Welche Art von Vorurteil könnte hier in einem KI-System, das diese Anzeige verarbeitet, verstärkt werden? Nennt ein mögliches ungerechtes Ergebnis für Bewerber.'

Häufig gestellte Fragen

Wie entstehen Vorurteile in KI-Systemen?

Vorurteile entstehen durch unausgewogene Trainingsdaten, die reale gesellschaftliche Ungleichheiten abbilden, wie mehr männliche Daten in Berufskategorien. Schüler lernen dies durch Analyse realer Fälle und erarbeiten Korrekturmaßnahmen wie Datenbereinigung. So verstehen sie den Zusammenhang zwischen Datenqualität und Fairness.

Wer trägt Verantwortung bei KI-Fehlern?

Verantwortung liegt bei Entwicklern für Design, Betreibern für Einsatz und Nutzern für kritische Prüfung. Debatten helfen Schülern, Nuancen zu erkennen und ethische Leitlinien zu fordern, passend zu KMK-Standards.

Wie kann aktives Lernen Ethik von Algorithmen vermitteln?

Aktives Lernen macht Ethik greifbar durch Debatten und Rollenspiele, wo Schüler Vorurteile analysieren und Lösungen erarbeiten. Solche Methoden fördern kritisches Denken und Argumentation, da abstrakte Konzepte in realen Szenarien erprobt werden. Die Klasse verbindet Theorie mit Praxis und internalisiert Verantwortung.

Wie beeinflussen Empfehlungsalgorithmen Meinungen?

Sie schlagen Inhalte basierend auf früherem Verhalten vor und schaffen Filterblasen, die gegenteilige Ansichten ausblenden. Schüler tracken dies selbst und diskutieren Auswirkungen auf Demokratie, um Bewusstsein zu schaffen und vielfältige Quellen zu nutzen.