Diesen aiMOOC als Battle spielen: Deutsch, Klasse 9-10, G-Niveau

Bias systematisch verringern

Zielgruppe: Schule, Schwerpunkt Klasse 9 Zeitumfang: ca. 45–90 Minuten Fächerübergreifende Bezüge: Informatik, Deutsch, Mathematik, Technik, Wirtschaft, Geschichte, Ethik, Gemeinschaftskunde, Medienbildung Zentrale Leitfrage: Wie kannst Du Verzerrungen in daten- und KI-gestützten Systemen erkennen, ihre Folgen beurteilen und sie systematisch verringern, ohne so zu tun, als ließen sich gesellschaftliche Wertfragen allein technisch lösen?

Dieser aiMOOC verbindet Künstliche Intelligenz, Maschinelles Lernen, Algorithmic Bias, Statistik, Diskriminierung, Datenschutz, Fairness, Quellenkritik und Verantwortung. Du arbeitest mit Daten, prüfst Systeme aus verschiedenen Betroffenenperspektiven, entwickelst Verbesserungen und überträgst Dein Vorgehen am Ende auf eine neue Situation.

Einleitung

Ein automatisches System kann sehr schnell rechnen und trotzdem systematisch ungerechte Ergebnisse erzeugen. Das liegt nicht unbedingt daran, dass jemand absichtlich diskriminieren wollte. Verzerrungen können schon bei der Formulierung des Problems beginnen, sich in Daten verstecken, beim Beschriften von Beispielen entstehen, durch ungeeignete Merkmale verstärkt werden oder erst beim Einsatz in einer konkreten Situation sichtbar werden.

Bias bedeutet in diesem Kurs eine systematische Verzerrung. Bei KI-Systemen kann sie dazu führen, dass bestimmte Personen oder Gruppen häufiger Fehler, Nachteile oder geringere Teilhabe erfahren. Ein Unterschied zwischen Gruppen beweist noch nicht automatisch Diskriminierung. Er ist aber ein wichtiges Signal: Man muss genauer prüfen, warum der Unterschied entsteht, welche Folgen er hat und ob er sachlich gerechtfertigt ist.

Besonders wichtig ist die Einsicht: Fairness ist nicht nur eine Rechenaufgabe. Mathematik kann Unterschiede sichtbar machen. Informatik kann Modelle testen und verbessern. Technik kann Schutzmechanismen einbauen. Aber die Frage, welche Art von Fairness in einer Situation gelten soll, betrifft auch Werte, Rechte, gesellschaftliche Machtverhältnisse und die Perspektiven Betroffener. UNESCO betont deshalb neben Fairness auch Transparenz, menschliche Aufsicht, Vielfalt, Teilhabe und Verantwortung.^[1]

Lernziele

Nach dem Kurs kannst Du erklären, an welchen Stellen eines KI-Systems Bias entstehen kann, einfache Gruppenstatistiken und Fehlerquoten auswerten, verschiedene Fairnessvorstellungen unterscheiden, Risiken und Nutzen abwägen, Betroffenenperspektiven berücksichtigen, Quellen kritisch prüfen und einen begründeten Verbesserungsplan für ein neues Anwendungsszenario entwickeln.

Unterrichtsplanung für 45 bis 90 Minuten

Phase	Kurzversion ca. 45 Minuten	Vertiefung ca. 90 Minuten
Aktivierung	5 Minuten Diagnose	10 Minuten Diagnose und Austausch
Einführung	10 Minuten Bias-Kette	15 Minuten Bias-Kette und Medien
Datenanalyse	10 Minuten Gruppenvergleich	20 Minuten Gruppenvergleich und Fairnessmetriken
Anwendung	15 Minuten Schulfall	30 Minuten Rollenarbeit und Verbesserungsdesign
Abschluss	5 Minuten Transfer	15 Minuten Selbstkontrolle, Reflexion und Transfer

Aktivierung und Diagnose

Stell Dir vor, eine Schule nutzt ein automatisiertes System, um zu entscheiden, welche Schülerinnen und Schüler zuerst zu begehrten Berufsorientierungspraktika eingeladen werden. Entscheide spontan bei jeder Aussage: stimme zu, stimme nicht zu oder unsicher. Notiere zu mindestens einer Aussage eine Begründung.

Aussage	Deine erste Einschätzung
Ein System mit 92 Prozent Gesamtgenauigkeit ist automatisch fair.
Wenn ein System das Geschlecht nicht direkt verwendet, kann es keine geschlechtsbezogene Verzerrung geben.
Gleiche Regeln führen immer zu fairen Ergebnissen.
Wenn eine KI empfiehlt, bleibt die Verantwortung trotzdem bei Menschen und Organisationen.

Bewahre Deine Antworten auf. Am Ende des Kurses prüfst Du, ob Du eine Aussage anders beurteilst.

Was bedeutet Bias?

Bias kann in unterschiedlichen Fachgebieten etwas Verschiedenes bedeuten. In der Statistik bezeichnet Bias eine systematische Abweichung eines Schätzverfahrens. Im Zusammenhang mit KI und automatisierten Entscheidungen geht es zusätzlich um gesellschaftliche Folgen: Wer wird häufiger falsch eingeordnet? Wer bekommt weniger Chancen? Wer wird nicht repräsentiert? Wer kann eine Entscheidung anfechten?

Ein KI-System ist Teil eines soziotechnischen Systems. Das bedeutet: Nicht nur das Modell zählt, sondern auch Menschen, Regeln, Organisationen, Daten, technische Geräte, wirtschaftliche Interessen und der konkrete Einsatzort.

Bias ist eine Kette, kein einzelner Fehler

Stelle im System	Mögliche Verzerrung	Prüffrage	Mögliche Verbesserung
Problemdefinition	Ein zu enges Ziel wird gewählt	Was soll überhaupt als Erfolg gelten?	Betroffene und Fachleute früh beteiligen
Datenerhebung	Manche Gruppen fehlen oder sind unterrepräsentiert	Wer ist in den Daten sichtbar und wer nicht?	Repräsentativität prüfen und Datenlücken dokumentieren
Beschriftung	Labels übernehmen Vorurteile oder uneinheitliche Urteile	Wer hat entschieden, was als richtig gilt?	Mehrere Beurteilende und klare Kriterien einsetzen
Merkmalsauswahl	Ein scheinbar neutrales Merkmal wirkt als Proxy	Steht ein Merkmal indirekt für soziale Herkunft, Wohnort oder Zugang?	Notwendigkeit jedes Merkmals begründen
Modelltraining	Das Modell lernt ungleiche Muster	Welche Gruppenfehler entstehen?	Gruppen getrennt testen und Modell anpassen
Schwellenwert	Eine Grenze erzeugt ungleiche Folgen	Wer trägt die Kosten falscher Ablehnungen?	Schwelle und Folgen gemeinsam bewerten
Einsatz	Nutzende vertrauen der Empfehlung zu stark	Kann ein Mensch sinnvoll widersprechen?	Echte menschliche Aufsicht und Begründung ermöglichen
Betrieb	Frühere Entscheidungen werden neue Trainingsdaten	Verstärkt sich das System selbst?	Laufend überwachen und Feedbackschleifen prüfen

Eine Rückkopplung kann Bias verstärken: Wenn ein System bestimmte Inhalte häufiger zeigt, werden diese häufiger angeklickt. Die Klicks werden anschließend wieder als Signal für Beliebtheit genutzt. So kann Sichtbarkeit selbst zu einem Grund für noch mehr Sichtbarkeit werden.

Repräsentation, Vielfalt und Teilhabe

Repräsentation fragt, ob die Menschen und Situationen, für die ein System genutzt wird, in den Daten angemessen vorkommen. Vielfalt geht weiter: Unterschiede in Lebenslagen, Sprachen, körperlichen Voraussetzungen, Einkommen, Technikzugang oder kulturellen Erfahrungen können die Nutzung eines Systems verändern. Teilhabe bedeutet, dass Menschen nicht nur Datenliefernde sind, sondern bei wichtigen Entscheidungen gehört werden können.

Ein Datensatz kann groß und trotzdem schlecht repräsentativ sein. Millionen Datenpunkte helfen wenig, wenn sie fast nur aus einer bestimmten Bevölkerungsgruppe oder Nutzungssituation stammen.

Wichtig ist außerdem die Intersektionalität: Nachteile können erst sichtbar werden, wenn mehrere Merkmale gemeinsam betrachtet werden. Ein Durchschnitt über alle Menschen kann Unterschiede zwischen Untergruppen verdecken.

Historisches Beispiel: Gesichtsanalyse

Eine bekannte Untersuchung von Joy Buolamwini und Timnit Gebru aus dem Jahr 2018 verglich kommerzielle Systeme zur Geschlechtsklassifikation. In den untersuchten Benchmarks waren hellere Hauttypen stark überrepräsentiert. Die getesteten Systeme zeigten besonders hohe Fehlerraten bei dunkelhäutigen Frauen, während hellhäutige Männer deutlich seltener falsch klassifiziert wurden.^[2]

Dieses Beispiel darf nicht unkritisch verallgemeinert werden. Es untersuchte bestimmte Systeme zu einem bestimmten Zeitpunkt und verwendete die Kategorien des damaligen Tests. Die Ergebnisse sind kein Beweis dafür, dass jedes heutige Gesichtserkennungssystem dieselben Fehler macht. Sie zeigen aber sehr deutlich, warum man Systeme nach Untergruppen prüfen muss.

Auch das US-amerikanische National Institute of Standards and Technology fand bei umfangreichen Tests demografische Unterschiede in den Fehlerraten vieler Gesichtserkennungsalgorithmen. Zugleich betont NIST, dass Algorithmen sich stark voneinander unterscheiden und dass Anwendungskontext und Datengrundlage entscheidend sind.^[3]

Fairness ist mehr als Gesamtgenauigkeit

Ein System kann insgesamt sehr genau sein und trotzdem eine bestimmte Gruppe häufig falsch behandeln. Deshalb genügt die Kennzahl Accuracy allein nicht.

Bei einer Ja-Nein-Entscheidung kannst Du vier Fälle unterscheiden:

Wirklichkeit	Systementscheidung	Ergebnis
geeignet	eingeladen	richtig positiv
geeignet	nicht eingeladen	falsch negativ
nicht geeignet	eingeladen	falsch positiv
nicht geeignet	nicht eingeladen	richtig negativ

Ein falsch negatives Ergebnis kann zum Beispiel bedeuten, dass eine eigentlich geeignete Person eine Chance verliert. Ein falsch positives Ergebnis kann bedeuten, dass jemand eingeladen wird, obwohl die Kriterien nicht erfüllt sind. Welche Fehlerart schwerer wiegt, hängt von der Situation ab.

Mathematische Mini-Analyse

Eine Schule testet ein fiktives System für Praktikumsangebote. Nachträglich bewertet ein menschliches Team 80 Bewerbungen. In beiden Gruppen sind jeweils 28 von 40 Jugendlichen fachlich geeignet.

Gruppe	Personen	Tatsächlich geeignet	Vom System richtig eingeladen	Geeignete, aber abgelehnte Personen
regelmäßiger Zugang zu einem eigenen Endgerät	40	28	24	4
geteiltes oder wechselnd verfügbares Endgerät	40	28	18	10

Für die erste Gruppe beträgt der Anteil falsch abgelehnter geeigneter Personen: 4 ÷ 28 ≈ 14,3 Prozent

Für die zweite Gruppe: 10 ÷ 28 ≈ 35,7 Prozent

Die Gesamtleistung des Systems kann ordentlich aussehen. Der Gruppenvergleich zeigt aber: Geeignete Jugendliche mit eingeschränktem Gerätezugang werden deutlich häufiger übersehen.

Das beweist noch nicht, warum der Unterschied entsteht. Eine plausible Hypothese wäre, dass das System Merkmale wie schnelle Reaktionszeiten, häufige Plattformnutzung oder digitale Vorerfahrung verwendet. Diese Merkmale könnten indirekt Unterschiede im Technikzugang abbilden.

Verschiedene Vorstellungen von Fairness

Fairnessfrage	Vereinfachte Idee	Stärke	Grenze
Gleiche Regel	Für alle gilt derselbe Schwellenwert	Leicht nachvollziehbar	Unterschiedliche Ausgangsbedingungen bleiben unberücksichtigt
Gleiche Chance	Geeignete Personen sollen gruppenübergreifend ähnlich oft erkannt werden	Blick auf Chancen	Andere Fehlerarten können sich verschieben
Gleiche Fehlerbelastung	Bestimmte Fehlerquoten sollen zwischen Gruppen ähnlich sein	Nachteile werden sichtbar	Mehrere Fehlerquoten können gleichzeitig schwer auszugleichen sein
Gleiches Ergebnis	Auswahlquoten sollen ähnlich sein	Macht Ergebnisunterschiede sichtbar	Gleiche Quote kann Unterschiede im Kontext verdecken
Einzelfallgerechtigkeit	Ähnliche Fälle werden ähnlich behandelt und Abweichungen begründet	Achtet auf einzelne Personen	Die Frage, was als ähnlich gilt, ist selbst wertabhängig

Es gibt nicht immer eine einzige Fairnessmetrik, die alle Ziele gleichzeitig erfüllt. Deshalb muss eine Gesellschaft entscheiden, welche Risiken und Rechte in einem bestimmten Bereich besonders wichtig sind. Genau hier endet eine rein technische Antwort.

Quellenkritik bei Aussagen über KI-Bias

Wenn Du liest, ein KI-System sei „voreingenommen“ oder „fair“, prüfe mindestens fünf Punkte.

Quelle: Wer hat die Untersuchung veröffentlicht und welche Interessen könnten eine Rolle spielen?
Stichprobe: Welche Menschen, Länder, Sprachen und Situationen wurden untersucht?
Kennzahl: Welche Fehlerquote oder Fairnessdefinition wurde verwendet?
Zeitbezug: Welche Systemversion und welches Jahr wurden untersucht?
Kontext: Ist der Test auf die behauptete Anwendung übertragbar?

Ein wissenschaftlicher Befund über ein System aus dem Jahr 2018 ist wertvoll, darf aber nicht automatisch als aktueller Leistungswert eines Systems im Jahr 2026 ausgegeben werden. Gute Quellenkritik trennt historischen Befund, heutige Systemversion und allgemeine Schlussfolgerung.

Perspektiven von Betroffenen

Bei Bias geht es nicht nur darum, ob ein Modell „besser“ wird. Verschiedene Beteiligte können unterschiedliche Interessen haben.

Perspektive	Mögliche Frage
Schülerin oder Schüler	Kann ich verstehen, warum ich abgelehnt wurde, und kann ich widersprechen?
Lehrkraft	Hilft mir das System oder verleitet es mich dazu, eine Empfehlung ungeprüft zu übernehmen?
Sorgeberechtigte	Welche personenbezogenen Daten werden verwendet?
Schulsozialarbeit	Werden soziale Benachteiligungen indirekt als Leistungsschwäche behandelt?
Betrieb	Bekomme ich passende Bewerbungen, ohne bestimmte Gruppen systematisch auszuschließen?
Schulleitung	Wer ist verantwortlich, wenn ein Fehler entsteht?
Datenschutzbeauftragte	Werden nur notwendige Daten verarbeitet und ausreichend geschützt?
Entwicklerteam	Welche Untergruppen wurden getestet und welche Grenzen sind dokumentiert?

Human Agency bedeutet hier: Menschen dürfen nicht zu passiven Empfängern automatischer Entscheidungen werden. Sie brauchen Informationen, Wahlmöglichkeiten, Möglichkeiten zur Rückfrage und bei wichtigen Entscheidungen eine echte Chance auf menschliche Prüfung.

Risikoabwägung und Verantwortung

Ein KI-System kann Vorteile haben: Es kann große Datenmengen prüfen, wiederkehrende Aufgaben beschleunigen oder Muster sichtbar machen. Gleichzeitig können Fehler in großem Maßstab vervielfältigt werden.

Möglicher Nutzen	Mögliches Risiko	Schutzmaßnahme
schnellere Vorauswahl	ungeprüfte Massenablehnung	menschliche Zweitprüfung
einheitliche Kriterien	ungeeignete oder diskriminierende Kriterien	Kriterien offenlegen und begründen
datengestützte Entscheidung	historische Benachteiligung wird übernommen	Datenherkunft und Gruppenfehler prüfen
Automatisierung	Verantwortungsdiffusion	klare Zuständigkeiten festlegen
Personalisierung	Überwachung und Privatsphärenverlust	Datenminimierung und Zweckbindung

Das NIST AI Risk Management Framework nennt unter anderem Zuverlässigkeit, Sicherheit, Transparenz, Erklärbarkeit, Datenschutz, Verantwortlichkeit und den Umgang mit schädlichem Bias als Merkmale vertrauenswürdiger KI.^[4]

Für bestimmte Hochrisiko-KI-Systeme verlangt der europäische AI Act unter anderem geeignete Daten-Governance, die Prüfung möglicher Bias-Risiken, Maßnahmen zur Verringerung solcher Verzerrungen und menschliche Aufsicht. Bestimmte Anwendungen in Bildung und Beschäftigung können in den Hochrisikobereich fallen.^[5]

Wichtig ist der Zielkonflikt: Um Benachteiligungen zwischen Gruppen zu erkennen, muss man Gruppen manchmal statistisch vergleichen. Gleichzeitig können Angaben über bestimmte persönliche Merkmale sensibel sein. Fairnessprüfung und Datenschutz müssen deshalb gemeinsam geplant werden, nicht gegeneinander.

Der Prüfzyklus: Bias systematisch verringern

Der folgende Acht-Schritte-Zyklus ist ein Lernschema dieses Kurses und kein offizieller Standard.

Zweck klären: Welche Entscheidung soll unterstützt werden, und ist KI dafür überhaupt nötig?
Betroffene bestimmen: Wer profitiert, wer trägt Risiken und wer könnte ausgeschlossen werden?
Daten prüfen: Herkunft, Repräsentation, Qualität, Einwilligung und Datenlücken untersuchen.
Merkmale prüfen: Unnötige oder problematische Proxy-Merkmale erkennen.
Gruppen testen: Gesamtkennzahlen und Untergruppenfehler vergleichen.
Verbessern: Daten, Merkmale, Modell, Schwellenwerte oder Prozess gezielt ändern.
Menschen stärken: Erklärungen, Aufsicht, Rückfragen und Anfechtung ermöglichen.
Weiter beobachten: Nach dem Einsatz erneut messen, Beschwerden auswerten und Rückkopplungen erkennen.

Systematisch verringern bedeutet deshalb nicht, einmal einen Datensatz „auszugleichen“ und anschließend Fairness zu behaupten. Es ist ein fortlaufender Prozess aus Prüfen, Begründen, Verbessern und Überwachen.

Realistische Anwendungssituation: Praktikums-Matching an einer Schule

Eine Schule möchte eine Software einsetzen, die Schülerinnen und Schüler mit Praktikumsplätzen verbindet. Das System berechnet einen Eignungswert aus Noten, Interessen, bisherigen Projekten, Reaktionszeiten in der Schulplattform, freiwilligen außerschulischen Aktivitäten und einem kurzen Motivationsschreiben.

Die Schule behauptet: „Das System ist objektiver als Lehrkräfte, weil alle nach derselben Formel bewertet werden.“

Dein Audit-Auftrag

Prüfe die Behauptung aus mindestens vier Perspektiven.

Prüffeld	Leitfragen
Daten	Sind alle Jugendlichen angemessen vertreten? Fehlen Daten von Personen mit weniger digitalem Zugang?
Merkmale	Ist schnelle Reaktionszeit wirklich ein sinnvolles Maß für Motivation? Kann sie ein Proxy für Gerätezugang oder freie Zeit sein?
Sprache	Werden unterschiedliche Schreibstile, Sprachbiografien oder Unterstützungsbedarfe unfair bewertet?
Folgen	Was bedeutet eine falsche Ablehnung für die betroffene Person?
Transparenz	Verstehen Jugendliche, welche Faktoren ihre Empfehlung beeinflusst haben?
Teilhabe	Wurden Schülerinnen und Schüler an der Gestaltung beteiligt?
Verantwortung	Wer darf das System überstimmen? Wer bearbeitet Beschwerden?

Verbesserungen entwickeln

Ein verantwortlicher Verbesserungsplan könnte mehrere Ebenen verbinden: bessere und vielfältigere Daten, kritisch geprüfte Merkmale, Gruppenanalysen, dokumentierte Grenzen, menschliche Zweitprüfung, ein verständliches Beschwerdeverfahren und regelmäßige Wiederholung des Audits.

Aber Achtung: Die Klasse muss selbst entscheiden, welches Fairnessziel im Praktikumsfall am wichtigsten ist. Soll vor allem die Chance geeigneter Personen vergleichbar sein? Soll die Zahl falscher Ablehnungen minimiert werden? Soll jedes Ergebnis individuell begründbar sein? Verschiedene Antworten können gut begründet sein.

Reflexion: Technik löst nicht jede Wertfrage

Stell Dir zwei Verbesserungen vor:

Lösung A: Das System verwendet für alle genau dieselbe Punktgrenze.

Lösung B: Das System korrigiert nachweisbare Zugangsnachteile, prüft Grenzfälle menschlich und erlaubt Widerspruch.

Welche Lösung ist fairer? Die Antwort hängt davon ab, welche Vorstellung von Gerechtigkeit Du vertrittst. Gleiche Behandlung kann wichtig sein. Ebenso kann es gerecht sein, ungleiche Ausgangsbedingungen zu berücksichtigen. Diese Entscheidung kann kein Algorithmus neutral für die Gesellschaft treffen.

Medien- und Quellenhinweise

Die eingebundenen Bilder stammen von Wikimedia Commons und sind auf ihren jeweiligen Dateiseiten als frei nutzbare Medien unter CC-Lizenzen, CC0 oder Public Domain ausgewiesen. Bei einer Weiterverwendung müssen die Bedingungen der jeweiligen Datei beachtet werden.

Interaktive Aufgaben

Quiz: Teste Dein Wissen

Ein Auswahlmodell erreicht insgesamt eine hohe Genauigkeit, lehnt aber geeignete Personen einer Gruppe deutlich häufiger ab. Was ist die beste Schlussfolgerung? (Die Gesamtgenauigkeit reicht nicht aus und die Fehlerquoten sollten nach Gruppen untersucht werden) (!Das System ist automatisch fair weil die Gesamtgenauigkeit hoch ist) (!Die Gruppe sollte aus der Auswertung entfernt werden) (!Nur die Zahl der ausgewählten Personen ist wichtig)

Ein System verwendet das Geschlecht nicht direkt. Warum kann trotzdem geschlechtsbezogener Bias entstehen? (Andere Merkmale können als indirekte Proxy-Merkmale wirken) (!Ohne Geschlechtsvariable ist jede Form von Bias technisch unmöglich) (!Nur die Programmierfarbe der Benutzeroberfläche kann Bias erzeugen) (!Geschlechtsbezogener Bias entsteht ausschließlich durch Zufallsfehler)

Was ist bei unterrepräsentierten Gruppen in Trainingsdaten zuerst sinnvoll? (Prüfen ob die Daten die spätere Nutzungssituation angemessen abbilden) (!Alle Daten dieser Gruppe vollständig löschen) (!Die Gesamtzahl der Daten ignorieren) (!Nur die Trainingsgeschwindigkeit erhöhen)

Ein System empfiehlt häufiger Inhalte die bereits oft angeklickt wurden und nutzt neue Klicks wieder als Trainingssignal. Welches Risiko liegt vor? (Eine Rückkopplungsschleife kann bestehende Muster verstärken) (!Die Datenmenge wird automatisch kleiner) (!Das System verliert jede Form von Mustererkennung) (!Die Empfehlungen werden unabhängig von Nutzerverhalten)

Welche Maßnahme stärkt Human Agency bei einer wichtigen automatisierten Entscheidung am meisten? (Eine verständliche Begründung mit echter menschlicher Überprüfung und Widerspruchsmöglichkeit) (!Eine vollständig automatische Entscheidung ohne Kontaktperson) (!Ein geheimes Bewertungssystem mit höherer Rechengeschwindigkeit) (!Die Abschaffung jeder Dokumentation)

Warum ist Fairness nicht vollständig durch eine einzige Kennzahl lösbar? (Verschiedene Fairnessziele können miteinander in Konflikt stehen und erfordern Wertentscheidungen) (!Weil mathematische Kennzahlen grundsätzlich nutzlos sind) (!Weil Fairness ausschließlich von Zufall abhängt) (!Weil technische Systeme niemals getestet werden können)

Eine Studie über ein KI-System ist acht Jahre alt. Wie solltest Du damit umgehen? (Prüfen welche Systemversion untersucht wurde und historische Befunde nicht automatisch auf heutige Systeme übertragen) (!Die Ergebnisse ohne Prüfung als aktuellen Leistungswert verwenden) (!Die Studie allein wegen ihres Alters vollständig ignorieren) (!Davon ausgehen dass alle Systeme heute exakt gleich funktionieren)

Was bedeutet eine falsch negative Entscheidung bei einer Praktikumsauswahl? (Eine tatsächlich geeignete Person wird vom System abgelehnt) (!Eine ungeeignete Person wird eingeladen) (!Eine geeignete Person wird korrekt eingeladen) (!Eine ungeeignete Person wird korrekt abgelehnt)

Warum sollte ein Bias-Audit auch Betroffenenperspektiven einbeziehen? (Weil messbare Fehler und ihre tatsächlichen Folgen aus verschiedenen Lebenslagen unterschiedlich sein können) (!Weil statistische Tests dadurch überflüssig werden) (!Weil nur Betroffene Programme schreiben dürfen) (!Weil technische Daten grundsätzlich nicht verwendet werden sollten)

Welche Vorgehensweise passt am besten zu einem verantwortlichen Bias-Management? (Zweck klären Daten prüfen Gruppen testen verbessern menschliche Aufsicht sichern und weiter überwachen) (!Einmal Gesamtgenauigkeit messen und das System danach nicht mehr prüfen) (!Alle Entscheidungen vollständig an das Modell abgeben) (!Nur mehr Daten sammeln ohne ihren Inhalt zu untersuchen)

Memory

Repräsentation	Angemessene Abbildung der später betroffenen Gruppen und Situationen
Proxy-Merkmal	Indirektes Merkmal das mit einer eigentlich nicht verwendeten Eigenschaft zusammenhängen kann
Falsch negativ	Geeigneter Fall wird fälschlich abgelehnt
Fairnessmetrik	Kennzahl zur Untersuchung bestimmter Gerechtigkeitsaspekte
Feedbackschleife	Frühere Systemausgaben beeinflussen spätere Eingabedaten
Human Oversight	Sinnvolle menschliche Kontrolle eines automatisierten Systems
Audit	Strukturierte Prüfung von Daten Modell Prozess und Folgen
Anfechtung	Möglichkeit eine Entscheidung prüfen oder korrigieren zu lassen

Drag and Drop

Ordne die richtigen Begriffe zu.	Thema
Problemdefinition	Ziel und Erfolgskriterium
Datenerhebung	Repräsentation und Datenlücken
Labeling	Qualität der Zuordnungen
Evaluation	Vergleich von Gruppenfehlern
Einführung	Menschliche Aufsicht
Betrieb	Monitoring und Beschwerdewege

Kreuzworträtsel

Bias	Wie heißt eine systematische Verzerrung in kurzer Fachsprache?
Proxy	Wie nennt man ein Merkmal das indirekt für eine andere Eigenschaft stehen kann?
Audit	Wie heißt eine strukturierte Überprüfung eines Systems?
Fairness	Welcher Begriff beschreibt die Frage nach gerechter Behandlung?
Teilhabe	Wie heißt die Möglichkeit an gesellschaftlichen Prozessen mitzuwirken?
Transparenz	Welcher Begriff bezeichnet Nachvollziehbarkeit und Offenlegung wichtiger Informationen?

LearningApps

Lückentext

Ein systematischer Unterschied in algorithmischen Ergebnissen kann als

untersucht werden.

Ein hoher Gesamtwert der Genauigkeit kann Unterschiede zwischen

verdecken.

Wenn ein scheinbar neutrales Merkmal indirekt für eine andere Eigenschaft steht, spricht man von einem

.

Eine tatsächlich geeignete Person, die abgelehnt wird, ist ein

Fall.

Daten sollten die spätere Anwendung möglichst gut

.

Bei wichtigen Entscheidungen sollte eine verantwortliche Person echte

ausüben.

Frühere Systemausgaben können über eine

spätere Daten beeinflussen.

Zur verantwortlichen KI-Nutzung gehören Transparenz, Beschwerdemöglichkeiten und klare

.

Offene Aufgaben

Leicht

Bias-Tagebuch: Suche in Deinem digitalen Alltag nach drei Situationen, in denen ein Ranking, eine Empfehlung oder automatische Auswahl vorkommt. Notiere jeweils, welche Daten vermutlich verwendet werden und wer benachteiligt werden könnte.
Diagrammanalyse: Erkläre mit eigenen Worten, was die Abbildung zur Rückkopplungsschleife zeigt, und erfinde ein Alltagsbeispiel.
Quellencheck: Vergleiche zwei Online-Aussagen über KI-Bias. Prüfe Autor, Datum, untersuchtes System, Datengrundlage und verwendete Kennzahl.
Perspektivwechsel: Schreibe jeweils fünf Sätze aus der Sicht einer betroffenen Schülerin und einer Lehrkraft über eine fehlerhafte automatische Ablehnung.

Standard

Datensatz prüfen: Erfinde einen kleinen Datensatz mit mindestens 20 fiktiven Fällen und zwei Gruppen. Berechne für jede Gruppe den Anteil falsch abgelehnter geeigneter Personen.
Stakeholderkarte: Zeichne alle Personen und Organisationen ein, die am Praktikums-Matching beteiligt sind. Markiere, wer entscheiden, widersprechen, verbessern und Verantwortung übernehmen kann.
Fairnessvergleich: Vergleiche gleiche Schwellenwerte, gleiche Chancen und gleiche Fehlerbelastung. Begründe, welches Ziel im Schulbeispiel für Dich Vorrang haben sollte.
Rollenspiel: Führt eine Sitzung mit den Rollen Schülerschaft, Lehrkraft, Schulleitung, Datenschutz, Betrieb und Entwicklerteam durch. Einigt Euch auf mindestens fünf Schutzmaßnahmen.

Schwer

Bias-Audit: Entwickle für das Praktikums-System einen vollständigen Prüfplan von der Problemdefinition bis zum laufenden Monitoring.
Systemverbesserung: Entwirf eine neue Version des Systems, die weniger von digitalem Zugang abhängt. Begründe jede Änderung und nenne mögliche Nebenwirkungen.
Regelwerk: Formuliere eine schulische Richtlinie mit Transparenzpflicht, menschlicher Letztentscheidung, Widerspruchsrecht, Datenschutz, Dokumentation und regelmäßiger Fairnessprüfung.
Transfergutachten: Übertrage den Acht-Schritte-Zyklus auf eine neue Situation, zum Beispiel Kreditvergabe, automatisierte Moderation, Empfehlung von Lernmaterial oder Bewerberauswahl. Entscheide begründet, ob und unter welchen Bedingungen das System eingesetzt werden sollte.

Lernkontrolle

Systemanalyse: Ein Lernsystem empfiehlt anspruchsvolle Aufgaben seltener an Schülerinnen und Schüler, die in der Vergangenheit langsamer geklickt haben. Analysiere mindestens drei mögliche Ursachen und erkläre, welche zusätzlichen Daten Du zur Prüfung brauchst.
Datenbewertung: Zwei Gruppen haben dieselbe Zahl tatsächlich geeigneter Personen, aber deutlich unterschiedliche falsch-negative Raten. Erkläre, warum die Gesamtgenauigkeit als alleinige Bewertung ungeeignet ist.
Fairnesskonflikt: Eine Maßnahme verbessert die Chancengleichheit, erhöht aber leicht die Zahl falscher positiver Entscheidungen. Beurteile den Zielkonflikt und begründe eine Entscheidung.
Verantwortung: Eine Lehrkraft sagt nach einer falschen Ablehnung: „Das hat die KI entschieden.“ Bewerte diese Aussage aus technischer, ethischer und organisatorischer Sicht.
Datenschutz und Fairness: Für eine Fairnessprüfung könnten sensible Gruppenmerkmale hilfreich sein. Entwickle einen Plan, der Fairnessprüfung und Datenschutz gemeinsam berücksichtigt.
Transfer: Eine Gemeinde möchte KI zur Vergabe knapper Freizeitangebote nutzen. Entscheide anhand des Prüfzyklus, welche Bedingungen vor einem Einsatz erfüllt sein müssen und begründe Deine Prioritäten.

Selbstkontrolle und Reflexion

Beantworte nach dem Kurs noch einmal die vier Aussagen aus der Aktivierung. Markiere mindestens eine Aussage, bei der sich Deine Einschätzung verändert hat, und erkläre, welche Information dafür entscheidend war.

Formuliere anschließend in zwei Sätzen: Technisch prüfbar ist ... Gesellschaftlich ausgehandelt werden muss ...

Transferaufgabe

Eine Stadt plant ein System, das Jugendlichen automatisch Freizeit-, Förder- und Bildungsangebote empfiehlt. Es nutzt Wohnort, bisherige Anmeldungen, Klickverhalten, Alter, Schulform und Interessen.

Erstelle selbstständig eine begründete Entscheidungsvorlage. Sie soll enthalten: Zweck des Systems, wichtigste Betroffenengruppen, mögliche Proxy-Merkmale, mindestens zwei messbare Fairnessfragen, Risiken für Teilhabe und Privatsphäre, konkrete technische und organisatorische Verbesserungen, menschliche Aufsicht, Beschwerdeweg und Deine abschließende Entscheidung: einsetzen, nur unter Bedingungen einsetzen oder nicht einsetzen.

Bewertet wird nicht, welche der drei Entscheidungen Du wählst, sondern ob Du Daten, Risiken, Werte, Betroffenenperspektiven und Verantwortung nachvollziehbar miteinander verbindest.

Lernnachweis

Für einen Lernnachweis zu diesem Thema ist wichtig, dass Du:

Bias als systematische Verzerrung erklären und von einem einzelnen Zufallsfehler unterscheiden kannst.
Datenqualität und Repräsentation als mögliche Ursachen für Verzerrungen beurteilen kannst.
Fehlerquoten für verschiedene Gruppen berechnen und vergleichen kannst.
Proxy-Merkmale in einer Anwendung erkennen und begründen kannst, warum sie problematisch sein können.
Fairness als Zusammenspiel verschiedener messbarer und gesellschaftlicher Kriterien erklären kannst.
Betroffenenperspektiven und Teilhabe in eine Systembewertung einbeziehen kannst.
Human Oversight und klare Verantwortung als Schutzmaßnahmen begründen kannst.
Quellenkritik auf Behauptungen über KI-Systeme anwenden kannst.
einen nachvollziehbaren Verbesserungsplan entwickeln kannst, der technische und organisatorische Maßnahmen verbindet.
das Gelernte auf eine neue Situation übertragen und eine begründete Entscheidung treffen kannst.

OERs zum Thema

Verknüpfte Lernbereiche

Bias systematisch verringern

Fächerübergreifende Bezüge

Fach	Bezug
Informatik	Daten, Modelle, Merkmale, Evaluation, Feedbackschleifen, Human Oversight
Mathematik	Prozentrechnung, Fehlerquoten, Gruppenvergleich, Aussagekraft von Kennzahlen
Deutsch	Quellenkritik, Sprachwirkung, Begründungen, argumentative Abwägung
Technik	Systemlebenszyklus, Zuverlässigkeit, Testen, Monitoring und Sicherheitsmaßnahmen
Wirtschaft	Personalentscheidungen, Kreditwürdigkeit, Plattformanreize und Effizienz
Geschichte	Historische Daten als Spiegel früherer Chancen, Regeln und gesellschaftlicher Ungleichheiten
Ethik	Gerechtigkeit, Verantwortung, Menschenwürde, Autonomie und Wertkonflikte
Gemeinschaftskunde	Grundrechte, Teilhabe, Regulierung, Macht und demokratische Kontrolle

aiMOOC-Projekte

Inhalte werden geladen ...

Mediathek wird aus dem Wiki geladen ...

Frag mich zum aktuellen Lerninhalt oder wähle eine kurze Hilfe.

Textmodus bereit

Sprache

[1] UNESCO: Recommendation on the Ethics of Artificial Intelligence

[2] Buolamwini und Gebru 2018: Gender Shades

[3] NIST: Demographic Effects in Face Recognition

[4] NIST AI Risk Management Framework

[5] Verordnung EU 2024/1689 – AI Act

[1]

[2]

[3]

[4]

[5]