Diesen aiMOOC als Battle spielen: Deutsch, Klasse 9-10, G-Niveau

Fairness by Design anwenden

Einleitung

Fairness by Design bedeutet, Fairness, Vielfalt, Teilhabe, Sicherheit und Rechenschaft nicht erst am Ende eines KI- oder Datensystems zu prüfen, sondern schon bei der Frage zu beginnen: Welches Problem wollen wir überhaupt lösen, für wen und mit welchen Folgen? Du untersuchst in diesem Lernkurs, wie Entscheidungen durch Daten, Regeln und KI entstehen und wie ein System so gestaltet werden kann, dass unterschiedliche Betroffene gehört werden, Risiken früh sichtbar werden und Menschen wirksam eingreifen können.

Der Kurs richtet sich besonders an die Klasse 10 und verbindet Informatik, Mathematik, Technik, Deutsch, Wirtschaft, Geschichte, Ethik und Gemeinschaftskunde. Für eine Kernfassung sind etwa 90 Minuten vorgesehen; mit Vertiefung und Transfer lässt sich der Kurs auf etwa 120 Minuten erweitern.

Wichtig: Fairness ist kein rein technisches Ziel. Mathematische Kennzahlen können Unterschiede sichtbar machen, aber sie entscheiden nicht allein, welche Unterschiede gerecht, welche Risiken akzeptabel und welche Rechte unverzichtbar sind. Solche Fragen brauchen gesellschaftliche Werte, begründete Entscheidungen, Beteiligung Betroffener und klare Verantwortlichkeit.

Die Infografik zeigt, dass KI nicht nur eine technische Frage ist: Auswirkungen können Arbeit, Bildung, Privatsphäre, Sicherheit und Ungleichheit betreffen. Nutze die Grafik als Einstieg: Welche Folgen würdest Du bei einem KI-System an Deiner Schule zuerst prüfen?

Das Crash-Course-Video zu algorithmischer Verzerrung und Fairness eignet sich für eine kurze Einführung. Beobachte beim Sehen besonders, woher Verzerrungen kommen können und an welcher Stelle des Systemlebenszyklus man eingreifen müsste.

Lernziele

Nach dem Kurs kannst Du ein datenbasiertes oder KI-gestütztes System nicht nur nach seiner Genauigkeit beurteilen. Du kannst:

Systemdesign: Ziele, Betroffene, Daten, Regeln, Schnittstellen und Eingriffsmöglichkeiten eines Systems untersuchen und verbessern.
Evaluation: Ergebnisse mit geeigneten Kennzahlen und Tests für verschiedene Gruppen vergleichen, ohne Kennzahlen mit Gerechtigkeit gleichzusetzen.
Governance: Zuständigkeiten, Dokumentation, Beschwerdewege, menschliche Aufsicht und regelmäßige Überprüfung planen.
Technikfolgenabschätzung: Nutzen, Risiken, Nebenfolgen und Rückkopplungen aus mehreren Perspektiven abschätzen.
Teilhabe: Repräsentation, Barrierefreiheit, Vielfalt und Mitsprache als Gestaltungsaufgaben behandeln.
Transfer: Ein eigenes Fairness-by-Design-Konzept entwickeln, testen, verbessern und Entscheidungen transparent begründen.

Unterrichtsplan für 1–2 Stunden

Zeit	Phase	Auftrag	Schwerpunkt
0–10 Min.	Aktivierung und Diagnose	Fair oder nur gleich? Kurze Fallkarten einschätzen und Begründungen vergleichen.	Vorwissen, Werte, Perspektiven
10–25 Min.	Verständliche Einführung	Fairness by Design, Bias, Repräsentation, Proxy, Human Agency und Fairnesskriterien verstehen.	Informatik, Ethik, Deutsch
25–50 Min.	Anwendungssituation	Das fiktive schulische Vergabesystem „ProjektMatch“ aus mehreren Betroffenenperspektiven prüfen.	Systemdesign, Teilhabe
50–70 Min.	Redesign	Konkrete Verbesserungen an Daten, Kriterien, Oberfläche, Verfahren und Aufsicht entwickeln.	Technik, Wirtschaft, Gemeinschaftskunde
70–85 Min.	Evaluation	Mit Testfällen, Gruppenvergleichen, Fehlerarten und Gegenbeispielen prüfen.	Mathematik, Informatik
85–90 Min.	Reflexion	Exit-Ticket: Was kann Technik lösen, was muss gesellschaftlich entschieden werden?	Ethik, Deutsch
optional 90–120 Min.	Transfer	Neues Anwendungsfeld wählen, Lösung prototypisch entwerfen, testen und begründen.	fächerübergreifender Transfer

Aktivierung und Diagnose: Fair oder nur gleich?

Stell Dir vor, eine Schule hat nur 20 Plätze für ein begehrtes Technikprojekt. Drei Regeln werden vorgeschlagen:

Regel A: Die 20 höchsten Notendurchschnitte erhalten einen Platz.

Regel B: Alle erfüllen eine Mindestanforderung; danach entscheidet ein Los.

Regel C: Es gibt mehrere Zugangswege: Fachleistung, Projektidee oder nachgewiesenes Interesse; zusätzlich werden Barrieren geprüft und Härtefälle können menschlich überprüft werden.

Entscheide zuerst allein, welche Regel Du am fairsten findest. Begründe Deine Wahl mit mindestens zwei Kriterien. Vergleicht anschließend in der Gruppe: Habt Ihr unterschiedliche Vorstellungen von Fairness? Wenn ja, ist das kein Fehler der Aufgabe, sondern der zentrale Punkt. Fairness hängt davon ab, welche Ziele, Rechte, Ausgangsbedingungen und Folgen berücksichtigt werden.

Was bedeutet Fairness by Design?

Bei Privacy by Design wird Datenschutz von Anfang an in die Gestaltung eingebaut. Fairness by Design überträgt diese Grundidee auf gerechte Teilhabe und Nichtdiskriminierung: Nicht nur das Endergebnis, sondern der gesamte Lebenszyklus zählt.

Ein nützlicher Prüfpfad lautet:

Zweck → Betroffene → Daten → Kriterien → Modell oder Regel → Schnittstelle → Entscheidung → Einspruch → Monitoring → Verbesserung

An jeder Station können neue Verzerrungen entstehen. Ein technisch korrekt programmierter Algorithmus kann trotzdem unfair wirken, wenn das Ziel ungeeignet ist, Daten wichtige Gruppen schlecht repräsentieren, indirekte Ersatzmerkmale wirken, die Oberfläche nicht barrierefrei ist oder es keinen wirksamen Einspruch gibt.

Die Grafik veranschaulicht einen Rückkopplungskreislauf: Entscheidungen verändern die Welt, neue Daten entstehen aus dieser veränderten Welt und können die ursprüngliche Verzerrung verstärken. Deshalb gehört Monitoring nach dem Start zum Design.

Repräsentation: Wer kommt in Daten und Problemdefinition vor?

Repräsentation fragt, ob die Vielfalt der betroffenen Menschen und Situationen in Problemdefinition, Daten, Testfällen und Beteiligungsprozessen angemessen vorkommt.

Ein Datensatz kann zahlenmäßig groß und trotzdem schlecht repräsentativ sein. Beispiele:

Stichprobenverzerrung: Bestimmte Gruppen oder Situationen kommen zu selten vor.
Messfehler: Ein Merkmal misst nicht das, was man eigentlich wissen will.
Historische Verzerrung: Daten spiegeln frühere Ungleichheiten wider.
Proxy: Ein scheinbar neutrales Merkmal steht indirekt mit einem sensiblen Merkmal oder einer sozialen Lage in Zusammenhang.
Rückkopplung: Frühere Systementscheidungen bestimmen, welche Daten später überhaupt sichtbar werden.

Frage deshalb nicht nur: „Sind genug Daten vorhanden?“ Frage auch: „Wessen Erfahrungen fehlen, wer wurde wie gemessen und wer konnte die Messkriterien mitbestimmen?“

Geschichte und Quellenkritik: Daten sind Spuren früherer Entscheidungen

Historische Daten sind nicht automatisch neutral. Sie dokumentieren, was unter früheren gesellschaftlichen Bedingungen gemessen, belohnt, übersehen oder ausgeschlossen wurde. Wenn in der Vergangenheit bestimmte Gruppen weniger Zugang zu Technikangeboten hatten, kann die Zahl früherer Digitalprojekte später wie ein objektives Leistungsmerkmal aussehen, obwohl sie auch ungleiche Chancen widerspiegelt.

Für das Fach Geschichte ist deshalb eine quellenkritische Frage besonders wichtig: Unter welchen Bedingungen ist ein Datensatz entstanden? Prüfe Entstehungszeit, Auswahl der erfassten Personen, damalige Regeln, Begriffe und Machtverhältnisse. Daten können Tatsachen enthalten und zugleich historische Ungleichheiten abbilden.

Im Vortrag berichtet Joy Buolamwini, wie ungleiche Erkennungsleistung bei Gesichtsanalyse sichtbar wurde. Für den Unterricht ist daran besonders wichtig: Ein Fehler ist nicht nur eine Zahl. Entscheidend ist auch, für wen ein System häufiger scheitert und welche Folgen daraus entstehen.

Vielfalt und Teilhabe: Wer kann das System tatsächlich nutzen und beeinflussen?

Teilhabe beginnt nicht erst bei der fertigen Entscheidung. Betroffene sollten bei Anforderungen, Tests und Verbesserungen mitreden können. Dazu gehören auch Menschen, die mit üblichen Standardannahmen schlecht erfasst werden.

Barrierefreiheit ist ein gutes Beispiel für Fairness by Design. Ein Bewerbungsverfahren, das nur lange Texte zulässt, kann Menschen mit unterschiedlichen Sprachbiografien, Lese- oder Schreibbarrieren oder bestimmten Behinderungen unnötig benachteiligen. Eine faire Gestaltung könnte mehrere gleichwertige Nachweisformen anbieten, etwa Text, Audio, Portfolio oder kurzes Gespräch – sofern diese Varianten dieselben relevanten Kompetenzen prüfen.

Human Agency bedeutet dabei: Menschen behalten echte Handlungsmöglichkeiten. Sie können eine Entscheidung verstehen, hinterfragen, ergänzende Informationen einbringen, einen Fehler melden und eine Überprüfung verlangen. Ein „Mensch in der Schleife“ genügt nicht, wenn diese Person nur automatisch bestätigt, was das System vorschlägt.

Fairness ist mehrdimensional

Mindestens fünf Perspektiven helfen bei der Analyse:

Perspektive	Leitfrage	Beispiel
Individuelle Fairness	Werden hinreichend ähnliche Fälle nach nachvollziehbaren Kriterien ähnlich behandelt?	Zwei vergleichbare Bewerbungen werden nicht willkürlich unterschiedlich bewertet.
Gruppenbezogene Fairness	Unterscheiden sich Auswahlquoten oder Fehlerarten zwischen relevanten Gruppen auffällig?	Eine Gruppe wird deutlich häufiger fälschlich abgelehnt.
Verfahrensfairness	Sind Regeln, Begründungen, Einspruch und Zuständigkeiten nachvollziehbar?	Betroffene können eine Entscheidung anfechten.
Verteilungsfairness	Wer erhält Nutzen, wer trägt Risiken und Belastungen?	Zeitersparnis für Verwaltung darf nicht allein auf Kosten einzelner Schülergruppen entstehen.
Partizipative Fairness	Konnten Betroffene an Zielen, Kriterien und Tests mitwirken?	Schülervertretung und inklusive Perspektiven werden vor Einführung beteiligt.

Diese Perspektiven können in Spannung geraten. Es gibt deshalb nicht die eine Kennzahl, die „Fairness“ vollständig berechnet. Welche Kriterien Vorrang haben, ist eine normative Entscheidung, die begründet und überprüfbar sein muss.

Die Grafik verdeutlicht, dass unterschiedliche formale Entscheidungsregeln unterschiedliche gesellschaftliche Wirkungen haben können. Schon die Wahl der Regel enthält Wertentscheidungen.

Mathematische Evaluation: Welche Fehler entstehen – und für wen?

Bei einer Klassifikation kann ein System zum Beispiel „einladen“ oder „nicht einladen“ vorhersagen. Vier Fälle sind möglich:

Richtig positiv: geeignet und eingeladen.

Falsch positiv: nicht geeignet, aber eingeladen.

Richtig negativ: nicht geeignet und nicht eingeladen.

Falsch negativ: geeignet, aber nicht eingeladen.

Für Fairnessanalysen sind oft die Fehlerarten wichtiger als nur die Gesamtgenauigkeit. Ein System kann insgesamt 90 Prozent korrekt sein und trotzdem bei einer bestimmten Gruppe viele geeignete Personen übersehen.

Beispiel: Gruppe A hat 20 tatsächlich geeignete Bewerbende; 16 werden eingeladen. Die Trefferquote für Geeignete beträgt 16/20 = 80 Prozent. Gruppe B hat 10 tatsächlich geeignete Bewerbende; nur 5 werden eingeladen. Dort beträgt sie 5/10 = 50 Prozent.

Dieser Unterschied ist ein Warnsignal, aber noch keine automatische Antwort auf die Frage nach Gerechtigkeit. Du musst zusätzlich prüfen: Sind die Vergleichsgruppen sinnvoll? Sind die Daten zuverlässig? Wie schwer wiegen falsche Ablehnungen? Gibt es legitime, transparente Gründe? Welche Rechte sind betroffen?

Realistische Anwendungssituation: ProjektMatch an der Schule

Eine Schule möchte 30 Plätze für ein halbjähriges Technikprojekt mit externen Praktikumsanteilen vergeben. Weil 90 Bewerbungen eingehen, soll ein datenbasiertes System namens ProjektMatch eine Rangliste erstellen. Es verwendet:

Notendurchschnitt in Mathematik und Informatik
Fehlzeiten
Länge eines Motivationstextes
Zahl freiwilliger digitaler Projekte
Einschätzung einer Lehrkraft auf einer Skala von 1 bis 5

Die Schulleitung verspricht schnellere Entscheidungen. Einige Lernende äußern jedoch Bedenken.

Perspektive 1 – Schülerin mit chronischer Erkrankung: Fehlzeiten können gesundheitlich bedingt sein und wenig über Motivation oder Eignung aussagen.

Perspektive 2 – neu zugewanderter Schüler: Ein langer deutscher Motivationstext kann Sprachkompetenz stärker messen als technisches Potenzial.

Perspektive 3 – Schüler ohne leistungsfähigen Computer zu Hause: Die Zahl privater Digitalprojekte kann Zugang zu Zeit, Geräten und Unterstützung widerspiegeln.

Perspektive 4 – Lehrkraft: Eine einzelne Bewertung kann Kontextwissen enthalten, aber auch subjektive Erwartungen und uneinheitliche Maßstäbe.

Perspektive 5 – Schulleitung: Das Verfahren soll praktikabel, dokumentierbar, rechtssicher und innerhalb kurzer Zeit durchführbar sein.

Perspektive 6 – Schülervertretung: Betroffene wollen wissen, welche Kriterien zählen, wie sie korrigiert werden können und wer bei Fehlern zuständig ist.

Systemdesign: Vom Problem zur faireren Lösung

Bearbeite ProjektMatch als Designteam. Nutzt den folgenden Ablauf:

Designfrage	Prüffrage	Mögliche Verbesserung
Zweck	Soll das System „beste Noten“ oder „Potenzial für das Projekt“ erkennen?	Ziel explizit definieren und mit Projektzielen abgleichen.
Daten	Welche Merkmale sind wirklich relevant, welche nur bequem verfügbar?	Fehlzeiten nur kontextbezogen nutzen oder entfernen; private Ressourcen nicht als Leistungsersatz werten.
Nachweise	Gibt es nur einen Ausdruck von Motivation?	Gleichwertige Formate wie Kurztext, Audio, Portfolio oder Gespräch zulassen.
Modell oder Regel	Können einzelne Kriterien andere unfair dominieren?	Gewichtungen testen, Obergrenzen setzen, sensible Proxies prüfen.
Oberfläche	Können alle den Prozess bedienen?	Barrierearme Sprache, mobile Nutzung, Untertitel, Screenreader-Kompatibilität und Alternativen planen.
Menschliche Aufsicht	Kann ein Mensch sinnvoll widersprechen?	Begründung, Kontextprüfung und dokumentierte Override-Regeln vorsehen.
Einspruch	Können Betroffene Fehler korrigieren?	Niedrigschwelliger Beschwerde- und Korrekturweg mit Frist.
Monitoring	Wird nach Einführung weiter geprüft?	Regelmäßige Gruppen- und Fehleranalyse, qualitative Rückmeldungen und Änderungsprotokoll.

Designregel: Entferne nicht einfach jedes Merkmal, das sensibel wirkt. Manchmal braucht man bestimmte Gruppendaten gerade für einen Fairness-Test. Entscheidend sind Zweckbindung, Datenschutz, Verhältnismäßigkeit und sichere Auswertung.

Evaluation: Testen, Gegenbeispiele suchen, verbessern

Ein Fairness-Test sollte mindestens drei Ebenen verbinden:

1. Funktionstest: Tut das System technisch, was spezifiziert wurde?

2. Fairnesstest: Unterscheiden sich relevante Ergebnisse oder Fehlerarten zwischen Gruppen? Gibt es Fälle, in denen ähnliche Personen ohne sachlichen Grund unterschiedlich behandelt werden?

3. Wirkungstest: Welche realen Folgen entstehen? Werden Menschen ausgeschlossen, eingeschüchtert oder daran gehindert, Fehler zu korrigieren?

Nutze Gegenbeispiele: Verändere in einem Testfall nur ein Merkmal, das für die Eignung irrelevant sein sollte. Ändert sich das Ergebnis stark, ist eine genauere Prüfung nötig.

Nutze außerdem Randfälle: Was passiert bei fehlenden Daten, ungewöhnlichen Biografien, technischen Störungen oder widersprüchlichen Informationen?

Governance: Wer trägt Verantwortung?

Governance bedeutet, dass Verantwortung nicht im Satz „Das System hat so entschieden“ verschwindet. Für ein schulisches System braucht es mindestens klare Rollen für Entscheidung, Betrieb, Prüfung und Beschwerde.

Die Grafik trennt beispielhaft Governance-Autorität, operative Verantwortung und unabhängige Prüfung. Für eine Schule kann das vereinfacht heißen:

Schulleitung: genehmigt Zweck, Grenzen und Verantwortlichkeiten.
Projektteam: betreibt das Verfahren, dokumentiert Änderungen und beobachtet Fehler.
Unabhängige Prüfung: überprüft Stichproben, Beschwerden und Fairnessberichte.
Betroffene: erhalten verständliche Informationen, Beteiligungsmöglichkeiten und einen Einspruchsweg.

Gute Governance fragt auch: Wer darf das System stoppen? Wer entscheidet bei Unsicherheit? Wie werden Vorfälle dokumentiert? Wann wird ein System neu geprüft oder abgeschaltet?

In Europa verfolgt der AI Act einen risikobasierten Ansatz. Für bestimmte sensible Einsatzfelder, darunter Teile von Bildung und Beschäftigung, sind unter anderem Risikomanagement, Datenqualität, Dokumentation und menschliche Aufsicht wichtige Governance-Themen. Für den Unterricht entscheidend ist weniger das Auswendiglernen einzelner Artikel als die Grundidee: Je größer mögliche Auswirkungen auf Rechte und Chancen, desto höher müssen Prüfung und Verantwortung sein.

Folgenabschätzung: Vor dem Einsatz an Nebenfolgen denken

Eine Technikfolgenabschätzung betrachtet nicht nur den gewünschten Nutzen. Nutze für ProjektMatch diese sechs Felder:

Feld	Leitfragen
Nutzen	Welches Problem wird tatsächlich besser gelöst?
Direkte Risiken	Wer kann fälschlich abgelehnt, falsch eingestuft oder schlecht informiert werden?
Verteilung	Wer profitiert, wer trägt zusätzlichen Aufwand?
Langzeitfolgen	Verändert das System Verhalten, Selbstbild oder Lernchancen?
Rückkopplung	Erzeugen die Entscheidungen neue Daten, die spätere Entscheidungen verzerren?
Alternativen	Braucht es überhaupt KI oder reicht ein transparenteres einfaches Verfahren?

Die letzte Frage ist zentral: Fairness by Design kann auch bedeuten, ein System nicht einzusetzen. Automatisierung ist kein Selbstzweck.

Cathy O’Neil zeigt, warum wichtige algorithmische Entscheidungen kritisch geprüft werden müssen. Übertrage die Idee auf die Schule: Welche Kriterien wären so folgenreich, dass sie nicht ohne Begründung und Einspruch verwendet werden sollten?

Gestaltung: Transparenz, Sicherheit und Human Agency

Eine faire Lösung sollte verständlich kommunizieren:

Zweck: Was soll das System leisten – und was ausdrücklich nicht?

Daten: Welche Daten werden verwendet, woher stammen sie und wie lange werden sie benötigt?

Kriterien: Welche Merkmale zählen, welche wurden bewusst ausgeschlossen und warum?

Unsicherheit: Wo kann das System irren oder wenig zuverlässig sein?

Menschliche Entscheidung: Wer prüft, kann überstimmen und trägt Verantwortung?

Beschwerde: Wie können Betroffene korrigieren, widersprechen oder eine erneute Prüfung verlangen?

Sicherheit: Welche Daten sollten nicht in frei zugängliche KI-Dienste eingegeben werden? Für Schulübungen verwendet Ihr möglichst synthetische oder anonymisierte Testdaten.

Quellenkritik: Ein KI-System kann plausible, aber falsche Begründungen erzeugen. Prüfe wichtige Aussagen an verlässlichen Quellen und trenne Beobachtung, Vermutung und Werturteil.

Quellen und gesicherte Orientierungen

Für diesen Kurs sind besonders drei Orientierungen nützlich:

UNESCO-Empfehlung zur Ethik der Künstlichen Intelligenz: betont Menschenwürde, Fairness, Nichtdiskriminierung, Transparenz, Vielfalt, Inklusion und menschliche Aufsicht.
NIST AI Risk Management Framework: behandelt vertrauenswürdige KI unter anderem mit Fairness, Transparenz, Sicherheit und fortlaufendem Risikomanagement.
Europäische Kommission zum AI Act: erläutert den risikobasierten Regulierungsansatz und Anforderungen an besonders folgenreiche KI-Anwendungen.

Lies Quellen nicht nur auf Schlagwörter. Prüfe Herausgeber, Aktualität, Zweck und ob eine Quelle zwischen technischer Leistung, rechtlichen Pflichten und ethischen Bewertungen unterscheidet.

Fächerübergreifende Bezüge

Fach	Beitrag zum Thema
Informatik	Daten, Modelle, Klassifikation, Testfälle, Proxies, Systemlebenszyklus
Mathematik	Anteile, Fehlerquoten, Gruppenvergleiche, Interpretation von Kennzahlen
Technik	Gestaltung soziotechnischer Systeme, Robustheit, Barrierefreiheit, Sicherheitsdenken
Deutsch	verständliche Begründungen, Argumentation, Quellenkritik, Perspektivwechsel
Wirtschaft	Auswahlverfahren, Effizienz, Anreize, Kosten von Fehlern, Verantwortung von Organisationen
Geschichte	historische Ungleichheiten als Teil heutiger Datenbestände und Institutionen
Ethik	Gerechtigkeitsbegriffe, Menschenwürde, Folgen, Pflichten, Beteiligung
Gemeinschaftskunde	Rechte, Institutionen, Regulierung, demokratische Teilhabe und Rechenschaft

Finale Design-Challenge: Entwickeln – testen – verbessern – begründen

Dein Team erhält die Aufgabe, ProjektMatch neu zu gestalten. Das Ergebnis ist kein fertiger KI-Code, sondern ein verantwortbares Systemkonzept.

Schritt 1 – Entwickeln: Definiert Zweck, Zielgruppe, relevante Kriterien, ausgeschlossene Kriterien, alternative Zugangswege, Barrierefreiheit, menschliche Aufsicht und Einspruch.

Schritt 2 – Testen: Erstellt mindestens sechs synthetische Testfälle mit unterschiedlichen Lebenslagen. Prüft Auswahl, falsche Ablehnungen, Grenzfälle und Verständlichkeit.

Schritt 3 – Verbessern: Sucht gezielt nach einem Fall, bei dem Eure erste Lösung ungerecht wirkt. Ändert das Design und dokumentiert, was Ihr geändert habt.

Schritt 4 – Begründen: Erstellt eine kurze „Design-Entscheidungskarte“ mit vier Spalten: Entscheidung, Begründung, erwarteter Nutzen, verbleibendes Risiko.

Schritt 5 – Transparenz: Formuliert eine verständliche Information für Bewerbende: Was passiert mit ihren Angaben? Wer entscheidet? Wie können sie eine Entscheidung anfechten?

Damit zeigt Ihr Human Agency: Ihr nutzt Technik als Werkzeug, aber gebt Wertentscheidungen und Verantwortung nicht an das Werkzeug ab.

Reflexion und Transfer

Beantworte zum Abschluss drei Fragen:

Wertfrage: Welche Fairnessentscheidung in Eurem Entwurf konnte nicht allein durch Mathematik entschieden werden?
Betroffenenperspektive: Welche Perspektive hat Euren ersten Entwurf am stärksten verändert?
Transfer: Welche Elemente Eures Designs würdest Du auf ein anderes System übertragen, etwa Praktikumsvergabe, Jugendzentrum, Vereinsförderung, Bibliothekszugang oder kommunale Beteiligung?

Interaktive Aufgaben

Quiz: Teste Dein Wissen

Warum beginnt Fairness by Design schon bei der Problemdefinition? (Weil bereits das Ziel festlegt welche Werte und Betroffenenperspektiven zählen) (!Weil Fairness erst nach dem Programmieren gemessen werden kann) (!Weil große Datensätze automatisch neutral sind) (!Weil nur die Benutzeroberfläche über Fairness entscheidet)

Welche Aussage beschreibt Repräsentation am besten? (Es wird geprüft ob relevante Menschen Situationen und Erfahrungen angemessen in Daten und Tests vorkommen) (!Es wird nur geprüft ob der Datensatz besonders groß ist) (!Es wird nur geprüft ob alle Daten im gleichen Dateiformat gespeichert sind) (!Es wird geprüft ob ein Modell möglichst viele Variablen verwendet)

Was ist ein Proxy im Fairnesskontext? (Ein Merkmal das indirekt Informationen über andere relevante oder sensible Eigenschaften tragen kann) (!Eine Person die jede KI Entscheidung bestätigt) (!Eine besonders genaue Fairnesskennzahl) (!Ein Verfahren zum zufälligen Löschen von Daten)

Warum reicht hohe Gesamtgenauigkeit für eine Fairnessbewertung nicht aus? (Weil sich Fehlerarten und Folgen zwischen Gruppen stark unterscheiden können) (!Weil Genauigkeit grundsätzlich nie gemessen werden darf) (!Weil faire Systeme immer genau fünfzig Prozent Genauigkeit haben) (!Weil Gruppenvergleiche nur bei Computerspielen sinnvoll sind)

Was stärkt Human Agency in einem Entscheidungssystem? (Ein verständlicher Einspruchsweg mit wirksamer menschlicher Überprüfung) (!Eine automatisch bestätigende Person ohne Eingriffsmöglichkeit) (!Ein geheimes Bewertungsschema) (!Eine Entscheidung ohne Begründung)

Welche Maßnahme gehört zu guter Governance? (Klare Zuständigkeiten für Betrieb Prüfung Beschwerden und Änderungen) (!Alle Verantwortung an das Modell übertragen) (!Nur erfolgreiche Fälle dokumentieren) (!Das System nach der Einführung nicht mehr prüfen)

Was zeigt eine hohe Zahl falscher Ablehnungen in einer Gruppe? (Ein Warnsignal das genauer auf Ursachen und Folgen untersucht werden sollte) (!Den sicheren Beweis dass jede einzelne Entscheidung rechtswidrig ist) (!Dass die Gruppe aus dem Test entfernt werden sollte) (!Dass nur noch die Gesamtgenauigkeit betrachtet werden darf)

Warum können gesellschaftliche Wertfragen nicht rein technisch gelöst werden? (Weil technische Kennzahlen nicht allein festlegen welche Ziele Rechte und Verteilungen gerecht sind) (!Weil Mathematik keinerlei Rolle bei Evaluation spielt) (!Weil Programmcode immer zufällig entscheidet) (!Weil gesellschaftliche Entscheidungen keine Begründung brauchen)

Welche Vorgehensweise passt zu Fairness by Design? (System vor dem Einsatz mit vielfältigen Testfällen prüfen und nach dem Einsatz weiter beobachten) (!Nur nach Beschwerden reagieren) (!Nur einen durchschnittlichen Testfall verwenden) (!Das System nach erfolgreichem Start unverändert lassen)

Was kann bei einer Folgenabschätzung eine gute Entscheidung sein? (Auf Automatisierung zu verzichten wenn Nutzen und Risiken kein verantwortbares Verhältnis ergeben) (!Jedes verfügbare KI System einzusetzen) (!Risiken geheim zu halten damit das System akzeptiert wird) (!Nur die Rechenzeit des Systems zu bewerten)

Memory

Repräsentation	Angemessene Abbildung relevanter Menschen und Situationen
Proxy	Indirektes Ersatzmerkmal mit möglicher Nebenwirkung
Human Agency	Wirksame menschliche Handlungs und Einspruchsmöglichkeit
Governance	Klare Regeln Zuständigkeiten und Kontrolle
Evaluation	Systematisches Prüfen von Leistung Fehlern und Wirkungen
Teilhabe	Beteiligung Betroffener an Gestaltung und Überprüfung
Monitoring	Fortlaufende Beobachtung nach der Einführung
Folgenabschätzung	Untersuchung von Nutzen Risiken und Nebenfolgen

Drag and Drop

Ordne die richtigen Begriffe zu.	Thema
Problemdefinition	Welches Ziel soll das System verfolgen und warum?
Repräsentation	Wer kommt in Daten Tests und Beteiligung angemessen vor?
Evaluation	Welche Fehler und Unterschiede werden mit Testfällen sichtbar?
Governance	Wer entscheidet überwacht dokumentiert und bearbeitet Beschwerden?
Transfer	Wie wird das Vorgehen auf einen neuen Anwendungsfall übertragen?

...

Kreuzworträtsel

Fairness	Wie heißt das Ziel gerechter und begründbarer Behandlung?
Audit	Wie nennt man eine systematische unabhängige Prüfung?
Teilhabe	Welcher Begriff beschreibt Beteiligung und Zugang?
Proxy	Wie heißt ein indirektes Ersatzmerkmal?
Governance	Wie heißt das System aus Regeln Zuständigkeiten und Aufsicht?
Transparenz	Wie heißt die Nachvollziehbarkeit von Zweck Kriterien und Verfahren?

LearningApps

Lückentext

Fairness by Design beginnt bereits bei der

, weil dort Ziele und Wertannahmen festgelegt werden. Gute

bedeutet, dass relevante Menschen und Situationen in Daten, Tests und Beteiligung angemessen berücksichtigt werden. Ein

kann indirekt Informationen über andere Merkmale tragen und dadurch unerwartete Benachteiligungen erzeugen. Bei der Evaluation sollte man nicht nur die Gesamtgenauigkeit, sondern auch

für verschiedene Gruppen untersuchen. Ein wirksamer Einspruchsweg stärkt die

der Betroffenen. Klare Zuständigkeiten und Dokumentation sind Bestandteile guter

. Eine

untersucht neben dem Nutzen auch Risiken, Verteilungseffekte und Langzeitfolgen. Nach der Einführung braucht ein System fortlaufendes

, damit neue Probleme erkannt werden. Mathematische Kennzahlen können Unterschiede sichtbar machen, ersetzen aber keine gesellschaftliche

. Ein verantwortbarer Entwurf wird getestet, kritisiert und anschließend

.

Offene Aufgaben

Leicht

Fairness-Tagebuch: Beobachte einen Tag lang drei digitale Entscheidungssituationen und notiere jeweils, wer Vorteile, Nachteile oder keine Wahlmöglichkeit haben könnte.
Perspektivwechsel: Schreibe zwei kurze Absätze zur ProjektMatch-Situation aus Sicht zweier unterschiedlich betroffener Personen und markiere, welche Informationen jeweils wichtig sind.
Kriteriencheck: Prüfe die fünf Kriterien von ProjektMatch und ordne jedem Kriterium „relevant“, „riskant“ oder „unklar“ zu. Begründe jede Entscheidung in einem Satz.
Transparenztext: Formuliere eine verständliche Information für Zehntklässlerinnen und Zehntklässler, die erklärt, wie ein schulisches Auswahlsystem arbeitet und wie Einspruch möglich ist.

Standard

Fairness-Testfälle: Entwickle sechs synthetische Bewerbungsprofile und prüfe, ob ähnliche Fälle ähnlich behandelt werden. Suche bewusst mindestens einen Grenzfall.
Fehleranalyse: Erstelle für zwei Gruppen je eine kleine Tabelle mit richtig positiven, falsch positiven, richtig negativen und falsch negativen Fällen und interpretiere die Unterschiede.
Redesign: Ersetze mindestens zwei problematische Kriterien von ProjektMatch durch fairere Alternativen und beschreibe neue Risiken, die dadurch entstehen könnten.
Mini-Audit: Entwirf eine Prüfliste mit zehn Fragen zu Zweck, Daten, Barrierefreiheit, Gruppenunterschieden, Sicherheit, Aufsicht, Einspruch und Monitoring.

Schwer

Fairnesskonflikt: Entwickle zwei plausible Fairnesskriterien, die im selben Fall zu unterschiedlichen Entscheidungen führen, und begründe, welche Regel Du unter welchen Bedingungen bevorzugen würdest.
Governance-Plan: Entwirf Rollen, Freigaben, Stopprechte, Beschwerdewege und Prüfintervalle für ein schulisches KI-System. Begründe, warum keine Rolle allein über alles entscheiden sollte.
Folgenabschätzung: Analysiere einen neuen Fall wie Praktikumsvergabe, Jugendförderung oder kommunale Beteiligung mit Nutzen, Risiken, Verteilung, Langzeitfolgen, Rückkopplungen und Alternativen.
Design-Challenge: Entwickle eine eigene faire Lösung, teste sie an Gegenbeispielen, überarbeite sie nach Feedback und dokumentiere transparent, welche Wertentscheidungen weiterhin umstritten bleiben.

Lernkontrolle

Systemanalyse: Eine Schule möchte Bewerbungen automatisch vorsortieren. Erkläre, an welchen drei Stellen vor dem eigentlichen Modell bereits Unfairness entstehen kann, und entwickle für jede Stelle eine Gegenmaßnahme.
Kennzahlen und Werte: Zwei Gruppen haben unterschiedliche Fehlablehnungsraten. Beschreibe, welche weiteren Informationen Du brauchst, bevor Du beurteilst, ob das Verfahren unfair ist.
Governance-Transfer: Übertrage die Rollen aus ProjektMatch auf ein kommunales Vergabesystem für Jugendprojekte und begründe mindestens eine notwendige Änderung.
Gegenbeispieltest: Entwirf zwei fast identische Profile, bei denen nur ein sachlich irrelevantes Merkmal verändert wird. Erkläre, was ein stark unterschiedliches Ergebnis über das System aussagen könnte.
Entscheidung unter Unsicherheit: Ein System spart viel Verwaltungszeit, zeigt aber bei einer kleinen Gruppe eine deutlich höhere Fehlerquote. Entwickle drei Handlungsoptionen und vergleiche sie nach Fairness, Sicherheit und Praktikabilität.
Normative Begründung: Erkläre an einem selbst gewählten Fall, warum „alle gleich behandeln“ und „faire Chancen schaffen“ zu unterschiedlichen Entscheidungen führen können.

Lernnachweis

Für einen überzeugenden Lernnachweis zu Fairness by Design anwenden solltest Du zeigen, dass Du:

ein System mit Zweck, Betroffenen, Daten, Regeln, Schnittstellen und Folgen strukturiert analysieren kannst.
Repräsentation, Vielfalt, Teilhabe und Barrierefreiheit aus mehreren Perspektiven prüfen kannst.
einfache Kennzahlen zu Fehlerarten korrekt berechnen und vorsichtig interpretieren kannst.
technische Befunde von gesellschaftlichen Wertentscheidungen unterscheiden kannst.
mindestens eine konkrete Verbesserung entwickeln und mit Testfällen überprüfen kannst.
Governance mit Zuständigkeiten, menschlicher Aufsicht, Einspruch, Dokumentation und Monitoring planen kannst.
verbleibende Risiken und Unsicherheiten offen benennen kannst.
Deine Designentscheidungen verständlich, transparent und quellenkritisch begründen kannst.
einen Transfer auf einen neuen Anwendungsfall selbstständig leisten kannst.

OERs zum Thema

Als vertiefender Wikipedia-Einstieg eignet sich der Artikel zu Diskriminierungsrisiken bei maschinellem Lernen:

Weitere sinnvolle interne Verknüpfungen sind Algorithmic Bias, Ethik der künstlichen Intelligenz, Maschinelles Lernen, Diskriminierung, Barrierefreiheit, Datenschutz, Technikfolgenabschätzung und Regulierung von künstlicher Intelligenz.

Verknüpfte Lernbereiche

Fairness by Design verbindet Problemdefinition, Repräsentation, Datenqualität, mathematische Evaluation, Barrierefreiheit, Teilhabe, Governance, Folgenabschätzung, menschliche Aufsicht und transparente Begründung. Die folgenden Lernbereiche helfen Dir beim Vertiefen und Übertragen:

Fairness by Design anwenden

aiMOOC-Projekte

Inhalte werden geladen ...

Mediathek wird aus dem Wiki geladen ...

Frag mich zum aktuellen Lerninhalt oder wähle eine kurze Hilfe.

Textmodus bereit

Sprache