Die Druckversion wird nicht mehr unterstützt und kann Darstellungsfehler aufweisen. Bitte aktualisiere deine Browser-Lesezeichen und verwende stattdessen die Standard-Druckfunktion des Browsers.

Diesen aiMOOC als Battle spielen: Deutsch, Klasse 9-10, G-Niveau

Fairness von KI untersuchen

Einleitung

Künstliche Intelligenz wirkt oft sachlich: Daten hinein, Ergebnis heraus. Doch ob ein KI-System fair ist, lässt sich nicht allein daran erkennen, ob es technisch gut funktioniert. Es kommt darauf an, wer in den Daten vorkommt, welche Ziele ein System verfolgt, welche Fehler für verschiedene Gruppen entstehen, wer von Entscheidungen profitiert oder belastet wird und wer Verantwortung trägt.

In diesem aiMOOC untersuchst Du Fairness deshalb als sozio-technische Aufgabe: Technik, Daten, Regeln, Institutionen und gesellschaftliche Werte wirken zusammen. Du lernst, Daten und Systeme zu prüfen, unterschiedliche Betroffenenperspektiven einzunehmen, Risiken abzuwägen und konkrete Verbesserungen zu entwickeln. Am Ende überträgst Du Dein Vorgehen selbstständig auf eine neue Situation und begründest eine verantwortliche Entscheidung.

Die Abbildung zeigt eine wichtige Unterscheidung: Gleichbehandlung bedeutet nicht automatisch gerechte Teilhabe. Wenn Menschen unterschiedliche Voraussetzungen oder Barrieren haben, kann dieselbe Behandlung zu sehr unterschiedlichen Ergebnissen führen.

Zielgruppe, Zeit und Fächerbezug

Merkmal	Planung
Zielgruppe	Schule, Schwerpunkt Klasse 9
Zeit	Kernpfad etwa 60 bis 90 Minuten; Vertiefungen und offene Projekte sind optional
Informatik	Trainingsdaten, Merkmale, Modelle, Fehlerarten, Audit, menschliche Aufsicht
Mathematik	Anteile, Auswahlquoten, Fehlerquoten, Vergleich von Gruppen
Deutsch	Begriffe prüfen, Argumente formulieren, Quellen und Begründungen bewerten
Ethik	Gerechtigkeit, Verantwortung, Würde, Autonomie, Nichtdiskriminierung
Gemeinschaftskunde	Teilhabe, Grundrechte, demokratische Kontrolle, Regulierung
Wirtschaft	Chancenverteilung, Effizienz, Kosten von Fehlentscheidungen, Verantwortung von Organisationen
Technik	Systemgrenzen, Qualitätssicherung, Sicherheits- und Kontrollmechanismen
Geschichte	Historische Ungleichheiten als mögliche Spuren in heutigen Daten

Lernziele

Nach dem Kernpfad kannst Du erklären, warum Fairness von KI nicht nur eine Frage des Programmcodes ist. Du kannst Repräsentation in Daten untersuchen, einfache Gruppen- und Fehlerquoten berechnen, unterschiedliche Fairnessvorstellungen vergleichen und beurteilen, welche gesellschaftlichen Folgen Fehler haben können. Du kannst außerdem Verbesserungen vorschlagen und begründen, wann menschliche Kontrolle, Transparenz oder sogar der Verzicht auf ein KI-System sinnvoll sein können.

Ablauf für 1 bis 2 Unterrichtsstunden

Aktivierung und Diagnose, 5 bis 10 Minuten: Spontane Urteile zu vier KI-Entscheidungen sammeln.
Verständliche Einführung, 10 bis 15 Minuten: Fairness, Bias, Repräsentation und Teilhabe klären.
Daten- und Systemanalyse, 20 bis 25 Minuten: Das Schulbeispiel auswerten und Kennzahlen vergleichen.
Perspektiven und Risikoabwägung, 15 bis 20 Minuten: Betroffene, Folgen und Zielkonflikte untersuchen.
Verbesserung und Entscheidung, 10 bis 15 Minuten: Maßnahmen entwickeln und begründen.
Selbstkontrolle und Transfer, 10 bis 15 Minuten: Neue Situation bearbeiten und Entscheidung rechtfertigen.

Die weiteren interaktiven Aufgaben und offenen Projekte dienen als Vertiefung, Hausaufgabe oder Materialpool.

Aktivierung und Diagnose

Vier schnelle Urteile

Entscheide zunächst ohne lange Diskussion, ob Du die folgenden Situationen eher für fair, unklar oder problematisch hältst. Begründe jeweils mit einem Satz.

Eine KI sortiert Bewerbungen nach früheren Schulnoten.
Eine Lernplattform empfiehlt allen Schülerinnen und Schülern dieselben Aufgaben.
Eine Gesichtserkennung funktioniert bei manchen Personengruppen deutlich schlechter als bei anderen.
Ein KI-System schlägt eine Entscheidung vor, aber eine verantwortliche Person prüft jeden Fall.

Vergleicht anschließend Eure Begründungen. Achtet darauf, ob Ihr über gleiche Regeln, gleiche Chancen, gleiche Ergebnisse, Fehlerfolgen oder Mitbestimmung sprecht. Genau hier beginnt die Fairnessanalyse.

Diagnosefrage

Kann ein KI-System mathematisch korrekt rechnen und trotzdem unfair sein?

Notiere Deine erste Antwort. Du überprüfst sie am Ende erneut.

Was bedeutet Fairness bei KI?

Fairness bedeutet nicht einfach, dass ein System für alle exakt dasselbe tut. Je nach Situation können unterschiedliche Vorstellungen von Gerechtigkeit wichtig sein.

Gleichbehandlung: Für alle gelten dieselben Regeln.
Faire Chancen: Menschen sollen nicht wegen sachfremder Merkmale schlechtere Möglichkeiten haben.
Teilhabe: Ein System soll auch für Menschen mit unterschiedlichen Voraussetzungen zugänglich und nutzbar sein.
Nichtdiskriminierung: Bestimmte Gruppen dürfen nicht ungerecht benachteiligt werden.
Faires Verfahren: Entscheidungen sollen nachvollziehbar, anfechtbar und verantwortet sein.

Diese Ziele können zusammenpassen, aber auch miteinander in Spannung geraten. Ein System kann zum Beispiel für zwei Gruppen dieselbe Auswahlquote erreichen, obwohl die Fehlerraten unterschiedlich sind. Umgekehrt können gleiche Fehlerraten zu unterschiedlichen Auswahlquoten führen. Deshalb ist die Wahl eines Fairnessmaßes immer auch eine Wertentscheidung.

Der Film der Antidiskriminierungsstelle des Bundes eignet sich als kurzer Einstieg in die Frage, wie algorithmische Entscheidungen Menschen benachteiligen können.

Gleichheit ist nicht immer Gerechtigkeit

Diversität beschreibt, dass unterschiedliche Menschen und Perspektiven vorkommen. Repräsentation fragt, ob diese Vielfalt in Daten, Tests und Entwicklung angemessen berücksichtigt wird. Teilhabe geht darüber hinaus: Betroffene sollen Zugang haben, ihre Interessen einbringen können und bei wichtigen Entscheidungen nicht machtlos sein.

Ein Datensatz kann statistisch vielfältig aussehen und trotzdem relevante Gruppen übersehen. Beispielsweise können Menschen mit Behinderungen, seltene Sprachvarianten oder Personen mit bestimmten technischen Zugangsproblemen unterrepräsentiert sein.

Wo kann Unfairness entstehen?

Fairness entlang des gesamten Systems

Unfairness kann an mehreren Stellen entstehen:

Ziel: Was soll das System überhaupt optimieren? Schnelligkeit, Genauigkeit, Kosten, Sicherheit oder Teilhabe?
Datenerhebung: Wer kommt in den Daten vor und wer fehlt?
Messung: Wird das richtige Merkmal gemessen oder nur ein ungenauer Ersatz?
Training: Welche Muster lernt das Modell aus vergangenen Entscheidungen?
Schwellenwert: Ab wann gibt das System eine positive oder negative Empfehlung?
Einsatz: Wird eine Empfehlung nur unterstützt oder entscheidet sie praktisch allein?
Rückkopplung: Verändert das System die Wirklichkeit so, dass seine eigenen Annahmen später scheinbar bestätigt werden?
Kontrolle: Werden Fehlergruppen, Beschwerden und Folgen regelmäßig geprüft?

Menschen hinter den Daten

Trainingsdaten entstehen nicht von selbst. Menschen entscheiden, welche Beispiele gesammelt, wie Kategorien definiert und welche Daten als korrekt markiert werden. Schon diese Schritte enthalten Entscheidungen und mögliche Unsicherheiten.

Ein wichtiges Beispiel ist ein Proxy-Merkmal. Dabei wird ein leicht messbares Merkmal als Ersatz für etwas anderes verwendet. Ein System könnte zum Beispiel häufige Teilnahme an Online-Übungen als Zeichen für Motivation deuten. Das kann unfair sein, wenn manche Lernende zu Hause keinen stabilen Internetzugang haben.

Geschichte steckt in Daten

Daten über vergangene Entscheidungen sind keine neutrale Kopie der Welt. Sie zeigen auch frühere Regeln, Machtverhältnisse, Zugangshürden und gesellschaftliche Ungleichheiten. Wenn ein KI-System historische Entscheidungen nachahmt, kann es solche Muster weitertragen.

Der fächerübergreifende Blick ist deshalb wichtig: Geschichte erklärt, wie Ungleichheiten entstanden sein können; Mathematik hilft, Unterschiede sichtbar zu machen; Informatik untersucht das System; Ethik fragt nach Gerechtigkeit; Gemeinschaftskunde nach Rechten und demokratischer Kontrolle.

Anschauliches Beispiel: Gesichtsanalyse

Die Studie Gender Shades von Joy Buolamwini und Timnit Gebru untersuchte 2018 drei kommerzielle Systeme zur Geschlechtsklassifikation von Gesichtern. In ihrem Test waren die Fehler zwischen untersuchten Gruppen sehr unterschiedlich: Für dunkelhäutige Frauen wurden deutlich höhere Fehlerraten gemessen als für hellhäutige Männer. Das Beispiel zeigt, warum eine hohe Gesamtgenauigkeit allein nicht genügt.

Achte beim Video besonders auf drei Fragen: Welche Erfahrung löste die Untersuchung aus? Welche Rolle spielten Trainings- und Testdaten? Welche Verantwortung tragen Entwicklerinnen, Entwickler, Organisationen und Gesellschaft?

Das Beispiel darf nicht verallgemeinert werden zu der Behauptung, jedes Gesichtserkennungssystem habe dieselben Fehler. Leistung hängt unter anderem vom konkreten System, den Daten, der Anwendung und den Testbedingungen ab. Genau deshalb sind transparente, gruppenspezifische Tests wichtig.

Mathematik der Fairness: Fehler sichtbar machen

Konfusionsmatrix verstehen

Bei einer Ja-Nein-Entscheidung sind vier Fälle möglich:

Wirklichkeit	KI sagt Ja	KI sagt Nein
Geeignet	Richtig positiv	Falsch negativ
Nicht geeignet	Falsch positiv	Richtig negativ

Ein falsch negatives Ergebnis bedeutet zum Beispiel: Eine tatsächlich geeignete Person wird abgelehnt. Ein falsch positives Ergebnis bedeutet: Eine ungeeignete Person wird angenommen.

Welche Fehler schlimmer sind, hängt vom Kontext ab. Bei einem freiwilligen Förderangebot ist eine Fehlablehnung möglicherweise besonders problematisch. Bei einer Sicherheitsfreigabe kann ein falsches positives Ergebnis schwerer wiegen. Die Technik kann die Folgen messen, aber nicht allein entscheiden, welche Folgen gesellschaftlich akzeptabel sind.

Drei einfache Kennzahlen

Auswahlquote: Anzahl positiver Entscheidungen geteilt durch Anzahl aller Personen einer Gruppe.
Fehlablehnungsquote: Anzahl geeigneter, aber abgelehnter Personen geteilt durch Anzahl aller geeigneten Personen einer Gruppe.
Gesamtgenauigkeit: Anzahl aller richtigen Entscheidungen geteilt durch Anzahl aller Entscheidungen.

Eine hohe Gesamtgenauigkeit kann Unterschiede zwischen Gruppen verdecken. Deshalb solltest Du Kennzahlen nicht nur für alle gemeinsam, sondern auch für relevante Teilgruppen prüfen.

Realistische Anwendungssituation: KI empfiehlt Plätze für ein Förderprojekt

Eine fiktive Schule hat nur wenige Plätze in einem Technik-Förderprojekt. Eine KI soll Schülerinnen und Schüler empfehlen. Das System nutzt unter anderem Ergebnisse aus freiwilligen Online-Übungen. Später führt die Schule zusätzlich eine persönliche Arbeitsprobe durch.

Die folgende Tabelle ist vollständig erfunden und dient nur zum Lernen.

Person	Stabile Internetverbindung zu Hause	Eignung laut Arbeitsprobe	KI-Empfehlung
A1	Ja	Ja	Ja
A2	Ja	Ja	Ja
A3	Ja	Ja	Ja
A4	Ja	Ja	Ja
A5	Ja	Ja	Ja
A6	Ja	Ja	Ja
A7	Ja	Ja	Nein
A8	Ja	Nein	Nein
B1	Nein	Ja	Ja
B2	Nein	Ja	Ja
B3	Nein	Ja	Nein
B4	Nein	Ja	Nein
B5	Nein	Ja	Nein
B6	Nein	Ja	Ja
B7	Nein	Nein	Nein
B8	Nein	Nein	Nein

Analyseauftrag

Für die Gruppe mit stabiler Internetverbindung werden 6 von 8 Personen empfohlen. Die Auswahlquote beträgt also 75 Prozent.

Berechne nun selbst die Auswahlquote für die Gruppe ohne stabile Internetverbindung. Bestimme anschließend für beide Gruppen die Fehlablehnungsquote unter den tatsächlich geeigneten Personen.

Diskutiere danach:

Reicht der Unterschied in den Kennzahlen aus, um Diskriminierung sicher zu beweisen?
Welche zusätzlichen Informationen würdest Du brauchen?
Könnte der Zugang zu Online-Übungen ein Proxy für Einkommen, Wohnsituation oder technische Ausstattung sein?
Welche Folgen hat eine Fehlablehnung für die Betroffenen?
Welche Perspektiven fehlen, wenn nur die Schule und nicht die Lernenden befragt werden?

Betroffenenperspektiven einnehmen

Untersuche dieselbe Situation aus mindestens vier Perspektiven.

Perspektive	Mögliche Frage
Lernende ohne stabilen Internetzugang	Werden Fähigkeiten mit technischer Ausstattung verwechselt?
Lernende mit Behinderung	Ist die Online-Plattform barrierefrei und werden Assistenztechnologien berücksichtigt?
Lehrkräfte	Können sie Empfehlungen prüfen und begründet korrigieren?
Schulleitung	Welche Verantwortung trägt die Schule für Transparenz, Datenschutz und Beschwerdemöglichkeiten?
Eltern oder Erziehungsberechtigte	Können sie verstehen, welche Daten genutzt werden?
Entwicklungsteam	Welche Tests, Daten und Fairnessziele wurden festgelegt?

Fairness wird stärker, wenn Betroffene nicht erst nach einem Schaden gehört werden, sondern schon bei Zieldefinition, Test und Einsatz beteiligt sind.

Vielfalt, Repräsentation und Intersektionalität

Menschen gehören gleichzeitig zu mehreren Gruppen. Eine Person kann zum Beispiel weiblich sein, eine Behinderung haben, mehrsprachig aufwachsen und wenig Zugang zu digitaler Technik besitzen. Benachteiligungen können sich deshalb überlagern. Dieses Zusammenspiel wird als Intersektionalität bezeichnet.

Wenn ein Test nur jeweils eine Gruppe einzeln betrachtet, können Probleme in Kombinationen übersehen werden. Ein System könnte im Durchschnitt für Frauen und im Durchschnitt für Menschen mit dunkler Haut ähnlich gut funktionieren, aber für dunkelhäutige Frauen deutlich schlechter. Genau solche Überschneidungen waren im Beispiel Gender Shades bedeutsam.

Quellenkritik bei Aussagen über faire KI

Nicht jede Grafik, Prozentzahl oder Herstellerangabe belegt Fairness. Prüfe bei Quellen:

Wer hat die Untersuchung durchgeführt?
Welche Daten wurden genutzt und passen sie zur Zielgruppe?
Welche Gruppen wurden getrennt ausgewertet?
Welche Kennzahl wird gezeigt und welche fehlt?
Unter welchen Bedingungen wurde getestet?
Wer finanziert oder veröffentlicht die Untersuchung?
Kann das Ergebnis unabhängig überprüft werden?
Werden Unsicherheiten und Grenzen offen genannt?

Eine gute Fairnessanalyse sucht nicht nur nach Belegen für die eigene Vermutung, sondern auch nach Daten, die ihr widersprechen könnten.

Fairness als Risikoabwägung

Ein KI-System kann Nutzen bringen und zugleich Risiken erzeugen. Eine einfache Risikoanalyse fragt nach Wahrscheinlichkeit, Schadensausmaß, Betroffenen, Erkennbarkeit und Möglichkeit zur Korrektur.

Risiko	Mögliche Folge	Denkbare Gegenmaßnahme
Unterrepräsentierte Trainingsdaten	Schlechtere Leistung für bestimmte Gruppen	Datenbasis prüfen und gezielt ergänzen
Ungeeignetes Proxy-Merkmal	Sachfremde Benachteiligung	Merkmal entfernen oder begründen und testen
Automatische Entscheidung ohne Prüfung	Fehler wirken direkt auf Menschen	Menschliche Freigabe und Einspruch ermöglichen
Unklare Begründung	Betroffene können Entscheidung kaum anfechten	Nachvollziehbare Information bereitstellen
Einmaliger Test	Neue Probleme bleiben nach Einführung unbemerkt	Regelmäßiges Monitoring und Audit

Wirtschaft und Technik: Effizienz ist nicht alles

Organisationen setzen KI oft ein, um Zeit, Kosten oder Personalaufwand zu reduzieren. Diese Ziele sind legitim, aber nicht allein entscheidend. Eine billige automatische Entscheidung kann gesellschaftlich teuer werden, wenn Menschen Chancen verlieren, Vertrauen sinkt oder Diskriminierung entsteht.

Technische Qualität muss deshalb mit gesellschaftlicher Verantwortung verbunden werden. Die Frage lautet nicht nur: Funktioniert das System? Sondern auch: Für wen, unter welchen Bedingungen und mit welchen Folgen funktioniert es?

Gesellschaftliche Wertfragen sind nicht rein technisch lösbar

Eine Fairnessmetrik kann Unterschiede sichtbar machen. Sie kann aber nicht allein entscheiden, welche Unterschiede gerechtfertigt sind, welches Risiko akzeptabel ist oder wessen Interessen Vorrang haben sollen.

Beispiel: Zwei mögliche Regeln für das Förderprojekt könnten sein:

Möglichst gleiche Auswahlquoten zwischen Gruppen.
Möglichst gleiche Chance für jede tatsächlich geeignete Person, empfohlen zu werden.

Beide Ziele klingen fair, können aber zu unterschiedlichen Entscheidungen führen. Welche Regel angemessen ist, hängt vom Zweck des Programms, von Rechten, Folgen, vorhandenen Ungleichheiten und demokratisch begründeten Wertvorstellungen ab.

Das Crash-Course-Video zeigt mehrere Arten algorithmischer Verzerrung. Nutze es nicht als fertige Lösung, sondern als Material: Welche Ursachen passen zu unserem Schulbeispiel und welche nicht?

Regulierung und Verantwortung

Die UNESCO betont für KI unter anderem Fairness, Nichtdiskriminierung, Transparenz, Verantwortung, menschliche Aufsicht, Vielfalt und Inklusion. Der europäische AI Act ordnet bestimmte KI-Systeme in Bildung als Hochrisiko-Anwendungen ein, wenn sie zum Beispiel über Zugang, Zuweisung oder bedeutsame Lernentscheidungen mitbestimmen.

Entscheidend ist für Dich weniger das Auswendiglernen juristischer Begriffe als die Grundidee: Je stärker eine KI über Bildungschancen, Arbeit, Sicherheit oder andere wichtige Lebensbereiche entscheidet, desto wichtiger werden Prüfung, Nachvollziehbarkeit, Schutzrechte und menschliche Verantwortung.

Das Bild erinnert daran, dass KI-Systeme nicht nur technische Werkzeuge sind. Überwachung, Privatsphäre, Versammlungsfreiheit und demokratische Teilhabe können ebenfalls betroffen sein.

Ein Verbesserungsrahmen für faire KI

Nutze für eine konkrete Anwendung die folgenden sieben Prüfschritte:

Zweck klären: Welches Problem soll gelöst werden und ist KI dafür überhaupt nötig?
Betroffene bestimmen: Wer profitiert, wer trägt Risiken, wer fehlt bisher in der Planung?
Daten prüfen: Sind Gruppen angemessen repräsentiert und sind die Merkmale sachlich sinnvoll?
Ergebnisse messen: Vergleiche Gesamtleistung, Gruppenkennzahlen und wichtige Fehlerarten.
Perspektiven einbeziehen: Frage Betroffene, Fachpersonen und unabhängige Stellen.
Schutzmaßnahmen entwickeln: Zum Beispiel menschliche Prüfung, Einspruch, Barrierefreiheit, Datensparsamkeit und regelmäßige Audits.
Entscheidung begründen: Einsatz, Änderung oder Verzicht müssen nachvollziehbar begründet werden.

Human Agency: Der Mensch bleibt verantwortlich

Verantwortlicher KI-Einsatz bedeutet nicht, dass Menschen jede KI-Empfehlung ungeprüft übernehmen. Du solltest wissen, wann Du ein Ergebnis hinterfragen, zusätzliche Informationen suchen, eine Entscheidung anfechten oder den Einsatz stoppen solltest.

Eine hilfreiche Kurzregel ist: Prüfen – Perspektiven wechseln – Folgen abwägen – begründen.

Selbstkontrolle vor dem Transfer

Beantworte ohne Nachschlagen:

Kannst Du ein Beispiel nennen, bei dem ein statistisch genaues System trotzdem unfair sein könnte?
Kannst Du erklären, warum Repräsentation mehr bedeutet als eine große Datenmenge?
Kannst Du den Unterschied zwischen falschem positiven und falschem negativen Ergebnis auf eine reale Situation übertragen?
Kannst Du zwei Betroffenenperspektiven nennen, die zu unterschiedlichen Bewertungen führen könnten?
Kannst Du mindestens drei Verbesserungen vorschlagen, die nicht nur am Algorithmus selbst ansetzen?

Wenn Dir mindestens zwei Antworten schwerfallen, kehre zum jeweiligen Abschnitt zurück.

Transfer: Neue Situation selbstständig beurteilen

Eine Stadt möchte eine KI einsetzen, um bei sehr vielen Bewerbungen Plätze für ein kostenloses Sommerprogramm zu priorisieren. Das System soll Schulnoten, Entfernung zum Veranstaltungsort, Teilnahme an früheren Online-Angeboten und kurze Freitextantworten auswerten. Es gibt weniger Plätze als Bewerbungen.

Du erhältst keine fertige Lösung. Triff selbstständig eine begründete Entscheidung:

Welche Merkmale sind sachlich relevant und welche könnten problematische Proxy-Merkmale sein?
Welche Gruppen könnten unterrepräsentiert oder besonders betroffen sein?
Welche Kennzahlen würdest Du vor dem Einsatz verlangen?
Welche Risiken entstehen durch falsche Ablehnungen?
Wie könnten Transparenz, Einspruch und menschliche Kontrolle gestaltet werden?
Welche Personen oder Gruppen sollten an der Entscheidung über den Einsatz beteiligt werden?
Würdest Du das System einsetzen, nur verändert einsetzen oder nicht einsetzen? Begründe mit mindestens drei Kriterien.

Deine Begründung soll zeigen, dass Du technische Daten, gesellschaftliche Folgen und Wertfragen miteinander verbindest.

Quellen und Vertiefung

Interaktive Aufgaben

Quiz: Teste Dein Wissen

Warum kann ein technisch korrekt arbeitendes KI-System trotzdem unfair sein? (Weil Ziele Daten Fehlerfolgen und gesellschaftliche Bedingungen unfair wirken können) (!Weil jede Berechnung mit Computern zufällig ist) (!Weil Fairness nur von der Rechengeschwindigkeit abhängt) (!Weil KI grundsätzlich keine Daten verwendet)

Was beschreibt Repräsentation in einem Datensatz am besten? (Welche relevanten Personen Gruppen und Situationen in den Daten vorkommen) (!Wie viele Farben eine Grafik enthält) (!Wie schnell ein Modell trainiert wird) (!Wie groß der Bildschirm des Computers ist)

Was ist ein falsches negatives Ergebnis im Förderbeispiel? (Eine geeignete Person wird nicht empfohlen) (!Eine ungeeignete Person wird empfohlen) (!Eine geeignete Person wird empfohlen) (!Eine ungeeignete Person wird nicht empfohlen)

Wie hoch ist die Auswahlquote der Gruppe ohne stabile Internetverbindung im Beispiel? (37,5 Prozent) (!25 Prozent) (!50 Prozent) (!75 Prozent)

Warum kann ein Proxy-Merkmal problematisch sein? (Es kann ein eigentlich relevantes Merkmal nur indirekt und verzerrt abbilden) (!Es macht jede Berechnung automatisch korrekt) (!Es verhindert grundsätzlich jede Diskriminierung) (!Es ersetzt jede menschliche Entscheidung durch Zufall)

Was bedeutet Human Agency bei einer wichtigen KI-Entscheidung? (Menschen behalten Kontrolle Prüfung und Verantwortung) (!Die KI trägt allein die moralische Verantwortung) (!Menschen dürfen Ergebnisse nicht hinterfragen) (!Nur die schnellste Entscheidung zählt)

Warum ist Intersektionalität für Fairnessanalysen wichtig? (Weil Benachteiligungen sich bei mehreren Gruppenmerkmalen überlagern können) (!Weil jede Person nur zu einer einzigen Gruppe gehört) (!Weil Gruppenvergleiche immer verboten sind) (!Weil nur Durchschnittswerte wichtig sind)

Welche Aussage zu Gleichheit und Gerechtigkeit ist am treffendsten? (Gleiche Behandlung kann bei unterschiedlichen Voraussetzungen ungleiche Chancen erzeugen) (!Gleichbehandlung garantiert immer gerechte Ergebnisse) (!Gerechtigkeit lässt sich nur durch identische Ergebnisse bestimmen) (!Gerechtigkeit ist ausschließlich eine Rechenregel)

Welche Quelle liefert den stärksten Hinweis auf die Fairness eines konkreten Systems? (Ein transparenter unabhängiger Test mit passenden Gruppen und Fehlerkennzahlen) (!Eine Werbeaussage des Herstellers ohne Testdaten) (!Ein einzelner positiver Erfahrungsbericht) (!Eine hohe Zahl von Nutzenden ohne weitere Angaben)

Welche Entscheidung zeigt verantwortliche Fairnessprüfung am besten? (Einsatz nur nach Datenprüfung Betroffenenbeteiligung Risikoanalyse und wirksamer Kontrolle) (!Einsatz sobald die Gesamtgenauigkeit hoch ist) (!Einsatz ohne Einspruch weil Computer objektiv sind) (!Verzicht auf jede Prüfung wenn das System Zeit spart)

Memory

Bias	Systematische Verzerrung
Repräsentation	Angemessenes Vorkommen relevanter Gruppen
Proxy	Indirektes Ersatzmerkmal
Teilhabe	Zugang Mitwirkung und Beteiligung
Fehlablehnung	Geeignete Person wird abgelehnt
Audit	Systematische unabhängige Prüfung
Transparenz	Nachvollziehbare Information über Verfahren
Aufsicht	Verantwortliche menschliche Kontrolle

Drag and Drop

Ordne die richtigen Begriffe zu.	Thema
Datenerhebung	Repräsentation prüfen
Zieldefinition	Fairnesskriterium klären
Modelltest	Fehlerquoten vergleichen
Einsatz	Menschliche Kontrolle sichern
Beschwerde	Entscheidung anfechtbar machen
Monitoring	Folgen nach Einführung weiter beobachten

Kreuzworträtsel

Fairness	Welcher Begriff bezeichnet die gerechte Gestaltung von Entscheidungen und Verfahren?
Diversität	Welcher Begriff beschreibt das Vorhandensein unterschiedlicher Menschen und Perspektiven?
Teilhabe	Welcher Begriff meint Zugang Mitwirkung und Beteiligung an gesellschaftlichen Möglichkeiten?
Transparenz	Welcher Begriff steht für nachvollziehbare Informationen über ein Verfahren?
Verantwortung	Welcher Begriff bezeichnet die Pflicht für Entscheidungen und Folgen einzustehen?
Repräsentation	Welcher Begriff fragt danach ob relevante Gruppen angemessen in Daten vorkommen?

LearningApps

Lückentext

Fairness bei KI hängt immer vom gesellschaftlichen und technischen

ab.

Ein Datensatz sollte relevante Gruppen möglichst angemessen

.

Ein indirektes Ersatzmerkmal wird als

bezeichnet.

Eine geeignete Person die vom System abgelehnt wird erfährt eine

.

Der Anteil positiver Entscheidungen in einer Gruppe heißt

.

Bei wichtigen Entscheidungen darf menschliche

nicht verschwinden.

Fragen nach Gerechtigkeit und akzeptablen Risiken sind gesellschaftliche

.

Eine systematische unabhängige Prüfung eines Systems wird als

bezeichnet.

Offene Aufgaben

Leicht

Fairness-Tagebuch: Sammle drei KI- oder Algorithmusentscheidungen aus Deinem Alltag und notiere, wer jeweils profitieren oder benachteiligt werden könnte.
Medienanalyse: Wähle eine Grafik oder ein Video aus diesem Kurs und erkläre in eigenen Worten, welche Fairnessfrage dadurch sichtbar wird und welche Information noch fehlt.
Perspektivwechsel: Schreibe zwei kurze Stellungnahmen zum Förderprojekt, einmal aus Sicht einer betroffenen Schülerin oder eines betroffenen Schülers und einmal aus Sicht der Schulleitung.
Begriffskarte: Gestalte eine eigene Visualisierung zu Bias, Repräsentation, Fairness, Vielfalt und Teilhabe und verbinde die Begriffe mit Pfeilen und kurzen Begründungen.

Standard

Datenprüfung: Erfinde einen kleinen Datensatz mit mindestens zwölf Fällen, berechne zwei Gruppenquoten und beschreibe, welche Schlussfolgerungen erlaubt und welche nicht erlaubt sind.
Fairness-Audit: Untersuche ein fiktives KI-System mit den sieben Prüfschritten des Verbesserungsrahmens und formuliere mindestens fünf konkrete Änderungen.
Quellenvergleich: Vergleiche zwei seriöse Quellen zu algorithmischer Fairness. Untersuche Autorenschaft, Datenbasis, Interessen, Kennzahlen und genannte Grenzen.
Erklärvideo: Produziere ein zwei- bis dreiminütiges Video für jüngere Lernende, das an einem eigenen Beispiel erklärt, warum gleiche Behandlung nicht immer gerechte Teilhabe bedeutet.

Schwer

Stakeholder-Konferenz: Plant eine simulierte Anhörung zu einem KI-System in der Schule. Verteilt Rollen, sammelt Belege, führt die Anhörung durch und dokumentiert offene Konflikte.
Fairness-Metriken vergleichen: Entwickle ein Beispiel, bei dem gleiche Auswahlquoten und gleiche Fehlablehnungsquoten zu unterschiedlichen Bewertungen führen. Erkläre, warum die Wahl des Maßes eine Wertfrage ist.
Folgenabschätzung: Erstelle für eine neue KI-Anwendung eine Risiko-Matrix mit Betroffenen, möglichem Schaden, Eintrittswahrscheinlichkeit, Kontrollmöglichkeiten und Verantwortlichen.
Transferentscheidung: Untersuche eine neue Situation aus Bildung, Wirtschaft oder Kommune und entscheide begründet zwischen Einsatz, verändertem Einsatz und Verzicht. Berücksichtige Daten, Technik, Rechte, Teilhabe, Risiken und Gegenmaßnahmen.

Lernkontrolle

Systemanalyse: Eine Schule möchte eine KI zur Vorhersage von Lernerfolg einsetzen. Entwickle fünf Fragen, die vor dem Einsatz beantwortet werden müssen, und begründe, warum jede Frage relevant ist.
Daten und Geschichte: Erkläre an einem selbst gewählten Beispiel, wie historische Ungleichheit in Trainingsdaten gelangen und durch ein KI-System verstärkt werden könnte.
Mathematische Bewertung: Zwei Gruppen haben dieselbe Gesamtgenauigkeit, aber sehr unterschiedliche Fehlablehnungsquoten. Erkläre, warum eine Entscheidung nur auf Basis der Gesamtgenauigkeit problematisch wäre.
Zielkonflikt: Beschreibe einen Fall, in dem zwei plausible Fairnessziele miteinander konkurrieren. Begründe, welche zusätzlichen gesellschaftlichen Informationen für eine Entscheidung nötig wären.
Verbesserungsplan: Entwickle für das Förderprojekt ein Paket aus mindestens vier Maßnahmen. Mindestens eine Maßnahme muss technisch, eine organisatorisch und eine auf Teilhabe ausgerichtet sein.
Transferurteil: Beurteile die neue Situation des städtischen Sommerprogramms. Entscheide zwischen Einsatz, verändertem Einsatz oder Verzicht und begründe Deine Entscheidung mit mindestens drei voneinander unabhängigen Kriterien.

Lernnachweis

Für einen Lernnachweis zu diesem Thema ist wichtig, dass Du nicht nur Begriffe wiedergeben kannst. Du solltest zeigen, dass Du:

ein KI-System als Zusammenspiel von Daten, Modell, Regeln, Menschen und Institutionen analysieren kannst,
Repräsentation und mögliche Proxy-Merkmale erkennst,
einfache Auswahl- und Fehlerquoten korrekt berechnest und sinnvoll interpretierst,
verschiedene Betroffenenperspektiven und mögliche gesellschaftliche Folgen berücksichtigst,
zwischen technischer Leistungsfähigkeit und gesellschaftlicher Fairness unterscheiden kannst,
konkrete Verbesserungen für Transparenz, Teilhabe, Kontrolle und Sicherheit entwickelst,
Unsicherheiten und Grenzen Deiner Bewertung offen benennst,
eine neue Situation selbstständig beurteilst und Deine Entscheidung nachvollziehbar begründest.

OERs zum Thema

Verknüpfte Lernbereiche

Fairness von KI untersuchen

aiMOOC-Projekte

Frag mich zum aktuellen Lerninhalt oder wähle eine kurze Hilfe.

Textmodus bereit

Sprache