Fairness von KI beurteilen
Fairness von KI beurteilen
Fairness von KI beurteilen
Einleitung
Künstliche Intelligenz kann Menschen beim Sortieren, Erkennen, Empfehlen und Vorhersagen unterstützen. Doch eine KI ist nicht automatisch gerecht, nur weil sie mit Zahlen rechnet. Daten stammen aus einer Gesellschaft, Menschen wählen Ziele und Merkmale aus, und Menschen entscheiden, wo ein System eingesetzt wird. Deshalb ist Fairness von KI zugleich eine technische, mathematische, gesellschaftliche und ethische Frage.
In diesem Lernkurs untersuchst Du, wie Algorithmen und maschinelles Lernen zu unterschiedlichen Ergebnissen für verschiedene Menschen führen können. Du lernst, Behauptungen über „faire KI“ nicht einfach zu glauben, sondern mit nachvollziehbaren Kriterien, Daten und Quellen zu prüfen. Dabei geht es um Repräsentation, Vielfalt, Teilhabe, Transparenz, Sicherheit, menschliche Kontrolle und um die Frage, wer von einer Entscheidung profitiert oder Nachteile trägt.
Die Waage ist ein Symbol für Gerechtigkeit. Aber sie liefert noch keine Regel dafür, was in einer konkreten Situation fair ist. Genau das ist der Kern dieses Kurses: Fairness muss begründet werden.
Zielgruppe: Schwerpunkt Klasse 7. Der Kurs ist für etwa 1–2 Unterrichtsstunden angelegt und verbindet Informatik, Mathematik, Deutsch, Ethik, Gemeinschaftskunde, Geschichte, Kunst und Medienbildung.
Am Ende kannst Du ein KI-System anhand mehrerer Fairnesskriterien untersuchen, Belege und Quellen bewerten, verschiedene Betroffenenperspektiven vergleichen, konkrete Verbesserungen entwickeln und ein begründetes Urteil formulieren. Wichtig ist: Ein mathematisch gut funktionierendes System kann gesellschaftlich trotzdem unfair sein. Umgekehrt ist eine faire Entscheidung nicht allein durch eine Formel festgelegt.
Ablauf für 1–2 Unterrichtsstunden
| Phase | Richtzeit | Tätigkeit |
|---|---|---|
| Aktivierung und Diagnose | 5–10 Minuten | Eine kurze Fairness-Situation beurteilen und fehlende Informationen benennen. |
| Technische Einführung | 15 Minuten | Daten, Merkmale, Modell, Training, Test und Fehlerarten verstehen. |
| Fallanalyse | 15–20 Minuten | Reale Forschung zu ungleichen Fehlerraten untersuchen und Quellen kritisch prüfen. |
| Anwendung | 20–30 Minuten | Ein fiktives KI-Auswahlsystem für eine Schule aus mehreren Perspektiven auditieren und verbessern. |
| Urteil und Transfer | 10–15 Minuten | Kriterien gewichten, Belege nennen, Grenzen markieren und ein begründetes Urteil formulieren. |
Für 45 Minuten kannst Du Aktivierung, technische Einführung und eine verkürzte Anwendung bearbeiten. Für 90 Minuten kommen Fallanalyse, Medienkritik, Rollenperspektiven und eine ausführlichere Urteilsbegründung hinzu.
Aktivierung und Diagnose
Stell Dir vor: Für eine Projektwoche gibt es nur zwölf Plätze. Eine Schule lässt ein KI-System Bewerbungen vorsortieren. Das System empfiehlt eine Person nicht, weil sie bisher an keiner ähnlichen AG teilgenommen hat.
Entscheide zunächst spontan: fair, eher fair, eher unfair, unfair oder noch nicht beurteilbar. Begründe Deine Position in zwei Sätzen.
Danach prüfe, welche Informationen Dir fehlen. Zum Beispiel: Wie wurde das Ziel des Systems festgelegt? Welche Daten wurden benutzt? Hatten alle bisher die gleiche Chance, an einer AG teilzunehmen? Wie oft irrt das System? Kann die Entscheidung angefochten werden? Wer trägt Verantwortung?
Die Antwort „noch nicht beurteilbar“ ist kein Ausweichen. Sie kann zeigen, dass Du verstanden hast, dass ein begründetes Urteil Belege und Kontext benötigt.
Was passiert technisch in einem KI-System?
Viele heutige KI-Anwendungen beruhen auf maschinellem Lernen. Dabei erhält ein Modell Beispiele und sucht darin Muster. Ein typischer Ablauf lässt sich vereinfacht so darstellen:
- Datensatz: Eine Sammlung von Beispielen, etwa Texte, Bilder oder Messwerte.
- Merkmal: Eine Information, die das System verwendet, etwa Textlänge, Punktzahl oder Bildmerkmale.
- Label: Eine Zielangabe in Trainingsdaten, etwa „geeignet“ oder „nicht geeignet“. Labels können von Menschen vergeben worden sein und deshalb Wertungen enthalten.
- Training: Das Modell passt seine Parameter an Beispiele an.
- Testdaten: Separate Beispiele werden genutzt, um zu prüfen, wie gut das Modell auf bisher nicht verwendete Fälle reagiert.
- Anwendung: Das trainierte Modell erzeugt für neue Eingaben eine Vorhersage, Klassifikation oder Empfehlung.
Ein Modell kann sehr komplex sein. Künstliche neuronale Netze sind nur eine von mehreren Modellarten.
Die Grafik zeigt Knoten und Verbindungen eines vereinfachten neuronalen Netzes. Sie hilft beim technischen Verständnis, sagt aber nichts darüber aus, ob ein konkretes System fair ist. Fairness muss mit passenden Daten, Tests und gesellschaftlichen Kriterien untersucht werden.
Wo kann Bias entstehen?
Bias bedeutet je nach Zusammenhang Verschiedenes. In der Statistik kann damit eine systematische Verzerrung einer Messung oder Schätzung gemeint sein. In Debatten über KI bezeichnet Bias häufig Muster, durch die bestimmte Personen oder Gruppen wiederholt benachteiligt oder stereotyp dargestellt werden. Nicht jeder statistische Unterschied ist automatisch Diskriminierung. Entscheidend sind Ursache, Kontext, Folgen und verwendete Fairnesskriterien.
| Stelle im System | Mögliche Verzerrung | Prüffrage |
|---|---|---|
| Datensammlung | Bestimmte Gruppen oder Lebenssituationen kommen zu selten vor. | Wer ist in den Daten vertreten und wer fehlt? |
| Messung und Labels | Ein Merkmal misst nur indirekt das, was eigentlich gemeint ist. | Misst die Zahl wirklich das Ziel oder nur einen Ersatz? |
| Zielsetzung | Das System optimiert eine leicht messbare Größe, obwohl gesellschaftlich etwas anderes wichtig ist. | Wer hat entschieden, was „gut“ bedeutet? |
| Modell | Durchschnittlich gute Leistung verdeckt große Unterschiede zwischen Teilgruppen. | Wie sind die Fehlerraten für verschiedene Gruppen? |
| Einsatz | Ein Modell wird in einer Situation genutzt, für die es nicht entwickelt wurde. | Passt der Test zur echten Anwendung? |
| Rückkopplung | Frühere KI-Entscheidungen beeinflussen neue Daten und verstärken ein Muster. | Erzeugt das System selbst die Daten, aus denen es später weiterlernt? |
Wichtig: Ein KI-System lernt keine Vorurteile so wie ein Mensch. Es verarbeitet statistische Muster. Trotzdem können seine Ergebnisse gesellschaftliche Vorurteile oder ungleiche Bedingungen widerspiegeln und verstärken.
Repräsentation, Vielfalt und Teilhabe
Repräsentation fragt: Wer kommt in Daten, Bildern, Beispielen und Entwicklungsteams vor? Vielfalt fragt zusätzlich, ob unterschiedliche Erfahrungen und Perspektiven ausreichend berücksichtigt werden. Teilhabe fragt: Wer kann mitentscheiden, widersprechen und Verbesserungen mitgestalten?
Diese Collage kann Vielfalt symbolisieren. Sie ist aber kein Beleg dafür, dass ein bestimmtes KI-System fair trainiert wurde. Ein einzelnes Bild zeigt weder die Zusammensetzung eines Datensatzes noch Fehlerraten. Genau diese Unterscheidung zwischen Illustration und Beweis ist Medienkompetenz.
Repräsentation betrifft mehr als sichtbare Merkmale. Auch Sprache, Dialekt, Behinderung, Alter, soziale Lebenslagen, regionale Erfahrungen, technische Ausstattung und Bildungschancen können relevant sein. Gleichzeitig darf ein Fairness-Test Menschen nicht auf eine einzige Gruppenzugehörigkeit reduzieren. Mehrere Merkmale können zusammenwirken. Diese Überschneidung wird häufig als Intersektionalität beschrieben.
Zwei Arten von Schaden
Verteilungsschaden entsteht, wenn eine KI Chancen, Ressourcen oder Belastungen ungleich verteilt, zum Beispiel bei Zugang zu Bildung, einem Platz in einem Programm oder einer Prüfung.
Darstellungsschaden entsteht, wenn eine KI Gruppen stereotyp, abwertend oder unsichtbar darstellt. Ein Bildgenerator könnte bestimmte Berufe fast nur mit einer Personengruppe zeigen. Ein Sprachmodell könnte in Beispielen Rollenklischees wiederholen.
Beide Schäden sind relevant. Ein System kann statistisch ähnlich oft „Ja“ sagen und trotzdem stereotype Darstellungen erzeugen. Umgekehrt kann eine Darstellung vielfältig wirken, während die zugrunde liegenden Entscheidungen unfair sind.
Fairness ist nicht nur eine Zahl
Es gibt mehrere sinnvolle Fairnessideen. Sie können sich ergänzen, aber auch miteinander in Spannung stehen.
| Fairnessidee | Leitfrage | Beispiel |
|---|---|---|
| Gleichbehandlung | Gelten für alle dieselben Regeln? | Alle Bewerbungen werden nach denselben veröffentlichten Kriterien geprüft. |
| Chancengerechtigkeit | Haben Menschen mit vergleichbarer Eignung vergleichbare Chancen? | Geeignete Personen sollen nicht wegen indirekter Ersatzmerkmale übersehen werden. |
| Verfahrensfairness | Ist der Prozess nachvollziehbar, überprüfbar und anfechtbar? | Eine Person kann erfahren, welche Kriterien verwendet wurden, und eine menschliche Prüfung verlangen. |
| Ergebnisfairness | Entstehen starke systematische Nachteile für bestimmte Gruppen? | Auswahlquoten und Fehlerraten werden nach sinnvollen Teilgruppen geprüft. |
| Repräsentationsfairness | Vermeidet das System stereotype oder einseitige Darstellungen? | Ein Bildsystem zeigt vielfältige Personen in unterschiedlichen Rollen. |
| Teilhabefairness | Können betroffene Menschen bei Gestaltung und Kontrolle mitwirken? | Schülervertretung und Menschen mit unterschiedlichen Bedürfnissen werden vor dem Einsatz befragt. |
Eine wichtige Erkenntnis lautet deshalb: „Fair“ ist keine rein technische Eigenschaft. Mathematik kann Unterschiede sichtbar machen. Informatik kann Systeme testen und verändern. Aber welche Unterschiede gerechtfertigt sind, welche Risiken akzeptabel sind und welche Werte Vorrang haben, sind gesellschaftliche und ethische Fragen.
Mathematischer Blick: Fehler vergleichen
Bei einer Ja-Nein-Entscheidung kann ein Modell richtig oder falsch liegen. Eine vereinfachte Konfusionsmatrix unterscheidet:
| In Wirklichkeit geeignet | In Wirklichkeit nicht geeignet | |
|---|---|---|
| KI empfiehlt | richtig positiv | falsch positiv |
| KI empfiehlt nicht | falsch negativ | richtig negativ |
Ein falsch negatives Ergebnis bedeutet hier: Eine geeignete Person wird übersehen. Ein falsch positives Ergebnis bedeutet: Eine nicht geeignete Person wird empfohlen. Welche Fehlerart schwerer wiegt, hängt von der Situation ab.
Beispiel mit zwei gleich großen Testgruppen:
| Kennzahl | Gruppe A | Gruppe B |
|---|---|---|
| Geeignete Personen | 10 | 10 |
| Davon empfohlen | 8 | 5 |
| Nicht geeignete Personen | 10 | 10 |
| Davon trotzdem empfohlen | 2 | 1 |
Für geeignete Personen liegt die Trefferquote in Gruppe A bei 8 von 10, also 80 Prozent. In Gruppe B sind es 5 von 10, also 50 Prozent. Gleichzeitig ist die Rate falscher Empfehlungen in Gruppe A höher.
Denkaufgabe: Welches Kriterium sollte in einer Schulprojekt-Auswahl wichtiger sein: möglichst gleiche Trefferquoten für geeignete Personen, möglichst wenige falsche Empfehlungen, eine gleiche Auswahlquote oder etwas anderes? Begründe. Es gibt hier nicht automatisch eine einzige richtige Fairnessformel.
Reales Forschungsbeispiel: ungleiche Fehlerraten
Die Studie Gender Shades von Joy Buolamwini und Timnit Gebru untersuchte 2018 drei damals kommerzielle Systeme zur binären Geschlechtsklassifikation von Gesichtern. Die Forschenden fanden deutliche Unterschiede zwischen Teilgruppen: Für hellhäutige Männer lag die höchste Fehlerrate in ihrer Auswertung bei 0,8 Prozent, für dunkelhäutige Frauen bei bis zu 34,7 Prozent. Das ist ein historisches Forschungsergebnis zu den damals getesteten Systemen, keine Aussage, dass heutige Systeme dieselben Werte haben.
Die Studie machte außerdem sichtbar, dass ungleiche Repräsentation in verbreiteten Bilddatensätzen ein wichtiges Prüfproblem ist. Zugleich hat das Beispiel Grenzen: Die untersuchte Aufgabe arbeitete mit binären Geschlechtskategorien und bildet Geschlechtsidentitäten nicht vollständig ab. Gute Quellenkritik nennt nicht nur Ergebnisse, sondern auch Untersuchungsgegenstand und Grenzen.
Beobachtungsauftrag zum Video: Notiere eine Behauptung, einen genannten Beleg und eine offene Frage. Prüfe anschließend, ob die Behauptung durch eine wissenschaftliche Quelle gestützt wird.
Das zweite Video zeigt, wie Joy Buolamwini das Problem öffentlich erklärt und für Rechenschaftspflicht bei algorithmischen Systemen argumentiert. Ein Vortrag kann Perspektiven anschaulich machen, ersetzt aber nicht die Prüfung der Forschungsquelle.
Vom Stereotyp zur Benachteiligung
Die Grafik beschreibt Wege, auf denen Stereotype über Frauen zu verzerrten Bewertungen und Diskriminierung beitragen können. Übertrage die Idee vorsichtig auf KI: Wenn Trainingsdaten frühere stereotype Bewertungen enthalten, kann ein Modell statistische Muster daraus lernen. Das bedeutet nicht, dass jede Abweichung durch Vorurteile verursacht wird. Deshalb braucht man Belege, Vergleichsdaten und Kontext.
Quellenkritik: Welche Belege tragen ein Urteil?
Bei KI-Themen kursieren starke Schlagzeilen. Prüfe deshalb Quelle und Aussage getrennt. Eine seriöse Bewertung kann diese Fragen verwenden:
- Autorenschaft: Wer veröffentlicht die Aussage und welche Fachkenntnis oder Interessen sind erkennbar?
- Datum: Auf welchen Stand bezieht sich die Information? KI-Systeme können sich schnell verändern.
- Methode: Wie wurden Daten erhoben, Gruppen gebildet und Fehler gemessen?
- Vergleich: Gibt es eine sinnvolle Vergleichsgruppe oder nur ein auffälliges Einzelbeispiel?
- Primärquelle: Lässt sich die ursprüngliche Studie, Rechtsquelle oder Datendokumentation finden?
- Grenzen: Welche Unsicherheiten nennt die Quelle selbst?
- Interessen: Könnte Werbung, Aktivismus, Politik oder wirtschaftliches Eigeninteresse die Darstellung beeinflussen?
- Aktualität: Bezieht sich die Aussage auf das heute eingesetzte System oder auf eine ältere Version?
Quellenampel für die Klasse: Grün bedeutet nicht „immer wahr“, sondern „gut überprüfbar“. Wissenschaftliche Originalarbeiten, offizielle Rechtsquellen oder dokumentierte Audits sind für bestimmte Tatsachen oft stärker als ein unbelegter Social-Media-Post. Auch starke Quellen können unterschiedliche Fragen beantworten: Eine Studie liefert empirische Befunde, ein Gesetz legt Regeln fest, eine Ethik-Empfehlung formuliert Werte.
Medienanalyse: Bilder überzeugen schnell
Ein Bild kann Vielfalt, Ungleichheit oder Technik sichtbar machen. Es kann aber auch durch Auswahl, Perspektive und Bildsprache eine Botschaft nahelegen.
Vergleiche die ausgeglichene Waage am Anfang mit dieser unausgeglichenen Waage. Beide Bilder sind Symbole. Sie beweisen nicht, dass ein bestimmtes KI-System fair oder unfair ist. In einer begründeten Medienanalyse unterscheidest Du daher:
| Ebene | Frage |
|---|---|
| Darstellung | Was sehe ich tatsächlich? |
| Deutung | Welche Bedeutung legt das Bild nahe? |
| Beleg | Welche Tatsachen beweist das Bild selbst und welche nicht? |
| Kontext | Wer hat das Bild erstellt, wofür und unter welcher Lizenz? |
| Transfer | Welche zusätzlichen Daten oder Quellen brauche ich für ein Urteil? |
In Kunst kannst Du zusätzlich Komposition, Symbolik und visuelle Stereotype untersuchen. In Deutsch kannst Du sprachliche Rahmungen analysieren, etwa den Unterschied zwischen „KI entscheidet objektiv“ und „ein von Menschen entwickeltes System gibt eine Empfehlung ab“.
Realistische Anwendungssituation: KI für die Projektwoche
Eine Schule plant eine Projektwoche „Technik gestalten“. Es gibt 60 Bewerbungen und 12 Plätze. Ein KI-System soll Lehrkräfte unterstützen, indem es Bewerbungen nach einer Punktzahl sortiert. Es wurde mit Daten früherer Projektwochen trainiert.
Das System berücksichtigt unter anderem frühere Teilnahme an Technik-AGs, Noten, Fehlzeiten und die Länge eines Motivationstextes. Es darf nur eine Empfehlung geben; die Schule bleibt verantwortlich.
Untersuche nun mehrere Perspektiven:
| Perspektive | Mögliche Frage |
|---|---|
| Schülerin oder Schüler ohne frühere AG-Erfahrung | Wurde fehlende Gelegenheit fälschlich als fehlende Eignung behandelt? |
| Schülerin oder Schüler mit Lese-Rechtschreib-Schwierigkeiten | Benachteiligt die Länge eines Textes Personen, obwohl sie technisch sehr geeignet sein können? |
| Neu zugezogene Person | Fehlen historische Schuldaten, sodass das System weniger sichere Empfehlungen gibt? |
| Lehrkraft | Welche Information hilft wirklich, ohne Verantwortung an die KI abzugeben? |
| Entwicklerteam | Welche Merkmale sind sinnvoll, welche nur Ersatzmerkmale und welche Tests fehlen? |
| Schulleitung | Ist der Zweck legitim, transparent und mit Einspruchsmöglichkeit organisiert? |
| Schülervertretung | Wurden Betroffene an Kriterien und Kontrollregeln beteiligt? |
Dein Audit-Auftrag: Entwickle eine Prüfliste und entscheide noch nicht sofort, ob das System eingesetzt werden soll. Trenne zuerst Fakten, Annahmen, Wertfragen und fehlende Belege.
Technische und gesellschaftliche Verbesserungen entwickeln
Verbesserungen können an verschiedenen Stellen ansetzen. Keine einzelne Maßnahme garantiert Fairness.
- Daten prüfen: Repräsentation, fehlende Werte und historische Verzerrungen untersuchen.
- Merkmale prüfen: Klären, ob ein Merkmal das Ziel sinnvoll misst oder nur ein problematisches Ersatzmerkmal ist.
- Teilgruppen testen: Fehlerraten nicht nur im Durchschnitt, sondern für relevante Gruppen und Überschneidungen vergleichen.
- Dokumentieren: Zweck, Datenquellen, Grenzen und bekannte Fehler verständlich festhalten.
- Menschliche Aufsicht: KI-Empfehlungen müssen bei folgenreichen Entscheidungen überprüfbar sein.
- Einspruch ermöglichen: Betroffene brauchen eine verständliche Möglichkeit, Fehler zu melden und Entscheidungen prüfen zu lassen.
- Betroffene beteiligen: Menschen mit unterschiedlichen Erfahrungen früh in Gestaltung und Test einbeziehen.
- Barrieren reduzieren: Zugänge, Sprache und Bedienung so gestalten, dass Teilhabe nicht unnötig erschwert wird.
- Nach dem Einsatz weiterprüfen: Neue Fehler oder veränderte Bedingungen erkennen.
- Verzicht prüfen: Wenn der Nutzen gering und das Risiko hoch ist, kann die beste Verbesserung sein, die KI nicht einzusetzen.
Human Agency bedeutet hier: Menschen setzen Ziele, prüfen Ergebnisse, können widersprechen und tragen Verantwortung. Eine KI kann Hinweise liefern, aber sie soll menschliches Urteil nicht unbemerkt ersetzen.
Warum gesellschaftliche Wertfragen nicht rein technisch lösbar sind
Technik kann messen, wie häufig ein System Fehler macht. Sie kann jedoch nicht allein entscheiden, welche Fehler gesellschaftlich akzeptabel sind. Ein Beispiel: Bei einer Hilfeleistung kann ein falsch negatives Ergebnis bedeuten, dass jemand notwendige Unterstützung nicht erhält. In einer anderen Anwendung kann ein falsch positives Ergebnis besonders problematisch sein. Welche Folge schwerer wiegt, hängt vom Zweck und von den Rechten der Betroffenen ab.
Auch zwei mathematische Fairnessziele können gleichzeitig schwer oder gar nicht vollständig erreichbar sein, wenn Gruppen unterschiedliche Ausgangsverteilungen aufweisen. Dann muss offen begründet werden, welches Ziel warum priorisiert wird. Diese Begründung ist eine ethische und politische Entscheidung, nicht bloß ein Rechenproblem.
Die Grafik zeigt für den Gesundheitsbereich einen möglichen Kreislauf zwischen Gesellschaft, Daten, Algorithmen und Versorgung. Übertrage den Grundgedanken: Technik wirkt in soziale Systeme hinein, und soziale Systeme liefern wiederum neue Daten. Deshalb spricht man bei KI-Fairness oft von einem soziotechnischen Problem.
Regeln, Rechte und Verantwortung
Internationale und europäische Rahmenwerke betonen, dass vertrauenswürdige KI nicht nur Genauigkeit braucht. Die UNESCO-Empfehlung zur Ethik der KI nennt unter anderem Menschenwürde, Menschenrechte, Vielfalt, Inklusion, Transparenz, Fairness, Nichtdiskriminierung und menschliche Aufsicht. Der europäische AI Act verfolgt einen risikobasierten Ansatz und stellt bei Hochrisiko-Systemen Anforderungen unter anderem an Risikomanagement, Datenqualität, Dokumentation und menschliche Aufsicht.
Für Dich als Lernende oder Lernender ist daraus vor allem wichtig: Je stärker eine KI über Chancen, Rechte oder Sicherheit mitentscheidet, desto höher müssen Prüfung, Transparenz und menschliche Verantwortung sein.
Dieses längere UNESCO-Video eignet sich als freiwillige Vertiefung. Achte darauf, welche Aussagen Werte oder Empfehlungen ausdrücken und welche Aussagen empirische Tatsachen behaupten. Diese Unterscheidung ist zentral für Quellenkritik.
Fächerübergreifende Bezüge
| Fach | Beitrag zur Fairnessanalyse |
|---|---|
| Informatik | Datenpipeline, Merkmale, Modelle, Tests, Fehlerarten, Dokumentation und Systemgrenzen. |
| Mathematik | Prozentwerte, Gruppenvergleiche, Treffer- und Fehlerraten sowie die Frage, welche Kennzahl für den Zweck geeignet ist. |
| Deutsch | Argumentieren mit Behauptung, Beleg und Begründung; Framing, Wortwahl und Quellenkritik. |
| Geschichte | Verstehen, dass historische Daten frühere gesellschaftliche Ungleichheiten enthalten können und dass Quellen immer in ihrem Entstehungskontext gelesen werden müssen. |
| Kunst | Bildsprache, Repräsentation, visuelle Stereotype und die Wirkung KI-generierter Darstellungen analysieren. |
| Ethik | Gerechtigkeitsbegriffe, Werteabwägung, Verantwortung, Menschenwürde und Folgen für Betroffene. |
| Gemeinschaftskunde | Regeln, Mitbestimmung, Grundrechte, Institutionen, Rechenschaftspflicht und gesellschaftliche Aushandlung. |
| Medienbildung | Quellen prüfen, KI-Inhalte kennzeichnen, Bild- und Videoaussagen kritisch bewerten und verantwortungsvoll mit personenbezogenen Daten umgehen. |
Ein begründetes Fairnessurteil formulieren
Nutze für Dein Schlussurteil die Struktur Kriterium – Beleg – Perspektive – Abwägung – Grenze – Verbesserung.
| Schritt | Leitfrage |
|---|---|
| Kriterium | Nach welcher Fairnessidee beurteile ich? |
| Beleg | Welche Daten, Fehlerraten, Dokumente oder Quellen stützen meine Aussage? |
| Perspektive | Wer profitiert, wer trägt Risiken und wer wurde bisher nicht gehört? |
| Abwägung | Welche Fairnessziele oder Interessen stehen in Spannung? |
| Grenze | Was weiß ich noch nicht oder was kann die Datenlage nicht zeigen? |
| Verbesserung | Welche technische, organisatorische oder gesellschaftliche Maßnahme folgt daraus? |
Satzgerüst für ein Urteil: „Unter dem Kriterium … ist das System derzeit eher …, weil … . Dafür spricht der Beleg … . Aus Sicht von … entsteht jedoch … . Unsicher bleibt … . Vor einem Einsatz sollte deshalb … .“
Das Satzgerüst hilft beim Denken, liefert aber keine fertige Antwort. Dein Urteil muss zu Deinen Belegen passen.
Selbstkontrolle und Reflexion
Prüfe Dich am Ende mit fünf Fragen:
- Kann ich zwischen durchschnittlicher Genauigkeit und Fairness für verschiedene Gruppen unterscheiden?
- Kann ich mindestens zwei Stellen nennen, an denen Verzerrungen in einem KI-System entstehen können?
- Kann ich erklären, warum ein Bild, Video oder Einzelfall noch kein ausreichender Beleg ist?
- Kann ich mindestens drei Betroffenenperspektiven berücksichtigen, ohne Menschen auf Gruppenmerkmale zu reduzieren?
- Kann ich eine Verbesserung vorschlagen und zugleich erklären, welche Wertentscheidung damit verbunden ist?
Exit-Ticket: Formuliere auf einem Zettel drei kurze Sätze: „Ein wichtiger Beleg wäre …“, „Eine betroffene Perspektive, die leicht vergessen wird, ist …“, „Meine wichtigste Regel für faire KI lautet …, weil …“.
Quellen und weiterführende Belege
- Buolamwini & Gebru: Gender Shades, 2018 – wissenschaftliche Originalarbeit zum historischen Fallbeispiel.
- UNESCO: Recommendation on the Ethics of Artificial Intelligence – internationaler ethischer Rahmen mit Menschenrechtsbezug.
- Europäische Kommission: AI Act – Überblick über den risikobasierten europäischen Rechtsrahmen.
- NIST AI Risk Management Framework – Rahmen zur Prüfung von Vertrauenswürdigkeit und Risiken.
- Algorithmic Bias – Überblicksartikel mit weiterführenden Quellen.
- Diskriminierungsrisiken bei maschinellem Lernen – deutschsprachiger Überblick zu Diskriminierungsrisiken automatisierter Entscheidungen.
Interaktive Aufgaben
Quiz: Teste Dein Wissen
Warum reicht eine hohe durchschnittliche Genauigkeit nicht aus, um KI als fair zu beurteilen? (Weil starke Fehlerunterschiede zwischen Gruppen im Durchschnitt verborgen bleiben können) (!Weil Genauigkeit bei KI grundsätzlich unwichtig ist) (!Weil faire KI niemals Fehler machen darf) (!Weil nur die Geschwindigkeit eines Systems zählt)
Welche Frage prüft Repräsentation am direktesten? (Wer ist in Daten und Beispielen vertreten und wer fehlt) (!Wie schnell lädt die Benutzeroberfläche) (!Wie viele Zeilen Programmcode hat das Modell) (!Wie teuer ist der Computer)
Was ist ein falsch negatives Ergebnis bei einer Eignungsentscheidung? (Eine geeignete Person wird nicht empfohlen) (!Eine ungeeignete Person wird empfohlen) (!Eine geeignete Person wird empfohlen) (!Eine ungeeignete Person wird nicht empfohlen)
Welche Aussage beschreibt Quellenkritik am besten? (Man prüft Autorenschaft Methode Aktualität Belege und Grenzen) (!Man glaubt die Quelle mit den meisten Bildern) (!Man übernimmt nur die erste Suchtrefferzeile) (!Man vertraut automatisch jedem KI-Text)
Warum kann ein Merkmal wie frühere AG-Teilnahme problematisch sein? (Es kann ungleiche frühere Zugangschancen indirekt abbilden) (!Es ist immer ein geschütztes Merkmal) (!Es beweist sicher eine böse Absicht der Entwickler) (!Es macht jedes Modell mathematisch unbrauchbar)
Was bedeutet Verfahrensfairness? (Der Entscheidungsweg ist nachvollziehbar überprüfbar und anfechtbar) (!Alle Personen erhalten zwingend dasselbe Ergebnis) (!Das Modell muss geheim bleiben) (!Nur die Gesamtgenauigkeit wird veröffentlicht)
Welche Aussage über ein Symbolbild zur Fairness ist richtig? (Es kann eine Idee veranschaulichen ist aber noch kein Beleg für ein konkretes System) (!Es beweist automatisch Diskriminierung) (!Es ersetzt eine wissenschaftliche Studie) (!Es zeigt die Fehlerrate eines Modells)
Warum werden Teilgruppen bei KI-Tests untersucht? (Um zu erkennen ob sich Fehler oder Qualität zwischen Gruppen stark unterscheiden) (!Um Menschen auf Gruppenmerkmale zu reduzieren) (!Um Testdaten grundsätzlich kleiner zu machen) (!Um auf menschliche Kontrolle verzichten zu können)
Welche Maßnahme stärkt Human Agency am besten? (Menschen können KI-Empfehlungen prüfen widersprechen und Verantwortung übernehmen) (!Die KI entscheidet endgültig ohne Einspruch) (!Nur das Modell kennt die Regeln) (!Betroffene erhalten keine Informationen)
Warum ist Fairness nicht rein technisch lösbar? (Weil Gesellschaften begründen müssen welche Werte Folgen und Rechte Vorrang haben) (!Weil Mathematik bei KI nie verwendet werden kann) (!Weil Daten grundsätzlich wertlos sind) (!Weil jedes technische System automatisch unfair ist)
Memory
| Repräsentation | Wer in Daten und Darstellungen vorkommt |
| Bias | Systematische Verzerrung oder problematische Bevorzugung und Benachteiligung |
| Transparenz | Nachvollziehbarkeit von Zweck Verfahren und Grenzen |
| Teilhabe | Betroffene können mitreden und mitgestalten |
| Testdaten | Separate Beispiele zur Prüfung eines Modells |
| Einspruch | Möglichkeit eine Entscheidung überprüfen zu lassen |
| Proxy | Ersatzmerkmal das indirekt andere Eigenschaften abbilden kann |
| Human Agency | Menschen behalten Urteil Handlungsspielraum und Verantwortung |
Drag and Drop
| Ordne die richtigen Begriffe zu. | Thema |
|---|---|
| Datensatz | Sammlung von Beispielen für Training oder Test |
| Merkmal | Information die ein Modell für eine Entscheidung nutzt |
| Verfahrensfairness | Nachvollziehbarer überprüfbarer und anfechtbarer Prozess |
| Darstellungsschaden | Stereotype abwertende oder unsichtbar machende Repräsentation |
| Monitoring | Fortlaufende Prüfung nach dem Einsatz |
...
Kreuzworträtsel
| Datensatz | Wie heißt eine Sammlung von Beispielen für Training oder Test? |
| Transparenz | Welcher Begriff steht für nachvollziehbare Informationen über Zweck Verfahren und Grenzen? |
| Teilhabe | Wie heißt die Möglichkeit Betroffener mitzuwirken und mitzuentscheiden? |
| Verzerrung | Welches deutsche Wort beschreibt einen systematischen Bias? |
| Aufsicht | Welcher Begriff bezeichnet menschliche Kontrolle über ein KI-System? |
| Belege | Was braucht ein begründetes Urteil zusätzlich zu einer Meinung? |
LearningApps
Lückentext
Offene Aufgaben
Leicht
- Fairness-Tagebuch: Beobachte einen Tag lang, wo in Deinem Alltag Empfehlungen oder automatische Sortierungen vorkommen könnten. Notiere zwei Situationen und jeweils eine Fairnessfrage. Verwende keine privaten Daten anderer Personen.
- Symbolanalyse: Vergleiche die Bilder der ausgeglichenen und der unausgeglichenen Waage. Erkläre, welche Botschaft sie nahelegen und warum sie allein keine KI-Fairness beweisen.
- Quellencheck: Wähle eine Aussage aus einem Video dieses Kurses und finde die dazugehörige Forschungs- oder Institutionenquelle. Trenne Behauptung, Beleg und offene Frage.
- Perspektivwechsel: Schreibe je drei Sätze aus Sicht einer betroffenen Schülerin oder eines betroffenen Schülers, einer Lehrkraft und einer Entwicklerperson zum Projektwochen-System.
Standard
- Mini-Audit: Entwickle für das Projektwochen-System sechs Prüffragen zu Daten, Merkmalen, Fehlerraten, Transparenz, Einspruch und Teilhabe. Begründe, welche zwei Fragen vor einem Einsatz zwingend beantwortet werden müssen.
- Datenvergleich: Berechne im Zahlenbeispiel die Auswahlquote beider Gruppen. Vergleiche sie mit den Trefferquoten geeigneter Personen und erkläre, warum unterschiedliche Kennzahlen zu unterschiedlichen Fairnessurteilen führen können.
- Medienanalyse: Untersuche drei frei lizenzierte Bilder aus dem Kurs. Ordne für jedes Bild ein, ob es Technik erklärt, Vielfalt symbolisiert oder eine gesellschaftliche Botschaft zeigt. Bewerte den Belegwert.
- Redesign: Entwirf eine verbesserte Version des Projektwochen-Verfahrens. Entscheide, welche Daten Du weglassen, welche Tests Du ergänzen und wo Menschen eingreifen sollen. Begründe jede Änderung.
Schwer
- Fairness-Debatte: Führe eine strukturierte Debatte zur Frage „Soll die Schule das KI-System nach Verbesserungen einsetzen?“. Jede Seite muss mindestens zwei Belege, zwei Betroffenenperspektiven und eine Unsicherheit nennen.
- Bias-Experiment: Erstelle mit selbst erfundenen, nicht personenbezogenen Beispieldaten zwei Gruppen und simuliere unterschiedliche Fehlerraten. Zeige, wie sich eine Änderung der Entscheidungsschwelle auf falsch positive und falsch negative Ergebnisse auswirkt.
- Historischer Datenblick: Recherchiere ein Beispiel dafür, wie frühere gesellschaftliche Ungleichheiten in heutige Daten eingehen können. Prüfe mindestens zwei Quellen und erkläre, warum historische Daten nicht automatisch neutrale Tatsachen sind.
- Fairness-Leitlinie: Formuliere eine einseitige schulische Leitlinie für verantwortlichen KI-Einsatz. Sie soll Transparenz, Sicherheit, Quellenprüfung, Datenschutz, Teilhabe, Einspruch und menschliche Verantwortung enthalten und mögliche Zielkonflikte benennen.
|
|
Lernkontrolle
- Audit eines neuen Falls: Ein KI-System soll entscheiden, welche Lernenden zusätzliche Förderung angeboten bekommen. Entwickle mindestens vier Fairnesskriterien und erkläre, welche Fehlerart hier besonders schädlich sein könnte. Begründe Deine Gewichtung.
- Belegprüfung: Eine Schlagzeile behauptet „KI benachteiligt Gruppe X doppelt so oft“. Formuliere mindestens sechs Informationen, die Du brauchst, bevor Du die Aussage übernimmst, und ordne sie nach Wichtigkeit.
- Konfliktanalyse: Zeige an einem selbst gewählten Beispiel, wie gleiche Regeln und Chancengerechtigkeit zu unterschiedlichen Empfehlungen führen können. Begründe, welches Kriterium Du in diesem Fall priorisieren würdest.
- Verbesserungsentscheidung: Wähle aus Datenverbesserung, Merkmalsprüfung, menschlicher Kontrolle, Einspruch, Teilhabe und Nicht-Einsatz drei Maßnahmen aus. Erkläre, warum gerade diese Kombination das konkrete Risiko mindert und welche Schwäche bleibt.
- Urteilstext: Verfasse ein begründetes Urteil zum Projektwochen-System mit Kriterium, mindestens zwei Belegen, drei Perspektiven, einer Abwägung, einer Unsicherheit und einem konkreten Verbesserungsvorschlag.
- Transfer auf Medien-KI: Untersuche einen fiktiven Bildgenerator, der bei dem Prompt „Führungskraft“ fast immer ähnliche Personen darstellt. Erkläre, welche Art von Schaden vorliegt, welche Tests Du durchführen würdest und warum reine Zahlen die Wertfrage nicht vollständig lösen.
Lernnachweis
Für einen gelungenen Lernnachweis ist wichtig, dass Du nicht nur Fachbegriffe aufzählst, sondern einen nachvollziehbaren Prüfweg zeigst.
- Fairnesskriterien: Du verwendest mehrere klar benannte Kriterien und erklärst ihre Bedeutung für den Fall.
- Technisches Verständnis: Du kannst Daten, Merkmale, Modell, Test und Fehlerarten in vereinfachter Form erklären.
- Belege: Du stützt zentrale Aussagen auf passende Daten oder überprüfbare Quellen und kennzeichnest Unsicherheiten.
- Quellenkritik: Du unterscheidest Forschung, institutionelle Regeln, Medienberichte, Videos und Symbolbilder nach ihrem Belegwert.
- Betroffenenperspektiven: Du berücksichtigst unterschiedliche Folgen, ohne Menschen auf Kategorien zu reduzieren.
- Abwägung: Du zeigst mindestens einen Zielkonflikt zwischen Fairnessvorstellungen oder Interessen.
- Verbesserungen: Du entwickelst konkrete technische, organisatorische oder gesellschaftliche Maßnahmen.
- Human Agency: Du erklärst, wo Menschen prüfen, widersprechen, entscheiden und Verantwortung übernehmen müssen.
- Urteil: Dein Schluss ist begründet, transparent und offen für neue Belege.
OERs zum Thema
Verknüpfte Lernbereiche