Bias systematisch verringern
Bias systematisch verringern
Bias systematisch verringern
Zielgruppe: Schule, Schwerpunkt Klasse 9 Zeitumfang: ca. 45–90 Minuten Fächerübergreifende Bezüge: Informatik, Deutsch, Mathematik, Technik, Wirtschaft, Geschichte, Ethik, Gemeinschaftskunde, Medienbildung Zentrale Leitfrage: Wie kannst Du Verzerrungen in daten- und KI-gestützten Systemen erkennen, ihre Folgen beurteilen und sie systematisch verringern, ohne so zu tun, als ließen sich gesellschaftliche Wertfragen allein technisch lösen?
Dieser aiMOOC verbindet Künstliche Intelligenz, Maschinelles Lernen, Algorithmic Bias, Statistik, Diskriminierung, Datenschutz, Fairness, Quellenkritik und Verantwortung. Du arbeitest mit Daten, prüfst Systeme aus verschiedenen Betroffenenperspektiven, entwickelst Verbesserungen und überträgst Dein Vorgehen am Ende auf eine neue Situation.
Einleitung
Ein automatisches System kann sehr schnell rechnen und trotzdem systematisch ungerechte Ergebnisse erzeugen. Das liegt nicht unbedingt daran, dass jemand absichtlich diskriminieren wollte. Verzerrungen können schon bei der Formulierung des Problems beginnen, sich in Daten verstecken, beim Beschriften von Beispielen entstehen, durch ungeeignete Merkmale verstärkt werden oder erst beim Einsatz in einer konkreten Situation sichtbar werden.
Bias bedeutet in diesem Kurs eine systematische Verzerrung. Bei KI-Systemen kann sie dazu führen, dass bestimmte Personen oder Gruppen häufiger Fehler, Nachteile oder geringere Teilhabe erfahren. Ein Unterschied zwischen Gruppen beweist noch nicht automatisch Diskriminierung. Er ist aber ein wichtiges Signal: Man muss genauer prüfen, warum der Unterschied entsteht, welche Folgen er hat und ob er sachlich gerechtfertigt ist.
Besonders wichtig ist die Einsicht: Fairness ist nicht nur eine Rechenaufgabe. Mathematik kann Unterschiede sichtbar machen. Informatik kann Modelle testen und verbessern. Technik kann Schutzmechanismen einbauen. Aber die Frage, welche Art von Fairness in einer Situation gelten soll, betrifft auch Werte, Rechte, gesellschaftliche Machtverhältnisse und die Perspektiven Betroffener. UNESCO betont deshalb neben Fairness auch Transparenz, menschliche Aufsicht, Vielfalt, Teilhabe und Verantwortung.[1]
Lernziele
Nach dem Kurs kannst Du erklären, an welchen Stellen eines KI-Systems Bias entstehen kann, einfache Gruppenstatistiken und Fehlerquoten auswerten, verschiedene Fairnessvorstellungen unterscheiden, Risiken und Nutzen abwägen, Betroffenenperspektiven berücksichtigen, Quellen kritisch prüfen und einen begründeten Verbesserungsplan für ein neues Anwendungsszenario entwickeln.
Unterrichtsplanung für 45 bis 90 Minuten
| Phase | Kurzversion ca. 45 Minuten | Vertiefung ca. 90 Minuten |
|---|---|---|
| Aktivierung | 5 Minuten Diagnose | 10 Minuten Diagnose und Austausch |
| Einführung | 10 Minuten Bias-Kette | 15 Minuten Bias-Kette und Medien |
| Datenanalyse | 10 Minuten Gruppenvergleich | 20 Minuten Gruppenvergleich und Fairnessmetriken |
| Anwendung | 15 Minuten Schulfall | 30 Minuten Rollenarbeit und Verbesserungsdesign |
| Abschluss | 5 Minuten Transfer | 15 Minuten Selbstkontrolle, Reflexion und Transfer |
Aktivierung und Diagnose
Stell Dir vor, eine Schule nutzt ein automatisiertes System, um zu entscheiden, welche Schülerinnen und Schüler zuerst zu begehrten Berufsorientierungspraktika eingeladen werden. Entscheide spontan bei jeder Aussage: stimme zu, stimme nicht zu oder unsicher. Notiere zu mindestens einer Aussage eine Begründung.
| Aussage | Deine erste Einschätzung |
|---|---|
| Ein System mit 92 Prozent Gesamtgenauigkeit ist automatisch fair. | |
| Wenn ein System das Geschlecht nicht direkt verwendet, kann es keine geschlechtsbezogene Verzerrung geben. | |
| Gleiche Regeln führen immer zu fairen Ergebnissen. | |
| Wenn eine KI empfiehlt, bleibt die Verantwortung trotzdem bei Menschen und Organisationen. |
Bewahre Deine Antworten auf. Am Ende des Kurses prüfst Du, ob Du eine Aussage anders beurteilst.
Was bedeutet Bias?
Bias kann in unterschiedlichen Fachgebieten etwas Verschiedenes bedeuten. In der Statistik bezeichnet Bias eine systematische Abweichung eines Schätzverfahrens. Im Zusammenhang mit KI und automatisierten Entscheidungen geht es zusätzlich um gesellschaftliche Folgen: Wer wird häufiger falsch eingeordnet? Wer bekommt weniger Chancen? Wer wird nicht repräsentiert? Wer kann eine Entscheidung anfechten?
Ein KI-System ist Teil eines soziotechnischen Systems. Das bedeutet: Nicht nur das Modell zählt, sondern auch Menschen, Regeln, Organisationen, Daten, technische Geräte, wirtschaftliche Interessen und der konkrete Einsatzort.
Bias ist eine Kette, kein einzelner Fehler
| Stelle im System | Mögliche Verzerrung | Prüffrage | Mögliche Verbesserung |
|---|---|---|---|
| Problemdefinition | Ein zu enges Ziel wird gewählt | Was soll überhaupt als Erfolg gelten? | Betroffene und Fachleute früh beteiligen |
| Datenerhebung | Manche Gruppen fehlen oder sind unterrepräsentiert | Wer ist in den Daten sichtbar und wer nicht? | Repräsentativität prüfen und Datenlücken dokumentieren |
| Beschriftung | Labels übernehmen Vorurteile oder uneinheitliche Urteile | Wer hat entschieden, was als richtig gilt? | Mehrere Beurteilende und klare Kriterien einsetzen |
| Merkmalsauswahl | Ein scheinbar neutrales Merkmal wirkt als Proxy | Steht ein Merkmal indirekt für soziale Herkunft, Wohnort oder Zugang? | Notwendigkeit jedes Merkmals begründen |
| Modelltraining | Das Modell lernt ungleiche Muster | Welche Gruppenfehler entstehen? | Gruppen getrennt testen und Modell anpassen |
| Schwellenwert | Eine Grenze erzeugt ungleiche Folgen | Wer trägt die Kosten falscher Ablehnungen? | Schwelle und Folgen gemeinsam bewerten |
| Einsatz | Nutzende vertrauen der Empfehlung zu stark | Kann ein Mensch sinnvoll widersprechen? | Echte menschliche Aufsicht und Begründung ermöglichen |
| Betrieb | Frühere Entscheidungen werden neue Trainingsdaten | Verstärkt sich das System selbst? | Laufend überwachen und Feedbackschleifen prüfen |
Eine Rückkopplung kann Bias verstärken: Wenn ein System bestimmte Inhalte häufiger zeigt, werden diese häufiger angeklickt. Die Klicks werden anschließend wieder als Signal für Beliebtheit genutzt. So kann Sichtbarkeit selbst zu einem Grund für noch mehr Sichtbarkeit werden.
Repräsentation, Vielfalt und Teilhabe
Repräsentation fragt, ob die Menschen und Situationen, für die ein System genutzt wird, in den Daten angemessen vorkommen. Vielfalt geht weiter: Unterschiede in Lebenslagen, Sprachen, körperlichen Voraussetzungen, Einkommen, Technikzugang oder kulturellen Erfahrungen können die Nutzung eines Systems verändern. Teilhabe bedeutet, dass Menschen nicht nur Datenliefernde sind, sondern bei wichtigen Entscheidungen gehört werden können.
Ein Datensatz kann groß und trotzdem schlecht repräsentativ sein. Millionen Datenpunkte helfen wenig, wenn sie fast nur aus einer bestimmten Bevölkerungsgruppe oder Nutzungssituation stammen.
Wichtig ist außerdem die Intersektionalität: Nachteile können erst sichtbar werden, wenn mehrere Merkmale gemeinsam betrachtet werden. Ein Durchschnitt über alle Menschen kann Unterschiede zwischen Untergruppen verdecken.
Historisches Beispiel: Gesichtsanalyse
Eine bekannte Untersuchung von Joy Buolamwini und Timnit Gebru aus dem Jahr 2018 verglich kommerzielle Systeme zur Geschlechtsklassifikation. In den untersuchten Benchmarks waren hellere Hauttypen stark überrepräsentiert. Die getesteten Systeme zeigten besonders hohe Fehlerraten bei dunkelhäutigen Frauen, während hellhäutige Männer deutlich seltener falsch klassifiziert wurden.[2]
Dieses Beispiel darf nicht unkritisch verallgemeinert werden. Es untersuchte bestimmte Systeme zu einem bestimmten Zeitpunkt und verwendete die Kategorien des damaligen Tests. Die Ergebnisse sind kein Beweis dafür, dass jedes heutige Gesichtserkennungssystem dieselben Fehler macht. Sie zeigen aber sehr deutlich, warum man Systeme nach Untergruppen prüfen muss.
Auch das US-amerikanische National Institute of Standards and Technology fand bei umfangreichen Tests demografische Unterschiede in den Fehlerraten vieler Gesichtserkennungsalgorithmen. Zugleich betont NIST, dass Algorithmen sich stark voneinander unterscheiden und dass Anwendungskontext und Datengrundlage entscheidend sind.[3]
Fairness ist mehr als Gesamtgenauigkeit
Ein System kann insgesamt sehr genau sein und trotzdem eine bestimmte Gruppe häufig falsch behandeln. Deshalb genügt die Kennzahl Accuracy allein nicht.
Bei einer Ja-Nein-Entscheidung kannst Du vier Fälle unterscheiden:
| Wirklichkeit | Systementscheidung | Ergebnis |
|---|---|---|
| geeignet | eingeladen | richtig positiv |
| geeignet | nicht eingeladen | falsch negativ |
| nicht geeignet | eingeladen | falsch positiv |
| nicht geeignet | nicht eingeladen | richtig negativ |
Ein falsch negatives Ergebnis kann zum Beispiel bedeuten, dass eine eigentlich geeignete Person eine Chance verliert. Ein falsch positives Ergebnis kann bedeuten, dass jemand eingeladen wird, obwohl die Kriterien nicht erfüllt sind. Welche Fehlerart schwerer wiegt, hängt von der Situation ab.
Mathematische Mini-Analyse
Eine Schule testet ein fiktives System für Praktikumsangebote. Nachträglich bewertet ein menschliches Team 80 Bewerbungen. In beiden Gruppen sind jeweils 28 von 40 Jugendlichen fachlich geeignet.
| Gruppe | Personen | Tatsächlich geeignet | Vom System richtig eingeladen | Geeignete, aber abgelehnte Personen |
|---|---|---|---|---|
| regelmäßiger Zugang zu einem eigenen Endgerät | 40 | 28 | 24 | 4 |
| geteiltes oder wechselnd verfügbares Endgerät | 40 | 28 | 18 | 10 |
Für die erste Gruppe beträgt der Anteil falsch abgelehnter geeigneter Personen: 4 ÷ 28 ≈ 14,3 Prozent
Für die zweite Gruppe: 10 ÷ 28 ≈ 35,7 Prozent
Die Gesamtleistung des Systems kann ordentlich aussehen. Der Gruppenvergleich zeigt aber: Geeignete Jugendliche mit eingeschränktem Gerätezugang werden deutlich häufiger übersehen.
Das beweist noch nicht, warum der Unterschied entsteht. Eine plausible Hypothese wäre, dass das System Merkmale wie schnelle Reaktionszeiten, häufige Plattformnutzung oder digitale Vorerfahrung verwendet. Diese Merkmale könnten indirekt Unterschiede im Technikzugang abbilden.
Verschiedene Vorstellungen von Fairness
| Fairnessfrage | Vereinfachte Idee | Stärke | Grenze |
|---|---|---|---|
| Gleiche Regel | Für alle gilt derselbe Schwellenwert | Leicht nachvollziehbar | Unterschiedliche Ausgangsbedingungen bleiben unberücksichtigt |
| Gleiche Chance | Geeignete Personen sollen gruppenübergreifend ähnlich oft erkannt werden | Blick auf Chancen | Andere Fehlerarten können sich verschieben |
| Gleiche Fehlerbelastung | Bestimmte Fehlerquoten sollen zwischen Gruppen ähnlich sein | Nachteile werden sichtbar | Mehrere Fehlerquoten können gleichzeitig schwer auszugleichen sein |
| Gleiches Ergebnis | Auswahlquoten sollen ähnlich sein | Macht Ergebnisunterschiede sichtbar | Gleiche Quote kann Unterschiede im Kontext verdecken |
| Einzelfallgerechtigkeit | Ähnliche Fälle werden ähnlich behandelt und Abweichungen begründet | Achtet auf einzelne Personen | Die Frage, was als ähnlich gilt, ist selbst wertabhängig |
Es gibt nicht immer eine einzige Fairnessmetrik, die alle Ziele gleichzeitig erfüllt. Deshalb muss eine Gesellschaft entscheiden, welche Risiken und Rechte in einem bestimmten Bereich besonders wichtig sind. Genau hier endet eine rein technische Antwort.
Quellenkritik bei Aussagen über KI-Bias
Wenn Du liest, ein KI-System sei „voreingenommen“ oder „fair“, prüfe mindestens fünf Punkte.
- Quelle: Wer hat die Untersuchung veröffentlicht und welche Interessen könnten eine Rolle spielen?
- Stichprobe: Welche Menschen, Länder, Sprachen und Situationen wurden untersucht?
- Kennzahl: Welche Fehlerquote oder Fairnessdefinition wurde verwendet?
- Zeitbezug: Welche Systemversion und welches Jahr wurden untersucht?
- Kontext: Ist der Test auf die behauptete Anwendung übertragbar?
Ein wissenschaftlicher Befund über ein System aus dem Jahr 2018 ist wertvoll, darf aber nicht automatisch als aktueller Leistungswert eines Systems im Jahr 2026 ausgegeben werden. Gute Quellenkritik trennt historischen Befund, heutige Systemversion und allgemeine Schlussfolgerung.
Perspektiven von Betroffenen
Bei Bias geht es nicht nur darum, ob ein Modell „besser“ wird. Verschiedene Beteiligte können unterschiedliche Interessen haben.
| Perspektive | Mögliche Frage |
|---|---|
| Schülerin oder Schüler | Kann ich verstehen, warum ich abgelehnt wurde, und kann ich widersprechen? |
| Lehrkraft | Hilft mir das System oder verleitet es mich dazu, eine Empfehlung ungeprüft zu übernehmen? |
| Sorgeberechtigte | Welche personenbezogenen Daten werden verwendet? |
| Schulsozialarbeit | Werden soziale Benachteiligungen indirekt als Leistungsschwäche behandelt? |
| Betrieb | Bekomme ich passende Bewerbungen, ohne bestimmte Gruppen systematisch auszuschließen? |
| Schulleitung | Wer ist verantwortlich, wenn ein Fehler entsteht? |
| Datenschutzbeauftragte | Werden nur notwendige Daten verarbeitet und ausreichend geschützt? |
| Entwicklerteam | Welche Untergruppen wurden getestet und welche Grenzen sind dokumentiert? |
Human Agency bedeutet hier: Menschen dürfen nicht zu passiven Empfängern automatischer Entscheidungen werden. Sie brauchen Informationen, Wahlmöglichkeiten, Möglichkeiten zur Rückfrage und bei wichtigen Entscheidungen eine echte Chance auf menschliche Prüfung.
Risikoabwägung und Verantwortung
Ein KI-System kann Vorteile haben: Es kann große Datenmengen prüfen, wiederkehrende Aufgaben beschleunigen oder Muster sichtbar machen. Gleichzeitig können Fehler in großem Maßstab vervielfältigt werden.
| Möglicher Nutzen | Mögliches Risiko | Schutzmaßnahme |
|---|---|---|
| schnellere Vorauswahl | ungeprüfte Massenablehnung | menschliche Zweitprüfung |
| einheitliche Kriterien | ungeeignete oder diskriminierende Kriterien | Kriterien offenlegen und begründen |
| datengestützte Entscheidung | historische Benachteiligung wird übernommen | Datenherkunft und Gruppenfehler prüfen |
| Automatisierung | Verantwortungsdiffusion | klare Zuständigkeiten festlegen |
| Personalisierung | Überwachung und Privatsphärenverlust | Datenminimierung und Zweckbindung |
Das NIST AI Risk Management Framework nennt unter anderem Zuverlässigkeit, Sicherheit, Transparenz, Erklärbarkeit, Datenschutz, Verantwortlichkeit und den Umgang mit schädlichem Bias als Merkmale vertrauenswürdiger KI.[4]
Für bestimmte Hochrisiko-KI-Systeme verlangt der europäische AI Act unter anderem geeignete Daten-Governance, die Prüfung möglicher Bias-Risiken, Maßnahmen zur Verringerung solcher Verzerrungen und menschliche Aufsicht. Bestimmte Anwendungen in Bildung und Beschäftigung können in den Hochrisikobereich fallen.[5]
Wichtig ist der Zielkonflikt: Um Benachteiligungen zwischen Gruppen zu erkennen, muss man Gruppen manchmal statistisch vergleichen. Gleichzeitig können Angaben über bestimmte persönliche Merkmale sensibel sein. Fairnessprüfung und Datenschutz müssen deshalb gemeinsam geplant werden, nicht gegeneinander.
Der Prüfzyklus: Bias systematisch verringern
Der folgende Acht-Schritte-Zyklus ist ein Lernschema dieses Kurses und kein offizieller Standard.
- Zweck klären: Welche Entscheidung soll unterstützt werden, und ist KI dafür überhaupt nötig?
- Betroffene bestimmen: Wer profitiert, wer trägt Risiken und wer könnte ausgeschlossen werden?
- Daten prüfen: Herkunft, Repräsentation, Qualität, Einwilligung und Datenlücken untersuchen.
- Merkmale prüfen: Unnötige oder problematische Proxy-Merkmale erkennen.
- Gruppen testen: Gesamtkennzahlen und Untergruppenfehler vergleichen.
- Verbessern: Daten, Merkmale, Modell, Schwellenwerte oder Prozess gezielt ändern.
- Menschen stärken: Erklärungen, Aufsicht, Rückfragen und Anfechtung ermöglichen.
- Weiter beobachten: Nach dem Einsatz erneut messen, Beschwerden auswerten und Rückkopplungen erkennen.
Systematisch verringern bedeutet deshalb nicht, einmal einen Datensatz „auszugleichen“ und anschließend Fairness zu behaupten. Es ist ein fortlaufender Prozess aus Prüfen, Begründen, Verbessern und Überwachen.
Realistische Anwendungssituation: Praktikums-Matching an einer Schule
Eine Schule möchte eine Software einsetzen, die Schülerinnen und Schüler mit Praktikumsplätzen verbindet. Das System berechnet einen Eignungswert aus Noten, Interessen, bisherigen Projekten, Reaktionszeiten in der Schulplattform, freiwilligen außerschulischen Aktivitäten und einem kurzen Motivationsschreiben.
Die Schule behauptet: „Das System ist objektiver als Lehrkräfte, weil alle nach derselben Formel bewertet werden.“
Dein Audit-Auftrag
Prüfe die Behauptung aus mindestens vier Perspektiven.
| Prüffeld | Leitfragen |
|---|---|
| Daten | Sind alle Jugendlichen angemessen vertreten? Fehlen Daten von Personen mit weniger digitalem Zugang? |
| Merkmale | Ist schnelle Reaktionszeit wirklich ein sinnvolles Maß für Motivation? Kann sie ein Proxy für Gerätezugang oder freie Zeit sein? |
| Sprache | Werden unterschiedliche Schreibstile, Sprachbiografien oder Unterstützungsbedarfe unfair bewertet? |
| Folgen | Was bedeutet eine falsche Ablehnung für die betroffene Person? |
| Transparenz | Verstehen Jugendliche, welche Faktoren ihre Empfehlung beeinflusst haben? |
| Teilhabe | Wurden Schülerinnen und Schüler an der Gestaltung beteiligt? |
| Verantwortung | Wer darf das System überstimmen? Wer bearbeitet Beschwerden? |
Verbesserungen entwickeln
Ein verantwortlicher Verbesserungsplan könnte mehrere Ebenen verbinden: bessere und vielfältigere Daten, kritisch geprüfte Merkmale, Gruppenanalysen, dokumentierte Grenzen, menschliche Zweitprüfung, ein verständliches Beschwerdeverfahren und regelmäßige Wiederholung des Audits.
Aber Achtung: Die Klasse muss selbst entscheiden, welches Fairnessziel im Praktikumsfall am wichtigsten ist. Soll vor allem die Chance geeigneter Personen vergleichbar sein? Soll die Zahl falscher Ablehnungen minimiert werden? Soll jedes Ergebnis individuell begründbar sein? Verschiedene Antworten können gut begründet sein.
Reflexion: Technik löst nicht jede Wertfrage
Stell Dir zwei Verbesserungen vor:
Lösung A: Das System verwendet für alle genau dieselbe Punktgrenze.
Lösung B: Das System korrigiert nachweisbare Zugangsnachteile, prüft Grenzfälle menschlich und erlaubt Widerspruch.
Welche Lösung ist fairer? Die Antwort hängt davon ab, welche Vorstellung von Gerechtigkeit Du vertrittst. Gleiche Behandlung kann wichtig sein. Ebenso kann es gerecht sein, ungleiche Ausgangsbedingungen zu berücksichtigen. Diese Entscheidung kann kein Algorithmus neutral für die Gesellschaft treffen.
Medien- und Quellenhinweise
Die eingebundenen Bilder stammen von Wikimedia Commons und sind auf ihren jeweiligen Dateiseiten als frei nutzbare Medien unter CC-Lizenzen, CC0 oder Public Domain ausgewiesen. Bei einer Weiterverwendung müssen die Bedingungen der jeweiligen Datei beachtet werden.
Interaktive Aufgaben
Quiz: Teste Dein Wissen
Ein Auswahlmodell erreicht insgesamt eine hohe Genauigkeit, lehnt aber geeignete Personen einer Gruppe deutlich häufiger ab. Was ist die beste Schlussfolgerung? (Die Gesamtgenauigkeit reicht nicht aus und die Fehlerquoten sollten nach Gruppen untersucht werden) (!Das System ist automatisch fair weil die Gesamtgenauigkeit hoch ist) (!Die Gruppe sollte aus der Auswertung entfernt werden) (!Nur die Zahl der ausgewählten Personen ist wichtig)
Ein System verwendet das Geschlecht nicht direkt. Warum kann trotzdem geschlechtsbezogener Bias entstehen? (Andere Merkmale können als indirekte Proxy-Merkmale wirken) (!Ohne Geschlechtsvariable ist jede Form von Bias technisch unmöglich) (!Nur die Programmierfarbe der Benutzeroberfläche kann Bias erzeugen) (!Geschlechtsbezogener Bias entsteht ausschließlich durch Zufallsfehler)
Was ist bei unterrepräsentierten Gruppen in Trainingsdaten zuerst sinnvoll? (Prüfen ob die Daten die spätere Nutzungssituation angemessen abbilden) (!Alle Daten dieser Gruppe vollständig löschen) (!Die Gesamtzahl der Daten ignorieren) (!Nur die Trainingsgeschwindigkeit erhöhen)
Ein System empfiehlt häufiger Inhalte die bereits oft angeklickt wurden und nutzt neue Klicks wieder als Trainingssignal. Welches Risiko liegt vor? (Eine Rückkopplungsschleife kann bestehende Muster verstärken) (!Die Datenmenge wird automatisch kleiner) (!Das System verliert jede Form von Mustererkennung) (!Die Empfehlungen werden unabhängig von Nutzerverhalten)
Welche Maßnahme stärkt Human Agency bei einer wichtigen automatisierten Entscheidung am meisten? (Eine verständliche Begründung mit echter menschlicher Überprüfung und Widerspruchsmöglichkeit) (!Eine vollständig automatische Entscheidung ohne Kontaktperson) (!Ein geheimes Bewertungssystem mit höherer Rechengeschwindigkeit) (!Die Abschaffung jeder Dokumentation)
Warum ist Fairness nicht vollständig durch eine einzige Kennzahl lösbar? (Verschiedene Fairnessziele können miteinander in Konflikt stehen und erfordern Wertentscheidungen) (!Weil mathematische Kennzahlen grundsätzlich nutzlos sind) (!Weil Fairness ausschließlich von Zufall abhängt) (!Weil technische Systeme niemals getestet werden können)
Eine Studie über ein KI-System ist acht Jahre alt. Wie solltest Du damit umgehen? (Prüfen welche Systemversion untersucht wurde und historische Befunde nicht automatisch auf heutige Systeme übertragen) (!Die Ergebnisse ohne Prüfung als aktuellen Leistungswert verwenden) (!Die Studie allein wegen ihres Alters vollständig ignorieren) (!Davon ausgehen dass alle Systeme heute exakt gleich funktionieren)
Was bedeutet eine falsch negative Entscheidung bei einer Praktikumsauswahl? (Eine tatsächlich geeignete Person wird vom System abgelehnt) (!Eine ungeeignete Person wird eingeladen) (!Eine geeignete Person wird korrekt eingeladen) (!Eine ungeeignete Person wird korrekt abgelehnt)
Warum sollte ein Bias-Audit auch Betroffenenperspektiven einbeziehen? (Weil messbare Fehler und ihre tatsächlichen Folgen aus verschiedenen Lebenslagen unterschiedlich sein können) (!Weil statistische Tests dadurch überflüssig werden) (!Weil nur Betroffene Programme schreiben dürfen) (!Weil technische Daten grundsätzlich nicht verwendet werden sollten)
Welche Vorgehensweise passt am besten zu einem verantwortlichen Bias-Management? (Zweck klären Daten prüfen Gruppen testen verbessern menschliche Aufsicht sichern und weiter überwachen) (!Einmal Gesamtgenauigkeit messen und das System danach nicht mehr prüfen) (!Alle Entscheidungen vollständig an das Modell abgeben) (!Nur mehr Daten sammeln ohne ihren Inhalt zu untersuchen)
Memory
| Repräsentation | Angemessene Abbildung der später betroffenen Gruppen und Situationen |
| Proxy-Merkmal | Indirektes Merkmal das mit einer eigentlich nicht verwendeten Eigenschaft zusammenhängen kann |
| Falsch negativ | Geeigneter Fall wird fälschlich abgelehnt |
| Fairnessmetrik | Kennzahl zur Untersuchung bestimmter Gerechtigkeitsaspekte |
| Feedbackschleife | Frühere Systemausgaben beeinflussen spätere Eingabedaten |
| Human Oversight | Sinnvolle menschliche Kontrolle eines automatisierten Systems |
| Audit | Strukturierte Prüfung von Daten Modell Prozess und Folgen |
| Anfechtung | Möglichkeit eine Entscheidung prüfen oder korrigieren zu lassen |
Drag and Drop
| Ordne die richtigen Begriffe zu. | Thema |
|---|---|
| Problemdefinition | Ziel und Erfolgskriterium |
| Datenerhebung | Repräsentation und Datenlücken |
| Labeling | Qualität der Zuordnungen |
| Evaluation | Vergleich von Gruppenfehlern |
| Einführung | Menschliche Aufsicht |
| Betrieb | Monitoring und Beschwerdewege |
Kreuzworträtsel
| Bias | Wie heißt eine systematische Verzerrung in kurzer Fachsprache? |
| Proxy | Wie nennt man ein Merkmal das indirekt für eine andere Eigenschaft stehen kann? |
| Audit | Wie heißt eine strukturierte Überprüfung eines Systems? |
| Fairness | Welcher Begriff beschreibt die Frage nach gerechter Behandlung? |
| Teilhabe | Wie heißt die Möglichkeit an gesellschaftlichen Prozessen mitzuwirken? |
| Transparenz | Welcher Begriff bezeichnet Nachvollziehbarkeit und Offenlegung wichtiger Informationen? |
LearningApps
Lückentext
Offene Aufgaben
Leicht
- Bias-Tagebuch: Suche in Deinem digitalen Alltag nach drei Situationen, in denen ein Ranking, eine Empfehlung oder automatische Auswahl vorkommt. Notiere jeweils, welche Daten vermutlich verwendet werden und wer benachteiligt werden könnte.
- Diagrammanalyse: Erkläre mit eigenen Worten, was die Abbildung zur Rückkopplungsschleife zeigt, und erfinde ein Alltagsbeispiel.
- Quellencheck: Vergleiche zwei Online-Aussagen über KI-Bias. Prüfe Autor, Datum, untersuchtes System, Datengrundlage und verwendete Kennzahl.
- Perspektivwechsel: Schreibe jeweils fünf Sätze aus der Sicht einer betroffenen Schülerin und einer Lehrkraft über eine fehlerhafte automatische Ablehnung.
Standard
- Datensatz prüfen: Erfinde einen kleinen Datensatz mit mindestens 20 fiktiven Fällen und zwei Gruppen. Berechne für jede Gruppe den Anteil falsch abgelehnter geeigneter Personen.
- Stakeholderkarte: Zeichne alle Personen und Organisationen ein, die am Praktikums-Matching beteiligt sind. Markiere, wer entscheiden, widersprechen, verbessern und Verantwortung übernehmen kann.
- Fairnessvergleich: Vergleiche gleiche Schwellenwerte, gleiche Chancen und gleiche Fehlerbelastung. Begründe, welches Ziel im Schulbeispiel für Dich Vorrang haben sollte.
- Rollenspiel: Führt eine Sitzung mit den Rollen Schülerschaft, Lehrkraft, Schulleitung, Datenschutz, Betrieb und Entwicklerteam durch. Einigt Euch auf mindestens fünf Schutzmaßnahmen.
Schwer
- Bias-Audit: Entwickle für das Praktikums-System einen vollständigen Prüfplan von der Problemdefinition bis zum laufenden Monitoring.
- Systemverbesserung: Entwirf eine neue Version des Systems, die weniger von digitalem Zugang abhängt. Begründe jede Änderung und nenne mögliche Nebenwirkungen.
- Regelwerk: Formuliere eine schulische Richtlinie mit Transparenzpflicht, menschlicher Letztentscheidung, Widerspruchsrecht, Datenschutz, Dokumentation und regelmäßiger Fairnessprüfung.
- Transfergutachten: Übertrage den Acht-Schritte-Zyklus auf eine neue Situation, zum Beispiel Kreditvergabe, automatisierte Moderation, Empfehlung von Lernmaterial oder Bewerberauswahl. Entscheide begründet, ob und unter welchen Bedingungen das System eingesetzt werden sollte.
|
|
Lernkontrolle
- Systemanalyse: Ein Lernsystem empfiehlt anspruchsvolle Aufgaben seltener an Schülerinnen und Schüler, die in der Vergangenheit langsamer geklickt haben. Analysiere mindestens drei mögliche Ursachen und erkläre, welche zusätzlichen Daten Du zur Prüfung brauchst.
- Datenbewertung: Zwei Gruppen haben dieselbe Zahl tatsächlich geeigneter Personen, aber deutlich unterschiedliche falsch-negative Raten. Erkläre, warum die Gesamtgenauigkeit als alleinige Bewertung ungeeignet ist.
- Fairnesskonflikt: Eine Maßnahme verbessert die Chancengleichheit, erhöht aber leicht die Zahl falscher positiver Entscheidungen. Beurteile den Zielkonflikt und begründe eine Entscheidung.
- Verantwortung: Eine Lehrkraft sagt nach einer falschen Ablehnung: „Das hat die KI entschieden.“ Bewerte diese Aussage aus technischer, ethischer und organisatorischer Sicht.
- Datenschutz und Fairness: Für eine Fairnessprüfung könnten sensible Gruppenmerkmale hilfreich sein. Entwickle einen Plan, der Fairnessprüfung und Datenschutz gemeinsam berücksichtigt.
- Transfer: Eine Gemeinde möchte KI zur Vergabe knapper Freizeitangebote nutzen. Entscheide anhand des Prüfzyklus, welche Bedingungen vor einem Einsatz erfüllt sein müssen und begründe Deine Prioritäten.
Selbstkontrolle und Reflexion
Beantworte nach dem Kurs noch einmal die vier Aussagen aus der Aktivierung. Markiere mindestens eine Aussage, bei der sich Deine Einschätzung verändert hat, und erkläre, welche Information dafür entscheidend war.
Formuliere anschließend in zwei Sätzen: Technisch prüfbar ist ... Gesellschaftlich ausgehandelt werden muss ...
Transferaufgabe
Eine Stadt plant ein System, das Jugendlichen automatisch Freizeit-, Förder- und Bildungsangebote empfiehlt. Es nutzt Wohnort, bisherige Anmeldungen, Klickverhalten, Alter, Schulform und Interessen.
Erstelle selbstständig eine begründete Entscheidungsvorlage. Sie soll enthalten: Zweck des Systems, wichtigste Betroffenengruppen, mögliche Proxy-Merkmale, mindestens zwei messbare Fairnessfragen, Risiken für Teilhabe und Privatsphäre, konkrete technische und organisatorische Verbesserungen, menschliche Aufsicht, Beschwerdeweg und Deine abschließende Entscheidung: einsetzen, nur unter Bedingungen einsetzen oder nicht einsetzen.
Bewertet wird nicht, welche der drei Entscheidungen Du wählst, sondern ob Du Daten, Risiken, Werte, Betroffenenperspektiven und Verantwortung nachvollziehbar miteinander verbindest.
Lernnachweis
Für einen Lernnachweis zu diesem Thema ist wichtig, dass Du:
- Bias als systematische Verzerrung erklären und von einem einzelnen Zufallsfehler unterscheiden kannst.
- Datenqualität und Repräsentation als mögliche Ursachen für Verzerrungen beurteilen kannst.
- Fehlerquoten für verschiedene Gruppen berechnen und vergleichen kannst.
- Proxy-Merkmale in einer Anwendung erkennen und begründen kannst, warum sie problematisch sein können.
- Fairness als Zusammenspiel verschiedener messbarer und gesellschaftlicher Kriterien erklären kannst.
- Betroffenenperspektiven und Teilhabe in eine Systembewertung einbeziehen kannst.
- Human Oversight und klare Verantwortung als Schutzmaßnahmen begründen kannst.
- Quellenkritik auf Behauptungen über KI-Systeme anwenden kannst.
- einen nachvollziehbaren Verbesserungsplan entwickeln kannst, der technische und organisatorische Maßnahmen verbindet.
- das Gelernte auf eine neue Situation übertragen und eine begründete Entscheidung treffen kannst.
OERs zum Thema
Verknüpfte Lernbereiche
Fächerübergreifende Bezüge
| Fach | Bezug |
|---|---|
| Informatik | Daten, Modelle, Merkmale, Evaluation, Feedbackschleifen, Human Oversight |
| Mathematik | Prozentrechnung, Fehlerquoten, Gruppenvergleich, Aussagekraft von Kennzahlen |
| Deutsch | Quellenkritik, Sprachwirkung, Begründungen, argumentative Abwägung |
| Technik | Systemlebenszyklus, Zuverlässigkeit, Testen, Monitoring und Sicherheitsmaßnahmen |
| Wirtschaft | Personalentscheidungen, Kreditwürdigkeit, Plattformanreize und Effizienz |
| Geschichte | Historische Daten als Spiegel früherer Chancen, Regeln und gesellschaftlicher Ungleichheiten |
| Ethik | Gerechtigkeit, Verantwortung, Menschenwürde, Autonomie und Wertkonflikte |
| Gemeinschaftskunde | Grundrechte, Teilhabe, Regulierung, Macht und demokratische Kontrolle |