Diesen aiMOOC als Battle spielen: Deutsch, Klasse 7-8, G-Niveau

Bias in Daten erkennen

Daten wirken oft sachlich und neutral. Trotzdem können Datensätze ein schiefes Bild der Wirklichkeit geben. Das nennt man Bias oder systematische Verzerrung. Bias kann entstehen, weil bestimmte Fälle gar nicht erfasst werden, weil Menschen sich selbst für eine Umfrage auswählen, weil Messungen fehlerhaft sind, weil Kategorien und Labels unklar vergeben werden oder weil eine Visualisierung Unterschiede größer oder kleiner erscheinen lässt, als sie sind. Auch KI-Systeme können solche Verzerrungen übernehmen oder verstärken, wenn sie aus problematischen Daten lernen.

In diesem aiMOOC lernst Du, Daten nicht nur zu lesen, sondern kritisch zu prüfen: Wer oder was ist enthalten? Wer oder was fehlt? Wie wurden Daten erzeugt? Welche Labels wurden vergeben? Welche Fehler stecken in Messung und Darstellung? Welche Schlussfolgerung ist wirklich begründet? Du arbeitest mit kleinen Datensätzen, Diagrammen, Experimenten und einer realistischen Anwendungssituation aus dem Schulalltag.

Das Zielscheibenbild hilft bei einer wichtigen Unterscheidung: Zufällige Fehler streuen Ergebnisse, während Bias Ergebnisse systematisch in eine Richtung verschieben kann. Beides kann gleichzeitig vorkommen.

Einleitung

Bias bedeutet hier nicht einfach „Vorurteil“. In der Datenanalyse bezeichnet Bias eine systematische Verzerrung. Ein Datensatz kann also verzerrt sein, obwohl niemand absichtlich täuschen wollte. Ein Beispiel: Wenn Du wissen möchtest, wie alle Schülerinnen und Schüler der siebten Klassen zur Schule kommen, aber nur Personen direkt am Fahrradständer befragst, ist Deine Stichprobe wahrscheinlich zugunsten von Radfahrenden verschoben.

Für Daten und KI ist deshalb eine zentrale Idee wichtig: Die Qualität einer Schlussfolgerung hängt nicht nur von der Menge der Daten ab, sondern auch davon, wie die Daten entstanden sind. Eine sehr große, aber systematisch falsch ausgewählte Stichprobe kann schlechter sein als eine kleinere, sorgfältig gezogene Zufallsstichprobe.

Das Video erklärt auf Englisch verschiedene Stichprobenverfahren und typische Verzerrungen in Umfragen. Achte beim Anschauen besonders auf die Frage, wie Personen in eine Stichprobe gelangen.

Lernziele

Nach dem Kurs kannst Du:

Bias als systematische Verzerrung erklären und von zufälligem Fehler unterscheiden.
Grundgesamtheit und Stichprobe in einfachen Beispielen sicher auseinanderhalten.
prüfen, ob eine Auswahl wichtige Gruppen über- oder unterrepräsentiert.
Datenqualität anhand von Vollständigkeit, Plausibilität, Aktualität, Konsistenz und Herkunft untersuchen.
erklären, warum Labels, Messregeln und sogenannte Proxy-Merkmale Verzerrungen erzeugen können.
irreführende Visualisierungen erkennen und dieselben Daten transparenter darstellen.
bei einem KI-System zwischen Trainingsdaten, Merkmalen, Labels, Vorhersagen und Fehlern unterscheiden.
Datenquellen kritisch beurteilen und begründete Urteile formulieren.
typische Fehlvorstellungen wie „Mehr Daten lösen jedes Bias-Problem“ korrigieren.
Entscheidungen datenbasiert vorbereiten, ohne die Verantwortung an Daten oder KI abzugeben.

Unterrichtsrahmen für 1–2 Unterrichtsstunden

Der Kurs ist für die Klasse 7 ausgelegt und kann je nach Schwerpunkt in etwa 45 bis 90 Minuten bearbeitet werden.

Phase	Zeit	Schwerpunkt	Sozialform
Aktivierung	5–10 Minuten	Erste Bias-Fallen erkennen	Einzelarbeit und kurzer Austausch
Einführung	10–15 Minuten	Grundgesamtheit, Stichprobe, Bias, Datenqualität	Plenum oder Partnerarbeit
Analyse	15–25 Minuten	Kleine Datensätze, Labels, Diagramme	Partner- oder Gruppenarbeit
Anwendung	15–25 Minuten	Fall „Schulhof neu planen“	Gruppenarbeit
Selbstkontrolle und Transfer	10–15 Minuten	Quiz, Reflexion, neue Beispiele	Einzelarbeit

Bei nur 45 Minuten kannst Du die Abschnitte „Aktivierung“, „Stichprobe“, „Labels“, „Visualisierung“ und die Anwendungssituation bearbeiten. Für 90 Minuten kommen das KI-Experiment, die fächerübergreifenden Bezüge sowie eine offene Aufgabe hinzu.

Aktivierung und Diagnose

Entscheide zunächst spontan, ob die folgenden Aussagen vertrauenswürdig wirken. Begründe Deine Einschätzung noch ohne Fachbegriffe.

Aussage	Deine erste Einschätzung	Welche Information fehlt Dir?
„80 % der Siebtklässler fahren mit dem Fahrrad zur Schule.“	glaubwürdig / unsicher / unglaubwürdig	Wer wurde wo und wie befragt?
„Unser Erkennungsprogramm ist zu 90 % richtig.“	glaubwürdig / unsicher / unglaubwürdig	Für welche Fälle und für welche Gruppen?
„Das neue Angebot ist doppelt so beliebt wie das alte.“	glaubwürdig / unsicher / unglaubwürdig	Welche Zahlen, welcher Zeitraum und welche Achsenskalierung?

Diagnose-Idee: Wenn Du bei mindestens einer Aussage nach Quelle, Auswahl oder Messmethode fragst, nutzt Du bereits eine wichtige Form der Quellenkritik. Im Kurs wird daraus ein systematischer Prüfprozess.

Was bedeutet Bias in Daten?

Ein Bias ist eine systematische Verzerrung. „Systematisch“ bedeutet: Der Fehler entsteht nicht nur zufällig, sondern durch eine Regel, ein Auswahlverfahren, eine Messmethode oder einen wiederkehrenden Prozess. Dadurch kann eine bestimmte Richtung immer wieder bevorzugt werden.

Zufällige Fehler und Bias sind nicht dasselbe. Wenn eine Waage bei jeder Messung einmal etwas zu viel und einmal etwas zu wenig anzeigt, ist das vor allem Streuung oder Rauschen. Zeigt sie dagegen fast immer zwei Kilogramm zu viel an, liegt eine systematische Verzerrung vor.

Art des Problems	Beispiel	Wirkung
Zufälliger Fehler	Eine Messung schwankt unvorhersehbar leicht	Werte streuen
Systematischer Fehler	Ein Sensor zeigt immer ungefähr zwei Grad zu viel	Werte werden in eine Richtung verschoben
Auswahlbias	Befragt werden nur leicht erreichbare Personen	Die Stichprobe bildet die Grundgesamtheit schlecht ab
Label-Bias	Uneinheitliche oder voreingenommene Kategorien	Lern- oder Auswertesysteme erhalten problematische Zielwerte
Darstellungsbias	Eine abgeschnittene Achse übertreibt Unterschiede	Betrachterinnen und Betrachter erhalten einen falschen Eindruck

Wichtig: Bias kann absichtlich oder unabsichtlich entstehen. Ein fairer Umgang mit Daten beginnt deshalb nicht mit Schuldzuweisungen, sondern mit nachvollziehbaren Fragen nach der Entstehung der Daten.

Die Datenreise: Wo kann Bias entstehen?

Viele Datenprojekte lassen sich als Kette verstehen:

Fragestellung → Auswahl → Erhebung → Bereinigung → Labels → Analyse oder Modell → Visualisierung → Entscheidung

An jeder Stelle können sinnvolle Entscheidungen getroffen werden, aber auch Verzerrungen entstehen. Wenn ein Problem früh in der Kette entsteht, kann es später schwer erkennbar sein. Ein technisch korrektes Diagramm kann beispielsweise trotzdem eine verzerrte Stichprobe darstellen.

Stichprobe, Grundgesamtheit und Repräsentativität

Die Grundgesamtheit ist die gesamte Gruppe, über die Du etwas aussagen möchtest. Die Stichprobe ist die Teilmenge, die tatsächlich untersucht wird. Eine Stichprobe ist nicht automatisch gut, nur weil sie groß ist. Entscheidend ist auch, wie sie ausgewählt wurde.

Bei einer einfachen Zufallsstichprobe soll jedes Element der Grundgesamtheit eine festgelegte Auswahlchance haben. In der Praxis ist das oft schwieriger, als es klingt.

Bei einer geschichteten Stichprobe werden zunächst sinnvolle Gruppen gebildet und aus diesen Gruppen Fälle ausgewählt. So kann verhindert werden, dass kleine, aber für die Fragestellung wichtige Gruppen vollständig fehlen.

Mini-Datensatz: Schulweg-Umfrage

Die Schule möchte wissen, wie Schülerinnen und Schüler der siebten Klassen normalerweise zur Schule kommen. Insgesamt gibt es 120 Siebtklässlerinnen und Siebtklässler.

Stichprobe A wird morgens direkt am Fahrradständer erhoben. Stichprobe B wird aus den Klassenlisten zufällig gezogen.

Auswahl	Fahrrad	Bus	Zu Fuß	Auto	Gesamt
Stichprobe A am Fahrradständer	16	2	2	0	20
Stichprobe B aus Klassenlisten	7	6	5	2	20

Eine einfache Textvisualisierung macht den Unterschied sichtbar:

Stichprobe	Fahrrad-Anteil	Darstellung
A	16 von 20 = 80 %	████████████████
B	7 von 20 = 35 %	███████

Die beiden Stichproben sind gleich groß, aber sie entstehen unterschiedlich. Bei Stichprobe A ist der Befragungsort mit dem untersuchten Merkmal verbunden. Wer mit dem Fahrrad kommt, hält sich besonders wahrscheinlich am Fahrradständer auf. Deshalb ist die Schlussfolgerung „80 % aller Siebtklässler fahren Fahrrad“ nicht gut begründet.

Merksatz: Eine größere Stichprobe verringert manche Zufallsschwankungen, aber sie beseitigt keinen systematischen Auswahlfehler.

Selbstselektion

Selbstselektion entsteht, wenn Personen selbst entscheiden, ob sie teilnehmen, und diese Teilnahmebereitschaft mit dem Thema zusammenhängen kann. Eine freiwillige Online-Abstimmung kann zum Beispiel besonders viele Menschen erreichen, die eine sehr starke Meinung haben.

Frage bei freiwilligen Umfragen deshalb immer: Wer hatte die Chance teilzunehmen, wer wollte teilnehmen und wer hat nicht geantwortet?

Survivorship Bias: Was fehlt im Datensatz?

Beim Survivorship Bias werden vor allem die „Überlebenden“, Erfolgreichen oder sichtbaren Fälle betrachtet, während fehlende Fälle wenig Aufmerksamkeit bekommen. Das kann zu falschen Schlussfolgerungen führen.

Die bekannte Flugzeug-Grafik wird häufig genutzt, um die Grundidee zu erklären: Sichtbare Schäden an zurückgekehrten Flugzeugen zeigen nur Treffer an Maschinen, die trotz dieser Schäden zurückkehrten. Besonders wichtig können deshalb gerade die Bereiche sein, in denen bei den Rückkehrern wenige Treffer zu sehen sind. Die Commons-Grafik ist eine spätere, illustrative Darstellung und keine originale historische Schadenskarte. Genau diese Zusatzinformation ist selbst ein Beispiel für Quellenkritik.

Der Bezug zur Geschichte ist wichtig: Historische Quellen enthalten oft vor allem das, was aufbewahrt, dokumentiert oder überliefert wurde. Was verloren ging oder nie aufgezeichnet wurde, kann ein unsichtbarer Teil des Datensatzes sein.

Datenqualität prüfen

Bevor Daten interpretiert werden, solltest Du ihre Qualität prüfen. Gute Daten müssen zur konkreten Frage passen. „Gute Daten“ bedeutet deshalb nicht einfach „viele Daten“.

Qualitätsfrage	Prüffrage	Beispiel
Vollständigkeit	Fehlen wichtige Werte oder Fälle?	Bei vielen Einträgen fehlt die Klassenstufe
Plausibilität	Sind Werte überhaupt möglich?	Eine Raumtemperatur von 180 °C ist vermutlich ein Fehler
Konsistenz	Widersprechen sich Angaben?	Eine Person ist gleichzeitig als anwesend und abwesend markiert
Aktualität	Passen die Daten zeitlich zur Frage?	Ein fünf Jahre alter Fahrplan beschreibt die heutige Situation schlecht
Nachvollziehbarkeit	Ist bekannt, woher die Daten stammen?	Quelle, Zeitpunkt und Erhebungsmethode sind dokumentiert
Relevanz	Messen die Daten wirklich das, was gefragt ist?	„Anzahl der Klicks“ ist nicht automatisch „Interesse“

Mini-Experiment: Fehler finden

Prüfe diesen kleinen Sensordatensatz aus einem fiktiven Klassenraum.

ID	Uhrzeit	Temperatur	Fenster
A01	08:00	20,4 °C	geschlossen
A02	08:05	20,7 °C	geschlossen
A03	08:10		offen
A04	08:15	180 °C	offen
A04	08:15	180 °C	offen
A05	08:20	19,9 °C	unbekannt

Hier findest Du mindestens drei Datenqualitätsprobleme: einen fehlenden Wert, einen unplausiblen Wert und einen doppelten Datensatz. Wichtig ist: Lösche solche Zeilen nicht einfach. Dokumentiere, welche Regel Du zur Bereinigung nutzt. Sonst kann die Bereinigung selbst neuen Bias erzeugen.

Labels: Wer entscheidet, was „richtig“ heißt?

Ein Label ist eine zugewiesene Kategorie oder ein Zielwert. Bei einem Bilderkennungssystem kann das Label „Katze“ oder „Hund“ heißen. Bei einer Textanalyse könnte ein Kommentar als „positiv“, „neutral“ oder „negativ“ markiert werden.

Labels sind besonders wichtig für überwachtes maschinelles Lernen, weil ein Modell aus Beispielen mit bekannten Labels Muster ableiten soll. Doch nicht jedes Label ist eindeutig.

Label-Experiment: Ordne die folgenden fiktiven Rückmeldungen zur Schulbibliothek unabhängig voneinander in „positiv“, „neutral“ oder „negativ“ ein.

Kommentar	Dein Label	Begründung
„Die Ausleihe geht jetzt schneller.“
„Geht schon.“
„Cool, wenn das Gerät funktioniert.“
„Ich musste heute lange warten.“
„Endlich kann ich selbst ausleihen.“
„Anders als früher, aber okay.“

Vergleicht anschließend Eure Labels. Wenn verschiedene Personen zu unterschiedlichen Ergebnissen kommen, ist das nicht automatisch ein Fehler. Es zeigt, dass die Label-Regel präzisiert werden muss. Bei mehrdeutigen Fällen kann es sinnvoll sein, mehrere Bewertungen einzuholen oder eine zusätzliche Kategorie wie „unklar“ zu erlauben.

Merkmale, Proxy-Merkmale und Abkürzungen

Ein Merkmal ist eine Information, die in einer Analyse oder einem Modell verwendet wird. Ein Proxy-Merkmal ist ein Merkmal, das indirekt für etwas anderes steht.

Beispiel: Eine Schulbibliothek möchte „Interesse an Büchern“ schätzen und nutzt dafür nur die Zahl der Bibliotheksbesuche. Das ist problematisch, denn Besuche hängen möglicherweise auch von Öffnungszeiten, Stundenplan, Entfernung des Klassenraums oder anderen Zugangsbedingungen ab. Das Merkmal „Besuche“ kann also teilweise Zugang statt Interesse messen.

Die wichtige Prüffrage lautet: Misst unser Merkmal wirklich die gewünschte Eigenschaft – oder nur eine leicht messbare Ersatzgröße?

Visualisierungen kritisch lesen

Diagramme helfen, Daten schnell zu verstehen. Genau deshalb können Gestaltungsentscheidungen unsere Wahrnehmung stark beeinflussen. Achte auf Achsen, Skalen, Einheiten, Zeitraum, ausgelassene Datenpunkte und grafische Effekte.

Eine abgeschnittene Achse kann einen kleinen Unterschied riesig aussehen lassen. Das bedeutet nicht, dass jede Achse bei null beginnen muss. Aber die Skalierung muss zum Diagrammtyp passen, klar beschriftet und für die Aussage transparent sein.

Dreidimensionale Effekte können Größenverhältnisse schwerer vergleichbar machen. Eine einfache Darstellung ist oft ehrlicher und leichter lesbar.

Datei:Diagrammtypen und Darstellung von Daten - kolleg24 Mathematik.webm

Das frei verfügbare Commons-Video zeigt verschiedene Diagrammtypen und thematisiert auch Manipulationsmöglichkeiten durch Achsenskalierung und Datenauswahl.

Das TED-Ed-Video „How to spot a misleading graph“ eignet sich als kurze Vertiefung. Prüfe danach bei jedem Diagramm: Beschriftung, Maßstab, Zahlen, Zeitraum und Kontext.

Gleiche Zahlen, anderer Eindruck

Stell Dir zwei Angebote vor. Angebot A erhält 48 Zustimmungen von 100 Befragten, Angebot B erhält 52.

Eine faire Darstellung zeigt, dass der Unterschied nur vier Prozentpunkte beträgt. Wenn ein Balkendiagramm aber erst bei 45 % beginnt, kann der Unterschied optisch sehr groß wirken.

Angebot	Zustimmung	Sachliche Aussage
A	48 %	knapp unter der Hälfte
B	52 %	knapp über der Hälfte

Medienbildungsfrage: Welche Überschrift wäre angemessen: „B gewinnt knapp“ oder „B deklassiert A“? Begründe mit den Daten.

Bias in KI-Systemen

Ein KI-System, das aus Daten lernt, „sieht“ nicht die Welt direkt. Es erkennt Muster in Trainingsdaten. Vereinfacht besteht ein Lernprozess aus:

Trainingsdaten + Merkmale + Labels → Lernverfahren → Modell → Vorhersage

Wenn Trainingsdaten bestimmte Fälle kaum enthalten, wenn Labels problematisch sind oder wenn ein Merkmal nur eine ungeeignete Abkürzung ist, kann das Modell systematisch schlechtere Ergebnisse liefern.

Technisches Mini-Experiment: Shortcut Learning

Stell Dir einen Bilddatensatz mit Äpfeln und Birnen vor. Alle Trainingsbilder von Äpfeln wurden vor einem weißen Hintergrund aufgenommen, alle Birnen vor einem Holztisch. Ein Modell könnte lernen:

weißer Hintergrund → Apfel und Holzhintergrund → Birne

Damit hätte es in den Trainingsdaten vielleicht viele richtige Treffer, aber es hätte nicht zuverlässig die Frucht gelernt. Testest Du einen Apfel auf einem Holztisch, kann das Modell scheitern.

Das ist ein Beispiel für eine unerwünschte Korrelation oder eine Abkürzung im Datensatz. Ein guter Testdatensatz muss deshalb neue Situationen enthalten, die solche Abkürzungen aufdecken.

Genauigkeit allein reicht nicht

Ein fiktives Erkennungssystem wird mit 20 Testfällen geprüft.

Gruppe	Richtig	Falsch	Trefferquote
X	9	1	90 %
Y	5	5	50 %
Insgesamt	14	6	70 %

Die Gesamtquote von 70 % verschweigt, dass die Fehler sehr ungleich verteilt sind. Deshalb kann es sinnvoll sein, Fehler getrennt nach relevanten Gruppen oder Situationen zu untersuchen. Welche Gruppen relevant sind, hängt von Anwendung, Risiken und Fragestellung ab.

Bei Entscheidungen über Menschen gilt zusätzlich: Ein hoher Prozentwert macht ein System nicht automatisch fair, sicher oder angemessen. Folgen von Fehlern, Transparenz, Widerspruchsmöglichkeiten und menschliche Verantwortung müssen mitgedacht werden.

Feedbackschleifen

Eine Feedbackschleife entsteht, wenn die Ausgabe eines Systems beeinflusst, welche neuen Daten später gesammelt werden.

Beispiel: Ein Empfehlungssystem zeigt häufig Comics, weil diese anfangs oft ausgeliehen wurden. Weil Comics nun sichtbarer sind, werden sie noch häufiger ausgeliehen. Diese neuen Ausleihdaten bestätigen scheinbar, dass Comics besonders beliebt sind. Das System hat damit einen Teil seiner späteren Daten selbst mitverursacht.

Die Frage lautet also nicht nur: Was zeigen die Daten? Sondern auch: Wie hat das System selbst beeinflusst, welche Daten entstehen?

Fairness, Human Agency und verantwortlicher KI-Einsatz

Daten und KI können Entscheidungen unterstützen, aber sie tragen keine menschliche Verantwortung. Menschen legen fest, welche Frage gestellt wird, welche Daten verwendet werden, welche Fehler akzeptabel sind und wie Betroffene Einspruch erheben können.

Für schulische Übungen gilt:

Prinzip	Umsetzung
Datensparsamkeit	Nutze möglichst fiktive oder anonymisierte Daten und erhebe keine unnötigen persönlichen Merkmale.
Transparenz	Dokumentiere Quelle, Auswahl, Bereinigung, Labels und Grenzen.
Fairness	Prüfe, ob wichtige Gruppen oder Situationen fehlen oder unterschiedlich hohe Fehlerquoten haben.
Menschliche Kontrolle	Verwende automatische Ergebnisse nicht als letzte Instanz bei wichtigen Entscheidungen.
Sicherheit	Teile keine sensiblen personenbezogenen Daten mit frei zugänglichen KI-Diensten.
Widerspruch	Betroffene sollten Entscheidungen hinterfragen und korrigieren lassen können.

Human Agency bedeutet: Du bleibst handelnde und urteilende Person. Ein KI-System kann Hinweise liefern, aber Du prüfst Quellen, suchst Gegenbeispiele, benennst Unsicherheit und übernimmst Verantwortung für Dein Urteil.

Quellenkritik mit dem BIAS-Check

Nutze bei Datensätzen, Statistiken, KI-Ausgaben und Medienbeiträgen den folgenden Kurzcheck:

Buchstabe	Frage	Beispiel
B – Basis	Woher stammen die Daten und wozu wurden sie erhoben?	Schulumfrage, Sensor, Plattformdaten, Forschungsprojekt
I – Inklusion	Wer oder was ist enthalten – und wer oder was fehlt?	Nur Freiwillige, nur eine Klasse, nur erfolgreiche Fälle
A – Aufbereitung	Wie wurden Daten gemessen, bereinigt, gelabelt und visualisiert?	Fehlwerte gelöscht, Kategorien zusammengelegt, Achse abgeschnitten
S – Schluss	Welche Aussage ist wirklich gerechtfertigt und welche Alternativerklärung gibt es?	Zusammenhang statt Ursache, Stichprobe statt gesamte Schule

Eine gute Quellenkritik fragt zusätzlich nach Autor oder Institution, Veröffentlichungsdatum, Methode, Interessen, Vergleichsquellen und Unsicherheiten.

Das englischsprachige Crash-Course-Video zu Wissenschaftsjournalismus zeigt, warum Schlagzeilen, Studien und Statistiken nicht nur nach ihrer Wirkung, sondern auch nach Methode und Quelle geprüft werden sollten.

Fächerübergreifende Bezüge

Fach	Verbindung zum Thema	Mögliche Lernhandlung
Informatik	Trainingsdaten, Merkmale, Labels, Testdaten, Fehlerquoten	Ein einfaches Modellbeispiel auf Datenfehler prüfen
Mathematik	Häufigkeiten, Prozentwerte, Stichproben, Diagramme	Zwei Stichproben vergleichen und Anteile berechnen
Deutsch	Framing, Frageformulierung, Mehrdeutigkeit von Labels	Eine suggestive Umfragefrage neutral umformulieren
Geschichte	Überlieferungslücken und Survivorship Bias	Fragen, welche Quellen nicht erhalten sind
Kunst	Gestaltung und Wirkung von Visualisierungen	Ein irreführendes Diagramm transparent neu gestalten
Ethik	Fairness, Verantwortung, Folgen fehlerhafter Entscheidungen	Kriterien für verantwortlichen KI-Einsatz begründen
Gemeinschaftskunde	Meinungsumfragen, Repräsentativität, öffentliche Entscheidungen	Eine politische Umfrage auf Auswahl und Darstellung prüfen
Medienbildung	Quellenkritik, Datenjournalismus, manipulative Grafiken	Eine Statistik aus einem Medienbeitrag mit dem BIAS-Check analysieren

Das bpb-Video erklärt Diskriminierung allgemein. Für diesen Kurs ist die Anschlussfrage wichtig: Wann kann eine verzerrte Datengrundlage dazu führen, dass technische Systeme Menschen unfair behandeln?

Realistische Anwendungssituation: Der Schulhof soll neu geplant werden

Die Schülervertretung möchte wissen, ob auf dem Schulhof mehr Ballspielfläche oder mehr ruhige Sitzfläche gebaut werden soll. Ein QR-Code führt zu einer freiwilligen Umfrage. Danach lautet die Überschrift: „72 % wollen mehr Ballfläche – klare Entscheidung!“

Die Rohdaten zeigen:

Ort, an dem der QR-Code beworben wurde	Antworten insgesamt	Für mehr Ballfläche	Für mehr Sitzfläche
Sporthalle	60	54	6
Mensa	20	10	10
Bibliothek	20	8	12
Gesamt	100	72	28

Zusätzlich erfährst Du:

Beobachtung	Mögliche Bedeutung
Der QR-Code hing drei Tage in der Sporthalle, aber nur einen Tag in Mensa und Bibliothek.	Unterschiedliche Sichtbarkeit kann die Auswahl verzerren.
Die Teilnahme war freiwillig.	Selbstselektion ist möglich.
Es wurde nicht dokumentiert, aus welchen Klassen die Antworten stammen.	Repräsentativität lässt sich schlechter prüfen.
Mehrere Geräte konnten mehrfach abstimmen.	Doppelte Einträge sind möglich.
Kommentare wurden von nur einer Person in „pro Sport“ oder „pro Ruhe“ gelabelt.	Mehrdeutige Labels können die Auswertung beeinflussen.
Die veröffentlichte Grafik beginnt auf der y-Achse bei 25 %.	Der Unterschied wirkt in einem Balkendiagramm größer, als bei einer Null-Linie.

Arbeitsauftrag: Formuliere noch keine Entscheidung für den Schulhof. Erstelle zuerst einen Prüfplan. Unterscheide dabei mindestens Auswahl, Datenqualität, Labels, Visualisierung und Schlussfolgerung.

Eine mögliche bessere Datenerhebung wäre eine zufällige oder systematisch geschichtete Auswahl aus allen betroffenen Klassen, gleiche Teilnahmechancen, eine Einmal-Abstimmung, dokumentierte fehlende Werte und eine transparente Auswertung. Trotzdem bleibt auch dann Unsicherheit: Interessen können sich ändern und eine einzige Frage bildet nicht alle Bedürfnisse ab.

Kurzexperimente in drei Schwierigkeitsgraden

Leicht: Wer fehlt?

Nimm einen fiktiven Datensatz mit zehn Personen. Markiere, aus welchen Klassen oder Situationen sie stammen. Formuliere einen Satz dazu, welche Gruppe fehlen könnte. Ziel ist nicht, sofort „Bias!“ zu rufen, sondern eine prüfbare Vermutung zu formulieren.

Standard: Label-Vergleich

Drei Personen labeln dieselben sechs kurzen Kommentare. Erst danach vergleicht Ihr die Ergebnisse. Entwickelt gemeinsam eine genauere Regel für „positiv“, „neutral“, „negativ“ und „unklar“. Prüft, ob sich die Übereinstimmung verbessert.

Schwer: Fairness-Test

Erfinde zwei fiktive Testgruppen mit jeweils zehn Fällen. Gib einem Modell absichtlich unterschiedliche Fehlerquoten. Berechne Gesamtgenauigkeit und Gruppen-Genauigkeit. Erkläre, warum eine einzige Gesamtzahl ein wichtiges Problem verstecken kann.

Typische Fehlvorstellungen korrigieren

Fehlvorstellung	Korrektur
„Mehr Daten lösen Bias automatisch.“	Mehr Daten helfen gegen Zufallsschwankungen, aber ein systematischer Auswahlfehler kann bestehen bleiben.
„Computer sind neutral, weil sie rechnen.“	Rechenregeln können korrekt sein, während Daten, Ziele, Labels oder Einsatzbedingungen verzerrt sind.
„Bias ist immer absichtliche Manipulation.“	Bias kann durch unbeabsichtigte Auswahl-, Mess- oder Dokumentationsprozesse entstehen.
„Eine hohe Gesamtgenauigkeit beweist Fairness.“	Fehler können für bestimmte Gruppen oder Situationen deutlich höher sein.
„Repräsentativ bedeutet nur: sehr viele Personen.“	Entscheidend sind Fragestellung, Auswahlverfahren und passende Abdeckung der Grundgesamtheit.
„Ein Diagramm lügt nur, wenn Zahlen erfunden sind.“	Auch echte Zahlen können durch Ausschnitt, Achse oder Kontext einen irreführenden Eindruck erzeugen.
„Ein Label ist die Wahrheit.“	Labels sind oft menschliche Zuordnungen und können uneindeutig oder fehlerhaft sein.

Reflexion und Transfer

Beantworte nach dem Kurs drei Sätze:

1. Eine neue Frage, die ich künftig bei Daten stelle, ist …

2. Ein Beispiel für Bias außerhalb der Schule könnte sein …

3. Wenn ein KI-System sehr überzeugend wirkt, prüfe ich trotzdem …

Wenn Du die zugrunde liegende Idee sicher verstanden hast, kannst Du bei einem neuen Beispiel erklären, wo in der Datenreise eine Verzerrung entstehen könnte, welche Auswirkung sie auf eine Aussage hat und wie Du sie testen oder verringern würdest.

Interaktive Aufgaben

Quiz: Teste Dein Wissen

Was beschreibt Bias in Daten am besten? (Eine systematische Verzerrung von Daten oder Ergebnissen) (!Eine zufällige Schwankung ohne erkennbare Richtung) (!Jede Zahl, die größer als hundert ist) (!Nur absichtliche Fälschung durch Menschen)

Warum kann eine Umfrage nur am Fahrradständer verzerrt sein? (Radfahrende haben dort eine höhere Chance befragt zu werden) (!Die Stichprobe enthält automatisch zu viele Fragen) (!Prozentwerte dürfen bei Schulwegen nicht verwendet werden) (!Fahrräder erzeugen zufällige Messfehler)

Was ist eine Grundgesamtheit? (Die gesamte Gruppe, über die eine Aussage gemacht werden soll) (!Nur die Personen mit vollständigen Antworten) (!Die kleinste Gruppe in einem Datensatz) (!Eine Liste von bereits gelöschten Daten)

Wie kann Label-Bias entstehen? (Durch unklare oder uneinheitliche Regeln für Kategorien) (!Nur durch zu viele Nachkommastellen) (!Durch das Sortieren einer Tabelle nach Alphabet) (!Durch eine größere Bildschirmauflösung)

Warum behebt eine größere Stichprobe einen Auswahlbias nicht automatisch? (Weil die Auswahlregel weiterhin bestimmte Fälle bevorzugen kann) (!Weil große Stichproben keine Prozentwerte erlauben) (!Weil größere Stichproben immer weniger Daten enthalten) (!Weil Zufallsauswahl nur bei fünf Personen funktioniert)

Was ist ein Proxy-Merkmal? (Ein Merkmal, das indirekt für eine andere Eigenschaft stehen kann) (!Ein Datensatz ohne jede Spalte) (!Ein Diagramm mit genau zwei Balken) (!Eine zufällig gelöschte Messung)

Was kennzeichnet eine Feedbackschleife? (Die Ausgabe eines Systems beeinflusst die später entstehenden Eingabedaten) (!Ein Datensatz wird einmalig auf Papier ausgedruckt) (!Eine Tabelle enthält nur gerade Zahlen) (!Ein Modell wird niemals erneut benutzt)

Wodurch kann ein Balkendiagramm irreführend wirken? (Durch eine unpassend abgeschnittene oder unklare Achsenskalierung) (!Durch eine korrekt beschriftete Null-Linie) (!Durch die Angabe der Datenquelle) (!Durch verständliche Einheiten)

Warum sollte man Fehlerquoten auch für relevante Gruppen oder Situationen prüfen? (Eine gute Gesamtquote kann ungleich verteilte Fehler verdecken) (!Gruppenwerte sind immer größer als Gesamtwerte) (!Gesamtwerte dürfen mathematisch nicht berechnet werden) (!Fehler verschwinden durch das Bilden von Gruppen)

Was ist bei verantwortlichem KI-Einsatz besonders wichtig? (Datenquellen und Grenzen prüfen und menschliche Verantwortung behalten) (!Jede automatische Empfehlung sofort übernehmen) (!Möglichst viele persönliche Daten ohne Zweck sammeln) (!Unsicherheiten aus der Dokumentation entfernen)

Memory

Grundgesamtheit	gesamte Gruppe einer Fragestellung
Stichprobe	tatsächlich untersuchte Teilmenge
Selbstselektion	freiwillige Teilnahme mit möglicher Verzerrung
Label	zugewiesene Kategorie oder Zielwert
Proxy-Merkmal	indirekte Ersatzgröße
Feedbackschleife	Ausgabe beeinflusst spätere Daten
Datenqualität	Eignung und Verlässlichkeit der Daten
Quellenkritik	Herkunft und Methode systematisch prüfen

Drag and Drop

Ordne die richtigen Begriffe zu.	Thema
Auswahlbias	Umfrage nur in der Sporthalle
Label-Bias	Mehrdeutige Kommentare werden uneinheitlich kategorisiert
Messfehler	Sensor zeigt dauerhaft zu hohe Werte
Darstellungsbias	Abgeschnittene Achse übertreibt einen Unterschied
Feedbackschleife	Empfehlung beeinflusst spätere Klickdaten

Kreuzworträtsel

Stichprobe	Wie heißt die tatsächlich untersuchte Teilmenge?
Grundgesamtheit	Wie heißt die gesamte Gruppe, über die man etwas aussagen möchte?
Datenqualität	Welcher Begriff beschreibt die Eignung und Verlässlichkeit von Daten?
Selbstselektion	Wie heißt es, wenn Teilnehmende selbst entscheiden, ob sie an einer Erhebung teilnehmen?
Repräsentativität	Welcher Begriff beschreibt, ob eine Stichprobe die relevante Grundgesamtheit angemessen abbildet?
Label	Wie heißt eine zugewiesene Kategorie in einem Trainingsdatensatz?

LearningApps

Lückentext

Die gesamte Gruppe, über die eine Aussage gemacht werden soll, heißt

. Die tatsächlich untersuchte Teilmenge heißt

. Eine systematische Verzerrung wird als

bezeichnet. Wenn Personen freiwillig teilnehmen und sich dadurch bestimmte Gruppen stärker beteiligen, spricht man von

. Die Qualität von Daten hängt unter anderem von ihrer Vollständigkeit, Plausibilität und

ab. Eine zugewiesene Kategorie in einem Trainingsdatensatz heißt

. Ein indirektes Ersatzmerkmal nennt man

. Wenn die Ausgabe eines Systems beeinflusst, welche neuen Daten entstehen, liegt eine

vor. Eine abgeschnittene Achse kann den optischen Eindruck eines

verzerren. Verantwortlicher KI-Einsatz verlangt neben technischer Prüfung auch menschliche

.

Offene Aufgaben

Leicht

Bias-Detektiv: Finde in einem erfundenen Mini-Datensatz drei Stellen, an denen eine Verzerrung entstehen könnte, und formuliere zu jeder Stelle eine Prüffrage.
Diagramm-Check: Suche ein Diagramm in einem Schulbuch oder seriösen Medienbeitrag und prüfe Achsen, Zeitraum, Quelle und fehlenden Kontext.
Label-Werkstatt: Formuliere für fünf kurze Aussagen eindeutige Label-Regeln und markiere mindestens einen Fall, der besser als „unklar“ behandelt wird.
Daten-Tagebuch: Beobachte einen Tag lang, wo in Deinem Alltag Daten gesammelt werden könnten, ohne persönliche Daten anderer zu notieren, und beschreibe mögliche Lücken.

Standard

Mini-Umfrage: Plane eine anonyme, datensparsame Umfrage zu einem unverfänglichen Schulthema. Begründe, wie Du eine möglichst faire Stichprobe erreichst.
Diagramm-Reparatur: Erstelle aus denselben fünf Zahlen eine irreführende und eine transparente Visualisierung. Erkläre exakt, wodurch sich die Wirkung unterscheidet.
Label-Vergleich: Lass drei Personen denselben kleinen fiktiven Datensatz labeln. Entwickelt nach dem Vergleich eine bessere gemeinsame Regel und dokumentiert Änderungen.
Quellenkritik: Analysiere eine veröffentlichte Statistik mit dem BIAS-Check und suche eine zweite unabhängige Quelle, die Kontext oder Vergleichsdaten liefert.

Schwer

KI-Audit: Entwirf einen fiktiven Testdatensatz für einen einfachen Klassifikator. Baue bewusst eine unterrepräsentierte Gruppe ein und zeige, wie eine Gesamtgenauigkeit das Problem verdecken kann.
Fairness-Test: Formuliere für eine automatische Empfehlung drei Fairness-Kriterien, zwei mögliche Schäden und eine Möglichkeit für menschlichen Widerspruch.
Geschichtsquellen und Survivorship Bias: Wähle ein historisches Thema und untersuche, welche Stimmen oder Quellen wahrscheinlich leichter erhalten blieben als andere. Trenne belegte Fakten von Vermutungen.
Schulhof-Datenrat: Entwickle für den Fall „Schulhof neu planen“ ein verbessertes Erhebungs- und Entscheidungsverfahren mit Stichprobe, Datenschutz, transparenten Grafiken und begründetem Umgang mit Unsicherheit.

Lernkontrolle

Transfer Stichprobe: Eine Stadt fragt nur Besucherinnen und Besucher eines Freibads, ob mehr Geld für Freibäder ausgegeben werden soll. Erkläre die mögliche Verzerrung, ihre wahrscheinliche Richtung und entwirf eine bessere Auswahl.
Transfer Labels: Zwei Teams erhalten bei denselben Texten deutlich unterschiedliche Labels. Entwickle ein Verfahren, mit dem Du prüfen kannst, ob das Problem an unklaren Kategorien, an den Personen oder an den Texten selbst liegt.
Transfer KI: Ein Modell ist insgesamt zu 92 % richtig, aber für eine bestimmte Nutzungssituation nur zu 61 %. Beurteile, ob die Gesamtzahl als Qualitätsnachweis ausreicht, und nenne weitere notwendige Informationen.
Transfer Visualisierung: Zwei Medien zeigen dieselben Daten in sehr unterschiedlichen Diagrammen. Beschreibe ein Prüfverfahren, mit dem Du entscheiden kannst, welche Darstellung transparenter ist.
Transfer Datenqualität: Ein Datensatz enthält viele fehlende Werte aus genau einer Gruppe. Erkläre, warum einfaches Löschen problematisch sein kann, und entwickle mindestens zwei verantwortliche Alternativen.
Transfer Quellenkritik: Eine KI nennt eine Statistik ohne Quelle. Formuliere einen Plan, wie Du die Aussage unabhängig überprüfst, bevor Du sie in einer Präsentation verwendest.
Transfer Urteil: Begründe, warum ein datenbasiertes Ergebnis eine Entscheidung unterstützen, aber nicht automatisch die Verantwortung für die Entscheidung übernehmen kann.

Lernnachweis

Für einen Lernnachweis zu diesem Thema solltest Du zeigen, dass Du nicht nur Begriffe kennst, sondern Datenprozesse analysieren und begründet beurteilen kannst.

Du erklärst den Unterschied zwischen zufälligem Fehler und systematischem Bias an einem eigenen Beispiel.
Du bestimmst in einer neuen Situation Grundgesamtheit und Stichprobe.
Du erkennst Auswahlfehler, Selbstselektion und fehlende Gruppen.
Du prüfst Daten auf Vollständigkeit, Plausibilität, Konsistenz, Aktualität und Herkunft.
Du erklärst die Rolle von Labels und Proxy-Merkmalen.
Du liest Prozentwerte und Diagramme kritisch und erkennst irreführende Gestaltung.
Du vergleichst Gesamtfehler mit Fehlern in relevanten Gruppen oder Situationen.
Du beschreibst mindestens eine mögliche Feedbackschleife.
Du formulierst Grenzen einer Datenaussage und vermeidest Übertreibungen.
Du begründest, wie Transparenz, Datenschutz, Fairness und menschliche Kontrolle zu verantwortlichem KI-Einsatz beitragen.

OERs zum Thema

Die folgenden frei zugänglichen Quellen eignen sich zur Vertiefung und zur Quellenkritik:

Wikipedia: Stichprobenverzerrung – Einstieg in Auswahl- und Stichprobenbias.
Wikipedia: Repräsentativität – Hintergründe zu Stichproben und Aussagekraft.
Wikipedia: Algorithmic Bias – systematische Verzerrungen in algorithmischen Entscheidungen.
FRA: Datenqualität und KI – Zusammenhang von Datenqualität, Fehlern und Grundrechten.
FRA: Algorithmen auf Verzerrungen testen – Bias-Prüfung und mögliche Feedbackschleifen.
NIST: Bias ist mehr als nur verzerrte Daten – technische, menschliche und systemische Ursachen.
UNESCO: Ethik der Künstlichen Intelligenz – Fairness, Transparenz, menschliche Aufsicht und KI-Kompetenz.
Quarks: So durchschaust du jede Statistik – verständliche Beispiele zu Stichproben, Umfragen und irreführenden Grafiken.

Verknüpfte Lernbereiche

Bias in Daten erkennen

aiMOOC-Projekte

Inhalte werden geladen ...

Mediathek wird aus dem Wiki geladen ...

Frag mich zum aktuellen Lerninhalt oder wähle eine kurze Hilfe.

Textmodus bereit

Sprache