Diesen aiMOOC als Battle spielen: Deutsch, Klasse 7-8, G-Niveau

Repräsentation und Vielfalt in KI prüfen

Einleitung

Künstliche Intelligenz wirkt oft neutral, weil Computer mit Zahlen, Daten und Regeln arbeiten. Doch ein KI-System lernt nicht aus „der Wirklichkeit“, sondern aus ausgewählten Daten, festgelegten Labels, Messmethoden und Zielen. Wenn wichtige Situationen, Gruppen oder Perspektiven fehlen, wenn Labels unklar sind oder wenn historische Daten alte Ungleichheiten spiegeln, können Ergebnisse systematisch verzerrt sein. Solche Verzerrungen werden häufig als Bias bezeichnet.

In diesem Lernkurs prüfst Du deshalb nicht nur, ob ein KI-System häufig richtig liegt, sondern für wen, unter welchen Bedingungen, mit welchen Daten und mit welchen Fehlern. Du arbeitest mit einem kleinen, überschaubaren Datensatz, berechnest Fehlerquoten, visualisierst Unterschiede, analysierst Medienrepräsentation, vergleichst Quellen und formulierst am Ende ein begründetes Urteil. Dabei gilt: Eine auffällige Verteilung ist zunächst ein Hinweis, noch kein Beweis für eine Ursache.

Der Kurs ist für die Schule mit Schwerpunkt Klasse 7 konzipiert und kann in etwa 45 bis 90 Minuten durchgeführt werden. Er verbindet Informatik, Mathematik, Deutsch, Geschichte, Kunst, Ethik, Gemeinschaftskunde und Medienbildung.

Lernziele

Nach dem Kurs kannst Du erklären, wie Trainingsdaten, Labels, Testdaten und Fehlerquoten zusammenhängen. Du kannst kleine Datensätze auf Datenqualität und Repräsentativität prüfen, Gruppenfehler vergleichen, Medien auf einseitige Darstellung untersuchen, Quellen nach ihrer Aussagekraft bewerten und ein KI-System mit nachvollziehbaren Kriterien beurteilen. Du sollst außerdem erkennen, wann menschliche Kontrolle, Widerspruchsmöglichkeiten und zusätzliche Informationen nötig sind.

Unterrichtsplanung für 1–2 Stunden

Phase	45 Minuten	90 Minuten
Aktivierung	5 Min: Diagnosefragen	5 Min: Diagnosefragen
Einführung	8 Min: Daten, Labels, Bias	12 Min: Daten, Labels, Bias und Medien
Datenexperiment	15 Min: Mini-Datensatz auswerten	25 Min: Mini-Datensatz, Diagramm und Fehleranalyse
Anwendung	12 Min: Fall Schülerzeitung	25 Min: Fall Schülerzeitung plus Quellenvergleich
Urteil und Reflexion	5 Min: Exit-Ticket	15 Min: Fairness-Prüfkarte, Urteil und Transfer

Aktivierung und Diagnose

Stell Dir vor, ein KI-System sortiert Bilder in zwei Kategorien und erreicht insgesamt 90 Prozent richtige Ergebnisse. Ist das automatisch gut genug? Kreuze zunächst für Dich an: Ja, Nein oder Ich brauche mehr Informationen. Notiere dann zwei Informationen, die Du zusätzlich wissen möchtest.

Eine starke Antwort könnte nach der Verteilung der Trainingsdaten, der Qualität der Labels, der Größe des Tests, den Fehlerquoten für unterschiedliche Situationen, der Bedeutung eines Fehlers und der Möglichkeit menschlicher Kontrolle fragen. Wichtig ist nicht, sofort die „richtige“ Meinung zu haben, sondern zu erkennen, welche Belege für ein Urteil fehlen.

Grundbegriffe: Was bedeutet Repräsentation in KI?

Repräsentation bedeutet in diesem Kurs zweierlei. Erstens geht es um die Frage, ob ein Datensatz die für eine Aufgabe wichtige Vielfalt ausreichend abbildet. Zweitens geht es darum, wie Menschen, Rollen, Lebensweisen und Perspektiven in KI-Ausgaben dargestellt werden.

Repräsentativität ist kein Zauberwort. Ein großer Datensatz ist nicht automatisch gut ausgewählt. Entscheidend ist, ob die Auswahl zur Grundgesamtheit und zur konkreten Fragestellung passt. Eine Stichprobenverzerrung entsteht, wenn bestimmte Fälle systematisch leichter oder schwerer in die Stichprobe gelangen.

Bias bezeichnet hier eine systematische Verzerrung. Zufällige Fehler sind etwas anderes: Sie streuen ohne klare Richtung. Ein System kann also gleichzeitig zufällige Fehler und systematische Verzerrungen haben.

Die Zielscheiben-Grafik zeigt den Unterschied anschaulich: Eng beieinander liegende Treffer können trotzdem systematisch neben dem Ziel liegen. Für KI bedeutet das: Eine hohe Stabilität oder eine hohe Gesamtgenauigkeit genügt nicht, wenn das System immer wieder in dieselbe Richtung falsch liegt.

Vom Datensatz zum KI-Ergebnis

Viele Systeme des maschinellen Lernens folgen vereinfacht diesem Ablauf: Daten werden gesammelt, aufbereitet und teilweise mit Labels versehen. Ein Modell wird mit einem Teil der Daten trainiert. Anschließend wird es mit getrennten Testdaten geprüft. Erst danach sollte entschieden werden, ob es für einen bestimmten Zweck geeignet ist.

Ein Label ist eine Zuordnung oder Kategorie, zum Beispiel „Papier“ oder „Plastik“. Labels können von Menschen, Sensoren, vorhandenen Datenbanken oder anderen Systemen stammen. Sie sind nicht automatisch wahr. Unterschiedliche Personen können Grenzfälle verschieden einschätzen, Begriffe können mehrdeutig sein, und alte Kategorien können heutige Ziele schlecht abbilden.

Trainings- und Testdaten sollten getrennt sein. Wenn ein Modell genau die Beispiele wieder sieht, an denen es gelernt hat, kann die Prüfung zu optimistisch wirken. Ein Test soll zeigen, wie gut das Modell mit neuen, aber passenden Fällen zurechtkommt.

Technische Prüffragen

Stelle im KI-Prozess	Prüffrage	Mögliche Fehlerquelle
Auswahl der Daten	Welche Fälle kommen vor und welche fehlen?	Unterrepräsentation, bequeme statt passende Stichprobe
Messung	Wurde unter vergleichbaren Bedingungen erhoben?	Licht, Kamera, Sprache, Gerät oder Umgebung unterscheiden sich
Labeling	Sind Kategorien klar und konsistent?	Mehrdeutige oder falsche Labels
Zielvariable	Misst das Ziel wirklich das, was wir wissen wollen?	Ersatzgröße passt nur teilweise zum eigentlichen Ziel
Training	Lernt das Modell ein sinnvolles Merkmal oder nur einen Zufall?	Scheinkorrelation oder Proxy-Merkmal
Test	Sind die Testdaten unabhängig und vielfältig genug?	Zu kleiner oder zu ähnlicher Test
Auswertung	Werden nur Gesamtwerte oder auch Teilgruppen betrachtet?	Gute Gesamtquote verdeckt große Unterschiede
Einsatz	Können Menschen prüfen, widersprechen und korrigieren?	Automatisches Ergebnis wird ungeprüft übernommen

Datenexperiment: Ein kleiner Klassifikator

Für das Experiment betrachten wir ein erfundenes KI-System, das Abfallbilder als „Papier“ oder „Plastik“ einordnet. Die Bilder wurden unter zwei Bedingungen aufgenommen: heller Hintergrund und dunkler Hintergrund. Der Trainingsdatensatz enthält zwar gleich viele Papier- wie Plastikbilder, aber die Aufnahmebedingungen sind ungleich verteilt.

Trainingsgruppe	Papier	Plastik	Gesamt
Heller Hintergrund	8	8	16
Dunkler Hintergrund	2	2	4
Gesamt	10	10	20

Der Datensatz ist also nach Klasse ausgeglichen, aber nicht nach Aufnahmebedingung. Genau deshalb reicht die Aussage „10 Papier, 10 Plastik“ nicht aus.

Testdaten und Vorhersagen

Fall	Hintergrund	Wahrheit	KI-Vorhersage	Richtig?
H1	hell	Papier	Papier	ja
H2	hell	Plastik	Plastik	ja
H3	hell	Papier	Papier	ja
H4	hell	Plastik	Plastik	ja
H5	hell	Papier	Papier	ja
H6	hell	Plastik	Plastik	ja
D1	dunkel	Papier	Papier	ja
D2	dunkel	Plastik	Papier	nein
D3	dunkel	Papier	Plastik	nein
D4	dunkel	Plastik	Plastik	ja
D5	dunkel	Papier	Papier	ja
D6	dunkel	Plastik	Papier	nein

Berechne zuerst selbst. Insgesamt sind 9 von 12 Vorhersagen richtig, also 75 Prozent. Für helle Hintergründe sind es 6 von 6, also 100 Prozent. Für dunkle Hintergründe sind es 3 von 6, also 50 Prozent. Der Unterschied beträgt 50 Prozentpunkte.

Testgruppe	Richtige Fälle	Genauigkeit	Einfache Visualisierung
Gesamt	9 von 12	75 %	███████▌
Heller Hintergrund	6 von 6	100 %	██████████
Dunkler Hintergrund	3 von 6	50 %	█████

Wichtig: Dieses kleine Beispiel beweist nicht, dass der Trainingsanteil allein die Ursache ist. Die Testmenge ist winzig und erfunden. Weitere mögliche Ursachen wären unterschiedliche Bildqualität, fehlerhafte Labels, ungeeignete Merkmale oder Zufall. Ein wissenschaftlich sauberes Urteil lautet deshalb eher: „Die Ergebnisse liefern einen Hinweis auf ein Problem bei dunklem Hintergrund. Die ungleiche Trainingsverteilung ist eine plausible Hypothese, die mit mehr Daten und kontrollierten Tests geprüft werden muss.“

Fehlermatrix verstehen

Bei einer binären Klassifikation können vier Fälle auftreten: richtig positiv, richtig negativ, falsch positiv und falsch negativ. Welche Fehler besonders wichtig sind, hängt vom Einsatz ab. Bei einer Spam-Erkennung ist ein übersehener Spam anders zu bewerten als eine fälschlich blockierte wichtige Nachricht.

Übertrage die Idee auf das Papier-Plastik-Beispiel: Wenn „Papier“ als positive Klasse gilt, gab es fünf richtige Papier-Erkennungen, eine übersehene Papierprobe, vier richtige Plastik-Erkennungen und zwei Plastikproben, die fälschlich als Papier markiert wurden.

Repräsentation in Bildern und Medien prüfen

Repräsentation betrifft nicht nur technische Trefferquoten. Generative KI kann auch wiederkehrende Muster in Sprache und Bildern erzeugen. Wenn Trainingsmaterial bestimmte Rollen immer ähnlich zeigt, können Ausgaben Stereotype wiederholen. Das bedeutet nicht, dass jede einzelne Ausgabe „diskriminierend“ ist. Entscheidend sind Muster über mehrere Beispiele hinweg, der Kontext und die Folgen.

Das Video der Antidiskriminierungsstelle des Bundes eignet sich als Einstieg in die Frage, wie algorithmische Systeme in Alltagssituationen benachteiligen können. Prüfe beim Sehen: Welche Beispiele sind belegt? Welche Aussagen sind rechtlich, welche technisch? Welche Fragen bleiben offen?

Medienlabor: Acht Ausgaben reichen für eine Hypothese, nicht für einen Beweis

Eine fiktive Schülerzeitung gibt achtmal denselben Prompt ein: „Eine Person leitet ein innovatives Schulprojekt.“ Das Bildsystem liefert folgende Textbeschreibungen seiner Ausgaben:

Ausgabe	Beschreibung
1	junger Mann im Anzug vor einer Präsentation
2	Mann mittleren Alters mit Tablet im Klassenraum
3	junger Mann vor einem Technikmodell
4	junge Frau mit Notizbuch vor einer Gruppe
5	Mann mittleren Alters an einem Whiteboard
6	älterer Mann mit Laptop am Konferenztisch
7	junge Frau mit Mikrofon bei einer Schulveranstaltung
8	Mann mittleren Alters im Rollstuhl vor einem Projektposter

Zähle nur Merkmale, die in den Beschreibungen ausdrücklich genannt werden. Interpretiere keine Identität aus Aussehen. In dieser kleinen Stichprobe werden sechs Ausgaben als Mann und zwei als Frau beschrieben. Altersdarstellungen sind ebenfalls ungleich verteilt. Ein Rollstuhl ist einmal sichtbar.

Daraus darfst Du nicht schließen, wie das gesamte KI-System „immer“ arbeitet. Acht Ausgaben sind zu wenig, und generative Systeme können zufällig variieren. Du kannst aber eine prüfbare Hypothese formulieren: „Bei diesem Prompt könnte die Darstellung von Projektleitung einseitig sein.“ Ein besseres Experiment würde mehr Wiederholungen, mehrere ähnlich formulierte Prompts, dokumentierte Einstellungen und ein vorab festgelegtes Auswertungsschema verwenden.

Realistische Anwendungssituation: Soll die Schülerzeitung die KI-Bilder verwenden?

Die Redaktion einer Schülerzeitung möchte für die Titelseite zum Thema „Unsere Schule gestaltet Zukunft“ KI-generierte Bilder einsetzen. Die Redaktion will keine echten Schülerinnen und Schüler ohne Einwilligung zeigen. Gleichzeitig sollen die Bilder die Vielfalt der Schule nicht auf stereotype Rollen reduzieren.

Deine Gruppe übernimmt ein KI-Audit. Ihr sollt nicht einfach „KI gut“ oder „KI schlecht“ sagen, sondern eine begründete Entscheidung treffen.

Zweck klären: Wofür wird das Bild gebraucht und welche Wirkung soll es haben?
Stichprobe planen: Wie viele Ausgaben und welche Promptvarianten werden geprüft?
Kategorien begründen: Welche sichtbaren Darstellungsmerkmale sind für die Fragestellung relevant, ohne Menschen unnötig zu kategorisieren?
Muster zählen: Welche Rollen, Altersdarstellungen, Tätigkeiten und Hilfsmittel kommen wie oft vor?
Quelle dokumentieren: Welches System, welcher Prompt, welches Datum und welche Einstellungen wurden verwendet?
Entscheidung treffen: Verwenden, überarbeiten, neu erzeugen oder auf andere Medien ausweichen?
Menschliche Verantwortung sichern: Die Redaktion bleibt für Auswahl, Kontext, Bildunterschrift und Veröffentlichung verantwortlich.

Quellenkritik: Von der Behauptung zum Beleg

Ein gutes Urteil über KI stützt sich nicht nur auf ein virales Beispiel. Prüfe Quellen mit dem 5B-Raster:

Behauptung: Was wird genau behauptet?
Beleg: Welche Daten, Tests oder Dokumente stützen die Aussage?
Basis: Wie groß und wie passend sind Stichprobe und Messmethode?
Begrenzung: Was kann die Quelle nicht zeigen oder verallgemeinern?
Beteiligte: Wer hat untersucht, veröffentlicht oder finanziert und welche Interessen könnten eine Rolle spielen?

Beispiel: Gesichtserkennung als Quelle für ein begründetes Urteil

Das US-amerikanische National Institute of Standards and Technology, kurz NIST, untersuchte 2019 189 Gesichtserkennungsalgorithmen von 99 Entwicklern. Der Test nutzte mehrere große Bildsammlungen. NIST berichtete bei der Mehrheit der untersuchten Algorithmen demografische Unterschiede in den Fehlerquoten. Gleichzeitig betonte NIST, dass sich Algorithmen stark unterscheiden und dass Fehlerart, Anwendung, Bildqualität und Datengrundlage berücksichtigt werden müssen.

Die richtige Schlussfolgerung ist deshalb nicht: „Gesichtserkennung ist immer gleich unfair.“ Präziser ist: „Große unabhängige Tests haben bei vielen untersuchten Algorithmen unterschiedliche Fehlerquoten zwischen demografischen Gruppen gezeigt. Deshalb müssen einzelne Systeme und Einsatzbedingungen getrennt geprüft werden.“

Quellenvergleich

Quelle	Stärke	Grenze	Gute Verwendung im Unterricht
NIST-Testbericht	große technische Evaluation, klare Fehlertypen	bezieht sich auf getestete Algorithmen und konkrete Datensätze	technische Belege und Fehlerquoten prüfen
Antidiskriminierungsstelle des Bundes	institutioneller Fokus auf Benachteiligung und Recht	kein Ersatz für technischen Benchmark eines konkreten Modells	Folgen, Rechte und Schutzfragen einordnen
UNESCO-Empfehlung zur KI-Ethik	internationaler Rahmen für Fairness, Transparenz und menschliche Aufsicht	liefert Prinzipien, nicht automatisch eine Messmethode	Kriterien für verantwortlichen KI-Einsatz entwickeln
Wikipedia	schneller Überblick und viele weiterführende Verweise	offen bearbeitbar, Qualität kann je Abschnitt schwanken	Begriffe klären und Primärquellen finden
Erklärvideo	anschaulich und zugänglich	Auswahl und Dramaturgie können vereinfachen	Einstieg nutzen und Aussagen mit Originalquellen prüfen

Das Video von Doktor Whatson erklärt Bias und diskutiert Beispiele aus dem maschinellen Lernen. Für eine 45-Minuten-Stunde kann ein kurzer Ausschnitt genügen. Nutze das Video als Sekundärquelle und prüfe wichtige Behauptungen mit den im Video genannten oder unten verlinkten Originalquellen.

Geschichte und Gegenwart: Daten sind nicht zeitlos

Historische Daten können gesellschaftliche Verhältnisse ihrer Entstehungszeit abbilden. Wenn bestimmte Gruppen früher seltener Zugang zu Berufen, Bildung, Öffentlichkeit oder Führungspositionen hatten, können Texte und Bilder aus dieser Zeit entsprechende Muster enthalten. Ein Modell, das solche Daten ohne Kontext übernimmt, kann Vergangenheit als scheinbar normale Gegenwart fortschreiben.

Die entscheidende historische Frage lautet deshalb: Beschreibt ein Datensatz, wie etwas war, oder soll er vorgeben, wie etwas heute sein sollte? Beschreibung und Empfehlung sind nicht dasselbe. Diese Unterscheidung verbindet Geschichte, Ethik und Informatik.

Fairness ist mehr als eine Zahl

Es gibt nicht für jede Situation genau eine Fairness-Metrik. Gleiche Gesamtgenauigkeit kann unterschiedliche Gruppenfehler verdecken. Gleiche Fehlerquoten können wiederum andere Unterschiede im Zugang oder in den Folgen nicht erfassen. Deshalb muss zuerst geklärt werden, welches Ziel und welcher Schaden relevant sind.

Ein Beispiel: Ein System kann in zwei Gruppen jeweils 90 Prozent Genauigkeit haben. Wenn die zehn Prozent Fehler in Gruppe A meist harmlose Wiederholungen auslösen, in Gruppe B aber zu einem Ausschluss führen, sind die Folgen trotz gleicher Quote nicht gleich. Technische Kennzahlen und ethische Folgen müssen gemeinsam betrachtet werden.

KI-Prüfkarte für ein begründetes Urteil

Kriterium	Leitfrage	Möglicher Beleg
Zweck	Ist KI für diese Aufgabe überhaupt sinnvoll?	Aufgabenbeschreibung, Alternativen
Datenqualität	Sind Daten aktuell, korrekt und passend?	Datenblatt, Stichprobenprüfung
Repräsentation	Fehlen relevante Situationen oder Perspektiven?	Verteilungen, Abdeckung, Vergleich mit Zielgruppe
Labels	Sind Kategorien verständlich und konsistent?	Labelregeln, Doppelprüfung
Fehler	Welche Fehler treten auf und für wen?	Testdaten, Fehlermatrix, Gruppenquoten
Transparenz	Können Herkunft, Grenzen und Version nachvollzogen werden?	Model Card, Datenblatt, Quellenangaben
Sicherheit und Datenschutz	Werden unnötige personenbezogene Daten vermieden?	Datenschutzkonzept, Datensparsamkeit
Menschliche Kontrolle	Kann ein Mensch prüfen, korrigieren und widersprechen?	Freigabeprozess, Beschwerdeweg
Wirkung	Welche Folgen hat ein Fehler?	Szenarioanalyse, Betroffenenperspektive
Nachkontrolle	Wird das System nach dem Einsatz weiter geprüft?	Monitoring, regelmäßiger Re-Test

Ein begründetes Urteil verbindet mindestens vier Teile: Kriterium + Beleg + Abwägung + Schluss. Beispiel: „Die Gesamtgenauigkeit von 75 Prozent reicht als Beleg nicht aus, weil die Testgruppe mit dunklem Hintergrund nur 50 Prozent erreicht. Da die Trainingsdaten diese Bedingung deutlich seltener enthalten, sollte der Datensatz erweitert und erneut getestet werden. Bis dahin würde ich das System nicht allein entscheiden lassen.“

Sicherheit, Human Agency und verantwortlicher KI-Einsatz

Du sollst KI nicht nur bedienen, sondern Entscheidungen darüber treffen können. Verwende im Unterricht keine privaten Fotos, Gesundheitsdaten, Adressen oder andere sensible Daten, wenn sie für die Aufgabe nicht nötig sind. Lade keine Bilder von Mitschülerinnen und Mitschülern in externe Systeme hoch, nur um einen Bias-Test zu machen. Nutze stattdessen erfundene, offene oder speziell für Unterrichtszwecke freigegebene Daten.

Human Agency bedeutet hier: Menschen setzen das Ziel, wählen Kriterien, prüfen Belege, können ein Ergebnis ablehnen und tragen Verantwortung. Ein KI-System darf ein begründetes Urteil unterstützen, aber nicht die Verantwortung dafür übernehmen.

Reflexion und Transfer

Beantworte zum Abschluss drei Sätze schriftlich:

Eine Zahl, der ich bei KI nicht mehr blind vertraue, ist ..., weil ...
Ein Datensatz wirkt auf mich erst dann geeignet, wenn ...
Wenn eine KI-Ausgabe unfair oder einseitig erscheint, prüfe ich als Nächstes ...

Als Exit-Ticket formulierst Du außerdem ein Urteil zum Papier-Plastik-Klassifikator in höchstens vier Sätzen. Verwende mindestens eine Zahl aus dem Test und mindestens ein Kriterium aus der KI-Prüfkarte.

Quellen und Belege

NIST: Study Evaluates Effects of Race, Age, Sex on Face Recognition Software – Zusammenfassung des großen Gesichtserkennungstests von 2019.
NISTIR 8280: Face Recognition Vendor Test Part 3 – Demographic Effects – Primärquelle zum Test.
NIST FRTE 1:1 Demographic Differentials Summary – laufend aktualisierte technische Übersicht zu Fehlerarten und demografischen Unterschieden.
UNESCO: Recommendation on the Ethics of Artificial Intelligence – Fairness, Transparenz, KI-Kompetenz und menschliche Aufsicht.
Antidiskriminierungsstelle des Bundes: Automatisch benachteiligt? – rechtliche und gesellschaftliche Perspektiven auf algorithmische Entscheidungssysteme.
Wikipedia: Algorithmic Bias – Überblick und weiterführende Literatur.
Wikipedia: Repräsentativität – Einordnung von Stichproben und Verallgemeinerbarkeit.
Wikipedia: Stichprobenverzerrung – Einführung in Selection Bias.

Frei verwendbare Medien im Kurs

Die eingebundenen Bilder stammen aus Wikimedia Commons. Prüfe vor einer Weiterverwendung immer die jeweilige Dateiseite und die dort genannte Lizenz. Im Kurs verwendet werden unter anderem CC0- und CC-BY-SA-Medien.

Datei	Lizenz laut Commons-Dateiseite	Lernzweck
Machine learning workflow de.svg	CC BY-SA und GFDL	Ablauf von maschinellem Lernen
Machine learning nutshell -- Gather labeled observations.svg	CC BY-SA 4.0	Labels und Trainingsbeispiele
Machine learning nutshell -- Split into train-test set.svg	CC BY-SA 4.0	Trennung von Training und Test
Statistical bias and statistical noise illustration.png	CC0	Bias und zufällige Streuung unterscheiden
Information bias.png	CC BY-SA 4.0	visuelle Metapher für Verzerrung
Facial Recognition.jpg	CC BY-SA 4.0	Anlass zur Diskussion über biometrische KI
Confusion Matrix.png	CC0	Fehlertypen einer Klassifikation
Social Impact of Artificial Intelligence - Infographic.png	CC BY-SA 4.0	gesellschaftliche Auswirkungen von KI

Interaktive Aufgaben

Quiz: Teste Dein Wissen

Welche Aussage beschreibt einen für die Aufgabe repräsentativen Datensatz am besten? (Er bildet die für den Einsatzzweck relevante Vielfalt angemessen ab) (!Er enthält möglichst viele Dateien unabhängig von ihrer Auswahl) (!Er besteht nur aus besonders einfachen Beispielen) (!Er enthält ausschließlich Daten aus einer einzigen Quelle)

Was ist ein Label beim überwachten maschinellen Lernen? (Eine zugewiesene Kategorie oder Zielangabe zu einem Beispiel) (!Ein Zufallswert zur Verschlüsselung eines Datensatzes) (!Die Internetadresse eines KI-Systems) (!Eine Garantie dafür dass ein Beispiel korrekt ist)

Warum sollten Testdaten von Trainingsdaten getrennt sein? (Damit geprüft wird wie das Modell mit neuen Beispielen umgeht) (!Damit das Modell dieselben Beispiele mehrfach auswendig lernt) (!Damit Fehler im Testdatensatz unsichtbar bleiben) (!Damit keine Genauigkeit berechnet werden kann)

Was zeigt eine Stichprobenverzerrung? (Dass bestimmte Fälle systematisch anders in die Auswahl gelangen) (!Dass jede zufällige Stichprobe automatisch falsch ist) (!Dass große Datensätze keine Fehler enthalten) (!Dass Labels immer von einer KI erstellt werden müssen)

Warum reicht die Gesamtgenauigkeit allein oft nicht aus? (Weil unterschiedliche Gruppen oder Bedingungen sehr verschiedene Fehlerquoten haben können) (!Weil Prozentwerte bei KI grundsätzlich verboten sind) (!Weil nur die Anzahl der Trainingsdateien wichtig ist) (!Weil Testdaten nie ausgewertet werden sollten)

Was gehört zu guter Quellenkritik bei einer Aussage über KI? (Die Behauptung mit Methode Datenbasis Grenzen und Urheber der Quelle zu prüfen) (!Nur die Überschrift der Quelle zu lesen) (!Eine Aussage zu glauben sobald sie häufig geteilt wurde) (!Nur Quellen zu verwenden die die eigene Meinung bestätigen)

Was ist ein Proxy-Merkmal im Kontext von Bias? (Ein Merkmal das indirekt mit einer eigentlich relevanten Eigenschaft zusammenhängen kann) (!Ein Merkmal das immer vollkommen zufällig ist) (!Ein Testdatensatz ohne Labels) (!Eine sichere Methode um jede Verzerrung zu verhindern)

Was bedeutet menschliche Aufsicht bei einem KI-System? (Menschen können Ergebnisse prüfen korrigieren ablehnen und Verantwortung übernehmen) (!Die KI entscheidet allein und Menschen dürfen nicht eingreifen) (!Nur Programmierende dürfen Ergebnisse sehen) (!Die KI übernimmt automatisch die rechtliche Verantwortung)

Wann ist eine unausgewogene Medienausgabe ein belastbarer Hinweis auf ein systematisches Muster? (Wenn mehrere kontrollierte Stichproben mit dokumentierter Methode ein ähnliches Muster zeigen) (!Wenn ein einziges überraschendes Bild gefunden wurde) (!Wenn nur Beispiele ausgewählt werden die zur Vermutung passen) (!Wenn die Quelle des Bildes unbekannt bleibt)

Wie sieht ein begründetes Urteil über ein KI-System aus? (Es verbindet Kriterien Belege Abwägung und einen nachvollziehbaren Schluss) (!Es nennt nur eine persönliche Meinung ohne Beleg) (!Es verwendet nur die höchste gemessene Genauigkeit) (!Es übernimmt die Werbeaussage des Herstellers)

Memory

Trainingsdaten	Beispiele zum Lernen eines Modells
Label	Zugeordnete Kategorie oder Zielangabe
Testdaten	Neue Daten zur unabhängigen Prüfung
Repräsentativität	Passende Abbildung relevanter Vielfalt
Bias	Systematische Verzerrung
Falschpositiv	Etwas wird fälschlich als positiv erkannt
Transparenz	Nachvollziehbarkeit von Daten Methode und Grenzen

Drag and Drop

Ordne die richtigen Begriffe zu.	Thema
Unterrepräsentation	Relevante Fälle fehlen oder kommen zu selten vor
Fehlerhafte Labels	Das Modell bekommt falsche oder widersprüchliche Zielangaben
Einseitige Quelle	Bestimmte Perspektiven dominieren die Daten
Proxy-Merkmal	Eine Eigenschaft wirkt indirekt als Ersatz für eine andere
Nur Gesamtgenauigkeit	Unterschiede zwischen Teilgruppen können verborgen bleiben

...

Kreuzworträtsel

Bias	Wie heißt eine systematische Verzerrung in einem KI-System?
Label	Wie heißt die zugewiesene Kategorie eines Trainingsbeispiels?
Stichprobe	Wie heißt eine ausgewählte Teilmenge einer größeren Grundgesamtheit?
Transparenz	Wie heißt das Prinzip der Nachvollziehbarkeit von Daten und Entscheidungen?
Fairness	Wie heißt das Prinzip gerechter und nicht diskriminierender Behandlung?
Datenqualität	Wie heißt die Güte von Daten hinsichtlich Korrektheit und Eignung?

LearningApps

Lückentext

Ein KI-Modell lernt Muster aus

. Eine zugewiesene Kategorie zu einem Beispiel heißt

. Für eine faire Prüfung sollten

vom Training getrennt sein. Eine systematische Verzerrung wird häufig als

bezeichnet. Wenn wichtige Fälle in einer Stichprobe fehlen, kann die

eingeschränkt sein. Eine Fehlermatrix unterscheidet unter anderem falsche positive und falsche

Ergebnisse. Ein gutes Urteil sollte sich auf nachvollziehbare

stützen. Am Ende bleibt die Verantwortung für folgenreiche Entscheidungen bei

.

Offene Aufgaben

Leicht

Daten-Detektiv: Markiere im Papier-Plastik-Datensatz drei Stellen, an denen Du vor einem Urteil genauer hinschauen würdest, und begründe jeweils warum.
Label-Check: Erfinde fünf Gegenstände, bei denen die Zuordnung zu Papier oder Plastik schwierig sein könnte, und formuliere eine klare Labelregel.
Medienbeobachtung: Untersuche acht frei lizenzierte Bilder zu einem Beruf auf Wikimedia Commons. Notiere, welche Rollen und Situationen sichtbar sind, ohne Identitäten zu erraten.
Quellenampel: Bewerte drei Quellen zu einer KI-Behauptung mit Grün, Gelb oder Rot. Nutze mindestens drei Kriterien aus dem 5B-Raster.

Standard

Mini-Datensatz-Audit: Entwirf einen Datensatz mit 20 Beispielen für eine harmlose Klassifikationsaufgabe und zeige, welche Vielfalt für den Einsatzzweck wichtig wäre.
Fehlerdiagramm: Erstelle aus dem Testdatensatz ein Balkendiagramm für Gesamtgenauigkeit, hellen Hintergrund und dunklen Hintergrund. Schreibe darunter zwei Sätze, die das Diagramm nicht überinterpretieren.
Medien-Audit: Formuliere für die Schülerzeitung vier Kriterien für vielfältige und nicht stereotype Bildauswahl. Prüfe damit die acht fiktiven Ausgaben aus dem Kurs.
Train-Test-Experiment: Sortiere einen kleinen Kartensatz in Training und Test. Lass eine Gruppe eine einfache Regel lernen und prüfe sie anschließend nur mit den Testkarten.

Schwer

Fairness-Audit: Entwickle für ein fiktives KI-System in der Schule einen Prüfplan mit Zweck, Datensatz, Labels, Gruppenfehlern, Datenschutz, menschlicher Kontrolle und Abbruchkriterien.
Quellenvergleich: Vergleiche eine NIST-Quelle, eine Wikipedia-Seite und ein Erklärvideo zum Thema Bias. Trenne Primärbelege, Zusammenfassung und Meinung.
Datensatz-Redesign: Verbessere den Papier-Plastik-Trainingsdatensatz so, dass Aufnahmebedingungen ausgewogener sind. Begründe, welche neuen Testdaten Du zusätzlich brauchst.
Urteil mit Gegenargument: Schreibe ein kurzes Gutachten zur Frage, ob KI-generierte Bilder für die Schülerzeitung eingesetzt werden sollten. Nenne mindestens zwei Belege, ein Gegenargument, eine Grenze Deiner Daten und eine Bedingung für den Einsatz.

Lernkontrolle

Datensatzvergleich: Zwei Modelle haben beide 85 Prozent Gesamtgenauigkeit. Modell A erreicht in allen geprüften Bedingungen etwa 84 bis 86 Prozent, Modell B schwankt zwischen 60 und 98 Prozent. Welches würdest Du für einen sensiblen Einsatz eher weiterprüfen und warum? Nenne auch Informationen, die noch fehlen.
Fehlerfolgen: Erkläre an einem eigenen Beispiel, warum ein falsches positives Ergebnis andere Folgen haben kann als ein falsches negatives Ergebnis. Leite daraus ab, welche Kennzahl besonders beobachtet werden sollte.
Repräsentationsurteil: Eine Bild-KI erzeugt in 20 Wiederholungen auffällig ähnliche Darstellungen einer Führungsrolle. Formuliere eine Hypothese und plane einen Test, der zwischen Zufall, Prompt-Effekt und systematischem Muster besser unterscheiden kann.
Quellenkritik: Eine Social-Media-Grafik behauptet „KI ist zu 99 Prozent fair“, nennt aber weder Datensatz noch Testmethode. Erkläre mit dem 5B-Raster, warum die Aussage nicht ausreicht und welche Belege Du verlangen würdest.
Historischer Transfer: Zeige an einem Beispiel, wie historische Daten gesellschaftliche Ungleichheiten abbilden können. Erkläre, warum ein KI-System diese Muster nicht automatisch als Empfehlung für die Gegenwart übernehmen sollte.
Entscheidung mit Human Agency: Entwirf einen Ablauf, bei dem eine KI eine schulische Aufgabe unterstützt, aber Menschen die Kontrolle behalten. Beschreibe mindestens eine Stelle, an der ein Mensch eingreifen oder widersprechen können muss.

Lernnachweis

Für einen Lernnachweis zu diesem Thema ist wichtig, dass Du nicht nur Begriffe wiederholen kannst, sondern einen kleinen KI-Fall nachvollziehbar prüfst. Zeige dabei:

Du kannst Trainingsdaten, Labels, Testdaten, Bias und Repräsentativität korrekt verwenden.
Du kannst einfache Anteile oder Fehlerquoten berechnen und als Tabelle oder Diagramm darstellen.
Du kannst mindestens eine Gesamtkennzahl mit einer Teilgruppen- oder Bedingungskennzahl vergleichen.
Du kannst eine Quelle nach Behauptung, Beleg, Datenbasis, Begrenzung und Urheber einordnen.
Du kannst Medienrepräsentation beschreiben, ohne aus Bildern vorschnell Identitäten abzuleiten.
Du kannst mindestens zwei mögliche Ursachen für eine Verzerrung unterscheiden.
Du kannst Grenzen Deiner Stichprobe benennen.
Du formulierst ein Urteil mit Kriterium, Beleg, Abwägung und Schluss.
Du berücksichtigst Datenschutz, Sicherheit, Fairness und menschliche Kontrolle.

OERs zum Thema

Verknüpfte Lernbereiche

Repräsentation und Vielfalt in KI prüfen

aiMOOC-Projekte

Inhalte werden geladen ...

Mediathek wird aus dem Wiki geladen ...

Frag mich zum aktuellen Lerninhalt oder wähle eine kurze Hilfe.

Textmodus bereit

Sprache