Diesen aiMOOC als Battle spielen: Deutsch, Klasse 9-10, G-Niveau

Daten für KI-Systeme auswählen

Einleitung

Wenn ein KI-System aus Daten lernt, entscheidet nicht nur der Algorithmus über die Qualität des Ergebnisses. Schon vorher treffen Menschen wichtige Entscheidungen: Welche Daten werden gesammelt? Welche Fälle fehlen? Welche Merkmale werden aufgenommen? Wer vergibt Labels? Welche Fehler sind akzeptabel? Deshalb ist die Auswahl von Daten ein Teil des Systemdesigns und keine bloße Vorarbeit.

In diesem aiMOOC untersuchst Du an einem kleinen, vollständig erfundenen Datensatz, wie ein KI-System für die Vorauswahl von Bewerbungen für ein Schülerpraktikum entstehen könnte. Du vergleichst Trainings- und Testdaten, prüfst Repräsentativität, Labels, Fehler und mögliche Verzerrungen, wertest eine kleine Konfusionsmatrix aus und entscheidest am Ende, ob und unter welchen Bedingungen ein KI-Einsatz vertretbar ist.

Wichtig: Der Beispieldatensatz ist didaktisch konstruiert. Er enthält keine echten personenbezogenen Daten und soll keine Aussagen über reale Gruppen erlauben. Gerade bei Entscheidungen über Bildung, Arbeit oder Teilhabe reichen kleine Schulbeispiele nie für reale Entscheidungen aus.

Das Bild macht sichtbar, dass Trainingsdaten nicht „einfach da“ sind: Menschen sammeln, prüfen, bereinigen und beschriften Daten. Diese menschlichen Entscheidungen gehören zur Daten-Governance.

Der frei lizenzierte Erklärfilm des KI-Campus zeigt anschaulich, wie verzerrte Trainingsdaten zu verzerrten Ergebnissen beitragen können.

Zielgruppe, Zeit und Lernziele

Der Kurs richtet sich besonders an Klasse 10 und ist für etwa 45 bis 90 Minuten angelegt. Für eine Unterrichtsstunde bearbeitest Du Aktivierung, Grundbegriffe, Datensatz-Experiment und Entscheidungsaufgabe. Für zwei Unterrichtsstunden kommen vertiefte Evaluation, Governance, Folgenabschätzung und Transfer hinzu.

Nach dem Kurs kannst Du:

Trainingsdaten: erklären, warum Datenmenge allein keine gute Datenqualität garantiert.
Repräsentativität: prüfen, ob wichtige Fälle und Nutzungssituationen angemessen vorkommen.
Labels: beurteilen, ob ein Zielwert wirklich das misst, was ein KI-System später entscheiden soll.
Datenqualität: Fehler, fehlende Werte, Messprobleme, Auswahleffekte und mögliche Verzerrungen erkennen.
Evaluation: Gesamtleistung und Fehler für Teilgruppen getrennt betrachten und mit einer einfachen Baseline vergleichen.
Systemdesign: zwischen Automatisierung, Assistenzsystem, einfacher Regel oder bewusstem Verzicht auf KI unterscheiden.
Governance: Zuständigkeiten, Dokumentation, Datenschutz, menschliche Aufsicht und einen Korrekturweg einplanen.
Technikfolgenabschätzung: Nutzen, Risiken, Betroffene und mögliche Rückkopplungseffekte abwägen.
Human Agency: begründet entscheiden, wann Menschen ein KI-System überstimmen, stoppen oder gar nicht einsetzen sollten.

Fächerübergreifende Bezüge

Fach	Bezug im Kurs
Informatik	Trainings-, Validierungs- und Testdaten; Merkmale; Labels; Modellfehler; Datenleck; Systemgrenzen
Mathematik	Anteile, Prozentwerte, Stichproben, Konfusionsmatrix, Vergleich von Fehlerraten
Technik	Messfehler, Sensor- und Erfassungsqualität, Wartung, Robustheit und sichere Systemgrenzen
Deutsch	klare Kategorien, Annotationsregeln, Mehrdeutigkeit von Sprache, Quellenkritik und begründete Argumentation
Wirtschaft	Kosten von Datenerhebung, Fehlentscheidungen, Automatisierung, Produktivität und Folgekosten
Geschichte	historische Daten als Abbild früherer Regeln, Gewohnheiten und Ungleichheiten
Ethik	Fairness, Würde, Autonomie, Nichtdiskriminierung, Verantwortung und Verhältnismäßigkeit
Gemeinschaftskunde	Grundrechte, Datenschutz, demokratische Kontrolle, Rechenschaft und Regulierung von KI

Unterrichtsfahrplan für 90 Minuten

Phase	Zeit	Tätigkeit	Ziel
Aktivierung	0–8 min	Diagnosefragen und Bauchentscheidung	Vorwissen und erste Kriterien sichtbar machen
Einführung	8–20 min	Daten, Labels, Stichprobe, Train-Test-Trennung	gemeinsame Begriffe sichern
Datenlabor	20–40 min	kleinen Trainingsdatensatz prüfen und visualisieren	Auswahl- und Labelprobleme entdecken
Evaluation	40–58 min	Testdaten und Konfusionsmatrix auswerten	Fehler statt nur Genauigkeit betrachten
Governance	58–72 min	Datenkarte, Zuständigkeiten, Stop-Kriterien	kontrollierbaren KI-Einsatz planen
Folgenabschätzung	72–82 min	Risiken und Gegenmaßnahmen bewerten	technische und gesellschaftliche Folgen verbinden
Entscheidung	82–88 min	Handlungsoption wählen und begründen	Human Agency einüben
Exit-Ticket	88–90 min	Transferfrage beantworten	Lernstand selbst prüfen

Für 45 Minuten kannst Du die Phasen Governance und Folgenabschätzung als Hausaufgabe oder Anschlussstunde nutzen.

Kurze Aktivierung und Diagnose

Stell Dir vor, Deine Schule möchte ein KI-System einsetzen, das aus früheren Daten vorhersagt, welche Bewerbungen für ein Schülerpraktikum zu einem Gespräch eingeladen werden sollen.

Beantworte zunächst ohne Nachschlagen:

Welche drei Daten würdest Du spontan für nützlich halten?
Welche Daten würdest Du bewusst nicht verwenden?
Woran würdest Du erkennen, dass der Datensatz unfair oder ungeeignet ist?
Was wäre schlimmer: eine geeignete Person fälschlich abzulehnen oder eine ungeeignete Person fälschlich weiterzuleiten?
Wer sollte die endgültige Entscheidung treffen?

Diagnose-Idee: Notiere zu jeder Antwort ein Kriterium. Am Ende des Kurses prüfst Du, ob Du Deine Kriterien verändern würdest.

Grundlagen: Was bedeutet „Daten auswählen“?

Vom Zweck zur Datenentscheidung

Ein KI-Projekt beginnt sinnvollerweise nicht mit „Welche Daten haben wir?“, sondern mit „Welches Problem soll gelöst werden, und ist KI dafür überhaupt nötig?“ Erst danach wird entschieden, welche Daten zum Zweck passen.

Ein guter Datenentscheidungsprozess trennt mindestens sechs Fragen:

Zweck: Welche konkrete Entscheidung oder Vorhersage soll unterstützt werden?
Grundgesamtheit: Für welche Menschen, Objekte oder Situationen soll das System funktionieren?
Stichprobe: Welche Beispiele werden tatsächlich in den Datensatz aufgenommen?
Merkmale: Welche Eigenschaften werden als Eingaben verwendet?
Zielwert oder Label: Was gilt als „richtige“ Ausgabe?
Evaluation: Mit welchen unabhängigen Daten und Kriterien prüfen wir, ob das System funktioniert?

Merksatz: Ein Datensatz ist nicht „gut“ oder „schlecht“ an sich. Er ist mehr oder weniger geeignet für einen bestimmten Zweck.

Beispiele, Merkmale und Labels

Beim überwachten Lernen besteht ein Datensatz häufig aus Beispielen mit Eingabemerkmalen und einem gewünschten Ergebnis. Ein Bild einer handgeschriebenen Ziffer kann beispielsweise als Eingabe dienen; die Ziffernklasse ist dann das Label.

Das bekannte MNIST-Beispiel zeigt viele handgeschriebene Ziffern. Schon hier entstehen Auswahlfragen: Sind unterschiedliche Handschriften enthalten? Wurden alle Ziffern ähnlich häufig erfasst? Sind Bilder korrekt beschriftet? Entsprechen die Beispiele späteren realen Eingaben?

Bei Texten ist die Label-Frage oft noch schwieriger. Ob eine Äußerung „sachlich“, „beleidigend“ oder „ironisch“ ist, kann vom Kontext abhängen. Für gute Labels braucht man deshalb klare Regeln, Beispiele für Grenzfälle und häufig mehrere menschliche Bewertungen.

Trainings-, Validierungs- und Testdaten

Ein Modell soll nicht nur die bekannten Beispiele auswendig lernen, sondern auf neue Fälle verallgemeinern. Deshalb werden Daten typischerweise getrennt:

Trainingsdatensatz: Damit werden Modellparameter angepasst.
Validierungsdatensatz: Damit werden Varianten verglichen und Einstellungen gewählt.
Testdatensatz: Damit wird erst am Ende möglichst unabhängig geprüft, wie gut das System auf ungesehenen Fällen funktioniert.

Achtung Datenleck: Wenn Testdaten schon während des Trainings, der Merkmalsauswahl oder der Schwellenwertsuche genutzt werden, ist die spätere Bewertung zu optimistisch. Das ist vergleichbar damit, vor einer Klassenarbeit die Lösungen der Testaufgaben zu kennen.

Datenqualität: sieben Prüffragen

Prüfe Daten nicht nur auf „viel oder wenig“, sondern auf mehrere Qualitätsdimensionen.

Prüffrage	Beispiel für ein Problem	Mögliche Reaktion
Sind die Daten relevant?	Das Gerät, mit dem eine Bewerbung abgesendet wurde, sagt wenig über Eignung aus.	Merkmal weglassen oder begründen.
Sind sie repräsentativ?	Fast alle Beispiele stammen aus nur einer Nutzungssituation.	gezielt fehlende Fälle nacherheben.
Sind sie vollständig?	Bei einer Teilgruppe fehlen häufiger Angaben.	Ursache der fehlenden Werte untersuchen.
Sind sie korrekt?	Tippfehler oder falsche Messwerte verzerren Eingaben.	Plausibilitätsregeln und Stichprobenkontrolle.
Sind die Labels passend?	„Früher eingeladen“ wird fälschlich mit „geeignet“ gleichgesetzt.	Zielwert näher am eigentlichen Zweck definieren.
Sind die Daten aktuell?	Regeln und Lebensbedingungen haben sich geändert.	zeitliche Gültigkeit dokumentieren und überwachen.
Dürfen und sollen die Daten verarbeitet werden?	Es werden mehr personenbezogene Daten gesammelt als nötig.	Zweck, Rechtsgrundlage, Datenminimierung und Schutzmaßnahmen prüfen.

Repräsentativität ist mehr als gleiche Anzahl

Ein Datensatz ist repräsentativ, wenn er die für den Zweck wichtigen Situationen ausreichend abbildet. Das bedeutet nicht automatisch, dass jede Gruppe gleich groß sein muss. Entscheidend ist, welche Fälle im späteren Einsatz vorkommen und welche Fehler besonders folgenreich wären.

Die Grafik veranschaulicht einen extremen Stichprobenfehler durch Selbstselektion. Bei KI-Daten können ähnliche Probleme entstehen, wenn nur leicht erreichbare, besonders aktive oder technisch gut ausgestattete Personen Daten liefern.

Drei typische Auswahlfehler:

Selection Bias: Bestimmte Fälle gelangen wahrscheinlicher in den Datensatz als andere.
Survivorship Bias: Nur erfolgreiche oder sichtbare Fälle bleiben übrig.
Coverage Bias: Ein Teil der späteren Einsatzumgebung wird gar nicht erfasst.

Bias ist nicht nur ein einzelner „Vorurteilsfehler“

Das Wort Bias hat mehrere Bedeutungen. Im Alltag meint es häufig eine systematische Verzerrung, die bestimmte Gruppen oder Fälle benachteiligt. In Statistik und maschinellem Lernen gibt es zusätzlich technische Bedeutungen. Für diesen Kurs genügt: Suche nach systematischen Mustern in Daten und Fehlern, statt nur nach einzelnen falschen Beispielen.

Mögliche Entstehungsorte sind:

Datenerhebung und Stichprobenauswahl
Messinstrumente und technische Erfassung
Datenbereinigung und Umgang mit fehlenden Werten
Auswahl der Merkmale
menschliche Annotation und Label-Regeln
historische Entscheidungen, die als Trainingslabels übernommen werden
Modellwahl und Schwellenwerte
Einsatzkontext und Rückkopplungsschleifen

Diese Grafik zeigt einen anderen technischen Bias-Begriff im Zusammenspiel mit Varianz und Trainingsmenge. Für die ethische Prüfung ist wichtig, die Begriffe nicht zu vermischen: Mehr Daten können manche Zufallsschwankungen verringern, beseitigen aber keine ungeeigneten Labels oder systematische Auswahlfehler.

Datenlabor: Ein überschaubarer Datensatz

Anwendungssituation: Vorauswahl für Schülerpraktika

Eine regionale Werkstatt bietet Praktikumsplätze an. In der Vergangenheit wurden Bewerbungen von Menschen geprüft. Nun wird überlegt, ein KI-System einzusetzen, das Bewerbungen automatisch in „weiterprüfen“ und „nicht weiterprüfen“ einteilt.

Das Problem: Als Trainingslabel wurde zunächst einfach übernommen, ob eine Bewerbung früher zu einem Gespräch eingeladen wurde. Dieses Label beschreibt also eine vergangene Entscheidung, nicht automatisch die tatsächliche Eignung.

Der folgende Datensatz ist vollständig erfunden:

Fall	Mini-Aufgabe Punkte	Fehlende Angaben	Absendegerät	Historisch eingeladen
A01	9	keine	Laptop	ja
A02	8	keine	Laptop	ja
A03	7	keine	Laptop	ja
A04	6	keine	Laptop	ja
A05	5	keine	Laptop	nein
A06	4	eine	Laptop	nein
A07	9	keine	Smartphone	ja
A08	8	keine	Smartphone	nein
A09	7	eine	Smartphone	nein
A10	6	keine	Smartphone	nein
A11	8	keine	Laptop	ja
A12	5	eine	Laptop	nein

Experiment 1: Mache die Auswahl sichtbar

Berechne zunächst nur beschreibende Werte.

Gruppe	Anzahl Fälle	Historisch eingeladen	Einladungsanteil	Visualisierung
Laptop	8	5	62,5 %	█████░░░
Smartphone	4	1	25 %	█░░░

Beobachtung: Im kleinen Datensatz unterscheiden sich die historischen Einladungsanteile deutlich. Das ist ein Warnsignal, aber noch kein Beweis für die Ursache. Die Stichprobe ist klein, und wir kennen den historischen Entscheidungsprozess nicht vollständig.

Untersuche nun:

Sind die Gruppen gleich häufig vertreten?
Haben Smartphone-Fälle bei ähnlichen Punktzahlen dieselben historischen Labels wie Laptop-Fälle?
Ist das Absendegerät überhaupt sachlich relevant für Eignung?
Könnte das Gerät als Proxy-Variable für technische Ausstattung oder Zugangsmöglichkeiten wirken?
Welche zusätzliche Information bräuchtest Du, bevor Du eine faire Entscheidung behauptest?

Experiment 2: Prüfe die Label-Idee

Vergleiche zwei mögliche Zielwerte:

Label	Was misst es?	Stärke	Risiko
„Historisch eingeladen“	frühere Auswahlentscheidung	leicht verfügbar	übernimmt möglicherweise frühere Gewohnheiten oder Ungleichheiten
„Praktische Aufgabe nach einheitlicher Bewertungsrubrik bestanden“	fachbezogene Leistung in einer definierten Aufgabe	näher am Zweck	Rubrik kann trotzdem unvollständig oder fehlerhaft sein

Schlüsselidee: Ein KI-System lernt nicht automatisch „Eignung“. Es lernt die Beziehung zwischen Eingaben und dem Label, das Menschen bereitstellen. Ein schlechtes Label kann ein technisch sehr genaues Modell in die falsche Richtung optimieren.

Experiment 3: Entferne ein fragwürdiges Merkmal

Stell Dir vor, ein erstes Modell hat aus den historischen Daten ungefähr folgendes Muster gelernt: Bei Laptop-Bewerbungen reichen mittlere Punktzahlen häufiger für „weiterprüfen“, bei Smartphone-Bewerbungen wird eine höhere Punktzahl verlangt.

Vergleiche nun zwei Systemideen:

Modell M: nutzt Punktzahl, fehlende Angaben und Absendegerät.
Baseline B: transparente Regel „Mini-Aufgabe ab 7 Punkten → weiterprüfen“.

Eine Baseline ist wichtig, weil ein komplexeres System nur sinnvoll ist, wenn es gegenüber einer einfacheren, nachvollziehbaren Lösung einen nachweisbaren Vorteil bringt.

Evaluation: Nicht nur auf eine Gesamtzahl schauen

Unabhängige Testfälle

Für acht neue, ebenfalls synthetische Fälle liegt eine Referenzbewertung aus einer standardisierten praktischen Aufgabe vor.

Fall	Gerät	Punkte	Referenz geeignet	Modell M sagt	Baseline B sagt
T1	Laptop	9	ja	ja	ja
T2	Laptop	7	ja	ja	ja
T3	Laptop	6	nein	ja	nein
T4	Laptop	4	nein	nein	nein
T5	Smartphone	9	ja	ja	ja
T6	Smartphone	8	ja	nein	ja
T7	Smartphone	7	ja	nein	ja
T8	Smartphone	5	nein	nein	nein

Für Modell M gilt:

korrekt: T1, T2, T4, T5, T8 → 5 von 8
falsch positiv: T3 → ungeeigneter Fall wird weitergeleitet
falsch negativ: T6, T7 → geeignete Fälle werden abgelehnt

Die Gesamtgenauigkeit beträgt in diesem Mini-Beispiel 62,5 %. Entscheidend ist aber, welche Fehler wo auftreten.

Konfusionsmatrix verstehen

	Referenz geeignet	Referenz nicht geeignet
Modell sagt geeignet	3 richtige Positive	1 falsches Positiv
Modell sagt nicht geeignet	2 falsche Negative	2 richtige Negative

Für die Praktikumsvorauswahl können falsche Negative besonders kritisch sein, weil geeignete Personen eine Chance verlieren. Deshalb reicht es nicht, nur „Accuracy“ zu nennen.

Gruppenweise Evaluation

Betrachte bei den geeigneten Fällen die Trefferquote, also vereinfacht den Recall:

Gruppe	Geeignete Fälle	Davon erkannt	Recall
Laptop	2	2	100 %
Smartphone	3	1	33,3 %

Wichtig: Aus acht Fällen darfst Du keine allgemeine Aussage über reale Menschen oder Geräte ableiten. Der Datensatz ist absichtlich klein und konstruiert. Das Lernziel ist, zu erkennen, dass Gesamtwerte Teilgruppenfehler verdecken können.

In diesem Test schlägt die einfache Baseline B das Modell M sogar in allen acht Fällen. Daraus folgt nicht, dass einfache Regeln immer besser sind. Es zeigt aber: Komplexität muss ihren Nutzen beweisen.

Evaluation mit mehreren Kriterien

Ein verantwortlicher Test betrachtet mindestens:

Leistung: Welche Fehler treten insgesamt auf?
Teilgruppen: Unterscheiden sich Fehlerraten in relevanten Gruppen?
Robustheit: Funktioniert das System bei neuen Situationen, Schreibweisen, Geräten oder Zeitpunkten?
Vergleich: Ist es besser als eine einfache Baseline oder die bisherige menschliche Praxis?
Folgen: Welche Fehler schaden wem und wie stark?
Unsicherheit: Wie verhält sich das System bei Grenzfällen?
Nachvollziehbarkeit: Können Betroffene und Verantwortliche die Rolle der Daten verstehen?

Systemdesign: Datenwahl beginnt vor dem Training

Ein kontrollierbarer Designprozess

Ein gutes Systemdesign plant Entscheidungen, Kontrollen und Ausstiegsmöglichkeiten von Anfang an.

Schritt	Leitfrage	Beispiel
Zweck definieren	Was soll unterstützt werden?	Vorauswahl zur menschlichen Prüfung, nicht automatische Ablehnung
Alternative prüfen	Brauchen wir KI?	einfache Punkteschwelle oder strukturierte menschliche Rubrik vergleichen
Daten planen	Welche Daten sind relevant und notwendig?	Mini-Aufgabe ja, Absendegerät wahrscheinlich nein
Labels gestalten	Was ist eine sinnvolle Referenz?	standardisierte praktische Aufgabe statt historische Einladung
Stichprobe planen	Welche Fälle müssen vorkommen?	unterschiedliche Geräte, Zeiten und Nutzungssituationen
Split festlegen	Wie bleiben Testdaten unabhängig?	Testset vor Modellanpassung abtrennen
Metriken festlegen	Welche Fehler sind wichtig?	falsche Negative besonders beobachten
Menschliche Kontrolle	Wer darf überstimmen oder stoppen?	geschulte Person prüft Grenzfälle und Ablehnungen
Monitoring	Was wird nach Einsatz beobachtet?	Fehlerraten, Beschwerden, Datenveränderungen
Stop-Regel	Wann wird das System abgeschaltet?	starke Leistungsverschlechterung oder unvertretbare Gruppenunterschiede

Datenkarte: Dokumentiere statt nur zu speichern

Erstelle zu jedem Datensatz eine kurze Datenkarte.

Feld	Beispielhafte Frage
Zweck	Wofür wurde der Datensatz erstellt?
Herkunft	Wer hat die Daten wann und unter welchen Bedingungen erhoben?
Population	Für welche Grundgesamtheit sollen die Daten stehen?
Auswahl	Welche Fälle fehlen wahrscheinlich?
Merkmale	Welche Variablen gibt es, und warum sind sie relevant?
Labels	Wer hat sie nach welcher Regel vergeben?
Fehler	Welche bekannten Mess-, Label- oder Auswahlfehler gibt es?
Rechte	Welche Datenschutz-, Nutzungs- oder Lizenzfragen sind zu beachten?
Version	Wann wurde der Datensatz zuletzt aktualisiert?
Grenzen	Wofür darf der Datensatz ausdrücklich nicht verwendet werden?

Transparenz bedeutet nicht, jedes technische Detail öffentlich zu machen. Sie bedeutet, dass relevante Entscheidungen, Grenzen und Verantwortlichkeiten dokumentiert und prüfbar werden.

Governance: Wer entscheidet über die Daten?

Rollen und Verantwortlichkeiten

Daten-Governance legt fest, wer über Daten entscheidet und wie Entscheidungen kontrolliert werden.

Für ein Schul- oder Ausbildungsprojekt sollten mindestens diese Rollen geklärt sein:

Zweckverantwortung: Wer kann begründen, warum das System überhaupt gebraucht wird?
Datenverantwortung: Wer dokumentiert Herkunft, Qualität, Version und Zugriff?
Fachprüfung: Wer beurteilt, ob Labels und Merkmale fachlich sinnvoll sind?
Technische Prüfung: Wer testet Leistung, Robustheit und Sicherheit?
Betroffenenperspektive: Wie können Lernende oder Bewerbende Fehler melden und Entscheidungen anfechten?
Freigabe und Stopp: Wer darf den Einsatz starten, einschränken oder beenden?

Bei personenbezogenen Daten gelten unter anderem Prinzipien wie Zweckbindung, Datenminimierung, Richtigkeit, Speicherbegrenzung sowie Integrität und Vertraulichkeit. Für bestimmte KI-Systeme mit besonders starken Auswirkungen auf Bildung, Zugang oder Bewertung stellt das europäische KI-Recht zusätzliche Anforderungen an Risikomanagement, Datenqualität, Dokumentation und menschliche Aufsicht. Für die Schule gilt als Grundprinzip: Je größer die mögliche Auswirkung auf Rechte und Chancen, desto höher müssen Prüf- und Kontrollniveau sein.

Human Agency: Menschen behalten echte Handlungsmacht

Menschliche Aufsicht ist mehr als ein Mensch, der am Ende auf „OK“ klickt. Echte Human Agency bedeutet:

Menschen bestimmen Zweck, Grenzen und Erfolgskriterien.
Menschen können relevante Datenmerkmale ablehnen.
Menschen sehen Unsicherheit und Fehlerindikatoren.
Menschen können Entscheidungen begründet überstimmen.
Betroffene erhalten einen verständlichen Korrektur- oder Beschwerdeweg.
Verantwortliche können den Einsatz stoppen.
„Keine KI einsetzen“ bleibt eine legitime Option.

Folgenabschätzung

Von der Modellmetrik zur gesellschaftlichen Wirkung

Eine gute Folgenabschätzung fragt nicht nur „Wie genau ist das Modell?“, sondern „Was passiert, wenn seine Ausgabe in einer echten Organisation verwendet wird?“.

Mögliches Risiko	Eintritt	Auswirkung	Gegenmaßnahme
geeignete Bewerbungen werden übersehen	mittel	hoch	Ablehnungen menschlich prüfen; Recall überwachen
historische Auswahlmuster werden verstärkt	mittel	hoch	bessere Labels; Merkmale prüfen; Teilgruppen testen
unnötige personenbezogene Daten werden gesammelt	mittel	mittel bis hoch	Datenminimierung; kurze Speicherfristen; Zugriff begrenzen
Personal verlässt sich zu stark auf die KI	hoch	mittel bis hoch	Training; Begründungspflicht; Stichproben-Audits
Daten verändern sich über die Zeit	mittel	mittel	Monitoring; regelmäßiger Retest; Versionskontrolle
Beschwerden bleiben unsichtbar	mittel	hoch	klarer Meldeweg; Vorfälle dokumentieren; Verantwortliche benennen

Rückkopplungsschleifen erkennen

Besonders gefährlich sind Rückkopplungsschleifen. Wenn ein System Bewerbungen ablehnt, gibt es später weniger Leistungsdaten zu diesen Personen. Werden nur Daten der Eingeladenen wieder zum Training genutzt, kann das System seine eigene frühere Auswahl scheinbar „bestätigen“.

Geschichte und Gegenwart hängen hier zusammen: Historische Datensätze können frühere Regeln, Zugangschancen und institutionelle Routinen enthalten. Ein Modell kann solche Muster stabilisieren, wenn sie unkritisch als „Wahrheit“ behandelt werden.

Der Erklärfilm der Antidiskriminierungsstelle des Bundes zeigt, warum algorithmische Entscheidungen in Bereichen wie Arbeit, Wohnen oder Kreditvergabe gesellschaftliche Folgen haben können.

Entscheidungschallenge: Welche Handlungsoption wählst Du?

Für die Praktikumsvorauswahl liegen nun vier Handlungsoptionen vor:

Option	Beschreibung	Vorteil	Hauptrisiko
A – Voll automatisieren	Modell M entscheidet allein	schnell	ungeeignete Datenbasis und keine wirksame menschliche Kontrolle
B – Assistenzsystem neu gestalten	bessere Labels, fragwürdige Merkmale entfernen, mit Baseline vergleichen, menschliche Endentscheidung	mögliche Unterstützung bei klarer Kontrolle	zusätzlicher Aufwand für Daten, Tests und Governance
C – Transparente Regel nutzen	strukturierte fachliche Kriterien ohne lernendes Modell	verständlich und leicht prüfbar	kann komplexe Fälle zu grob behandeln
D – Noch nicht einsetzen	erst Datenzweck, Labels und Folgen klären	vermeidet vorschnellen Einsatz	Nutzen einer Automatisierung wird zunächst nicht realisiert

Deine Aufgabe: Wähle eine Option und begründe sie mit mindestens vier Kriterien aus den Bereichen Datenqualität, Fairness, Evaluation, Transparenz, Sicherheit, Datenschutz, Nutzen und menschliche Kontrolle.

Es gibt nicht immer nur eine vertretbare Lösung. In diesem konstruierten Fall sprechen die schlechten Testwerte, die problematische Label-Idee und die starke Abhängigkeit vom Absendegerät klar gegen Option A. Je nach organisatorischem Bedarf können B, C oder D begründet werden.

Entscheidungsraster

Bewerte jede Option mit „spricht dafür“, „unklar“ oder „spricht dagegen“.

Kriterium	Leitfrage
Zweckpassung	Löst die Option wirklich das ursprüngliche Problem?
Datenqualität	Sind Daten und Labels für den Zweck geeignet?
Fairness	Werden relevante Fehler für verschiedene Fälle sichtbar und begrenzt?
Nachvollziehbarkeit	Können Betroffene und Verantwortliche die Entscheidung verstehen?
Sicherheit	Gibt es Schutz vor Fehlbedienung, Datenverlust und unerwarteten Situationen?
Kontrolle	Kann ein Mensch eingreifen und das System stoppen?
Aufwand	Stehen Kosten und Nutzen in einem sinnvollen Verhältnis?
Rechte	Werden Datenschutz und weitere Schutzrechte berücksichtigt?

Transfer auf neue Fälle

Nutze denselben Prüfprozess bei anderen KI-Anwendungen:

Fall	Kritische Datenfrage	Mögliche Transferfrage
Lernstandsprognose in der Schule	Ist die Note ein passendes Label für tatsächlichen Lernbedarf?	Welche Lernenden fehlen in den Daten?
Bilderkennung in einer Fabrik	Sind Licht, Kamera, Material und Fehlertypen ausreichend abgedeckt?	Was passiert bei neuen Bauteilen?
Sprachassistent	Sind Dialekte, Sprechgeschwindigkeiten und Hintergrundgeräusche vertreten?	Wer wird häufiger missverstanden?
Kreditprüfung	Spiegeln historische Rückzahlungen auch frühere Zugangshürden?	Welche Merkmale wirken als Proxies?
Wartungs-KI	Sind seltene, aber gefährliche Ausfälle im Datensatz vorhanden?	Reicht hohe Gesamtgenauigkeit bei Sicherheitsrisiken?

Transferregel: Ändert sich Zweck, Zielgruppe oder Umgebung, muss auch die Eignung der Daten neu geprüft werden.

Selbstkontrolle und Reflexion

Drei-Minuten-Check

Beantworte ohne nachzusehen:

Warum kann ein großer Datensatz trotzdem ungeeignet sein?
Worin unterscheidet sich „historisch eingeladen“ von „für die Aufgabe geeignet“?
Warum sollte man eine KI mit einer einfachen Baseline vergleichen?
Welche Kennzahl würdest Du bei folgenreichen Ablehnungen besonders beobachten?
Nenne einen Grund, ein KI-System trotz guter Genauigkeit nicht einzusetzen.

Vergleiche danach mit den Kernideen dieses Kurses: Zweckpassung, Repräsentativität, gute Labels, unabhängige Evaluation, Folgen, Governance und menschliche Kontrolle.

Exit-Ticket

Vervollständige drei Sätze:

„Bevor ich Daten für ein KI-System auswähle, kläre ich …“
„Eine hohe Genauigkeit überzeugt mich erst, wenn …“
„Ich würde den KI-Einsatz stoppen oder nicht starten, wenn …“

Interaktive Aufgaben

Quiz: Teste Dein Wissen

Ein historisches Einladungslabel soll Eignung für ein Praktikum vorhersagen. Was ist die wichtigste erste Prüfung? (Ob das Label den heutigen Zweck tatsächlich angemessen abbildet) (!Ob der Datensatz möglichst viele Spalten enthält) (!Ob das Modell eine komplizierte Architektur nutzt) (!Ob alle Werte alphabetisch sortiert sind)

Ein Datensatz enthält fast nur Fälle aus einer einzigen Nutzungssituation. Welches Problem liegt nahe? (Mangelnde Repräsentativität) (!Perfekte Generalisierung) (!Vollständige Anonymität) (!Automatische Fairness)

Warum werden Testdaten vom Training getrennt? (Damit die Leistung auf zuvor ungesehenen Fällen möglichst unabhängig geprüft wird) (!Damit das Modell mehr Trainingsbeispiele auswendig lernen kann) (!Damit Labels nach dem Test geändert werden können) (!Damit nur erfolgreiche Fälle ausgewertet werden)

Ein Modell erreicht insgesamt gute Werte, macht aber bei einer relevanten Teilgruppe deutlich mehr Fehler. Was ist die beste Reaktion? (Teilgruppenfehler untersuchen und Ursachen sowie Gegenmaßnahmen prüfen) (!Nur den Gesamtwert veröffentlichen) (!Die Teilgruppe aus der Evaluation entfernen) (!Mehr Modellkomplexität ohne weitere Prüfung hinzufügen)

Welche Aussage beschreibt eine sinnvolle Baseline? (Eine einfache Vergleichslösung zeigt, ob ein komplexes Modell tatsächlich zusätzlichen Nutzen bringt) (!Eine Baseline ist immer ein neuronales Netz) (!Eine Baseline ersetzt jede Folgenabschätzung) (!Eine Baseline darf nur mit Trainingsdaten bewertet werden)

Das Absendegerät korreliert im Trainingsdatensatz mit Einladungen, ist aber sachlich kaum relevant. Was ist sinnvoll? (Das Merkmal kritisch prüfen und gegebenenfalls entfernen) (!Das Merkmal automatisch als fair einstufen) (!Das Merkmal stärker gewichten, weil es korreliert) (!Alle anderen Merkmale löschen)

Was bedeutet Datenminimierung im Grundsatz? (Nur für den festgelegten Zweck notwendige personenbezogene Daten verarbeiten) (!Möglichst viele Daten vorsorglich speichern) (!Alle Daten unbegrenzt aufbewahren) (!Nur Daten ohne Qualitätsprüfung verwenden)

Welche Form menschlicher Aufsicht stärkt Human Agency am meisten? (Menschen können Entscheidungen prüfen, überstimmen und den Einsatz stoppen) (!Menschen bestätigen jede Ausgabe automatisch) (!Menschen sehen nur die Endentscheidung ohne Kontext) (!Menschen dürfen keine Fehler melden)

Warum können historische Daten problematisch sein? (Sie können frühere Regeln, Ungleichheiten oder Auswahlmuster enthalten) (!Sie sind grundsätzlich immer unbrauchbar) (!Sie enthalten niemals Labels) (!Sie verhindern jede statistische Auswertung)

Welche Schlussfolgerung ist aus einem sehr kleinen Testdatensatz angemessen? (Er kann Warnsignale zeigen, erlaubt aber nur vorsichtige Verallgemeinerungen) (!Er beweist allgemeine Fairness) (!Er ersetzt Tests im realen Einsatzkontext) (!Er macht weitere Datenerhebung unnötig)

Memory

Trainingsdaten	Daten zum Anpassen eines Modells
Testdaten	unabhängige Daten zur abschließenden Prüfung
Repräsentativität	angemessene Abbildung relevanter Einsatzfälle
Label	vorgegebener Zielwert eines Trainingsbeispiels
Proxy	Merkmal, das indirekt andere Eigenschaften widerspiegeln kann
Baseline	einfache Vergleichslösung
Governance	Regeln für Verantwortung und Kontrolle
Datenleck	unzulässige Information aus Test oder Zukunft gelangt ins Training

Drag and Drop

Ordne die richtigen Begriffe zu.	Thema
Zweck klären	Problem und gewünschte Entscheidung festlegen
Stichprobe planen	relevante Fälle und Nutzungssituationen auswählen
Labels prüfen	Zielwerte fachlich und sprachlich definieren
Testdaten trennen	unabhängige Evaluation vorbereiten
Teilgruppen auswerten	systematische Fehlerunterschiede sichtbar machen
Stop-Regel festlegen	menschliche Kontrolle für den laufenden Einsatz sichern

...

Kreuzworträtsel

Stichprobe	Wie heißt die Auswahl von Fällen aus einer Grundgesamtheit?
Label	Wie heißt der vorgegebene Zielwert eines Trainingsbeispiels?
Testdaten	Welche Daten dienen der möglichst unabhängigen Abschlussprüfung?
Verzerrung	Wie heißt ein systematischer Fehler oder Bias auf Deutsch?
Governance	Welcher Begriff bezeichnet Regeln für Verantwortung und Kontrolle von Daten?
Baseline	Wie heißt eine einfache Vergleichslösung für ein komplexeres Modell?

LearningApps

Lückentext

Daten sind nur dann nützlich, wenn sie zum festgelegten

passen. Eine Stichprobe sollte relevante Einsatzfälle ausreichend

. Beim überwachten Lernen beschreibt ein

die gewünschte Ausgabe eines Trainingsbeispiels. Für eine unabhängige Prüfung werden

vom Training getrennt. Ein sachlich irrelevantes Merkmal kann als

indirekt andere Eigenschaften widerspiegeln. Eine einfache Vergleichslösung nennt man

. Gesamtwerte sollten durch eine Analyse relevanter

ergänzt werden. Bei personenbezogenen Daten unterstützt

den Schutz der Betroffenen. Regeln für Zuständigkeit, Dokumentation und Kontrolle gehören zur

. Verantwortlicher KI-Einsatz verlangt echte menschliche

.

Offene Aufgaben

Leicht

Datencheck: Wähle einen kleinen Datensatz aus Deinem Alltag oder aus einer Schulaufgabe und markiere drei mögliche Qualitätsprobleme. Nutze keine privaten Daten von Mitschülerinnen oder Mitschülern.
Labelwerkstatt: Erfinde für zehn harmlose Beispieltexte zwei mögliche Label-Regeln und zeige an zwei Grenzfällen, warum genaue Definitionen wichtig sind.
Visualisierung: Stelle die Häufigkeiten des Praktikumsdatensatzes als Balkendiagramm dar und schreibe darunter zwei Beobachtungen und eine offene Frage.
Quellenkritik: Vergleiche zwei Erklärtexte zu KI-Trainingsdaten. Prüfe Autor, Zweck, Belege, Aktualität und mögliche Interessen.

Standard

Baseline-Vergleich: Entwickle für einen neuen Klassifikationsfall eine einfache Regel und beschreibe, wie Du fair prüfst, ob ein KI-Modell einen echten Mehrwert bietet.
Datenkarte: Erstelle eine vollständige Datenkarte für den Praktikumsdatensatz mit Zweck, Herkunft, Auswahl, Merkmalen, Labels, Fehlern, Grenzen und Verantwortlichkeit.
Fehleranalyse: Verändere zwei Testfälle und untersuche, wie sich Accuracy und Recall verändern. Erkläre, warum eine Kennzahl allein nicht genügt.
Interview: Befrage eine Lehrkraft, Ausbilderin, einen Ausbilder oder eine Person aus der IT dazu, wie in ihrem Bereich Datenqualität geprüft wird. Dokumentiere mindestens drei Kontrollschritte.

Schwer

Folgenabschätzung: Entwirf für ein KI-System zur Lernstandsprognose eine Risikomatrix mit Betroffenen, Schadensarten, Eintrittswahrscheinlichkeit, Auswirkung und Gegenmaßnahmen.
Governance-Konzept: Plane Rollen, Freigaben, Protokollierung, Beschwerdeweg und Stop-Kriterien für einen schulischen KI-Piloten.
Bias-Experiment: Erzeuge einen kleinen synthetischen Datensatz mit einer absichtlich verschobenen Stichprobe. Zeige, wie sich das Ergebnis verändert, wenn Du die Auswahl ausgleichst. Verwende keine echten sensiblen Personendaten.
Entscheidungspapier: Schreibe eine Empfehlung an eine fiktive Schulleitung, ob ein KI-System eingesetzt, verändert, nur getestet oder verworfen werden soll. Begründe mit Systemdesign, Evaluation, Governance und Folgenabschätzung.

Lernkontrolle

Systemvergleich: Ein KI-Modell ist geringfügig genauer als eine transparente Regel, benötigt aber wesentlich mehr personenbezogene Daten. Entwickle eine begründete Entscheidung, welche Lösung Du bevorzugst und welche Zusatzinformationen Du brauchst.
Labelkritik: Ein System zur Vorhersage von Lernerfolg nutzt die bisherige Schulnote als Label. Analysiere mindestens drei Gründe, warum dieses Label passend oder unpassend sein könnte, und schlage eine bessere Prüfstrategie vor.
Fehlerfolgen: Zwei Modelle haben dieselbe Gesamtgenauigkeit. Modell X übersieht häufiger geeignete Fälle, Modell Y lässt häufiger ungeeignete Fälle passieren. Entscheide für einen konkreten Anwendungsbereich, welches Fehlermuster eher vertretbar ist, und begründe.
Datenverschiebung: Ein Modell wurde mit Daten aus dem letzten Schuljahr trainiert. Nach einer neuen Prüfungsordnung sinkt seine Leistung. Erkläre die Ursache auf Systemebene und plane ein Verfahren zur Erkennung und Reaktion.
Governance-Fall: Ein KI-System zeigt starke Unterschiede zwischen Teilgruppen, aber niemand fühlt sich für das Problem zuständig. Entwirf eine Verantwortungsstruktur, die diesen Fehler künftig früher erkennt und bearbeitet.
Transferentscheidung: Übertrage den Datencheck auf eine KI zur Bilderkennung in einer Werkstatt. Begründe, welche Datenvarianten im Testset vorkommen müssen und wann Du den Einsatz stoppen würdest.

Lernnachweis

Für einen Lernnachweis zu diesem Thema ist wichtig, dass Du nicht nur Begriffe wiedergeben kannst, sondern einen neuen Fall strukturiert untersuchst. Ein geeigneter Lernnachweis zeigt:

Du formulierst Zweck, Einsatzgrenzen und eine mögliche Nicht-KI-Alternative.
Du unterscheidest Trainings-, Validierungs- und Testdaten.
Du prüfst Relevanz, Repräsentativität, Vollständigkeit, Fehler und Aktualität eines Datensatzes.
Du beurteilst, ob Labels den eigentlichen Zweck sinnvoll abbilden.
Du erkennst mögliche Proxies, Auswahlfehler und Rückkopplungsschleifen.
Du wertest eine kleine Konfusionsmatrix und relevante Teilgruppen aus.
Du vergleichst ein Modell mit einer einfachen Baseline.
Du planst Governance mit Zuständigkeit, Dokumentation, menschlicher Aufsicht, Korrekturweg und Stop-Regeln.
Du führst eine Folgenabschätzung durch und benennst Betroffene sowie Gegenmaßnahmen.
Du wählst zwischen mehreren Handlungsoptionen und begründest Deine Entscheidung nachvollziehbar.

OERs zum Thema

Weitere frei zugängliche Vertiefungen:

Maschinelles Lernen: Grundlagen zu Training, Generalisierung und Beispieldaten.
Algorithmic Bias: systematische Verzerrungen in algorithmischen Ergebnissen.
Datenschutz-Grundverordnung: Grundprinzipien für den Umgang mit personenbezogenen Daten.
AI Act: europäischer Rechtsrahmen für Künstliche Intelligenz mit risikobasierten Anforderungen.

Die eingebundenen Wikimedia-Commons-Dateien besitzen jeweils eigene Lizenz- und Urheberangaben auf ihren Dateibeschreibungsseiten. Bei Weiterverwendung prüfst Du diese Angaben und nennst die erforderliche Attribution.

Verknüpfte Lernbereiche

Daten für KI-Systeme auswählen

aiMOOC-Projekte

Inhalte werden geladen ...

Mediathek wird aus dem Wiki geladen ...

Frag mich zum aktuellen Lerninhalt oder wähle eine kurze Hilfe.

Textmodus bereit

Sprache