Daten für KI-Systeme auswählen
Daten für KI-Systeme auswählen
Daten für KI-Systeme auswählen
Einleitung
Wenn ein KI-System aus Daten lernt, entscheidet nicht nur der Algorithmus über die Qualität des Ergebnisses. Schon vorher treffen Menschen wichtige Entscheidungen: Welche Daten werden gesammelt? Welche Fälle fehlen? Welche Merkmale werden aufgenommen? Wer vergibt Labels? Welche Fehler sind akzeptabel? Deshalb ist die Auswahl von Daten ein Teil des Systemdesigns und keine bloße Vorarbeit.
In diesem aiMOOC untersuchst Du an einem kleinen, vollständig erfundenen Datensatz, wie ein KI-System für die Vorauswahl von Bewerbungen für ein Schülerpraktikum entstehen könnte. Du vergleichst Trainings- und Testdaten, prüfst Repräsentativität, Labels, Fehler und mögliche Verzerrungen, wertest eine kleine Konfusionsmatrix aus und entscheidest am Ende, ob und unter welchen Bedingungen ein KI-Einsatz vertretbar ist.
Wichtig: Der Beispieldatensatz ist didaktisch konstruiert. Er enthält keine echten personenbezogenen Daten und soll keine Aussagen über reale Gruppen erlauben. Gerade bei Entscheidungen über Bildung, Arbeit oder Teilhabe reichen kleine Schulbeispiele nie für reale Entscheidungen aus.
Das Bild macht sichtbar, dass Trainingsdaten nicht „einfach da“ sind: Menschen sammeln, prüfen, bereinigen und beschriften Daten. Diese menschlichen Entscheidungen gehören zur Daten-Governance.
Der frei lizenzierte Erklärfilm des KI-Campus zeigt anschaulich, wie verzerrte Trainingsdaten zu verzerrten Ergebnissen beitragen können.
Zielgruppe, Zeit und Lernziele
Der Kurs richtet sich besonders an Klasse 10 und ist für etwa 45 bis 90 Minuten angelegt. Für eine Unterrichtsstunde bearbeitest Du Aktivierung, Grundbegriffe, Datensatz-Experiment und Entscheidungsaufgabe. Für zwei Unterrichtsstunden kommen vertiefte Evaluation, Governance, Folgenabschätzung und Transfer hinzu.
Nach dem Kurs kannst Du:
- Trainingsdaten: erklären, warum Datenmenge allein keine gute Datenqualität garantiert.
- Repräsentativität: prüfen, ob wichtige Fälle und Nutzungssituationen angemessen vorkommen.
- Labels: beurteilen, ob ein Zielwert wirklich das misst, was ein KI-System später entscheiden soll.
- Datenqualität: Fehler, fehlende Werte, Messprobleme, Auswahleffekte und mögliche Verzerrungen erkennen.
- Evaluation: Gesamtleistung und Fehler für Teilgruppen getrennt betrachten und mit einer einfachen Baseline vergleichen.
- Systemdesign: zwischen Automatisierung, Assistenzsystem, einfacher Regel oder bewusstem Verzicht auf KI unterscheiden.
- Governance: Zuständigkeiten, Dokumentation, Datenschutz, menschliche Aufsicht und einen Korrekturweg einplanen.
- Technikfolgenabschätzung: Nutzen, Risiken, Betroffene und mögliche Rückkopplungseffekte abwägen.
- Human Agency: begründet entscheiden, wann Menschen ein KI-System überstimmen, stoppen oder gar nicht einsetzen sollten.
Fächerübergreifende Bezüge
| Fach | Bezug im Kurs |
|---|---|
| Informatik | Trainings-, Validierungs- und Testdaten; Merkmale; Labels; Modellfehler; Datenleck; Systemgrenzen |
| Mathematik | Anteile, Prozentwerte, Stichproben, Konfusionsmatrix, Vergleich von Fehlerraten |
| Technik | Messfehler, Sensor- und Erfassungsqualität, Wartung, Robustheit und sichere Systemgrenzen |
| Deutsch | klare Kategorien, Annotationsregeln, Mehrdeutigkeit von Sprache, Quellenkritik und begründete Argumentation |
| Wirtschaft | Kosten von Datenerhebung, Fehlentscheidungen, Automatisierung, Produktivität und Folgekosten |
| Geschichte | historische Daten als Abbild früherer Regeln, Gewohnheiten und Ungleichheiten |
| Ethik | Fairness, Würde, Autonomie, Nichtdiskriminierung, Verantwortung und Verhältnismäßigkeit |
| Gemeinschaftskunde | Grundrechte, Datenschutz, demokratische Kontrolle, Rechenschaft und Regulierung von KI |
Unterrichtsfahrplan für 90 Minuten
| Phase | Zeit | Tätigkeit | Ziel |
|---|---|---|---|
| Aktivierung | 0–8 min | Diagnosefragen und Bauchentscheidung | Vorwissen und erste Kriterien sichtbar machen |
| Einführung | 8–20 min | Daten, Labels, Stichprobe, Train-Test-Trennung | gemeinsame Begriffe sichern |
| Datenlabor | 20–40 min | kleinen Trainingsdatensatz prüfen und visualisieren | Auswahl- und Labelprobleme entdecken |
| Evaluation | 40–58 min | Testdaten und Konfusionsmatrix auswerten | Fehler statt nur Genauigkeit betrachten |
| Governance | 58–72 min | Datenkarte, Zuständigkeiten, Stop-Kriterien | kontrollierbaren KI-Einsatz planen |
| Folgenabschätzung | 72–82 min | Risiken und Gegenmaßnahmen bewerten | technische und gesellschaftliche Folgen verbinden |
| Entscheidung | 82–88 min | Handlungsoption wählen und begründen | Human Agency einüben |
| Exit-Ticket | 88–90 min | Transferfrage beantworten | Lernstand selbst prüfen |
Für 45 Minuten kannst Du die Phasen Governance und Folgenabschätzung als Hausaufgabe oder Anschlussstunde nutzen.
Kurze Aktivierung und Diagnose
Stell Dir vor, Deine Schule möchte ein KI-System einsetzen, das aus früheren Daten vorhersagt, welche Bewerbungen für ein Schülerpraktikum zu einem Gespräch eingeladen werden sollen.
Beantworte zunächst ohne Nachschlagen:
- Welche drei Daten würdest Du spontan für nützlich halten?
- Welche Daten würdest Du bewusst nicht verwenden?
- Woran würdest Du erkennen, dass der Datensatz unfair oder ungeeignet ist?
- Was wäre schlimmer: eine geeignete Person fälschlich abzulehnen oder eine ungeeignete Person fälschlich weiterzuleiten?
- Wer sollte die endgültige Entscheidung treffen?
Diagnose-Idee: Notiere zu jeder Antwort ein Kriterium. Am Ende des Kurses prüfst Du, ob Du Deine Kriterien verändern würdest.
Grundlagen: Was bedeutet „Daten auswählen“?
Vom Zweck zur Datenentscheidung
Ein KI-Projekt beginnt sinnvollerweise nicht mit „Welche Daten haben wir?“, sondern mit „Welches Problem soll gelöst werden, und ist KI dafür überhaupt nötig?“ Erst danach wird entschieden, welche Daten zum Zweck passen.
Ein guter Datenentscheidungsprozess trennt mindestens sechs Fragen:
- Zweck: Welche konkrete Entscheidung oder Vorhersage soll unterstützt werden?
- Grundgesamtheit: Für welche Menschen, Objekte oder Situationen soll das System funktionieren?
- Stichprobe: Welche Beispiele werden tatsächlich in den Datensatz aufgenommen?
- Merkmale: Welche Eigenschaften werden als Eingaben verwendet?
- Zielwert oder Label: Was gilt als „richtige“ Ausgabe?
- Evaluation: Mit welchen unabhängigen Daten und Kriterien prüfen wir, ob das System funktioniert?
Merksatz: Ein Datensatz ist nicht „gut“ oder „schlecht“ an sich. Er ist mehr oder weniger geeignet für einen bestimmten Zweck.
Beispiele, Merkmale und Labels
Beim überwachten Lernen besteht ein Datensatz häufig aus Beispielen mit Eingabemerkmalen und einem gewünschten Ergebnis. Ein Bild einer handgeschriebenen Ziffer kann beispielsweise als Eingabe dienen; die Ziffernklasse ist dann das Label.
Das bekannte MNIST-Beispiel zeigt viele handgeschriebene Ziffern. Schon hier entstehen Auswahlfragen: Sind unterschiedliche Handschriften enthalten? Wurden alle Ziffern ähnlich häufig erfasst? Sind Bilder korrekt beschriftet? Entsprechen die Beispiele späteren realen Eingaben?
Bei Texten ist die Label-Frage oft noch schwieriger. Ob eine Äußerung „sachlich“, „beleidigend“ oder „ironisch“ ist, kann vom Kontext abhängen. Für gute Labels braucht man deshalb klare Regeln, Beispiele für Grenzfälle und häufig mehrere menschliche Bewertungen.
Trainings-, Validierungs- und Testdaten
Ein Modell soll nicht nur die bekannten Beispiele auswendig lernen, sondern auf neue Fälle verallgemeinern. Deshalb werden Daten typischerweise getrennt:
- Trainingsdatensatz: Damit werden Modellparameter angepasst.
- Validierungsdatensatz: Damit werden Varianten verglichen und Einstellungen gewählt.
- Testdatensatz: Damit wird erst am Ende möglichst unabhängig geprüft, wie gut das System auf ungesehenen Fällen funktioniert.
Achtung Datenleck: Wenn Testdaten schon während des Trainings, der Merkmalsauswahl oder der Schwellenwertsuche genutzt werden, ist die spätere Bewertung zu optimistisch. Das ist vergleichbar damit, vor einer Klassenarbeit die Lösungen der Testaufgaben zu kennen.
Datenqualität: sieben Prüffragen
Prüfe Daten nicht nur auf „viel oder wenig“, sondern auf mehrere Qualitätsdimensionen.
| Prüffrage | Beispiel für ein Problem | Mögliche Reaktion |
|---|---|---|
| Sind die Daten relevant? | Das Gerät, mit dem eine Bewerbung abgesendet wurde, sagt wenig über Eignung aus. | Merkmal weglassen oder begründen. |
| Sind sie repräsentativ? | Fast alle Beispiele stammen aus nur einer Nutzungssituation. | gezielt fehlende Fälle nacherheben. |
| Sind sie vollständig? | Bei einer Teilgruppe fehlen häufiger Angaben. | Ursache der fehlenden Werte untersuchen. |
| Sind sie korrekt? | Tippfehler oder falsche Messwerte verzerren Eingaben. | Plausibilitätsregeln und Stichprobenkontrolle. |
| Sind die Labels passend? | „Früher eingeladen“ wird fälschlich mit „geeignet“ gleichgesetzt. | Zielwert näher am eigentlichen Zweck definieren. |
| Sind die Daten aktuell? | Regeln und Lebensbedingungen haben sich geändert. | zeitliche Gültigkeit dokumentieren und überwachen. |
| Dürfen und sollen die Daten verarbeitet werden? | Es werden mehr personenbezogene Daten gesammelt als nötig. | Zweck, Rechtsgrundlage, Datenminimierung und Schutzmaßnahmen prüfen. |
Repräsentativität ist mehr als gleiche Anzahl
Ein Datensatz ist repräsentativ, wenn er die für den Zweck wichtigen Situationen ausreichend abbildet. Das bedeutet nicht automatisch, dass jede Gruppe gleich groß sein muss. Entscheidend ist, welche Fälle im späteren Einsatz vorkommen und welche Fehler besonders folgenreich wären.
Die Grafik veranschaulicht einen extremen Stichprobenfehler durch Selbstselektion. Bei KI-Daten können ähnliche Probleme entstehen, wenn nur leicht erreichbare, besonders aktive oder technisch gut ausgestattete Personen Daten liefern.
Drei typische Auswahlfehler:
- Selection Bias: Bestimmte Fälle gelangen wahrscheinlicher in den Datensatz als andere.
- Survivorship Bias: Nur erfolgreiche oder sichtbare Fälle bleiben übrig.
- Coverage Bias: Ein Teil der späteren Einsatzumgebung wird gar nicht erfasst.
Bias ist nicht nur ein einzelner „Vorurteilsfehler“
Das Wort Bias hat mehrere Bedeutungen. Im Alltag meint es häufig eine systematische Verzerrung, die bestimmte Gruppen oder Fälle benachteiligt. In Statistik und maschinellem Lernen gibt es zusätzlich technische Bedeutungen. Für diesen Kurs genügt: Suche nach systematischen Mustern in Daten und Fehlern, statt nur nach einzelnen falschen Beispielen.
Mögliche Entstehungsorte sind:
- Datenerhebung und Stichprobenauswahl
- Messinstrumente und technische Erfassung
- Datenbereinigung und Umgang mit fehlenden Werten
- Auswahl der Merkmale
- menschliche Annotation und Label-Regeln
- historische Entscheidungen, die als Trainingslabels übernommen werden
- Modellwahl und Schwellenwerte
- Einsatzkontext und Rückkopplungsschleifen
Diese Grafik zeigt einen anderen technischen Bias-Begriff im Zusammenspiel mit Varianz und Trainingsmenge. Für die ethische Prüfung ist wichtig, die Begriffe nicht zu vermischen: Mehr Daten können manche Zufallsschwankungen verringern, beseitigen aber keine ungeeigneten Labels oder systematische Auswahlfehler.
Datenlabor: Ein überschaubarer Datensatz
Anwendungssituation: Vorauswahl für Schülerpraktika
Eine regionale Werkstatt bietet Praktikumsplätze an. In der Vergangenheit wurden Bewerbungen von Menschen geprüft. Nun wird überlegt, ein KI-System einzusetzen, das Bewerbungen automatisch in „weiterprüfen“ und „nicht weiterprüfen“ einteilt.
Das Problem: Als Trainingslabel wurde zunächst einfach übernommen, ob eine Bewerbung früher zu einem Gespräch eingeladen wurde. Dieses Label beschreibt also eine vergangene Entscheidung, nicht automatisch die tatsächliche Eignung.
Der folgende Datensatz ist vollständig erfunden:
| Fall | Mini-Aufgabe Punkte | Fehlende Angaben | Absendegerät | Historisch eingeladen |
|---|---|---|---|---|
| A01 | 9 | keine | Laptop | ja |
| A02 | 8 | keine | Laptop | ja |
| A03 | 7 | keine | Laptop | ja |
| A04 | 6 | keine | Laptop | ja |
| A05 | 5 | keine | Laptop | nein |
| A06 | 4 | eine | Laptop | nein |
| A07 | 9 | keine | Smartphone | ja |
| A08 | 8 | keine | Smartphone | nein |
| A09 | 7 | eine | Smartphone | nein |
| A10 | 6 | keine | Smartphone | nein |
| A11 | 8 | keine | Laptop | ja |
| A12 | 5 | eine | Laptop | nein |
Experiment 1: Mache die Auswahl sichtbar
Berechne zunächst nur beschreibende Werte.
| Gruppe | Anzahl Fälle | Historisch eingeladen | Einladungsanteil | Visualisierung |
|---|---|---|---|---|
| Laptop | 8 | 5 | 62,5 % | █████░░░ |
| Smartphone | 4 | 1 | 25 % | █░░░ |
Beobachtung: Im kleinen Datensatz unterscheiden sich die historischen Einladungsanteile deutlich. Das ist ein Warnsignal, aber noch kein Beweis für die Ursache. Die Stichprobe ist klein, und wir kennen den historischen Entscheidungsprozess nicht vollständig.
Untersuche nun:
- Sind die Gruppen gleich häufig vertreten?
- Haben Smartphone-Fälle bei ähnlichen Punktzahlen dieselben historischen Labels wie Laptop-Fälle?
- Ist das Absendegerät überhaupt sachlich relevant für Eignung?
- Könnte das Gerät als Proxy-Variable für technische Ausstattung oder Zugangsmöglichkeiten wirken?
- Welche zusätzliche Information bräuchtest Du, bevor Du eine faire Entscheidung behauptest?
Experiment 2: Prüfe die Label-Idee
Vergleiche zwei mögliche Zielwerte:
| Label | Was misst es? | Stärke | Risiko |
|---|---|---|---|
| „Historisch eingeladen“ | frühere Auswahlentscheidung | leicht verfügbar | übernimmt möglicherweise frühere Gewohnheiten oder Ungleichheiten |
| „Praktische Aufgabe nach einheitlicher Bewertungsrubrik bestanden“ | fachbezogene Leistung in einer definierten Aufgabe | näher am Zweck | Rubrik kann trotzdem unvollständig oder fehlerhaft sein |
Schlüsselidee: Ein KI-System lernt nicht automatisch „Eignung“. Es lernt die Beziehung zwischen Eingaben und dem Label, das Menschen bereitstellen. Ein schlechtes Label kann ein technisch sehr genaues Modell in die falsche Richtung optimieren.
Experiment 3: Entferne ein fragwürdiges Merkmal
Stell Dir vor, ein erstes Modell hat aus den historischen Daten ungefähr folgendes Muster gelernt: Bei Laptop-Bewerbungen reichen mittlere Punktzahlen häufiger für „weiterprüfen“, bei Smartphone-Bewerbungen wird eine höhere Punktzahl verlangt.
Vergleiche nun zwei Systemideen:
- Modell M: nutzt Punktzahl, fehlende Angaben und Absendegerät.
- Baseline B: transparente Regel „Mini-Aufgabe ab 7 Punkten → weiterprüfen“.
Eine Baseline ist wichtig, weil ein komplexeres System nur sinnvoll ist, wenn es gegenüber einer einfacheren, nachvollziehbaren Lösung einen nachweisbaren Vorteil bringt.
Evaluation: Nicht nur auf eine Gesamtzahl schauen
Unabhängige Testfälle
Für acht neue, ebenfalls synthetische Fälle liegt eine Referenzbewertung aus einer standardisierten praktischen Aufgabe vor.
| Fall | Gerät | Punkte | Referenz geeignet | Modell M sagt | Baseline B sagt |
|---|---|---|---|---|---|
| T1 | Laptop | 9 | ja | ja | ja |
| T2 | Laptop | 7 | ja | ja | ja |
| T3 | Laptop | 6 | nein | ja | nein |
| T4 | Laptop | 4 | nein | nein | nein |
| T5 | Smartphone | 9 | ja | ja | ja |
| T6 | Smartphone | 8 | ja | nein | ja |
| T7 | Smartphone | 7 | ja | nein | ja |
| T8 | Smartphone | 5 | nein | nein | nein |
Für Modell M gilt:
- korrekt: T1, T2, T4, T5, T8 → 5 von 8
- falsch positiv: T3 → ungeeigneter Fall wird weitergeleitet
- falsch negativ: T6, T7 → geeignete Fälle werden abgelehnt
Die Gesamtgenauigkeit beträgt in diesem Mini-Beispiel 62,5 %. Entscheidend ist aber, welche Fehler wo auftreten.
Konfusionsmatrix verstehen
| Referenz geeignet | Referenz nicht geeignet | |
|---|---|---|
| Modell sagt geeignet | 3 richtige Positive | 1 falsches Positiv |
| Modell sagt nicht geeignet | 2 falsche Negative | 2 richtige Negative |
Für die Praktikumsvorauswahl können falsche Negative besonders kritisch sein, weil geeignete Personen eine Chance verlieren. Deshalb reicht es nicht, nur „Accuracy“ zu nennen.
Gruppenweise Evaluation
Betrachte bei den geeigneten Fällen die Trefferquote, also vereinfacht den Recall:
| Gruppe | Geeignete Fälle | Davon erkannt | Recall |
|---|---|---|---|
| Laptop | 2 | 2 | 100 % |
| Smartphone | 3 | 1 | 33,3 % |
Wichtig: Aus acht Fällen darfst Du keine allgemeine Aussage über reale Menschen oder Geräte ableiten. Der Datensatz ist absichtlich klein und konstruiert. Das Lernziel ist, zu erkennen, dass Gesamtwerte Teilgruppenfehler verdecken können.
In diesem Test schlägt die einfache Baseline B das Modell M sogar in allen acht Fällen. Daraus folgt nicht, dass einfache Regeln immer besser sind. Es zeigt aber: Komplexität muss ihren Nutzen beweisen.
Evaluation mit mehreren Kriterien
Ein verantwortlicher Test betrachtet mindestens:
- Leistung: Welche Fehler treten insgesamt auf?
- Teilgruppen: Unterscheiden sich Fehlerraten in relevanten Gruppen?
- Robustheit: Funktioniert das System bei neuen Situationen, Schreibweisen, Geräten oder Zeitpunkten?
- Vergleich: Ist es besser als eine einfache Baseline oder die bisherige menschliche Praxis?
- Folgen: Welche Fehler schaden wem und wie stark?
- Unsicherheit: Wie verhält sich das System bei Grenzfällen?
- Nachvollziehbarkeit: Können Betroffene und Verantwortliche die Rolle der Daten verstehen?
Systemdesign: Datenwahl beginnt vor dem Training
Ein kontrollierbarer Designprozess
Ein gutes Systemdesign plant Entscheidungen, Kontrollen und Ausstiegsmöglichkeiten von Anfang an.
| Schritt | Leitfrage | Beispiel |
|---|---|---|
| Zweck definieren | Was soll unterstützt werden? | Vorauswahl zur menschlichen Prüfung, nicht automatische Ablehnung |
| Alternative prüfen | Brauchen wir KI? | einfache Punkteschwelle oder strukturierte menschliche Rubrik vergleichen |
| Daten planen | Welche Daten sind relevant und notwendig? | Mini-Aufgabe ja, Absendegerät wahrscheinlich nein |
| Labels gestalten | Was ist eine sinnvolle Referenz? | standardisierte praktische Aufgabe statt historische Einladung |
| Stichprobe planen | Welche Fälle müssen vorkommen? | unterschiedliche Geräte, Zeiten und Nutzungssituationen |
| Split festlegen | Wie bleiben Testdaten unabhängig? | Testset vor Modellanpassung abtrennen |
| Metriken festlegen | Welche Fehler sind wichtig? | falsche Negative besonders beobachten |
| Menschliche Kontrolle | Wer darf überstimmen oder stoppen? | geschulte Person prüft Grenzfälle und Ablehnungen |
| Monitoring | Was wird nach Einsatz beobachtet? | Fehlerraten, Beschwerden, Datenveränderungen |
| Stop-Regel | Wann wird das System abgeschaltet? | starke Leistungsverschlechterung oder unvertretbare Gruppenunterschiede |
Datenkarte: Dokumentiere statt nur zu speichern
Erstelle zu jedem Datensatz eine kurze Datenkarte.
| Feld | Beispielhafte Frage |
|---|---|
| Zweck | Wofür wurde der Datensatz erstellt? |
| Herkunft | Wer hat die Daten wann und unter welchen Bedingungen erhoben? |
| Population | Für welche Grundgesamtheit sollen die Daten stehen? |
| Auswahl | Welche Fälle fehlen wahrscheinlich? |
| Merkmale | Welche Variablen gibt es, und warum sind sie relevant? |
| Labels | Wer hat sie nach welcher Regel vergeben? |
| Fehler | Welche bekannten Mess-, Label- oder Auswahlfehler gibt es? |
| Rechte | Welche Datenschutz-, Nutzungs- oder Lizenzfragen sind zu beachten? |
| Version | Wann wurde der Datensatz zuletzt aktualisiert? |
| Grenzen | Wofür darf der Datensatz ausdrücklich nicht verwendet werden? |
Transparenz bedeutet nicht, jedes technische Detail öffentlich zu machen. Sie bedeutet, dass relevante Entscheidungen, Grenzen und Verantwortlichkeiten dokumentiert und prüfbar werden.
Governance: Wer entscheidet über die Daten?
Rollen und Verantwortlichkeiten
Daten-Governance legt fest, wer über Daten entscheidet und wie Entscheidungen kontrolliert werden.
Für ein Schul- oder Ausbildungsprojekt sollten mindestens diese Rollen geklärt sein:
- Zweckverantwortung: Wer kann begründen, warum das System überhaupt gebraucht wird?
- Datenverantwortung: Wer dokumentiert Herkunft, Qualität, Version und Zugriff?
- Fachprüfung: Wer beurteilt, ob Labels und Merkmale fachlich sinnvoll sind?
- Technische Prüfung: Wer testet Leistung, Robustheit und Sicherheit?
- Betroffenenperspektive: Wie können Lernende oder Bewerbende Fehler melden und Entscheidungen anfechten?
- Freigabe und Stopp: Wer darf den Einsatz starten, einschränken oder beenden?
Bei personenbezogenen Daten gelten unter anderem Prinzipien wie Zweckbindung, Datenminimierung, Richtigkeit, Speicherbegrenzung sowie Integrität und Vertraulichkeit. Für bestimmte KI-Systeme mit besonders starken Auswirkungen auf Bildung, Zugang oder Bewertung stellt das europäische KI-Recht zusätzliche Anforderungen an Risikomanagement, Datenqualität, Dokumentation und menschliche Aufsicht. Für die Schule gilt als Grundprinzip: Je größer die mögliche Auswirkung auf Rechte und Chancen, desto höher müssen Prüf- und Kontrollniveau sein.
Human Agency: Menschen behalten echte Handlungsmacht
Menschliche Aufsicht ist mehr als ein Mensch, der am Ende auf „OK“ klickt. Echte Human Agency bedeutet:
- Menschen bestimmen Zweck, Grenzen und Erfolgskriterien.
- Menschen können relevante Datenmerkmale ablehnen.
- Menschen sehen Unsicherheit und Fehlerindikatoren.
- Menschen können Entscheidungen begründet überstimmen.
- Betroffene erhalten einen verständlichen Korrektur- oder Beschwerdeweg.
- Verantwortliche können den Einsatz stoppen.
- „Keine KI einsetzen“ bleibt eine legitime Option.
Folgenabschätzung
Von der Modellmetrik zur gesellschaftlichen Wirkung
Eine gute Folgenabschätzung fragt nicht nur „Wie genau ist das Modell?“, sondern „Was passiert, wenn seine Ausgabe in einer echten Organisation verwendet wird?“.
| Mögliches Risiko | Eintritt | Auswirkung | Gegenmaßnahme |
|---|---|---|---|
| geeignete Bewerbungen werden übersehen | mittel | hoch | Ablehnungen menschlich prüfen; Recall überwachen |
| historische Auswahlmuster werden verstärkt | mittel | hoch | bessere Labels; Merkmale prüfen; Teilgruppen testen |
| unnötige personenbezogene Daten werden gesammelt | mittel | mittel bis hoch | Datenminimierung; kurze Speicherfristen; Zugriff begrenzen |
| Personal verlässt sich zu stark auf die KI | hoch | mittel bis hoch | Training; Begründungspflicht; Stichproben-Audits |
| Daten verändern sich über die Zeit | mittel | mittel | Monitoring; regelmäßiger Retest; Versionskontrolle |
| Beschwerden bleiben unsichtbar | mittel | hoch | klarer Meldeweg; Vorfälle dokumentieren; Verantwortliche benennen |
Rückkopplungsschleifen erkennen
Besonders gefährlich sind Rückkopplungsschleifen. Wenn ein System Bewerbungen ablehnt, gibt es später weniger Leistungsdaten zu diesen Personen. Werden nur Daten der Eingeladenen wieder zum Training genutzt, kann das System seine eigene frühere Auswahl scheinbar „bestätigen“.
Geschichte und Gegenwart hängen hier zusammen: Historische Datensätze können frühere Regeln, Zugangschancen und institutionelle Routinen enthalten. Ein Modell kann solche Muster stabilisieren, wenn sie unkritisch als „Wahrheit“ behandelt werden.
Der Erklärfilm der Antidiskriminierungsstelle des Bundes zeigt, warum algorithmische Entscheidungen in Bereichen wie Arbeit, Wohnen oder Kreditvergabe gesellschaftliche Folgen haben können.
Entscheidungschallenge: Welche Handlungsoption wählst Du?
Für die Praktikumsvorauswahl liegen nun vier Handlungsoptionen vor:
| Option | Beschreibung | Vorteil | Hauptrisiko |
|---|---|---|---|
| A – Voll automatisieren | Modell M entscheidet allein | schnell | ungeeignete Datenbasis und keine wirksame menschliche Kontrolle |
| B – Assistenzsystem neu gestalten | bessere Labels, fragwürdige Merkmale entfernen, mit Baseline vergleichen, menschliche Endentscheidung | mögliche Unterstützung bei klarer Kontrolle | zusätzlicher Aufwand für Daten, Tests und Governance |
| C – Transparente Regel nutzen | strukturierte fachliche Kriterien ohne lernendes Modell | verständlich und leicht prüfbar | kann komplexe Fälle zu grob behandeln |
| D – Noch nicht einsetzen | erst Datenzweck, Labels und Folgen klären | vermeidet vorschnellen Einsatz | Nutzen einer Automatisierung wird zunächst nicht realisiert |
Deine Aufgabe: Wähle eine Option und begründe sie mit mindestens vier Kriterien aus den Bereichen Datenqualität, Fairness, Evaluation, Transparenz, Sicherheit, Datenschutz, Nutzen und menschliche Kontrolle.
Es gibt nicht immer nur eine vertretbare Lösung. In diesem konstruierten Fall sprechen die schlechten Testwerte, die problematische Label-Idee und die starke Abhängigkeit vom Absendegerät klar gegen Option A. Je nach organisatorischem Bedarf können B, C oder D begründet werden.
Entscheidungsraster
Bewerte jede Option mit „spricht dafür“, „unklar“ oder „spricht dagegen“.
| Kriterium | Leitfrage |
|---|---|
| Zweckpassung | Löst die Option wirklich das ursprüngliche Problem? |
| Datenqualität | Sind Daten und Labels für den Zweck geeignet? |
| Fairness | Werden relevante Fehler für verschiedene Fälle sichtbar und begrenzt? |
| Nachvollziehbarkeit | Können Betroffene und Verantwortliche die Entscheidung verstehen? |
| Sicherheit | Gibt es Schutz vor Fehlbedienung, Datenverlust und unerwarteten Situationen? |
| Kontrolle | Kann ein Mensch eingreifen und das System stoppen? |
| Aufwand | Stehen Kosten und Nutzen in einem sinnvollen Verhältnis? |
| Rechte | Werden Datenschutz und weitere Schutzrechte berücksichtigt? |
Transfer auf neue Fälle
Nutze denselben Prüfprozess bei anderen KI-Anwendungen:
| Fall | Kritische Datenfrage | Mögliche Transferfrage |
|---|---|---|
| Lernstandsprognose in der Schule | Ist die Note ein passendes Label für tatsächlichen Lernbedarf? | Welche Lernenden fehlen in den Daten? |
| Bilderkennung in einer Fabrik | Sind Licht, Kamera, Material und Fehlertypen ausreichend abgedeckt? | Was passiert bei neuen Bauteilen? |
| Sprachassistent | Sind Dialekte, Sprechgeschwindigkeiten und Hintergrundgeräusche vertreten? | Wer wird häufiger missverstanden? |
| Kreditprüfung | Spiegeln historische Rückzahlungen auch frühere Zugangshürden? | Welche Merkmale wirken als Proxies? |
| Wartungs-KI | Sind seltene, aber gefährliche Ausfälle im Datensatz vorhanden? | Reicht hohe Gesamtgenauigkeit bei Sicherheitsrisiken? |
Transferregel: Ändert sich Zweck, Zielgruppe oder Umgebung, muss auch die Eignung der Daten neu geprüft werden.
Selbstkontrolle und Reflexion
Drei-Minuten-Check
Beantworte ohne nachzusehen:
- Warum kann ein großer Datensatz trotzdem ungeeignet sein?
- Worin unterscheidet sich „historisch eingeladen“ von „für die Aufgabe geeignet“?
- Warum sollte man eine KI mit einer einfachen Baseline vergleichen?
- Welche Kennzahl würdest Du bei folgenreichen Ablehnungen besonders beobachten?
- Nenne einen Grund, ein KI-System trotz guter Genauigkeit nicht einzusetzen.
Vergleiche danach mit den Kernideen dieses Kurses: Zweckpassung, Repräsentativität, gute Labels, unabhängige Evaluation, Folgen, Governance und menschliche Kontrolle.
Exit-Ticket
Vervollständige drei Sätze:
- „Bevor ich Daten für ein KI-System auswähle, kläre ich …“
- „Eine hohe Genauigkeit überzeugt mich erst, wenn …“
- „Ich würde den KI-Einsatz stoppen oder nicht starten, wenn …“
Interaktive Aufgaben
Quiz: Teste Dein Wissen
Ein historisches Einladungslabel soll Eignung für ein Praktikum vorhersagen. Was ist die wichtigste erste Prüfung? (Ob das Label den heutigen Zweck tatsächlich angemessen abbildet) (!Ob der Datensatz möglichst viele Spalten enthält) (!Ob das Modell eine komplizierte Architektur nutzt) (!Ob alle Werte alphabetisch sortiert sind)
Ein Datensatz enthält fast nur Fälle aus einer einzigen Nutzungssituation. Welches Problem liegt nahe? (Mangelnde Repräsentativität) (!Perfekte Generalisierung) (!Vollständige Anonymität) (!Automatische Fairness)
Warum werden Testdaten vom Training getrennt? (Damit die Leistung auf zuvor ungesehenen Fällen möglichst unabhängig geprüft wird) (!Damit das Modell mehr Trainingsbeispiele auswendig lernen kann) (!Damit Labels nach dem Test geändert werden können) (!Damit nur erfolgreiche Fälle ausgewertet werden)
Ein Modell erreicht insgesamt gute Werte, macht aber bei einer relevanten Teilgruppe deutlich mehr Fehler. Was ist die beste Reaktion? (Teilgruppenfehler untersuchen und Ursachen sowie Gegenmaßnahmen prüfen) (!Nur den Gesamtwert veröffentlichen) (!Die Teilgruppe aus der Evaluation entfernen) (!Mehr Modellkomplexität ohne weitere Prüfung hinzufügen)
Welche Aussage beschreibt eine sinnvolle Baseline? (Eine einfache Vergleichslösung zeigt, ob ein komplexes Modell tatsächlich zusätzlichen Nutzen bringt) (!Eine Baseline ist immer ein neuronales Netz) (!Eine Baseline ersetzt jede Folgenabschätzung) (!Eine Baseline darf nur mit Trainingsdaten bewertet werden)
Das Absendegerät korreliert im Trainingsdatensatz mit Einladungen, ist aber sachlich kaum relevant. Was ist sinnvoll? (Das Merkmal kritisch prüfen und gegebenenfalls entfernen) (!Das Merkmal automatisch als fair einstufen) (!Das Merkmal stärker gewichten, weil es korreliert) (!Alle anderen Merkmale löschen)
Was bedeutet Datenminimierung im Grundsatz? (Nur für den festgelegten Zweck notwendige personenbezogene Daten verarbeiten) (!Möglichst viele Daten vorsorglich speichern) (!Alle Daten unbegrenzt aufbewahren) (!Nur Daten ohne Qualitätsprüfung verwenden)
Welche Form menschlicher Aufsicht stärkt Human Agency am meisten? (Menschen können Entscheidungen prüfen, überstimmen und den Einsatz stoppen) (!Menschen bestätigen jede Ausgabe automatisch) (!Menschen sehen nur die Endentscheidung ohne Kontext) (!Menschen dürfen keine Fehler melden)
Warum können historische Daten problematisch sein? (Sie können frühere Regeln, Ungleichheiten oder Auswahlmuster enthalten) (!Sie sind grundsätzlich immer unbrauchbar) (!Sie enthalten niemals Labels) (!Sie verhindern jede statistische Auswertung)
Welche Schlussfolgerung ist aus einem sehr kleinen Testdatensatz angemessen? (Er kann Warnsignale zeigen, erlaubt aber nur vorsichtige Verallgemeinerungen) (!Er beweist allgemeine Fairness) (!Er ersetzt Tests im realen Einsatzkontext) (!Er macht weitere Datenerhebung unnötig)
Memory
| Trainingsdaten | Daten zum Anpassen eines Modells |
| Testdaten | unabhängige Daten zur abschließenden Prüfung |
| Repräsentativität | angemessene Abbildung relevanter Einsatzfälle |
| Label | vorgegebener Zielwert eines Trainingsbeispiels |
| Proxy | Merkmal, das indirekt andere Eigenschaften widerspiegeln kann |
| Baseline | einfache Vergleichslösung |
| Governance | Regeln für Verantwortung und Kontrolle |
| Datenleck | unzulässige Information aus Test oder Zukunft gelangt ins Training |
Drag and Drop
| Ordne die richtigen Begriffe zu. | Thema |
|---|---|
| Zweck klären | Problem und gewünschte Entscheidung festlegen |
| Stichprobe planen | relevante Fälle und Nutzungssituationen auswählen |
| Labels prüfen | Zielwerte fachlich und sprachlich definieren |
| Testdaten trennen | unabhängige Evaluation vorbereiten |
| Teilgruppen auswerten | systematische Fehlerunterschiede sichtbar machen |
| Stop-Regel festlegen | menschliche Kontrolle für den laufenden Einsatz sichern |
...
Kreuzworträtsel
| Stichprobe | Wie heißt die Auswahl von Fällen aus einer Grundgesamtheit? |
| Label | Wie heißt der vorgegebene Zielwert eines Trainingsbeispiels? |
| Testdaten | Welche Daten dienen der möglichst unabhängigen Abschlussprüfung? |
| Verzerrung | Wie heißt ein systematischer Fehler oder Bias auf Deutsch? |
| Governance | Welcher Begriff bezeichnet Regeln für Verantwortung und Kontrolle von Daten? |
| Baseline | Wie heißt eine einfache Vergleichslösung für ein komplexeres Modell? |
LearningApps
Lückentext
Offene Aufgaben
Leicht
- Datencheck: Wähle einen kleinen Datensatz aus Deinem Alltag oder aus einer Schulaufgabe und markiere drei mögliche Qualitätsprobleme. Nutze keine privaten Daten von Mitschülerinnen oder Mitschülern.
- Labelwerkstatt: Erfinde für zehn harmlose Beispieltexte zwei mögliche Label-Regeln und zeige an zwei Grenzfällen, warum genaue Definitionen wichtig sind.
- Visualisierung: Stelle die Häufigkeiten des Praktikumsdatensatzes als Balkendiagramm dar und schreibe darunter zwei Beobachtungen und eine offene Frage.
- Quellenkritik: Vergleiche zwei Erklärtexte zu KI-Trainingsdaten. Prüfe Autor, Zweck, Belege, Aktualität und mögliche Interessen.
Standard
- Baseline-Vergleich: Entwickle für einen neuen Klassifikationsfall eine einfache Regel und beschreibe, wie Du fair prüfst, ob ein KI-Modell einen echten Mehrwert bietet.
- Datenkarte: Erstelle eine vollständige Datenkarte für den Praktikumsdatensatz mit Zweck, Herkunft, Auswahl, Merkmalen, Labels, Fehlern, Grenzen und Verantwortlichkeit.
- Fehleranalyse: Verändere zwei Testfälle und untersuche, wie sich Accuracy und Recall verändern. Erkläre, warum eine Kennzahl allein nicht genügt.
- Interview: Befrage eine Lehrkraft, Ausbilderin, einen Ausbilder oder eine Person aus der IT dazu, wie in ihrem Bereich Datenqualität geprüft wird. Dokumentiere mindestens drei Kontrollschritte.
Schwer
- Folgenabschätzung: Entwirf für ein KI-System zur Lernstandsprognose eine Risikomatrix mit Betroffenen, Schadensarten, Eintrittswahrscheinlichkeit, Auswirkung und Gegenmaßnahmen.
- Governance-Konzept: Plane Rollen, Freigaben, Protokollierung, Beschwerdeweg und Stop-Kriterien für einen schulischen KI-Piloten.
- Bias-Experiment: Erzeuge einen kleinen synthetischen Datensatz mit einer absichtlich verschobenen Stichprobe. Zeige, wie sich das Ergebnis verändert, wenn Du die Auswahl ausgleichst. Verwende keine echten sensiblen Personendaten.
- Entscheidungspapier: Schreibe eine Empfehlung an eine fiktive Schulleitung, ob ein KI-System eingesetzt, verändert, nur getestet oder verworfen werden soll. Begründe mit Systemdesign, Evaluation, Governance und Folgenabschätzung.
|
|
Lernkontrolle
- Systemvergleich: Ein KI-Modell ist geringfügig genauer als eine transparente Regel, benötigt aber wesentlich mehr personenbezogene Daten. Entwickle eine begründete Entscheidung, welche Lösung Du bevorzugst und welche Zusatzinformationen Du brauchst.
- Labelkritik: Ein System zur Vorhersage von Lernerfolg nutzt die bisherige Schulnote als Label. Analysiere mindestens drei Gründe, warum dieses Label passend oder unpassend sein könnte, und schlage eine bessere Prüfstrategie vor.
- Fehlerfolgen: Zwei Modelle haben dieselbe Gesamtgenauigkeit. Modell X übersieht häufiger geeignete Fälle, Modell Y lässt häufiger ungeeignete Fälle passieren. Entscheide für einen konkreten Anwendungsbereich, welches Fehlermuster eher vertretbar ist, und begründe.
- Datenverschiebung: Ein Modell wurde mit Daten aus dem letzten Schuljahr trainiert. Nach einer neuen Prüfungsordnung sinkt seine Leistung. Erkläre die Ursache auf Systemebene und plane ein Verfahren zur Erkennung und Reaktion.
- Governance-Fall: Ein KI-System zeigt starke Unterschiede zwischen Teilgruppen, aber niemand fühlt sich für das Problem zuständig. Entwirf eine Verantwortungsstruktur, die diesen Fehler künftig früher erkennt und bearbeitet.
- Transferentscheidung: Übertrage den Datencheck auf eine KI zur Bilderkennung in einer Werkstatt. Begründe, welche Datenvarianten im Testset vorkommen müssen und wann Du den Einsatz stoppen würdest.
Lernnachweis
Für einen Lernnachweis zu diesem Thema ist wichtig, dass Du nicht nur Begriffe wiedergeben kannst, sondern einen neuen Fall strukturiert untersuchst. Ein geeigneter Lernnachweis zeigt:
- Du formulierst Zweck, Einsatzgrenzen und eine mögliche Nicht-KI-Alternative.
- Du unterscheidest Trainings-, Validierungs- und Testdaten.
- Du prüfst Relevanz, Repräsentativität, Vollständigkeit, Fehler und Aktualität eines Datensatzes.
- Du beurteilst, ob Labels den eigentlichen Zweck sinnvoll abbilden.
- Du erkennst mögliche Proxies, Auswahlfehler und Rückkopplungsschleifen.
- Du wertest eine kleine Konfusionsmatrix und relevante Teilgruppen aus.
- Du vergleichst ein Modell mit einer einfachen Baseline.
- Du planst Governance mit Zuständigkeit, Dokumentation, menschlicher Aufsicht, Korrekturweg und Stop-Regeln.
- Du führst eine Folgenabschätzung durch und benennst Betroffene sowie Gegenmaßnahmen.
- Du wählst zwischen mehreren Handlungsoptionen und begründest Deine Entscheidung nachvollziehbar.
OERs zum Thema
Weitere frei zugängliche Vertiefungen:
- Maschinelles Lernen: Grundlagen zu Training, Generalisierung und Beispieldaten.
- Algorithmic Bias: systematische Verzerrungen in algorithmischen Ergebnissen.
- Datenschutz-Grundverordnung: Grundprinzipien für den Umgang mit personenbezogenen Daten.
- AI Act: europäischer Rechtsrahmen für Künstliche Intelligenz mit risikobasierten Anforderungen.
Die eingebundenen Wikimedia-Commons-Dateien besitzen jeweils eigene Lizenz- und Urheberangaben auf ihren Dateibeschreibungsseiten. Bei Weiterverwendung prüfst Du diese Angaben und nennst die erforderliche Attribution.
Verknüpfte Lernbereiche