Diesen aiMOOC als Battle spielen: Deutsch, Klasse 9-10, G-Niveau

Transparenz und Erklärbarkeit unterscheiden

Einleitung

Transparenz und Erklärbarkeit unterscheiden ist eine zentrale Kompetenz für einen verantwortlichen Umgang mit Künstlicher Intelligenz. Wenn ein KI-System eine Empfehlung, Bewertung oder Vorhersage liefert, reicht es nicht aus, nur zu fragen: „Ist das Ergebnis richtig?“ Du solltest auch prüfen können, welches System beteiligt ist, welche Daten und Ziele eine Rolle spielen, welche Grenzen bekannt sind und warum gerade dieses Ergebnis entstanden ist.

Im Alltag werden die Begriffe Transparenz und Erklärbarkeit oft vermischt. Für eine genaue Bewertung ist die Unterscheidung jedoch wichtig: Transparenz bezieht sich vor allem darauf, welche Informationen über ein KI-System, seinen Einsatz und seine Bedingungen offengelegt werden. Erklärbarkeit bezieht sich darauf, wie verständlich gemacht werden kann, warum ein bestimmtes Ergebnis zustande gekommen ist.

Das Bild stellt den Gegensatz zwischen einer schwer durchschaubaren „Black Box“ und erklärbarer KI schematisch dar. Eine Black Box ist nicht automatisch schlecht, aber sie stellt höhere Anforderungen an Prüfung, Dokumentation, Erklärungen und menschliche Kontrolle.

Dieser Lernkurs richtet sich besonders an Klasse 9 und ist für etwa eine bis zwei Unterrichtsstunden angelegt. Er verbindet Informatik, Deutsch, Mathematik, Technik, Wirtschaft, Geschichte, Ethik und Gemeinschaftskunde. Im Mittelpunkt stehen nicht bloße Definitionen, sondern Prüfen, Vergleichen, Entscheiden und Begründen.

Lernziele und zentrale KI-Kompetenz

Nach dem Kurs kannst Du die zugrunde liegende Idee an neuen Beispielen erkennen und typische Fehlvorstellungen korrigieren. Du kannst insbesondere zwischen Informationen über ein System und Erklärungen zu einem konkreten Ergebnis unterscheiden.

Kompetenz	Das kannst Du am Ende
Unterscheiden	Du erkennst, ob eine Information vor allem Transparenz, Erklärbarkeit, beides oder keines von beiden schafft.
System bewerten	Du prüfst Zweck, Daten, Grenzen, Fehler, Verantwortlichkeiten und mögliche Folgen eines KI-Systems.
Erklärung prüfen	Du beurteilst, ob eine Erklärung verständlich, fallbezogen, überprüfbar und für eine Entscheidung nützlich ist.
Daten beurteilen	Du vergleichst Fehlerraten und erkennst, dass ein guter Durchschnittswert Unterschiede zwischen Gruppen verdecken kann.
Verantwortlich handeln	Du entscheidest nicht automatisch nach einem KI-Ergebnis, sondern verlangst bei wichtigen Folgen angemessene Belege, menschliche Kontrolle und eine Möglichkeit zum Widerspruch.
Transfer leisten	Du kannst die Unterscheidung auf neue Situationen aus Schule, Alltag, Wirtschaft und Gesellschaft übertragen.

Unterrichtsablauf für 45 bis 90 Minuten

Phase	Kernzeit	Erweiterung
Aktivierung und Diagnose	5 bis 10 Minuten	Austausch in Zweiergruppen
Einführung und Visualisierung	10 bis 15 Minuten	Videoausschnitt oder Vertiefungsbild
Anwendungssituation	15 bis 20 Minuten	Rollenarbeit und Widerspruch formulieren
Daten- und Risikobewertung	10 bis 15 Minuten	Prozentrechnung und Fairnessvergleich
Selbstkontrolle und Transfer	5 bis 10 Minuten	Quiz, Reflexion oder offene Aufgabe

Für eine einzelne Unterrichtsstunde konzentrierst Du Dich auf Aktivierung, Begriffsunterscheidung, Anwendungssituation und Selbstkontrolle. Für eine Doppelstunde kommen Datenbewertung, Risikoanalyse, gesellschaftliche Folgen und Transfer hinzu.

Aktivierung und Diagnose: Was fehlt Dir für eine faire Entscheidung?

Stell Dir vor, Du bewirbst Dich für ein Schülerpraktikum. Nach wenigen Sekunden erhältst Du die Meldung: „Deine Bewerbung wurde nicht für die nächste Runde ausgewählt.“ Darunter steht: „Für die Vorauswahl wurde ein KI-System eingesetzt.“

Beantworte zunächst ohne Nachschlagen: Welche Informationen würdest Du verlangen, bevor Du die Entscheidung akzeptierst? Notiere mindestens drei Fragen.

Vergleiche Deine Fragen anschließend mit diesen vier Kategorien:

Frageart	Beispiel
Einsatz	Wurde tatsächlich KI verwendet und für welchen Zweck?
Daten	Welche Informationen über mich wurden verarbeitet?
Ergebnis	Warum wurde gerade meine Bewerbung abgelehnt?
Verantwortung	Wer kann die Entscheidung prüfen, ändern oder korrigieren?

Diagnosefrage: Welche dieser Fragen betreffen eher das System insgesamt und welche eher Dein konkretes Ergebnis? Genau an dieser Grenze liegt die Unterscheidung zwischen Transparenz und Erklärbarkeit.

Grundlagen

Vom Datensatz zum Ergebnis

Viele KI-Systeme arbeiten vereinfacht in einer Kette: Daten werden gesammelt oder eingegeben, ein Modell verarbeitet Muster, daraus entsteht ein Ergebnis und dieses Ergebnis beeinflusst möglicherweise eine menschliche Entscheidung.

Ein typischer Ablauf lässt sich so lesen:

Systemschritt	Leitfrage	Möglicher Fehler
Daten	Woher stammen die Informationen?	Daten sind unvollständig, verzerrt oder veraltet.
Training oder Modellbildung	Welche Muster soll das System lernen?	Historische Muster werden unkritisch übernommen.
Eingabe	Welche Daten werden im konkreten Fall genutzt?	Eine Datei wird falsch erkannt oder ein Merkmal wird fehlinterpretiert.
Ausgabe	Was erzeugt das Modell?	Eine Wahrscheinlichkeit wird fälschlich als sichere Wahrheit gelesen.
Entscheidung	Wer handelt aufgrund der Ausgabe?	Ein Mensch übernimmt das Ergebnis ungeprüft.

Gerade bei komplexen Modellen können sehr viele rechnerische Verbindungen beteiligt sein.

Ein neuronales Netz kann präzise Ergebnisse liefern, ohne dass jeder einzelne Rechenschritt für einen Menschen unmittelbar sinnvoll lesbar ist. Deshalb müssen Transparenz und Erklärbarkeit zielgerichtet gestaltet werden. Ein vollständiger Quellcode kann technisch transparent erscheinen und für eine Schülerin oder einen Schüler trotzdem völlig unverständlich bleiben.

Was bedeutet Transparenz?

Transparenz bedeutet im KI-Kontext, dass relevante Informationen über das System und seinen Einsatz offengelegt und nachvollziehbar gemacht werden. Typische Transparenzfragen lauten:

KI-Einsatz: Wird überhaupt ein KI-System verwendet?
Zweck: Welche Aufgabe soll das System erfüllen und wofür darf es nicht verwendet werden?
Daten: Welche Datenarten fließen ein und woher stammen sie?
Leistungsgrenzen: Unter welchen Bedingungen macht das System häufiger Fehler?
Verantwortung: Wer betreibt das System und wer trägt Verantwortung für Entscheidungen?
Kontrolle: Wie können Ergebnisse überprüft, protokolliert oder angefochten werden?

Transparenz ist deshalb häufig systembezogen. Sie hilft Dir zu verstehen, in welchem Rahmen ein System arbeitet.

Beispiel: Eine Schule informiert: „Für die Sortierung freiwilliger Übungsaufgaben wird ein KI-System eingesetzt. Es nutzt Ergebnisse aus den letzten drei Übungsserien. Namen werden getrennt von den Lernständen gespeichert. Die Lehrkraft entscheidet selbst, welche Empfehlung übernommen wird.“ Das schafft Transparenz über Einsatz, Daten und Verantwortung.

Was bedeutet Erklärbarkeit?

Erklärbarkeit bedeutet, dass ein Mensch nachvollziehen kann, wie oder warum ein bestimmtes Ergebnis zustande gekommen ist. Eine brauchbare Erklärung muss zur Zielgruppe und zur Bedeutung der Entscheidung passen.

Beispiel: „Dir wurde die Übung zu linearen Funktionen empfohlen, weil Du bei drei Aufgaben zum Steigungsdreieck unsicher warst. Deine Aufgaben zu Termumformungen hatten dagegen keinen Einfluss auf diese Empfehlung.“ Das ist eine Erklärung zu einem konkreten Ergebnis.

Erklärungen können unterschiedlich aussehen. Häufige Formen sind:

Merkmalsbeitrag: Welche Eingaben hatten besonders starken Einfluss?
Kontrafaktische Erklärung: Was hätte sich ändern müssen, damit ein anderes Ergebnis entsteht?
Beispielbasierte Erklärung: Welche ähnlichen Fälle führten zu einem vergleichbaren Ergebnis?
Regelbasiertes Modell: Welche verständliche Regel führte zur Entscheidung?

Eine Erklärung darf nicht nur plausibel klingen. Sie sollte möglichst gut zum tatsächlichen Verhalten des Systems passen. Eine nachträglich erzeugte Erklärung kann nützlich sein, aber auch vereinfachen oder einen falschen Eindruck erzeugen. Deshalb ist die Frage wichtig: Erklärt die Aussage wirklich das Modell oder erzählt sie nur eine überzeugende Geschichte?

Transparenz und Erklärbarkeit im direkten Vergleich

Aspekt	Transparenz	Erklärbarkeit
Kernfrage	Was ist über System, Einsatz und Bedingungen bekannt?	Warum kam dieses Ergebnis zustande?
Typischer Blick	System und Prozess	Konkreter Fall oder konkretes Modellverhalten
Beispiel	Welche Datenarten wurden verarbeitet?	Welche Daten beeinflussten diese Empfehlung besonders?
Ziel	Nachvollziehbarkeit des Einsatzes und seiner Rahmenbedingungen	Verständnis und gegebenenfalls Anfechtung eines Ergebnisses
Reicht Quellcode?	Nicht unbedingt, weil Offenlegung ohne Verständlichkeit wenig hilft.	Meist nein, weil Betroffene eine verständliche fallbezogene Erklärung brauchen.
Kann es ohne das andere vorkommen?	Ja. Ein System kann viel dokumentieren, ohne ein bestimmtes Ergebnis verständlich zu erklären.	Ja. Ein einzelnes Ergebnis kann erklärt werden, obwohl nicht alle Systemdetails offengelegt sind.

Merksatz: Transparenz beantwortet vor allem „Was geschieht im und um das System?“. Erklärbarkeit beantwortet vor allem „Wie oder warum entstand dieses Ergebnis?“

Typische Fehlvorstellungen korrigieren

Fehlvorstellung	Korrektur
„Transparent bedeutet automatisch erklärbar.“	Nein. Eine umfangreiche technische Dokumentation kann vorhanden sein, ohne dass Betroffene eine konkrete Entscheidung verstehen.
„Eine Erklärung beweist, dass das Ergebnis richtig ist.“	Nein. Auch ein falsches oder unfair erzeugtes Ergebnis kann eine verständliche Erklärung besitzen.
„Wenn der Quellcode offen ist, ist alles verständlich.“	Nein. Offenheit und Verständlichkeit sind unterschiedliche Anforderungen.
„Hohe Genauigkeit bedeutet automatisch Fairness.“	Nein. Ein guter Durchschnitt kann deutlich schlechtere Ergebnisse für einzelne Gruppen verdecken.
„Wenn ein Mensch am Ende klickt, ist die Entscheidung menschlich.“	Nicht unbedingt. Wenn der Mensch die KI-Ausgabe nur ungeprüft übernimmt, ist die tatsächliche Kontrolle sehr schwach.
„Je mehr Details, desto besser die Erklärung.“	Nicht immer. Eine Erklärung muss relevant, verständlich und zum Risiko der Situation passend sein.

Woran erkennst Du eine gute Erklärung?

Prüfe eine Erklärung mit dem F-A-I-R-Prüfblick:

Buchstabe	Prüffrage
F – Fallbezogen	Bezieht sich die Erklärung wirklich auf das konkrete Ergebnis?
A – Angemessen	Passt die Sprache zur betroffenen Person und zur Bedeutung der Entscheidung?
I – Inhaltlich prüfbar	Lassen sich genannte Gründe mit Daten, Regeln oder Tests überprüfen?
R – Relevanz	Hilft die Erklärung dabei, das Ergebnis zu verstehen, zu korrigieren oder anzufechten?

Eine zusätzliche Fachfrage lautet Erklärungstreue: Passt die Erklärung tatsächlich zum Verhalten des Modells? Das ist besonders wichtig bei sogenannten Post-hoc-Erklärungen, die erst nach der Modellentscheidung erzeugt werden.

Daten, Fairness und Systembewertung

Gute Erklärungen ersetzen keine Datenprüfung

Auch ein erklärbares System kann mit problematischen Daten arbeiten. Ein Modell kann zum Beispiel lernen, dass bestimmte Layouts, Schulformen, Wohnorte oder Formulierungen mit früheren Entscheidungen zusammenhängen. Diese Zusammenhänge müssen nicht sachlich gerechtfertigt sein.

Datei:Medical AI Decision support.webm

Das frei lizenzierte Wikimedia-Commons-Video zeigt beispielhaft, wie Verzerrungen in ein KI-gestütztes Entscheidungssystem gelangen können. Übertrage die Idee gedanklich auf Schule oder Bewerbung: Wenn historische Daten bereits systematische Unterschiede enthalten, kann ein Modell solche Unterschiede fortsetzen.

Mathematisches Beispiel: Durchschnittswerte können täuschen

Ein fiktives KI-System sortiert geeignete Bewerbungen für Schülerpraktika vor. In einem Test werden jeweils 50 tatsächlich geeignete Bewerbungen mit zwei unterschiedlichen Dateiformaten geprüft.

Gruppe	Geeignete Bewerbungen	Fälschlich aussortiert	Falsche Ablehnungsrate
Standard-Textlayout	50	5	10 Prozent
Grafisches Layout	50	15	30 Prozent

Die zweite Gruppe wird 20 Prozentpunkte häufiger fälschlich abgelehnt. Die Differenz beträgt nicht einfach „20 Prozent“, sondern 20 Prozentpunkte. Dieses Beispiel zeigt, warum Prozentrechnung, Statistik und Datenkompetenz für die Bewertung von KI wichtig sind.

Prüfauftrag: Würdest Du das System allein deshalb einsetzen, weil es insgesamt viele Entscheidungen richtig trifft? Begründe mit mindestens zwei Kriterien außer der Gesamtgenauigkeit.

Fehler beim Erstellen des Vorschaubildes:

Die Grafik aus Wikimedia Commons zeigt ein reales Beispiel dafür, wie Modellwahrscheinlichkeiten für unterschiedliche Gruppen verglichen werden können. Für Klasse 9 ist nicht jedes Detail der Grafik wichtig. Entscheidend ist die Idee: Man prüft nicht nur einen Gesamtwert, sondern untersucht, ob ein Modell für verschiedene Gruppen ähnlich zuverlässig arbeitet.

Erklärbarkeit und Fairness sind nicht dasselbe

Eine Erklärung wie „Die Bewerbung wurde wegen fehlender Verfügbarkeitsangaben niedriger bewertet“ kann verständlich sein. Trotzdem bleiben weitere Fragen offen: War dieses Merkmal überhaupt geeignet? Wurde es bei allen gleich erfasst? Hat das System bestimmte Dateiformate schlechter gelesen? Gab es eine Möglichkeit zur Korrektur?

Daraus folgt: Erklärbarkeit hilft bei der Fairnessprüfung, ersetzt sie aber nicht. Umgekehrt kann ein statistisch fair getestetes System einzelne Entscheidungen trotzdem schlecht erklären.

Risiko, Sicherheit und Verantwortung

Je größer die Folgen, desto höher die Anforderungen

Nicht jede KI-Anwendung braucht dieselbe Tiefe an Erklärung. Eine Musikempfehlung ist meist leichter rückgängig zu machen als eine Entscheidung über eine Bewerbung, Prüfung oder medizinische Behandlung.

Risikofaktor	Eher gering	Eher hoch
Folgen	Unterhaltung oder Komfort	Bildung, Beruf, Gesundheit oder Rechte
Umkehrbarkeit	Mit einem Klick korrigierbar	Schwer oder spät korrigierbar
Reichweite	Einzelne Empfehlung	Entscheidung über viele Menschen
Datensensibilität	Unkritische Vorlieben	Persönliche oder besonders schützenswerte Daten
Widerspruch	Alternative sofort verfügbar	Keine klare Beschwerde- oder Korrekturmöglichkeit

Risikoregel: Je stärker ein KI-Ergebnis in Chancen, Rechte oder Lebenswege eingreift, desto wichtiger werden gute Dokumentation, nachvollziehbare Erklärungen, Datentests, menschliche Kontrolle und ein funktionierender Widerspruchsweg.

Human Agency: Der Mensch bleibt handlungsfähig

Human Agency bedeutet nicht nur, dass irgendwo ein Mensch beteiligt ist. Entscheidend ist, ob Menschen tatsächlich verstehen, prüfen und handeln können.

Nutze dafür die STOPP-Prüfung:

S – Sichtbar machen: Erkenne, dass KI beteiligt ist.
T – Transparenz prüfen: Kläre Zweck, Daten, Grenzen und Verantwortlichkeit.
O – Output erklären lassen: Frage nach Gründen für das konkrete Ergebnis.
P – Prüfen: Vergleiche Erklärung, Daten und Gegenbeispiele.
P – Position beziehen: Entscheide selbst, widersprich begründet oder fordere menschliche Überprüfung.

Ein verantwortlicher KI-Einsatz verschiebt Verantwortung nicht einfach auf Technik. Menschen und Organisationen müssen festlegen, wofür ein System eingesetzt wird, wie es getestet wird und wer bei Fehlern eingreifen kann.

Technik und Sicherheit: Offenlegung hat Grenzen

Transparenz bedeutet nicht, dass jedes technische Detail öffentlich gemacht werden muss. Zu viel Offenlegung kann Datenschutz, Geschäftsgeheimnisse oder IT-Sicherheit gefährden. Umgekehrt darf „Sicherheit“ nicht als pauschale Ausrede dienen, um Betroffenen sinnvolle Informationen vorzuenthalten.

Die angemessene Lösung hängt vom Kontext ab: Eine betroffene Person braucht andere Informationen als eine Entwicklergruppe, eine Lehrkraft, eine Aufsichtsbehörde oder ein Sicherheitsteam. Gute Transparenz ist deshalb adressatengerecht.

Gesellschaft, Recht und historische Perspektive

Warum die Unterscheidung gesellschaftlich wichtig ist

Wenn KI-Systeme Entscheidungen vorbereiten, verändert sich die Frage nach Verantwortung. Früher konnten Regeln häufig direkt in Formularen, Tabellen oder Programmcodes nachvollzogen werden. Bei datengetriebenen Modellen entstehen Regeln teilweise aus statistischen Mustern in Trainingsdaten. Dadurch werden Dokumentation, Audit, Explainable AI und gesellschaftliche Kontrolle wichtiger.

Das Bild eignet sich als Gesprächsanlass für die Frage, ob zwei technisch unterschiedliche Verfahren bei ähnlicher Aufgabe auch ethisch unterschiedlich bewertet werden müssen.

Historisch ist die Idee algorithmischer Entscheidung nicht völlig neu. Verwaltungen, Versicherungen, Banken oder Unternehmen arbeiteten schon lange mit Punktesystemen, Formularregeln und statistischen Verfahren. Neu an vielen KI-Systemen sind unter anderem ihre Skalierbarkeit, die große Menge nutzbarer Daten und die Komplexität gelernter Modelle. Deshalb verbindet das Thema Geschichte mit Digitalisierung und gesellschaftlichem Wandel.

EU AI Act: Transparenz ist auch eine Rechtsfrage

In der Europäischen Union gelten seit dem 2. August 2026 Transparenzpflichten nach Artikel 50 des EU AI Act für bestimmte KI-Systeme. Dazu gehören beispielsweise Pflichten, Menschen darüber zu informieren, wenn sie direkt mit einem KI-System interagieren, sowie Vorgaben zur Kennzeichnung bestimmter KI-generierter oder manipulierter Inhalte. Für einzelne Fälle gelten Ausnahmen und Detailregeln.

Wichtig für diesen Kurs: Eine rechtliche Transparenzpflicht ist nicht automatisch dasselbe wie Erklärbarkeit. Der Hinweis „Du sprichst mit einem KI-System“ schafft Transparenz über die Interaktion. Er erklärt aber noch nicht, warum das System eine bestimmte Antwort oder Empfehlung erzeugt hat.

Der AI Act behandelt außerdem bestimmte KI-Systeme in Bildung und Bewerberauswahl als besonders risikorelevant, wenn sie beispielsweise über Zugang, Bewertung oder Auswahl mitentscheiden. Damit wird deutlich, warum Schul- und Praktikumssituationen nicht nur technische, sondern auch gesellschaftliche und rechtliche Fragen aufwerfen.

Fächerübergreifende Bezüge

Fach	Beitrag zum Thema
Informatik	Daten, Modelle, Black Box, Protokollierung, Erklärverfahren und Systemtests
Deutsch	Verständlichkeit von Erklärungen, Argumentation, sprachliche Überzeugung und Quellenkritik
Mathematik	Prozentpunkte, Fehlerraten, Wahrscheinlichkeiten und Gruppenvergleiche
Technik	Systemgrenzen, Robustheit, Mensch-Maschine-Schnittstellen und Sicherheitsanforderungen
Wirtschaft	Bewerberauswahl, Automatisierung, Effizienz, Fehlentscheidungen und Verantwortlichkeit
Geschichte	Entwicklung von regelbasierten Entscheidungssystemen zu datengetriebenen Modellen
Ethik	Fairness, Autonomie, Verantwortung, Menschenwürde und Folgenabschätzung
Gemeinschaftskunde	Regulierung, Rechte, Widerspruch, demokratische Kontrolle und gesellschaftliche Macht

Anwendungssituation: KI bei einer Schülerpraktikums-Bewerbung

Ein fiktiver Betrieb namens Nordwerk erhält 600 Bewerbungen für 80 Schülerpraktikumsplätze. Zur Vorsortierung wird ein KI-System eingesetzt. Es liest Lebensläufe, Anschreiben, Zeugnisdateien und Verfügbarkeitsangaben. Die Personalabteilung erhält anschließend eine Rangliste. Die endgültige Einladung wird formal von einem Menschen bestätigt.

Die Schülerin Mira wird nicht eingeladen. Sie möchte wissen, ob die Entscheidung fair war.

Informationskarte A: Transparenz

Nordwerk veröffentlicht folgende Angaben:

Information	Bewertung
KI-Einsatz	Ein KI-System unterstützt die Vorsortierung.
Zweck	Das System soll vollständige und zur Praktikumszeit passende Bewerbungen priorisieren.
Daten	Verarbeitet werden Anschreiben, Lebenslauf, Zeugnisdatei und Verfügbarkeit.
Speicherung	Bewerbungsdaten werden nach dem Verfahren nach festgelegter Frist gelöscht.
Verantwortung	Die Personalabteilung bleibt für die Einladungsentscheidung verantwortlich.
Kontrolle	Abgelehnte Bewerbungen können auf Antrag manuell geprüft werden.

Diese Karte schafft viel Transparenz. Sie sagt aber noch nicht, warum Mira konkret abgelehnt wurde.

Informationskarte B: Erklärbarkeit

Mira erhält zusätzlich folgende fallbezogene Erklärung:

„Deine Bewerbung wurde vor allem niedriger eingeordnet, weil die Verfügbarkeitsangabe fehlte und die zweite Seite Deines Zeugnisses vom System nicht sicher gelesen werden konnte. Die Textlänge Deines Anschreibens hatte keinen entscheidenden Einfluss. Wenn die Verfügbarkeit ergänzt und die Datei lesbar hochgeladen wird, ändert sich die Bewertung des Vollständigkeitsmerkmals.“

Diese Karte verbessert die Erklärbarkeit, weil sie sich auf Miras konkretes Ergebnis bezieht. Trotzdem muss Mira weiter prüfen: Stimmt die Erklärung? War die Datei tatsächlich unlesbar? Ist das Merkmal „Vollständigkeit“ sachlich gerechtfertigt? Kann ein Mensch die Bewerbung neu bewerten?

Arbeitsauftrag zur Anwendungssituation

Bearbeite die Situation in einer Vierergruppe. Eine Person übernimmt die Rolle von Mira, eine Person die Personalabteilung, eine Person die technische Prüfung und eine Person die Perspektive eines Betriebsrats oder einer unabhängigen Vertrauensperson.

Transparenzanalyse: Markiert, welche Angaben aus Karte A helfen, das System als Ganzes zu verstehen.
Erklärbarkeitsanalyse: Markiert, welche Angaben aus Karte B Miras konkretes Ergebnis verständlicher machen.
Datenprüfung: Nennt zwei mögliche technische oder datenbezogene Fehlerquellen.
Risikobewertung: Entscheidet, ob die KI-Ausgabe automatisch zu einer Ablehnung führen darf.
Verantwortung: Formuliert, wer bei einem Fehler handeln muss.
Widerspruch: Entwerft drei sachliche Fragen, mit denen Mira eine menschliche Überprüfung verlangen könnte.

Am Ende entscheidet die Gruppe: „Unter welchen Bedingungen darf Nordwerk dieses System weiterverwenden?“ Eure Antwort muss mindestens ein Argument zu Transparenz, Erklärbarkeit, Fairness und menschlicher Verantwortung enthalten.

Das Fraunhofer-IPA-Video „Explainable AI: Blick in die Black-Box“ eignet sich zur Vertiefung. Für eine kurze Unterrichtseinheit kann gezielt ein Ausschnitt zur Herausforderung von Erklärbarkeit und Transparenz verwendet werden.

Von der Erklärung zur Entscheidung

Entscheidungsraster für KI-Systeme

Nutze dieses Raster, bevor Du einem KI-Ergebnis vertraust:

Prüffeld	Leitfrage	Warnsignal
Transparenz	Weiß ich, dass KI beteiligt ist und wofür?	KI-Einsatz wird verschwiegen.
Daten	Weiß ich, welche Datenarten entscheidend sind?	Unklare oder offensichtlich unpassende Datenquellen
Erklärbarkeit	Kann ich mein konkretes Ergebnis nachvollziehen?	Nur allgemeine Werbesätze statt fallbezogener Gründe
Qualität	Gibt es Tests zu Fehlern und Grenzen?	Nur ein Gesamtwert ohne genauere Prüfung
Fairness	Wurde geprüft, ob Gruppen unterschiedlich betroffen sind?	Unterschiede werden nicht untersucht.
Sicherheit	Kann ein Fehler erkannt und korrigiert werden?	Keine Protokolle oder Korrekturwege
Human Agency	Kann ein Mensch sinnvoll eingreifen?	Mensch bestätigt Ergebnisse nur automatisch.
Verantwortung	Ist klar, wer zuständig ist?	Verantwortung wird auf das System abgeschoben.

Quellenkritik bei KI-Erklärungen

Auch Erklärungen sind Informationsquellen und müssen kritisch gelesen werden. Achte auf folgende Unterschiede:

Aussage	Kritische Frage
„Das Modell achtet besonders auf Merkmal X.“	Gilt das allgemein oder nur in diesem Fall?
„Merkmal X war der wichtigste Grund.“	Wie wurde dieser Einfluss gemessen?
„Ohne X wäre das Ergebnis anders.“	Wurde diese Gegenprobe tatsächlich getestet?
„Das Modell ist zu 92 Prozent genau.“	Für welche Daten, welche Gruppen und welchen Zeitraum gilt das?
„Ein Mensch prüft jede Entscheidung.“	Hat dieser Mensch genug Zeit, Informationen und Befugnisse für eine echte Prüfung?

Quellenkritik schützt Dich vor einer wichtigen Falle: Eine präzise klingende Zahl oder technisch formulierte Erklärung wirkt schnell glaubwürdig, obwohl ihre Herkunft oder Bedeutung unklar sein kann.

Medien zur Vertiefung

Die Concept-Map aus Wikimedia Commons kann als Überblick genutzt werden, um Erklärbarkeit in den größeren Zusammenhang von KI, Daten, Lernen, Anwendungen und gesellschaftlichen Fragen einzuordnen.

Das Video „Erklärbare Künstliche Intelligenz – was ist Explainable AI?“ bietet einen weiteren Zugang zum Begriff XAI.

Der Vortrag „Können wir KI vertrauen? Transparenz, Fairness und Erklärbarkeit sind entscheidend“ verbindet technische und gesellschaftliche Perspektiven. Für Klasse 9 eignen sich ausgewählte Ausschnitte als Diskussionsimpuls.

Interaktive Aufgaben

Quiz: Teste Dein Wissen

Ein Praktikumsbetrieb teilt mit, dass eine KI Bewerbungen vorsortiert und welche Datenarten verarbeitet werden. Was wird dadurch vor allem verbessert? (Die Transparenz des Systems) (!Die mathematische Genauigkeit jeder Entscheidung) (!Die automatische Fairness aller Ergebnisse) (!Die Erklärbarkeit jedes einzelnen Ergebnisses)

Mira erfährt, dass ihre fehlende Verfügbarkeitsangabe den größten Einfluss auf ihre konkrete Bewertung hatte. Was ist das vor allem? (Eine fallbezogene Erklärung) (!Eine vollständige Offenlegung des Quellcodes) (!Ein Beweis für die Fairness des Systems) (!Eine Garantie für ein richtiges Ergebnis)

Ein Unternehmen veröffentlicht tausend Seiten technischen Quellcode, erklärt Betroffenen aber keine einzelnen Entscheidungen. Welche Bewertung passt am besten? (Technische Offenheit allein garantiert noch keine verständliche Erklärbarkeit) (!Damit ist jede Entscheidung automatisch nachvollziehbar) (!Damit sind alle verwendeten Daten automatisch fair) (!Damit braucht es keine menschliche Kontrolle)

Welche Reaktion ist bei einer KI-gestützten Ablehnung einer Schülerpraktikums-Bewerbung am verantwortungsvollsten? (Erklärung prüfen und bei Bedarf menschliche Überprüfung verlangen) (!Das Ergebnis sofort akzeptieren, weil Computer objektiv sind) (!Nur nach der Geschwindigkeit des Systems urteilen) (!Die Entscheidung allein nach dem Design der Benutzeroberfläche bewerten)

Eine Erklärung klingt überzeugend, wurde aber erst nachträglich von einem zweiten Verfahren erzeugt. Was sollte zusätzlich geprüft werden? (Ob die Erklärung tatsächlich zum Verhalten des Modells passt) (!Ob die Erklärung möglichst viele Fachwörter enthält) (!Ob die Erklärung besonders lang ist) (!Ob die Erklärung ohne Daten auskommt)

Ein KI-System hat insgesamt eine gute Trefferquote, lehnt aber eine Gruppe deutlich häufiger fälschlich ab. Was folgt daraus? (Der Gesamtwert reicht für eine Fairnessbewertung nicht aus) (!Das System ist automatisch fair, weil der Durchschnitt gut ist) (!Die Gruppenunterschiede spielen mathematisch keine Rolle) (!Erklärbarkeit macht weitere Tests überflüssig)

Welche Frage ist ein Beispiel für eine kontrafaktische Erklärung? (Was hätte sich ändern müssen, damit ein anderes Ergebnis entsteht) (!Wie heißt das Unternehmen, das die Software verkauft) (!Wie viele Zeilen Quellcode besitzt das Programm) (!Welche Farbe hat die Benutzeroberfläche)

Ein Chatbot weist klar darauf hin, dass Du mit einem KI-System sprichst. Was zeigt dieses Beispiel besonders? (Transparenz über die Art der Interaktion) (!Eine vollständige Erklärung jeder späteren Antwort) (!Eine Garantie gegen falsche Informationen) (!Eine mathematische Begründung des Modells)

Wann ist menschliche Kontrolle besonders schwach? (Wenn ein Mensch KI-Ausgaben fast immer ungeprüft bestätigt) (!Wenn ein Mensch Gründe prüfen und Entscheidungen ändern kann) (!Wenn Betroffene eine Überprüfung verlangen können) (!Wenn Fehler dokumentiert und korrigiert werden)

Welche Kombination unterstützt eine verantwortliche Entscheidung am besten? (Transparenz, passende Erklärungen, Datenprüfung und echte menschliche Kontrolle) (!Nur eine möglichst hohe Rechengeschwindigkeit) (!Nur eine freundliche Benutzeroberfläche) (!Nur die Aussage, dass moderne KI verwendet wird)

Memory

Transparenz	Offenlegung von Einsatz, Zweck, Daten und Verantwortlichkeit
Erklärbarkeit	Verständliche Gründe für ein konkretes Ergebnis
Blackbox	Modell mit schwer nachvollziehbaren inneren Zusammenhängen
Kontrafaktisch	Frage danach, was für ein anderes Ergebnis verändert werden müsste
Fairnessprüfung	Vergleich von Auswirkungen und Fehlern zwischen Gruppen
HumanAgency	Fähigkeit von Menschen, informiert zu prüfen und einzugreifen

Drag and Drop

Ordne die richtigen Begriffe zu.	Thema
Transparenzfrage	Welche Datenarten verarbeitet das System?
Erklärbarkeitsfrage	Warum entstand gerade dieses Ergebnis?
Fairnessfrage	Sind bestimmte Gruppen häufiger von Fehlern betroffen?
Sicherheitsfrage	Wie werden Fehlfunktionen erkannt und korrigiert?
Verantwortungsfrage	Wer kann eine KI-gestützte Entscheidung ändern?

Kreuzworträtsel

Transparenz	Wie heißt die Eigenschaft, die Einsatz, Zweck und Rahmenbedingungen eines Systems sichtbar macht?
Erklaerung	Wie heißt eine verständliche Begründung für ein Ergebnis?
Blackbox	Wie nennt man ein Modell, dessen innere Entscheidungslogik schwer nachvollziehbar ist?
Fairness	Welcher Begriff bezeichnet die Frage nach gerechter Behandlung?
Aufsicht	Wie heißt menschliche Kontrolle mit Eingriffsmöglichkeit?
Kontext	Welcher Begriff beschreibt die Situation, in der eine Erklärung angemessen sein muss?

LearningApps

Lückentext

Wenn offengelegt wird, dass ein KI-System eingesetzt wird, erhöht das die

.

Wenn verständlich wird, warum ein bestimmtes Ergebnis entstanden ist, verbessert das die

.

Ein schwer nachvollziehbares komplexes Modell wird häufig als

bezeichnet.

Eine Erklärung, die fragt, was für ein anderes Ergebnis geändert werden müsste, heißt

.

Ein hoher Gesamtwert reicht nicht aus, wenn die

zwischen Gruppen ungeprüft bleibt.

Bei wichtigen Entscheidungen sollte ein Mensch echte

ausüben können.

Eine Erklärung muss zur betroffenen Person und zum jeweiligen

passen.

Auch eine plausible Erklärung muss auf ihre

geprüft werden.

Selbstkontrolle und Reflexion

Bewerte Dich nach der Bearbeitung selbst:

Aussage	Noch unsicher	Teilweise sicher	Sicher
Ich kann Transparenz und Erklärbarkeit an einem neuen Beispiel unterscheiden.	□	□	□
Ich kann erklären, warum eine gute Erklärung ein Ergebnis nicht automatisch richtig oder fair macht.	□	□	□
Ich kann eine Fehlerrate zwischen zwei Gruppen vergleichen.	□	□	□
Ich kann begründen, wann menschliche Kontrolle besonders wichtig ist.	□	□	□
Ich kann eine KI-Entscheidung mit mindestens vier Prüfkriterien bewerten.	□	□	□

Reflexionsfrage: In welcher Situation würdest Du lieber ein etwas weniger genaues, aber deutlich besser prüfbares System einsetzen? In welcher Situation wäre eine geringe zusätzliche Genauigkeit wichtiger? Begründe mit Folgen, Risiko und Möglichkeit zur Korrektur.

Transfer in eine neue Situation

Eine Lernplattform empfiehlt Dir, einen Kurs zu wiederholen. Sie zeigt an, dass eine KI beteiligt ist, nennt aber keine Gründe. Eine zweite Plattform erklärt, dass Du bei Aufgaben zu Bruchgleichungen häufig Fehler gemacht hast, sagt aber nichts darüber, welche Daten sie speichert.

Prüfe beide Systeme. Das erste bietet mehr Transparenz über den KI-Einsatz, aber wenig Erklärbarkeit des konkreten Ergebnisses. Das zweite bietet eine fallbezogene Erklärung, lässt aber wichtige Transparenzfragen offen. Eine gute Lösung verbindet beide Perspektiven.

Übertrage diese Denkweise anschließend auf eine andere Situation, zum Beispiel Nachrichtenempfehlungen, Navigation, Übersetzungen, Bildgeneratoren oder automatische Moderation.

Offene Aufgaben

Leicht

Transparenz-Detektiv: Suche in einer von Dir genutzten digitalen Anwendung nach Hinweisen auf KI-Einsatz, Daten, Zweck und Verantwortung. Dokumentiere nur öffentlich sichtbare Informationen und kennzeichne, was offenbleibt.
Erklärungs-Check: Formuliere zu einer fiktiven KI-Empfehlung eine schlechte und eine gute Erklärung. Begründe, warum die zweite hilfreicher ist.
Alltagskarten: Erstelle sechs Karten mit Alltagssituationen und ordne jede Karte den Kategorien Transparenz, Erklärbarkeit, beides oder keines zu.
Fehlvorstellungs-Plakat: Gestalte ein Plakat zu drei typischen Irrtümern, zum Beispiel „erklärbar gleich richtig“, und korrigiere sie mit eigenen Beispielen.

Standard

Praktikums-Audit: Entwickle für die Anwendungssituation Nordwerk eine Checkliste mit mindestens acht Prüffragen aus den Bereichen Daten, Erklärbarkeit, Fairness, Sicherheit und Verantwortung.
Datenvergleich: Erfinde einen kleinen Datensatz mit zwei Gruppen und unterschiedlichen Fehlerraten. Berechne die Raten und erläutere, welche zusätzliche Information Du für eine faire Bewertung brauchst.
Erklärungs-Interview: Befrage zwei Personen unterschiedlichen Alters dazu, welche Erklärung sie bei einer automatisierten Entscheidung erwarten würden. Vergleiche die Antworten und leite Anforderungen an adressatengerechte Erklärungen ab.
Quellenkritik-KI: Vergleiche zwei öffentliche Erklärungen eines KI-Systems oder einer KI-Funktion. Prüfe, welche Aussagen belegt, unklar oder werblich formuliert sind.

Schwer

Risikomatrix: Vergleiche KI bei Musikempfehlungen, Schülerpraktika und Leistungsbewertung. Ordne Folgen, Umkehrbarkeit, Datensensibilität und Widerspruchsmöglichkeiten ein und begründe unterschiedliche Anforderungen.
Erklärungs-Test: Entwirf ein Verfahren, mit dem Du prüfen würdest, ob eine fallbezogene Erklärung tatsächlich zum beobachtbaren Verhalten eines Modells passt. Beschreibe Grenzen Deines Tests.
Schulregel für KI: Formuliere einen Vorschlag für eine schulische Regel, wann KI-gestützte Empfehlungen genutzt werden dürfen. Berücksichtige Transparenz, Erklärbarkeit, Datenschutz, Fairness, menschliche Entscheidung und Beschwerdewege.
Bürgerforum KI: Plant eine moderierte Diskussion mit den Rollen Lernende, Lehrkräfte, Eltern, Entwickler, Unternehmen und Datenschutzvertretung. Entwickelt eine gemeinsame Mindestanforderung an KI-Systeme mit hohen Auswirkungen.

Lernkontrolle

Neues Beispiel analysieren: Eine Schule nutzt ein System, das Fehlzeiten, Testergebnisse und Abgaben zusammenfasst und Fördergespräche empfiehlt. Trenne systembezogene Transparenzfragen von fallbezogenen Erklärbarkeitsfragen und begründe Deine Zuordnung.
Widerspruch prüfen: Ein Schüler erhält die Erklärung „Dein Risiko ist erhöht, weil mehrere Merkmale gemeinsam auffällig sind“. Beurteile die Qualität dieser Erklärung und formuliere zwei bessere Nachfragen.
Daten und Folgen: Zwei Gruppen weisen falsche Ablehnungsraten von 8 Prozent und 24 Prozent auf. Erkläre den Unterschied in Prozentpunkten und bewerte, welche weiteren Daten nötig sind, bevor Du von Unfairness sprichst.
Risikoabwägung: Vergleiche eine KI-Musikempfehlung mit einer KI-gestützten Bewerbungsauswahl. Leite daraus unterschiedliche Anforderungen an Transparenz, Erklärbarkeit und menschliche Kontrolle ab.
Plausible Erklärung: Eine Erklärung klingt logisch, aber das System reagiert bei kleinen Eingabeänderungen völlig anders als vorhergesagt. Erläutere, was das über die Erklärungstreue aussagt und welche Prüfung folgen sollte.
Verantwortungsentscheidung: Eine Lehrkraft übernimmt fast alle Empfehlungen eines KI-Systems unverändert. Diskutiere, ob dies bereits ausreichende menschliche Kontrolle ist, und entwickle zwei konkrete Verbesserungen.

Lernnachweis

Für einen Lernnachweis zu diesem Thema ist wichtig, dass Du nicht nur Begriffe wiederholen kannst, sondern eine neue KI-Situation systematisch bewertest.

Begriffsunterscheidung: Du erklärst Transparenz und Erklärbarkeit in eigenen Worten und grenzt beide anhand eines neuen Beispiels voneinander ab.
Systemanalyse: Du benennst Zweck, Daten, Ausgabe, mögliche Fehlerquellen und Verantwortlichkeiten eines KI-Systems.
Erklärungsbewertung: Du prüfst eine Erklärung auf Fallbezug, Verständlichkeit, Relevanz und Überprüfbarkeit.
Datenkompetenz: Du interpretierst mindestens einen Vergleich von Fehlerraten oder Prozentwerten korrekt.
Risikoabwägung: Du beziehst Folgen, Umkehrbarkeit, Datensensibilität und Widerspruchsmöglichkeiten in Deine Entscheidung ein.
Human Agency: Du zeigst, wie ein Mensch sinnvoll prüfen, eingreifen und Verantwortung übernehmen kann.
Transfer: Du überträgst die Unterscheidung auf eine neue Schul-, Alltags- oder Gesellschaftssituation.
Begründung: Du formulierst eine nachvollziehbare Entscheidung mit Gegenargument und Abwägung.

Qualitätsstufe	Kennzeichen
Grundlegend	Begriffe werden überwiegend richtig verwendet und ein einfaches Beispiel wird korrekt eingeordnet.
Sicher	System, Ergebnis und Risiken werden getrennt analysiert und die Entscheidung wird mit mehreren Kriterien begründet.
Vertieft	Zusätzlich werden Datenqualität, Fairness, Erklärungstreue, gesellschaftliche Folgen und Grenzen der eigenen Bewertung reflektiert.

OERs zum Thema

Weitere verlässliche Quellen für Vertiefung:

OECD AI Principle: Transparency and explainability – internationale Orientierung zu Transparenz, Erklärbarkeit und verantwortlichem KI-Einsatz.
NIST AI Risk Management Framework – unterscheidet Transparenz, Erklärbarkeit und Interpretierbarkeit als zusammenhängende, aber verschiedene Eigenschaften.
Europäische Kommission: Transparenzpflichten nach Artikel 50 – aktueller Überblick zu den seit 2. August 2026 geltenden Transparenzpflichten.
EUR-Lex: Verordnung EU 2024/1689 – Rechtsquelle zum EU AI Act.
Wikipedia: Maschinelles Lernen – Hintergrund zu Modellen, Daten, Genauigkeit, Transparenz und Erklärbarkeit.

Die eingebundenen Bilder und das WebM-Video stammen aus Wikimedia Commons und sind dort mit ihren jeweiligen freien Lizenzen dokumentiert. Bei Weiterverwendung sind die konkreten Lizenz- und Namensnennungsbedingungen der jeweiligen Dateiseite zu beachten.

Verknüpfte Lernbereiche

Transparenz und Erklärbarkeit unterscheiden

aiMOOC-Projekte

Inhalte werden geladen ...

Mediathek wird aus dem Wiki geladen ...

Frag mich zum aktuellen Lerninhalt oder wähle eine kurze Hilfe.

Textmodus bereit

Sprache