Transparenz und Erklärbarkeit unterscheiden
Transparenz und Erklärbarkeit unterscheiden
Einleitung
Transparenz und Erklärbarkeit unterscheiden ist eine zentrale Kompetenz für einen verantwortlichen Umgang mit Künstlicher Intelligenz. Wenn ein KI-System eine Empfehlung, Bewertung oder Vorhersage liefert, reicht es nicht aus, nur zu fragen: „Ist das Ergebnis richtig?“ Du solltest auch prüfen können, welches System beteiligt ist, welche Daten und Ziele eine Rolle spielen, welche Grenzen bekannt sind und warum gerade dieses Ergebnis entstanden ist.
Im Alltag werden die Begriffe Transparenz und Erklärbarkeit oft vermischt. Für eine genaue Bewertung ist die Unterscheidung jedoch wichtig: Transparenz bezieht sich vor allem darauf, welche Informationen über ein KI-System, seinen Einsatz und seine Bedingungen offengelegt werden. Erklärbarkeit bezieht sich darauf, wie verständlich gemacht werden kann, warum ein bestimmtes Ergebnis zustande gekommen ist.
Das Bild stellt den Gegensatz zwischen einer schwer durchschaubaren „Black Box“ und erklärbarer KI schematisch dar. Eine Black Box ist nicht automatisch schlecht, aber sie stellt höhere Anforderungen an Prüfung, Dokumentation, Erklärungen und menschliche Kontrolle.
Dieser Lernkurs richtet sich besonders an Klasse 9 und ist für etwa eine bis zwei Unterrichtsstunden angelegt. Er verbindet Informatik, Deutsch, Mathematik, Technik, Wirtschaft, Geschichte, Ethik und Gemeinschaftskunde. Im Mittelpunkt stehen nicht bloße Definitionen, sondern Prüfen, Vergleichen, Entscheiden und Begründen.
Lernziele und zentrale KI-Kompetenz
Nach dem Kurs kannst Du die zugrunde liegende Idee an neuen Beispielen erkennen und typische Fehlvorstellungen korrigieren. Du kannst insbesondere zwischen Informationen über ein System und Erklärungen zu einem konkreten Ergebnis unterscheiden.
| Kompetenz | Das kannst Du am Ende |
|---|---|
| Unterscheiden | Du erkennst, ob eine Information vor allem Transparenz, Erklärbarkeit, beides oder keines von beiden schafft. |
| System bewerten | Du prüfst Zweck, Daten, Grenzen, Fehler, Verantwortlichkeiten und mögliche Folgen eines KI-Systems. |
| Erklärung prüfen | Du beurteilst, ob eine Erklärung verständlich, fallbezogen, überprüfbar und für eine Entscheidung nützlich ist. |
| Daten beurteilen | Du vergleichst Fehlerraten und erkennst, dass ein guter Durchschnittswert Unterschiede zwischen Gruppen verdecken kann. |
| Verantwortlich handeln | Du entscheidest nicht automatisch nach einem KI-Ergebnis, sondern verlangst bei wichtigen Folgen angemessene Belege, menschliche Kontrolle und eine Möglichkeit zum Widerspruch. |
| Transfer leisten | Du kannst die Unterscheidung auf neue Situationen aus Schule, Alltag, Wirtschaft und Gesellschaft übertragen. |
Unterrichtsablauf für 45 bis 90 Minuten
| Phase | Kernzeit | Erweiterung |
|---|---|---|
| Aktivierung und Diagnose | 5 bis 10 Minuten | Austausch in Zweiergruppen |
| Einführung und Visualisierung | 10 bis 15 Minuten | Videoausschnitt oder Vertiefungsbild |
| Anwendungssituation | 15 bis 20 Minuten | Rollenarbeit und Widerspruch formulieren |
| Daten- und Risikobewertung | 10 bis 15 Minuten | Prozentrechnung und Fairnessvergleich |
| Selbstkontrolle und Transfer | 5 bis 10 Minuten | Quiz, Reflexion oder offene Aufgabe |
Für eine einzelne Unterrichtsstunde konzentrierst Du Dich auf Aktivierung, Begriffsunterscheidung, Anwendungssituation und Selbstkontrolle. Für eine Doppelstunde kommen Datenbewertung, Risikoanalyse, gesellschaftliche Folgen und Transfer hinzu.
Aktivierung und Diagnose: Was fehlt Dir für eine faire Entscheidung?
Stell Dir vor, Du bewirbst Dich für ein Schülerpraktikum. Nach wenigen Sekunden erhältst Du die Meldung: „Deine Bewerbung wurde nicht für die nächste Runde ausgewählt.“ Darunter steht: „Für die Vorauswahl wurde ein KI-System eingesetzt.“
Beantworte zunächst ohne Nachschlagen: Welche Informationen würdest Du verlangen, bevor Du die Entscheidung akzeptierst? Notiere mindestens drei Fragen.
Vergleiche Deine Fragen anschließend mit diesen vier Kategorien:
| Frageart | Beispiel |
|---|---|
| Einsatz | Wurde tatsächlich KI verwendet und für welchen Zweck? |
| Daten | Welche Informationen über mich wurden verarbeitet? |
| Ergebnis | Warum wurde gerade meine Bewerbung abgelehnt? |
| Verantwortung | Wer kann die Entscheidung prüfen, ändern oder korrigieren? |
Diagnosefrage: Welche dieser Fragen betreffen eher das System insgesamt und welche eher Dein konkretes Ergebnis? Genau an dieser Grenze liegt die Unterscheidung zwischen Transparenz und Erklärbarkeit.
Grundlagen
Vom Datensatz zum Ergebnis
Viele KI-Systeme arbeiten vereinfacht in einer Kette: Daten werden gesammelt oder eingegeben, ein Modell verarbeitet Muster, daraus entsteht ein Ergebnis und dieses Ergebnis beeinflusst möglicherweise eine menschliche Entscheidung.
Ein typischer Ablauf lässt sich so lesen:
| Systemschritt | Leitfrage | Möglicher Fehler |
|---|---|---|
| Daten | Woher stammen die Informationen? | Daten sind unvollständig, verzerrt oder veraltet. |
| Training oder Modellbildung | Welche Muster soll das System lernen? | Historische Muster werden unkritisch übernommen. |
| Eingabe | Welche Daten werden im konkreten Fall genutzt? | Eine Datei wird falsch erkannt oder ein Merkmal wird fehlinterpretiert. |
| Ausgabe | Was erzeugt das Modell? | Eine Wahrscheinlichkeit wird fälschlich als sichere Wahrheit gelesen. |
| Entscheidung | Wer handelt aufgrund der Ausgabe? | Ein Mensch übernimmt das Ergebnis ungeprüft. |
Gerade bei komplexen Modellen können sehr viele rechnerische Verbindungen beteiligt sein.
Ein neuronales Netz kann präzise Ergebnisse liefern, ohne dass jeder einzelne Rechenschritt für einen Menschen unmittelbar sinnvoll lesbar ist. Deshalb müssen Transparenz und Erklärbarkeit zielgerichtet gestaltet werden. Ein vollständiger Quellcode kann technisch transparent erscheinen und für eine Schülerin oder einen Schüler trotzdem völlig unverständlich bleiben.
Was bedeutet Transparenz?
Transparenz bedeutet im KI-Kontext, dass relevante Informationen über das System und seinen Einsatz offengelegt und nachvollziehbar gemacht werden. Typische Transparenzfragen lauten:
- KI-Einsatz: Wird überhaupt ein KI-System verwendet?
- Zweck: Welche Aufgabe soll das System erfüllen und wofür darf es nicht verwendet werden?
- Daten: Welche Datenarten fließen ein und woher stammen sie?
- Leistungsgrenzen: Unter welchen Bedingungen macht das System häufiger Fehler?
- Verantwortung: Wer betreibt das System und wer trägt Verantwortung für Entscheidungen?
- Kontrolle: Wie können Ergebnisse überprüft, protokolliert oder angefochten werden?
Transparenz ist deshalb häufig systembezogen. Sie hilft Dir zu verstehen, in welchem Rahmen ein System arbeitet.
Beispiel: Eine Schule informiert: „Für die Sortierung freiwilliger Übungsaufgaben wird ein KI-System eingesetzt. Es nutzt Ergebnisse aus den letzten drei Übungsserien. Namen werden getrennt von den Lernständen gespeichert. Die Lehrkraft entscheidet selbst, welche Empfehlung übernommen wird.“ Das schafft Transparenz über Einsatz, Daten und Verantwortung.
Was bedeutet Erklärbarkeit?
Erklärbarkeit bedeutet, dass ein Mensch nachvollziehen kann, wie oder warum ein bestimmtes Ergebnis zustande gekommen ist. Eine brauchbare Erklärung muss zur Zielgruppe und zur Bedeutung der Entscheidung passen.
Beispiel: „Dir wurde die Übung zu linearen Funktionen empfohlen, weil Du bei drei Aufgaben zum Steigungsdreieck unsicher warst. Deine Aufgaben zu Termumformungen hatten dagegen keinen Einfluss auf diese Empfehlung.“ Das ist eine Erklärung zu einem konkreten Ergebnis.
Erklärungen können unterschiedlich aussehen. Häufige Formen sind:
- Merkmalsbeitrag: Welche Eingaben hatten besonders starken Einfluss?
- Kontrafaktische Erklärung: Was hätte sich ändern müssen, damit ein anderes Ergebnis entsteht?
- Beispielbasierte Erklärung: Welche ähnlichen Fälle führten zu einem vergleichbaren Ergebnis?
- Regelbasiertes Modell: Welche verständliche Regel führte zur Entscheidung?
Eine Erklärung darf nicht nur plausibel klingen. Sie sollte möglichst gut zum tatsächlichen Verhalten des Systems passen. Eine nachträglich erzeugte Erklärung kann nützlich sein, aber auch vereinfachen oder einen falschen Eindruck erzeugen. Deshalb ist die Frage wichtig: Erklärt die Aussage wirklich das Modell oder erzählt sie nur eine überzeugende Geschichte?
Transparenz und Erklärbarkeit im direkten Vergleich
| Aspekt | Transparenz | Erklärbarkeit |
|---|---|---|
| Kernfrage | Was ist über System, Einsatz und Bedingungen bekannt? | Warum kam dieses Ergebnis zustande? |
| Typischer Blick | System und Prozess | Konkreter Fall oder konkretes Modellverhalten |
| Beispiel | Welche Datenarten wurden verarbeitet? | Welche Daten beeinflussten diese Empfehlung besonders? |
| Ziel | Nachvollziehbarkeit des Einsatzes und seiner Rahmenbedingungen | Verständnis und gegebenenfalls Anfechtung eines Ergebnisses |
| Reicht Quellcode? | Nicht unbedingt, weil Offenlegung ohne Verständlichkeit wenig hilft. | Meist nein, weil Betroffene eine verständliche fallbezogene Erklärung brauchen. |
| Kann es ohne das andere vorkommen? | Ja. Ein System kann viel dokumentieren, ohne ein bestimmtes Ergebnis verständlich zu erklären. | Ja. Ein einzelnes Ergebnis kann erklärt werden, obwohl nicht alle Systemdetails offengelegt sind. |
Merksatz: Transparenz beantwortet vor allem „Was geschieht im und um das System?“. Erklärbarkeit beantwortet vor allem „Wie oder warum entstand dieses Ergebnis?“
Typische Fehlvorstellungen korrigieren
| Fehlvorstellung | Korrektur |
|---|---|
| „Transparent bedeutet automatisch erklärbar.“ | Nein. Eine umfangreiche technische Dokumentation kann vorhanden sein, ohne dass Betroffene eine konkrete Entscheidung verstehen. |
| „Eine Erklärung beweist, dass das Ergebnis richtig ist.“ | Nein. Auch ein falsches oder unfair erzeugtes Ergebnis kann eine verständliche Erklärung besitzen. |
| „Wenn der Quellcode offen ist, ist alles verständlich.“ | Nein. Offenheit und Verständlichkeit sind unterschiedliche Anforderungen. |
| „Hohe Genauigkeit bedeutet automatisch Fairness.“ | Nein. Ein guter Durchschnitt kann deutlich schlechtere Ergebnisse für einzelne Gruppen verdecken. |
| „Wenn ein Mensch am Ende klickt, ist die Entscheidung menschlich.“ | Nicht unbedingt. Wenn der Mensch die KI-Ausgabe nur ungeprüft übernimmt, ist die tatsächliche Kontrolle sehr schwach. |
| „Je mehr Details, desto besser die Erklärung.“ | Nicht immer. Eine Erklärung muss relevant, verständlich und zum Risiko der Situation passend sein. |
Woran erkennst Du eine gute Erklärung?
Prüfe eine Erklärung mit dem F-A-I-R-Prüfblick:
| Buchstabe | Prüffrage |
|---|---|
| F – Fallbezogen | Bezieht sich die Erklärung wirklich auf das konkrete Ergebnis? |
| A – Angemessen | Passt die Sprache zur betroffenen Person und zur Bedeutung der Entscheidung? |
| I – Inhaltlich prüfbar | Lassen sich genannte Gründe mit Daten, Regeln oder Tests überprüfen? |
| R – Relevanz | Hilft die Erklärung dabei, das Ergebnis zu verstehen, zu korrigieren oder anzufechten? |
Eine zusätzliche Fachfrage lautet Erklärungstreue: Passt die Erklärung tatsächlich zum Verhalten des Modells? Das ist besonders wichtig bei sogenannten Post-hoc-Erklärungen, die erst nach der Modellentscheidung erzeugt werden.
Daten, Fairness und Systembewertung
Gute Erklärungen ersetzen keine Datenprüfung
Auch ein erklärbares System kann mit problematischen Daten arbeiten. Ein Modell kann zum Beispiel lernen, dass bestimmte Layouts, Schulformen, Wohnorte oder Formulierungen mit früheren Entscheidungen zusammenhängen. Diese Zusammenhänge müssen nicht sachlich gerechtfertigt sein.
Datei:Medical AI Decision support.webm
Das frei lizenzierte Wikimedia-Commons-Video zeigt beispielhaft, wie Verzerrungen in ein KI-gestütztes Entscheidungssystem gelangen können. Übertrage die Idee gedanklich auf Schule oder Bewerbung: Wenn historische Daten bereits systematische Unterschiede enthalten, kann ein Modell solche Unterschiede fortsetzen.
Mathematisches Beispiel: Durchschnittswerte können täuschen
Ein fiktives KI-System sortiert geeignete Bewerbungen für Schülerpraktika vor. In einem Test werden jeweils 50 tatsächlich geeignete Bewerbungen mit zwei unterschiedlichen Dateiformaten geprüft.
| Gruppe | Geeignete Bewerbungen | Fälschlich aussortiert | Falsche Ablehnungsrate |
|---|---|---|---|
| Standard-Textlayout | 50 | 5 | 10 Prozent |
| Grafisches Layout | 50 | 15 | 30 Prozent |
Die zweite Gruppe wird 20 Prozentpunkte häufiger fälschlich abgelehnt. Die Differenz beträgt nicht einfach „20 Prozent“, sondern 20 Prozentpunkte. Dieses Beispiel zeigt, warum Prozentrechnung, Statistik und Datenkompetenz für die Bewertung von KI wichtig sind.
Prüfauftrag: Würdest Du das System allein deshalb einsetzen, weil es insgesamt viele Entscheidungen richtig trifft? Begründe mit mindestens zwei Kriterien außer der Gesamtgenauigkeit.
Die Grafik aus Wikimedia Commons zeigt ein reales Beispiel dafür, wie Modellwahrscheinlichkeiten für unterschiedliche Gruppen verglichen werden können. Für Klasse 9 ist nicht jedes Detail der Grafik wichtig. Entscheidend ist die Idee: Man prüft nicht nur einen Gesamtwert, sondern untersucht, ob ein Modell für verschiedene Gruppen ähnlich zuverlässig arbeitet.
Erklärbarkeit und Fairness sind nicht dasselbe
Eine Erklärung wie „Die Bewerbung wurde wegen fehlender Verfügbarkeitsangaben niedriger bewertet“ kann verständlich sein. Trotzdem bleiben weitere Fragen offen: War dieses Merkmal überhaupt geeignet? Wurde es bei allen gleich erfasst? Hat das System bestimmte Dateiformate schlechter gelesen? Gab es eine Möglichkeit zur Korrektur?
Daraus folgt: Erklärbarkeit hilft bei der Fairnessprüfung, ersetzt sie aber nicht. Umgekehrt kann ein statistisch fair getestetes System einzelne Entscheidungen trotzdem schlecht erklären.
Risiko, Sicherheit und Verantwortung
Je größer die Folgen, desto höher die Anforderungen
Nicht jede KI-Anwendung braucht dieselbe Tiefe an Erklärung. Eine Musikempfehlung ist meist leichter rückgängig zu machen als eine Entscheidung über eine Bewerbung, Prüfung oder medizinische Behandlung.
| Risikofaktor | Eher gering | Eher hoch |
|---|---|---|
| Folgen | Unterhaltung oder Komfort | Bildung, Beruf, Gesundheit oder Rechte |
| Umkehrbarkeit | Mit einem Klick korrigierbar | Schwer oder spät korrigierbar |
| Reichweite | Einzelne Empfehlung | Entscheidung über viele Menschen |
| Datensensibilität | Unkritische Vorlieben | Persönliche oder besonders schützenswerte Daten |
| Widerspruch | Alternative sofort verfügbar | Keine klare Beschwerde- oder Korrekturmöglichkeit |
Risikoregel: Je stärker ein KI-Ergebnis in Chancen, Rechte oder Lebenswege eingreift, desto wichtiger werden gute Dokumentation, nachvollziehbare Erklärungen, Datentests, menschliche Kontrolle und ein funktionierender Widerspruchsweg.
Human Agency: Der Mensch bleibt handlungsfähig
Human Agency bedeutet nicht nur, dass irgendwo ein Mensch beteiligt ist. Entscheidend ist, ob Menschen tatsächlich verstehen, prüfen und handeln können.
Nutze dafür die STOPP-Prüfung:
- S – Sichtbar machen: Erkenne, dass KI beteiligt ist.
- T – Transparenz prüfen: Kläre Zweck, Daten, Grenzen und Verantwortlichkeit.
- O – Output erklären lassen: Frage nach Gründen für das konkrete Ergebnis.
- P – Prüfen: Vergleiche Erklärung, Daten und Gegenbeispiele.
- P – Position beziehen: Entscheide selbst, widersprich begründet oder fordere menschliche Überprüfung.
Ein verantwortlicher KI-Einsatz verschiebt Verantwortung nicht einfach auf Technik. Menschen und Organisationen müssen festlegen, wofür ein System eingesetzt wird, wie es getestet wird und wer bei Fehlern eingreifen kann.
Technik und Sicherheit: Offenlegung hat Grenzen
Transparenz bedeutet nicht, dass jedes technische Detail öffentlich gemacht werden muss. Zu viel Offenlegung kann Datenschutz, Geschäftsgeheimnisse oder IT-Sicherheit gefährden. Umgekehrt darf „Sicherheit“ nicht als pauschale Ausrede dienen, um Betroffenen sinnvolle Informationen vorzuenthalten.
Die angemessene Lösung hängt vom Kontext ab: Eine betroffene Person braucht andere Informationen als eine Entwicklergruppe, eine Lehrkraft, eine Aufsichtsbehörde oder ein Sicherheitsteam. Gute Transparenz ist deshalb adressatengerecht.
Gesellschaft, Recht und historische Perspektive
Warum die Unterscheidung gesellschaftlich wichtig ist
Wenn KI-Systeme Entscheidungen vorbereiten, verändert sich die Frage nach Verantwortung. Früher konnten Regeln häufig direkt in Formularen, Tabellen oder Programmcodes nachvollzogen werden. Bei datengetriebenen Modellen entstehen Regeln teilweise aus statistischen Mustern in Trainingsdaten. Dadurch werden Dokumentation, Audit, Explainable AI und gesellschaftliche Kontrolle wichtiger.
Das Bild eignet sich als Gesprächsanlass für die Frage, ob zwei technisch unterschiedliche Verfahren bei ähnlicher Aufgabe auch ethisch unterschiedlich bewertet werden müssen.
Historisch ist die Idee algorithmischer Entscheidung nicht völlig neu. Verwaltungen, Versicherungen, Banken oder Unternehmen arbeiteten schon lange mit Punktesystemen, Formularregeln und statistischen Verfahren. Neu an vielen KI-Systemen sind unter anderem ihre Skalierbarkeit, die große Menge nutzbarer Daten und die Komplexität gelernter Modelle. Deshalb verbindet das Thema Geschichte mit Digitalisierung und gesellschaftlichem Wandel.
EU AI Act: Transparenz ist auch eine Rechtsfrage
In der Europäischen Union gelten seit dem 2. August 2026 Transparenzpflichten nach Artikel 50 des EU AI Act für bestimmte KI-Systeme. Dazu gehören beispielsweise Pflichten, Menschen darüber zu informieren, wenn sie direkt mit einem KI-System interagieren, sowie Vorgaben zur Kennzeichnung bestimmter KI-generierter oder manipulierter Inhalte. Für einzelne Fälle gelten Ausnahmen und Detailregeln.
Wichtig für diesen Kurs: Eine rechtliche Transparenzpflicht ist nicht automatisch dasselbe wie Erklärbarkeit. Der Hinweis „Du sprichst mit einem KI-System“ schafft Transparenz über die Interaktion. Er erklärt aber noch nicht, warum das System eine bestimmte Antwort oder Empfehlung erzeugt hat.
Der AI Act behandelt außerdem bestimmte KI-Systeme in Bildung und Bewerberauswahl als besonders risikorelevant, wenn sie beispielsweise über Zugang, Bewertung oder Auswahl mitentscheiden. Damit wird deutlich, warum Schul- und Praktikumssituationen nicht nur technische, sondern auch gesellschaftliche und rechtliche Fragen aufwerfen.
Fächerübergreifende Bezüge
| Fach | Beitrag zum Thema |
|---|---|
| Informatik | Daten, Modelle, Black Box, Protokollierung, Erklärverfahren und Systemtests |
| Deutsch | Verständlichkeit von Erklärungen, Argumentation, sprachliche Überzeugung und Quellenkritik |
| Mathematik | Prozentpunkte, Fehlerraten, Wahrscheinlichkeiten und Gruppenvergleiche |
| Technik | Systemgrenzen, Robustheit, Mensch-Maschine-Schnittstellen und Sicherheitsanforderungen |
| Wirtschaft | Bewerberauswahl, Automatisierung, Effizienz, Fehlentscheidungen und Verantwortlichkeit |
| Geschichte | Entwicklung von regelbasierten Entscheidungssystemen zu datengetriebenen Modellen |
| Ethik | Fairness, Autonomie, Verantwortung, Menschenwürde und Folgenabschätzung |
| Gemeinschaftskunde | Regulierung, Rechte, Widerspruch, demokratische Kontrolle und gesellschaftliche Macht |
Anwendungssituation: KI bei einer Schülerpraktikums-Bewerbung
Ein fiktiver Betrieb namens Nordwerk erhält 600 Bewerbungen für 80 Schülerpraktikumsplätze. Zur Vorsortierung wird ein KI-System eingesetzt. Es liest Lebensläufe, Anschreiben, Zeugnisdateien und Verfügbarkeitsangaben. Die Personalabteilung erhält anschließend eine Rangliste. Die endgültige Einladung wird formal von einem Menschen bestätigt.
Die Schülerin Mira wird nicht eingeladen. Sie möchte wissen, ob die Entscheidung fair war.
Informationskarte A: Transparenz
Nordwerk veröffentlicht folgende Angaben:
| Information | Bewertung |
|---|---|
| KI-Einsatz | Ein KI-System unterstützt die Vorsortierung. |
| Zweck | Das System soll vollständige und zur Praktikumszeit passende Bewerbungen priorisieren. |
| Daten | Verarbeitet werden Anschreiben, Lebenslauf, Zeugnisdatei und Verfügbarkeit. |
| Speicherung | Bewerbungsdaten werden nach dem Verfahren nach festgelegter Frist gelöscht. |
| Verantwortung | Die Personalabteilung bleibt für die Einladungsentscheidung verantwortlich. |
| Kontrolle | Abgelehnte Bewerbungen können auf Antrag manuell geprüft werden. |
Diese Karte schafft viel Transparenz. Sie sagt aber noch nicht, warum Mira konkret abgelehnt wurde.
Informationskarte B: Erklärbarkeit
Mira erhält zusätzlich folgende fallbezogene Erklärung:
„Deine Bewerbung wurde vor allem niedriger eingeordnet, weil die Verfügbarkeitsangabe fehlte und die zweite Seite Deines Zeugnisses vom System nicht sicher gelesen werden konnte. Die Textlänge Deines Anschreibens hatte keinen entscheidenden Einfluss. Wenn die Verfügbarkeit ergänzt und die Datei lesbar hochgeladen wird, ändert sich die Bewertung des Vollständigkeitsmerkmals.“
Diese Karte verbessert die Erklärbarkeit, weil sie sich auf Miras konkretes Ergebnis bezieht. Trotzdem muss Mira weiter prüfen: Stimmt die Erklärung? War die Datei tatsächlich unlesbar? Ist das Merkmal „Vollständigkeit“ sachlich gerechtfertigt? Kann ein Mensch die Bewerbung neu bewerten?
Arbeitsauftrag zur Anwendungssituation
Bearbeite die Situation in einer Vierergruppe. Eine Person übernimmt die Rolle von Mira, eine Person die Personalabteilung, eine Person die technische Prüfung und eine Person die Perspektive eines Betriebsrats oder einer unabhängigen Vertrauensperson.
- Transparenzanalyse: Markiert, welche Angaben aus Karte A helfen, das System als Ganzes zu verstehen.
- Erklärbarkeitsanalyse: Markiert, welche Angaben aus Karte B Miras konkretes Ergebnis verständlicher machen.
- Datenprüfung: Nennt zwei mögliche technische oder datenbezogene Fehlerquellen.
- Risikobewertung: Entscheidet, ob die KI-Ausgabe automatisch zu einer Ablehnung führen darf.
- Verantwortung: Formuliert, wer bei einem Fehler handeln muss.
- Widerspruch: Entwerft drei sachliche Fragen, mit denen Mira eine menschliche Überprüfung verlangen könnte.
Am Ende entscheidet die Gruppe: „Unter welchen Bedingungen darf Nordwerk dieses System weiterverwenden?“ Eure Antwort muss mindestens ein Argument zu Transparenz, Erklärbarkeit, Fairness und menschlicher Verantwortung enthalten.
Das Fraunhofer-IPA-Video „Explainable AI: Blick in die Black-Box“ eignet sich zur Vertiefung. Für eine kurze Unterrichtseinheit kann gezielt ein Ausschnitt zur Herausforderung von Erklärbarkeit und Transparenz verwendet werden.
Von der Erklärung zur Entscheidung
Entscheidungsraster für KI-Systeme
Nutze dieses Raster, bevor Du einem KI-Ergebnis vertraust:
| Prüffeld | Leitfrage | Warnsignal |
|---|---|---|
| Transparenz | Weiß ich, dass KI beteiligt ist und wofür? | KI-Einsatz wird verschwiegen. |
| Daten | Weiß ich, welche Datenarten entscheidend sind? | Unklare oder offensichtlich unpassende Datenquellen |
| Erklärbarkeit | Kann ich mein konkretes Ergebnis nachvollziehen? | Nur allgemeine Werbesätze statt fallbezogener Gründe |
| Qualität | Gibt es Tests zu Fehlern und Grenzen? | Nur ein Gesamtwert ohne genauere Prüfung |
| Fairness | Wurde geprüft, ob Gruppen unterschiedlich betroffen sind? | Unterschiede werden nicht untersucht. |
| Sicherheit | Kann ein Fehler erkannt und korrigiert werden? | Keine Protokolle oder Korrekturwege |
| Human Agency | Kann ein Mensch sinnvoll eingreifen? | Mensch bestätigt Ergebnisse nur automatisch. |
| Verantwortung | Ist klar, wer zuständig ist? | Verantwortung wird auf das System abgeschoben. |
Quellenkritik bei KI-Erklärungen
Auch Erklärungen sind Informationsquellen und müssen kritisch gelesen werden. Achte auf folgende Unterschiede:
| Aussage | Kritische Frage |
|---|---|
| „Das Modell achtet besonders auf Merkmal X.“ | Gilt das allgemein oder nur in diesem Fall? |
| „Merkmal X war der wichtigste Grund.“ | Wie wurde dieser Einfluss gemessen? |
| „Ohne X wäre das Ergebnis anders.“ | Wurde diese Gegenprobe tatsächlich getestet? |
| „Das Modell ist zu 92 Prozent genau.“ | Für welche Daten, welche Gruppen und welchen Zeitraum gilt das? |
| „Ein Mensch prüft jede Entscheidung.“ | Hat dieser Mensch genug Zeit, Informationen und Befugnisse für eine echte Prüfung? |
Quellenkritik schützt Dich vor einer wichtigen Falle: Eine präzise klingende Zahl oder technisch formulierte Erklärung wirkt schnell glaubwürdig, obwohl ihre Herkunft oder Bedeutung unklar sein kann.
Medien zur Vertiefung
Die Concept-Map aus Wikimedia Commons kann als Überblick genutzt werden, um Erklärbarkeit in den größeren Zusammenhang von KI, Daten, Lernen, Anwendungen und gesellschaftlichen Fragen einzuordnen.
Das Video „Erklärbare Künstliche Intelligenz – was ist Explainable AI?“ bietet einen weiteren Zugang zum Begriff XAI.
Der Vortrag „Können wir KI vertrauen? Transparenz, Fairness und Erklärbarkeit sind entscheidend“ verbindet technische und gesellschaftliche Perspektiven. Für Klasse 9 eignen sich ausgewählte Ausschnitte als Diskussionsimpuls.
Interaktive Aufgaben
Quiz: Teste Dein Wissen
Ein Praktikumsbetrieb teilt mit, dass eine KI Bewerbungen vorsortiert und welche Datenarten verarbeitet werden. Was wird dadurch vor allem verbessert? (Die Transparenz des Systems) (!Die mathematische Genauigkeit jeder Entscheidung) (!Die automatische Fairness aller Ergebnisse) (!Die Erklärbarkeit jedes einzelnen Ergebnisses)
Mira erfährt, dass ihre fehlende Verfügbarkeitsangabe den größten Einfluss auf ihre konkrete Bewertung hatte. Was ist das vor allem? (Eine fallbezogene Erklärung) (!Eine vollständige Offenlegung des Quellcodes) (!Ein Beweis für die Fairness des Systems) (!Eine Garantie für ein richtiges Ergebnis)
Ein Unternehmen veröffentlicht tausend Seiten technischen Quellcode, erklärt Betroffenen aber keine einzelnen Entscheidungen. Welche Bewertung passt am besten? (Technische Offenheit allein garantiert noch keine verständliche Erklärbarkeit) (!Damit ist jede Entscheidung automatisch nachvollziehbar) (!Damit sind alle verwendeten Daten automatisch fair) (!Damit braucht es keine menschliche Kontrolle)
Welche Reaktion ist bei einer KI-gestützten Ablehnung einer Schülerpraktikums-Bewerbung am verantwortungsvollsten? (Erklärung prüfen und bei Bedarf menschliche Überprüfung verlangen) (!Das Ergebnis sofort akzeptieren, weil Computer objektiv sind) (!Nur nach der Geschwindigkeit des Systems urteilen) (!Die Entscheidung allein nach dem Design der Benutzeroberfläche bewerten)
Eine Erklärung klingt überzeugend, wurde aber erst nachträglich von einem zweiten Verfahren erzeugt. Was sollte zusätzlich geprüft werden? (Ob die Erklärung tatsächlich zum Verhalten des Modells passt) (!Ob die Erklärung möglichst viele Fachwörter enthält) (!Ob die Erklärung besonders lang ist) (!Ob die Erklärung ohne Daten auskommt)
Ein KI-System hat insgesamt eine gute Trefferquote, lehnt aber eine Gruppe deutlich häufiger fälschlich ab. Was folgt daraus? (Der Gesamtwert reicht für eine Fairnessbewertung nicht aus) (!Das System ist automatisch fair, weil der Durchschnitt gut ist) (!Die Gruppenunterschiede spielen mathematisch keine Rolle) (!Erklärbarkeit macht weitere Tests überflüssig)
Welche Frage ist ein Beispiel für eine kontrafaktische Erklärung? (Was hätte sich ändern müssen, damit ein anderes Ergebnis entsteht) (!Wie heißt das Unternehmen, das die Software verkauft) (!Wie viele Zeilen Quellcode besitzt das Programm) (!Welche Farbe hat die Benutzeroberfläche)
Ein Chatbot weist klar darauf hin, dass Du mit einem KI-System sprichst. Was zeigt dieses Beispiel besonders? (Transparenz über die Art der Interaktion) (!Eine vollständige Erklärung jeder späteren Antwort) (!Eine Garantie gegen falsche Informationen) (!Eine mathematische Begründung des Modells)
Wann ist menschliche Kontrolle besonders schwach? (Wenn ein Mensch KI-Ausgaben fast immer ungeprüft bestätigt) (!Wenn ein Mensch Gründe prüfen und Entscheidungen ändern kann) (!Wenn Betroffene eine Überprüfung verlangen können) (!Wenn Fehler dokumentiert und korrigiert werden)
Welche Kombination unterstützt eine verantwortliche Entscheidung am besten? (Transparenz, passende Erklärungen, Datenprüfung und echte menschliche Kontrolle) (!Nur eine möglichst hohe Rechengeschwindigkeit) (!Nur eine freundliche Benutzeroberfläche) (!Nur die Aussage, dass moderne KI verwendet wird)
Memory
| Transparenz | Offenlegung von Einsatz, Zweck, Daten und Verantwortlichkeit |
| Erklärbarkeit | Verständliche Gründe für ein konkretes Ergebnis |
| Blackbox | Modell mit schwer nachvollziehbaren inneren Zusammenhängen |
| Kontrafaktisch | Frage danach, was für ein anderes Ergebnis verändert werden müsste |
| Fairnessprüfung | Vergleich von Auswirkungen und Fehlern zwischen Gruppen |
| HumanAgency | Fähigkeit von Menschen, informiert zu prüfen und einzugreifen |
Drag and Drop
| Ordne die richtigen Begriffe zu. | Thema |
|---|---|
| Transparenzfrage | Welche Datenarten verarbeitet das System? |
| Erklärbarkeitsfrage | Warum entstand gerade dieses Ergebnis? |
| Fairnessfrage | Sind bestimmte Gruppen häufiger von Fehlern betroffen? |
| Sicherheitsfrage | Wie werden Fehlfunktionen erkannt und korrigiert? |
| Verantwortungsfrage | Wer kann eine KI-gestützte Entscheidung ändern? |
Kreuzworträtsel
| Transparenz | Wie heißt die Eigenschaft, die Einsatz, Zweck und Rahmenbedingungen eines Systems sichtbar macht? |
| Erklaerung | Wie heißt eine verständliche Begründung für ein Ergebnis? |
| Blackbox | Wie nennt man ein Modell, dessen innere Entscheidungslogik schwer nachvollziehbar ist? |
| Fairness | Welcher Begriff bezeichnet die Frage nach gerechter Behandlung? |
| Aufsicht | Wie heißt menschliche Kontrolle mit Eingriffsmöglichkeit? |
| Kontext | Welcher Begriff beschreibt die Situation, in der eine Erklärung angemessen sein muss? |
LearningApps
Lückentext
Selbstkontrolle und Reflexion
Bewerte Dich nach der Bearbeitung selbst:
| Aussage | Noch unsicher | Teilweise sicher | Sicher |
|---|---|---|---|
| Ich kann Transparenz und Erklärbarkeit an einem neuen Beispiel unterscheiden. | □ | □ | □ |
| Ich kann erklären, warum eine gute Erklärung ein Ergebnis nicht automatisch richtig oder fair macht. | □ | □ | □ |
| Ich kann eine Fehlerrate zwischen zwei Gruppen vergleichen. | □ | □ | □ |
| Ich kann begründen, wann menschliche Kontrolle besonders wichtig ist. | □ | □ | □ |
| Ich kann eine KI-Entscheidung mit mindestens vier Prüfkriterien bewerten. | □ | □ | □ |
Reflexionsfrage: In welcher Situation würdest Du lieber ein etwas weniger genaues, aber deutlich besser prüfbares System einsetzen? In welcher Situation wäre eine geringe zusätzliche Genauigkeit wichtiger? Begründe mit Folgen, Risiko und Möglichkeit zur Korrektur.
Transfer in eine neue Situation
Eine Lernplattform empfiehlt Dir, einen Kurs zu wiederholen. Sie zeigt an, dass eine KI beteiligt ist, nennt aber keine Gründe. Eine zweite Plattform erklärt, dass Du bei Aufgaben zu Bruchgleichungen häufig Fehler gemacht hast, sagt aber nichts darüber, welche Daten sie speichert.
Prüfe beide Systeme. Das erste bietet mehr Transparenz über den KI-Einsatz, aber wenig Erklärbarkeit des konkreten Ergebnisses. Das zweite bietet eine fallbezogene Erklärung, lässt aber wichtige Transparenzfragen offen. Eine gute Lösung verbindet beide Perspektiven.
Übertrage diese Denkweise anschließend auf eine andere Situation, zum Beispiel Nachrichtenempfehlungen, Navigation, Übersetzungen, Bildgeneratoren oder automatische Moderation.
Offene Aufgaben
Leicht
- Transparenz-Detektiv: Suche in einer von Dir genutzten digitalen Anwendung nach Hinweisen auf KI-Einsatz, Daten, Zweck und Verantwortung. Dokumentiere nur öffentlich sichtbare Informationen und kennzeichne, was offenbleibt.
- Erklärungs-Check: Formuliere zu einer fiktiven KI-Empfehlung eine schlechte und eine gute Erklärung. Begründe, warum die zweite hilfreicher ist.
- Alltagskarten: Erstelle sechs Karten mit Alltagssituationen und ordne jede Karte den Kategorien Transparenz, Erklärbarkeit, beides oder keines zu.
- Fehlvorstellungs-Plakat: Gestalte ein Plakat zu drei typischen Irrtümern, zum Beispiel „erklärbar gleich richtig“, und korrigiere sie mit eigenen Beispielen.
Standard
- Praktikums-Audit: Entwickle für die Anwendungssituation Nordwerk eine Checkliste mit mindestens acht Prüffragen aus den Bereichen Daten, Erklärbarkeit, Fairness, Sicherheit und Verantwortung.
- Datenvergleich: Erfinde einen kleinen Datensatz mit zwei Gruppen und unterschiedlichen Fehlerraten. Berechne die Raten und erläutere, welche zusätzliche Information Du für eine faire Bewertung brauchst.
- Erklärungs-Interview: Befrage zwei Personen unterschiedlichen Alters dazu, welche Erklärung sie bei einer automatisierten Entscheidung erwarten würden. Vergleiche die Antworten und leite Anforderungen an adressatengerechte Erklärungen ab.
- Quellenkritik-KI: Vergleiche zwei öffentliche Erklärungen eines KI-Systems oder einer KI-Funktion. Prüfe, welche Aussagen belegt, unklar oder werblich formuliert sind.
Schwer
- Risikomatrix: Vergleiche KI bei Musikempfehlungen, Schülerpraktika und Leistungsbewertung. Ordne Folgen, Umkehrbarkeit, Datensensibilität und Widerspruchsmöglichkeiten ein und begründe unterschiedliche Anforderungen.
- Erklärungs-Test: Entwirf ein Verfahren, mit dem Du prüfen würdest, ob eine fallbezogene Erklärung tatsächlich zum beobachtbaren Verhalten eines Modells passt. Beschreibe Grenzen Deines Tests.
- Schulregel für KI: Formuliere einen Vorschlag für eine schulische Regel, wann KI-gestützte Empfehlungen genutzt werden dürfen. Berücksichtige Transparenz, Erklärbarkeit, Datenschutz, Fairness, menschliche Entscheidung und Beschwerdewege.
- Bürgerforum KI: Plant eine moderierte Diskussion mit den Rollen Lernende, Lehrkräfte, Eltern, Entwickler, Unternehmen und Datenschutzvertretung. Entwickelt eine gemeinsame Mindestanforderung an KI-Systeme mit hohen Auswirkungen.
|
|
Lernkontrolle
- Neues Beispiel analysieren: Eine Schule nutzt ein System, das Fehlzeiten, Testergebnisse und Abgaben zusammenfasst und Fördergespräche empfiehlt. Trenne systembezogene Transparenzfragen von fallbezogenen Erklärbarkeitsfragen und begründe Deine Zuordnung.
- Widerspruch prüfen: Ein Schüler erhält die Erklärung „Dein Risiko ist erhöht, weil mehrere Merkmale gemeinsam auffällig sind“. Beurteile die Qualität dieser Erklärung und formuliere zwei bessere Nachfragen.
- Daten und Folgen: Zwei Gruppen weisen falsche Ablehnungsraten von 8 Prozent und 24 Prozent auf. Erkläre den Unterschied in Prozentpunkten und bewerte, welche weiteren Daten nötig sind, bevor Du von Unfairness sprichst.
- Risikoabwägung: Vergleiche eine KI-Musikempfehlung mit einer KI-gestützten Bewerbungsauswahl. Leite daraus unterschiedliche Anforderungen an Transparenz, Erklärbarkeit und menschliche Kontrolle ab.
- Plausible Erklärung: Eine Erklärung klingt logisch, aber das System reagiert bei kleinen Eingabeänderungen völlig anders als vorhergesagt. Erläutere, was das über die Erklärungstreue aussagt und welche Prüfung folgen sollte.
- Verantwortungsentscheidung: Eine Lehrkraft übernimmt fast alle Empfehlungen eines KI-Systems unverändert. Diskutiere, ob dies bereits ausreichende menschliche Kontrolle ist, und entwickle zwei konkrete Verbesserungen.
Lernnachweis
Für einen Lernnachweis zu diesem Thema ist wichtig, dass Du nicht nur Begriffe wiederholen kannst, sondern eine neue KI-Situation systematisch bewertest.
- Begriffsunterscheidung: Du erklärst Transparenz und Erklärbarkeit in eigenen Worten und grenzt beide anhand eines neuen Beispiels voneinander ab.
- Systemanalyse: Du benennst Zweck, Daten, Ausgabe, mögliche Fehlerquellen und Verantwortlichkeiten eines KI-Systems.
- Erklärungsbewertung: Du prüfst eine Erklärung auf Fallbezug, Verständlichkeit, Relevanz und Überprüfbarkeit.
- Datenkompetenz: Du interpretierst mindestens einen Vergleich von Fehlerraten oder Prozentwerten korrekt.
- Risikoabwägung: Du beziehst Folgen, Umkehrbarkeit, Datensensibilität und Widerspruchsmöglichkeiten in Deine Entscheidung ein.
- Human Agency: Du zeigst, wie ein Mensch sinnvoll prüfen, eingreifen und Verantwortung übernehmen kann.
- Transfer: Du überträgst die Unterscheidung auf eine neue Schul-, Alltags- oder Gesellschaftssituation.
- Begründung: Du formulierst eine nachvollziehbare Entscheidung mit Gegenargument und Abwägung.
| Qualitätsstufe | Kennzeichen |
|---|---|
| Grundlegend | Begriffe werden überwiegend richtig verwendet und ein einfaches Beispiel wird korrekt eingeordnet. |
| Sicher | System, Ergebnis und Risiken werden getrennt analysiert und die Entscheidung wird mit mehreren Kriterien begründet. |
| Vertieft | Zusätzlich werden Datenqualität, Fairness, Erklärungstreue, gesellschaftliche Folgen und Grenzen der eigenen Bewertung reflektiert. |
OERs zum Thema
Weitere verlässliche Quellen für Vertiefung:
- OECD AI Principle: Transparency and explainability – internationale Orientierung zu Transparenz, Erklärbarkeit und verantwortlichem KI-Einsatz.
- NIST AI Risk Management Framework – unterscheidet Transparenz, Erklärbarkeit und Interpretierbarkeit als zusammenhängende, aber verschiedene Eigenschaften.
- Europäische Kommission: Transparenzpflichten nach Artikel 50 – aktueller Überblick zu den seit 2. August 2026 geltenden Transparenzpflichten.
- EUR-Lex: Verordnung EU 2024/1689 – Rechtsquelle zum EU AI Act.
- Wikipedia: Maschinelles Lernen – Hintergrund zu Modellen, Daten, Genauigkeit, Transparenz und Erklärbarkeit.
Die eingebundenen Bilder und das WebM-Video stammen aus Wikimedia Commons und sind dort mit ihren jeweiligen freien Lizenzen dokumentiert. Bei Weiterverwendung sind die konkreten Lizenz- und Namensnennungsbedingungen der jeweiligen Dateiseite zu beachten.
Verknüpfte Lernbereiche