Die Druckversion wird nicht mehr unterstützt und kann Darstellungsfehler aufweisen. Bitte aktualisiere deine Browser-Lesezeichen und verwende stattdessen die Standard-Druckfunktion des Browsers.

Diesen aiMOOC als Battle spielen: Deutsch, Klasse 9-10, G-Niveau

Transparenz für KI-Nutzende gestalten

Zielgruppe	Klasse 10
Zeitrahmen	ca. 45–90 Minuten, erweiterbar auf eine Doppelstunde
Leitfrage	Wie gestaltest Du ein KI-System so, dass Nutzende erkennen, verstehen und begründet entscheiden können, wie sie mit einer KI-Ausgabe umgehen?
Zentrale KI-Kompetenz	Transparenz nicht nur als Kennzeichnung, sondern als verständliche, überprüfbare und handlungsrelevante Information für Nutzende gestalten, testen und verbessern
Fachbezüge	Informatik, Mathematik, Technik, Deutsch, Wirtschaft, Geschichte, Ethik, Gemeinschaftskunde
Endprodukt	Ein eigener Transparenz-Entwurf für eine realistische KI-Anwendung mit Nutzertest, Verbesserungsrunde, Folgenabschätzung und begründeten Gestaltungsentscheidungen

Einleitung

Künstliche Intelligenz begegnet Dir nicht nur in offensichtlichen Chatbots. Sie kann Texte zusammenfassen, Bilder erzeugen, Empfehlungen sortieren, Lernstände einschätzen, Übersetzungen vorschlagen, Bewerbungen vorsortieren oder Inhalte personalisieren. Gerade deshalb ist eine zentrale Frage wichtig: Woran erkennst Du, dass KI beteiligt ist, worauf eine Ausgabe beruht, welche Grenzen sie hat und wer am Ende Verantwortung trägt?

Transparenz für KI-Nutzende gestalten bedeutet nicht, möglichst viele technische Details auf den Bildschirm zu kippen. Gute Transparenz hilft einer Person, eine Situation richtig einzuschätzen und selbstbestimmt zu handeln. Du sollst erkennen können, ob KI beteiligt ist, wozu sie eingesetzt wird, welche Daten oder Quellen eine Rolle spielen, wie sicher oder unsicher eine Aussage ist, welche Risiken bestehen, wer verantwortlich ist und was Du tun kannst, wenn etwas falsch, unfair oder unverständlich erscheint.

Der Kurs verbindet KI-Kompetenz, Medienkompetenz, Quellenkritik, Datenschutz, Algorithmische Fairness, erklärbare KI, Menschliche Aufsicht und Technikfolgenabschätzung. Du arbeitest dabei nicht nur mit fertigen Antworten, sondern vergleichst Entwürfe, prüfst Informationen, triffst Entscheidungen, begründest sie und verbesserst ein eigenes Systemdesign.

Aktivierung und Diagnose

Stell Dir vor, Dein schulisches Lernportal zeigt nach fünf Mathematikaufgaben eine Empfehlung an. Drei mögliche Anzeigen stehen zur Auswahl:

Version A	Version B	Version C
Empfehlung: Wiederhole lineare Funktionen.	KI-Empfehlung: Wiederhole lineare Funktionen. Die Empfehlung kann falsch sein.	KI-Unterstützung aktiv. Die Empfehlung basiert auf Deinen letzten fünf Übungsaufgaben. Sie verändert keine Note. Unter „Warum?“ siehst Du die wichtigsten Gründe und Grenzen. Du kannst die Empfehlung ignorieren, einen Fehler melden oder Deine Lehrkraft fragen.

Entscheide zunächst für Dich: Welche Version unterstützt eine selbstbestimmte Entscheidung am besten? Welche Information fehlt Dir trotzdem? Welche Angabe könnte zwar technisch korrekt sein, aber eher verwirren als helfen?

Diese kurze Diagnose hat keine Musterlösung mit nur einem perfekten Text. Entscheidend ist, ob Du begründen kannst, welche Information für welche Entscheidung wichtig ist.

Lernziele

Am Ende des Kurses kannst Du:

Kompetenzbereich	Was Du können sollst
Erkennen	KI-Beteiligung, Zweck, Datenbasis, Grenzen und Verantwortlichkeiten in einer Anwendung identifizieren
Vergleichen	verschiedene Transparenzlösungen nach Verständlichkeit, Fairness, Sicherheit und Handlungsnutzen beurteilen
Prüfen	Aussagen über Genauigkeit, Quellen, Unsicherheit und Risiken kritisch hinterfragen
Gestalten	eine mehrstufige Transparenzoberfläche für einen konkreten Anwendungsfall entwickeln
Evaluieren	mit einfachen Tests und Kennzahlen untersuchen, ob Nutzende die Informationen wirklich verstehen
Governance	Rollen, Verantwortlichkeiten, Beschwerdewege, Monitoring und Änderungen eines KI-Systems nachvollziehbar planen
Transfer	die gleichen Prinzipien auf neue KI-Anwendungen mit anderen Risiken übertragen

Fächerübergreifende Perspektiven

Fach	Beitrag zum Thema
Informatik	Datenfluss, Training und Nutzung eines Modells, Systemgrenzen, Protokollierung, Versionierung und Mensch-Maschine-Schnittstellen
Mathematik	Prozentwerte, Fehlerraten, Vergleich von Testversionen, einfache Risikomatrizen und kritische Interpretation von Kennzahlen
Technik	Systemdesign, Testen, Fehlermanagement, Barrierefreiheit, Wartung und Lebenszyklus
Deutsch	klare Sprache, adressatengerechte Erklärung, Framing, Mehrdeutigkeit, Begründung und Quellenkritik
Wirtschaft	Anreize, Kosten von Fehlentscheidungen, Vertrauen, Produktverantwortung und Interessenkonflikte
Geschichte	Wandel von Quellenkritik durch Fotografie, Film, digitale Bearbeitung und generative Medien
Ethik	Autonomie, Fairness, Verantwortung, Schadensvermeidung, Würde und Gerechtigkeit
Gemeinschaftskunde	Regulierung, demokratische Kontrolle, Rechenschaft, Grundrechte und institutionelle Verantwortung

Was bedeutet Transparenz für KI-Nutzende?

Transparenz ist mehr als Erklärbarkeit. Ein System kann transparent kennzeichnen, dass KI eingesetzt wird, ohne jede einzelne Modellentscheidung erklären zu können. Umgekehrt kann ein System eine mathematische Erklärung liefern, die für Nutzende völlig unverständlich ist.

Für den Kurs unterscheiden wir vier Begriffe:

Begriff	Bedeutung	Beispiel
Transparenz	Relevante Informationen über Einsatz, Zweck, Grundlage, Grenzen und Verantwortung werden sichtbar gemacht.	„Diese Empfehlung wurde mit KI erstellt und basiert auf Deinen letzten fünf Übungsaufgaben.“
Erklärbarkeit	Eine Ausgabe oder ein Verhalten wird so erläutert, dass eine Person Gründe nachvollziehen kann.	„Vier der fünf Fehler betrafen das Ablesen der Steigung.“
Nachvollziehbarkeit	Entwicklung, Versionen, Datenflüsse, Tests und Änderungen sind dokumentiert.	„Modellversion 3.2 wurde am 4. September getestet.“
Anfechtbarkeit	Nutzende können eine Ausgabe hinterfragen, korrigieren, melden oder eine menschliche Prüfung verlangen.	„Empfehlung melden oder mit Lehrkraft prüfen.“

Wichtig: Transparenz macht ein System nicht automatisch richtig, fair oder sicher. Ein System kann sehr offen erklären, wie es arbeitet, und trotzdem schlechte Entscheidungen treffen. Transparenz ist deshalb eine Voraussetzung für kritische Nutzung, aber kein Ersatz für Evaluation, Datenschutz, Fairnessprüfung oder menschliche Verantwortung.

Acht Transparenzfragen

Wenn Du eine KI-Anwendung prüfst oder gestaltest, helfen acht Fragen:

Frage	Warum sie wichtig ist
Ist KI beteiligt?	Nutzende müssen erkennen können, ob sie mit einer KI interagieren oder KI-generierte Inhalte sehen.
Wozu wird die KI eingesetzt?	Der Zweck bestimmt, welche Risiken und Informationen relevant sind.
Worauf beruht die Ausgabe?	Datenarten, Quellen oder wichtige Eingaben helfen, die Aussage einzuordnen.
Was kann die KI nicht zuverlässig?	Grenzen verhindern übermäßiges Vertrauen.
Wie wird Unsicherheit dargestellt?	Zahlen oder Warnungen müssen verständlich erklärt werden und dürfen keine falsche Präzision vortäuschen.
Wie werden Fairness und Sicherheit geprüft?	Unterschiedliche Personen können unterschiedlich stark von Fehlern betroffen sein.
Wer trägt Verantwortung?	Es muss klar sein, ob eine Lehrkraft, Behörde, Organisation oder andere Stelle entscheidet und kontrolliert.
Was kann die betroffene Person tun?	Korrigieren, widersprechen, melden, nachfragen oder eine menschliche Prüfung verlangen stärkt Human Agency.

Mehrstufige Transparenz statt Informationsflut

Eine gute Oberfläche kann Informationen in Ebenen anbieten:

Ebene	Inhalt	Beispiel
Sofort sichtbar	KI-Kennzeichnung, Zweck, wichtigste Grenze, nächste Handlung	„KI-Unterstützung aktiv. Lernempfehlung, keine Notenentscheidung.“
Auf Nachfrage	Gründe, genutzte Datenarten, Quellen, Unsicherheit, Korrekturmöglichkeit	„Warum diese Empfehlung?“
Vertiefung	Version, Testverfahren, Zuständigkeit, Aufbewahrung, Änderungsverlauf	„Details und Verantwortlichkeiten“

Diese gestufte Transparenz verhindert zwei Extreme: zu wenig Information und unlesbare Informationswände. Gute Transparenz ist sichtbar, verständlich, wahr, relevant, zugänglich und handlungsorientiert.

Wie KI-Systeme entstehen – und wo Transparenz ansetzt

Ein KI-System besteht nicht nur aus einem Modell. Es umfasst Daten, technische Komponenten, Regeln, Benutzeroberflächen, Menschen, organisatorische Abläufe und Entscheidungen.

Vereinfacht kann ein maschinelles Lernsystem so betrachtet werden: Daten und Ziele fließen in Entwicklung und Training ein. Daraus entsteht ein Modell. Im Betrieb verarbeitet das Modell neue Eingaben und erzeugt Ausgaben. Erst die Einbettung in eine Anwendung bestimmt jedoch, was mit diesen Ausgaben geschieht.

Für Transparenz ist deshalb der ganze Systemweg wichtig:

Systemphase	Transparenzfrage	Möglicher Nachweis
Problem und Zweck	Welches Problem soll gelöst werden und welches ausdrücklich nicht?	Zweckbeschreibung und Ausschlusskriterien
Daten und Eingaben	Welche Datenarten werden genutzt und welche nicht?	Datenbeschreibung und Datenschutzprüfung
Entwicklung	Welche Annahmen und Zielgrößen stecken im System?	Entwicklungsdokumentation
Test	Wie wurde Genauigkeit, Robustheit und Fairness geprüft?	Testbericht mit Kennzahlen und Fehlerszenarien
Veröffentlichung	Welche Information sehen Nutzende unmittelbar?	UI-Entwurf und Transparenztext
Betrieb	Wie werden Fehler, Beschwerden und unerwartete Folgen erkannt?	Monitoring und Meldesystem
Änderung	Was passiert nach Updates?	Versions- und Änderungsprotokoll

Die zentrale Idee lautet: Jede wichtige Aussage gegenüber Nutzenden braucht eine Grundlage. Wenn eine Oberfläche behauptet, ein System sei „fair getestet“, muss es dazu ein nachvollziehbares Testverfahren geben. Wenn „menschliche Kontrolle“ versprochen wird, muss tatsächlich ein Mensch erreichbar und befugt sein, eine Entscheidung zu ändern.

Systemdesign: Transparenz von Anfang an mitplanen

Transparenz sollte nicht erst am Ende als Hinweistext ergänzt werden. Bereits beim Systemdesign müssen Nutzungszweck, betroffene Personen, mögliche Schäden und notwendige Handlungsmöglichkeiten geklärt werden.

Ein einfaches Designraster für Klasse 10:

Designfrage	Beispiel für einen schulischen Lernassistenten
Wer nutzt das System?	Lernende und Lehrkräfte
Welche Entscheidung wird unterstützt?	Auswahl einer freiwilligen Übung
Welche Entscheidung darf die KI nicht treffen?	Keine automatische Note und keine Disziplinarmaßnahme
Welche Daten braucht sie wirklich?	Bearbeitete Übungsaufgaben und freiwillige Selbsteinschätzung
Welche Daten wären unnötig?	private Nachrichten oder nicht erforderliche personenbezogene Angaben
Welche Fehlentscheidung ist denkbar?	Ein falsches Thema wird empfohlen
Was ist die sichere Reaktion?	Empfehlung ignorieren, Alternativen anzeigen, Lehrkraft fragen
Wie wird ein Fehler gemeldet?	sichtbare Meldefunktion mit menschlicher Prüfung

Datensparsamkeit ist dabei selbst ein Transparenzthema. Ein System ist nicht schon deshalb verantwortungsvoll, weil es offen sagt, dass es sehr viele Daten sammelt. Gute Gestaltung fragt vorher, welche Daten überhaupt erforderlich sind.

Evaluation: Verstehen Nutzende die Information wirklich?

Eine Transparenzlösung ist erst dann nützlich, wenn reale Nutzende sie verstehen. Deshalb wird sie getestet.

Ein einfacher Verständnistest kann fünf Fragen enthalten:

Kann die Testperson erkennen, dass KI beteiligt ist?
Kann sie den Zweck des Systems richtig benennen?
Kann sie mindestens eine wichtige Grenze nennen?
Weiß sie, wer verantwortlich ist?
Weiß sie, was sie bei einem vermuteten Fehler tun kann?

Für eine Testgruppe kannst Du die Verständnisquote berechnen:

Verständnisquote = richtige Antworten ÷ alle beantworteten Verständnisfragen × 100 %

Beispiel mit künstlichen Testdaten:

Entwurf	Richtige Antworten	Alle Antworten	Verständnisquote
Version A	155	250	62 %
Version B	215	250	86 %

Version B liegt um 24 Prozentpunkte höher. Das zeigt aber noch nicht automatisch, dass sie in jeder Hinsicht besser ist. Vielleicht dauert das Lesen doppelt so lange oder wichtige Warnungen werden übersehen. Evaluation braucht deshalb mehrere Kriterien.

Kriterium	Beispielmessung
Erkennbarkeit	Anteil der Personen, die KI-Beteiligung richtig erkennen
Verständnis	Anteil korrekt beantworteter Verständnisfragen
Handlungsfähigkeit	Anteil der Personen, die einen passenden nächsten Schritt nennen
Zeit	mittlere Zeit bis zur richtigen Einordnung
Fehlinterpretation	Anteil typischer Missverständnisse
Barrierefreiheit	Bedienbarkeit mit Tastatur, Screenreader und klarer Sprache

Wichtig für faire Tests: Sammle in einer Schulübung keine unnötigen personenbezogenen oder sensiblen Daten. Für Vergleiche zwischen Gruppen kannst Du mit synthetischen Beispieldaten arbeiten. Echte Erhebungen müssen schulische Datenschutz- und Einwilligungsregeln beachten.

Fairness und Folgenabschätzung

Transparenz kann helfen, Ungleichbehandlung sichtbar zu machen. Sie ersetzt aber keine Fairnessprüfung.

Angenommen, ein System erreicht insgesamt 84 % richtige Empfehlungen. Das klingt zunächst gut. In synthetischen Testdaten zeigt sich jedoch:

Testgruppe	Richtige Empfehlungen	Fälle	Quote
Gruppe X	92	100	92 %
Gruppe Y	76	100	76 %

Die Gesamtquote verschleiert einen Unterschied von 16 Prozentpunkten. Die nächste Frage lautet daher nicht nur „Wie genau ist das System?“, sondern auch „Für wen funktioniert es wie gut, und welche Folgen haben Fehler?“

Eine einfache schulische Folgenabschätzung kann mit zwei Dimensionen arbeiten:

Risikoscore = Eintrittswahrscheinlichkeit × Schadensausmaß

Beide Werte werden für die Übung von 1 bis 3 eingeschätzt. Dieses Raster ist eine didaktische Vereinfachung und keine offizielle rechtliche Risikoklassifikation.

Mögliche Folge	Wahrscheinlichkeit	Ausmaß	Score	Gegenmaßnahme
Falsche Übungsempfehlung	2	1	2	Alternativen anzeigen
Lernende halten Empfehlung für eine Note	2	2	4	deutlich „keine Notenentscheidung“ anzeigen
Fehler bleibt unbemerkt	2	2	4	Meldemöglichkeit und Monitoring
unnötige Datensammlung	1	3	3	Datensparsamkeit und Löschregeln

Die Zahlen sind keine objektive Wahrheit. Sie zwingen Dich vielmehr dazu, Annahmen offenzulegen, miteinander zu vergleichen und Gegenmaßnahmen zu begründen.

Governance: Wer entscheidet, prüft und verbessert?

KI-Governance beschreibt Regeln, Rollen und Verfahren, mit denen ein KI-System verantwortungsvoll gesteuert wird. In einer Schule reicht es nicht, dass „die KI-Abteilung“ verantwortlich sein soll. Zuständigkeiten müssen konkret sein.

Ein mögliches Rollenmodell für einen fiktiven schulischen Lernassistenten:

Rolle	Verantwortung
Fachlehrkraft	prüft fachliche Qualität und entscheidet, wie Empfehlungen pädagogisch genutzt werden
IT-Verantwortliche	betreiben das System, dokumentieren Versionen und bearbeiten technische Fehler
Datenschutzverantwortliche Stelle	prüft Erforderlichkeit, Schutz und Aufbewahrung personenbezogener Daten
Schulleitung	legt Einsatzrahmen und Verantwortlichkeiten fest
Lernende	erhalten verständliche Information, können Rückmeldung geben und Fehler melden
Schülervertretung oder Testgruppe	bringt Nutzerperspektiven in Evaluation und Verbesserung ein

Ein sinnvoller Governance-Kreislauf lautet:

Beobachten → Melden → Prüfen → Entscheiden → Verbessern → Dokumentieren → erneut testen

Besonders wichtig ist ein Änderungsprotokoll. Wenn ein Modell, ein Datensatz oder eine Benutzeroberfläche verändert wird, kann auch eine bisher passende Erklärung falsch oder unvollständig werden.

Rechtlicher Orientierungspunkt: EU AI Act

Rechtsstand: September 2026. Die europäische KI-Verordnung enthält unter anderem Regeln zu KI-Kompetenz und Transparenz. Für einen Schulunterricht ist wichtig, die Grundidee zu verstehen, ohne aus einem Unterrichtsbeispiel automatisch eine konkrete Rechtsbewertung abzuleiten.

Artikel 4 verpflichtet Anbieter und Betreiber von KI-Systemen zu Maßnahmen, die die Entwicklung von KI-Kompetenz der Personen unterstützen, die in ihrem Auftrag KI-Systeme betreiben oder nutzen. Dabei sollen Vorwissen, Erfahrung, Ausbildung, Einsatzkontext und betroffene Personengruppen berücksichtigt werden.

Artikel 50 enthält Transparenzpflichten für bestimmte KI-Systeme. Dazu gehört unter anderem, dass Menschen grundsätzlich erkennen sollen, wenn sie direkt mit einem KI-System interagieren. Für bestimmte generative Inhalte sind maschinenlesbare Kennzeichnungen vorgesehen; für Deepfakes und bestimmte Texte zu Angelegenheiten von öffentlichem Interesse bestehen besondere Kennzeichnungspflichten. Diese Transparenzpflichten gelten seit dem 2. August 2026.

Ob eine konkrete schulische Anwendung unter bestimmte weitere Pflichten fällt, hängt von Zweck, Rolle, Systemart und tatsächlicher Nutzung ab. Dieser Kurs ersetzt keine Rechtsberatung.

Die EU stellt freiwillig nutzbare Symbole zur Kennzeichnung bestimmter KI-generierter Inhalte bereit. Ein Symbol allein genügt jedoch nicht für jede Situation: Nutzende müssen auch verstehen, was die Kennzeichnung für ihre Entscheidung bedeutet.

Das Video des Europäischen Parlaments eignet sich als Hintergrund zur Entstehung der europäischen KI-Regulierung. Für den aktuellen Rechtsstand solltest Du zusätzlich die offiziellen EU-Quellen prüfen, weil sich Anwendungsfristen und Auslegung konkretisieren können.

KI-Kompetenz als organisatorische Aufgabe

Das Webinar der EU zum Thema KI-Kompetenz richtet sich vor allem an Erwachsene und Organisationen. Für Klasse 10 ist nicht das vollständige Video nötig. Interessant ist die Grundidee: Verantwortlicher KI-Einsatz entsteht nicht allein durch Technik, sondern auch durch Schulung, Rollen, Regeln und passende Nutzungskontexte.

Medien- und Quellenkritik bei KI-generierten Inhalten

Generative KI verändert Quellenkritik, hebt sie aber nicht auf. Ein Bild kann echt, bearbeitet, vollständig synthetisch oder in einen falschen Kontext gesetzt sein. Deshalb reicht die Frage „Sieht das echt aus?“ nicht aus.

Vier Prüfschritte helfen:

Quelle prüfen: Wer veröffentlicht den Inhalt und welche Interessen könnten dahinterstehen?
Kontext prüfen: Wann, wo und in welchem Zusammenhang soll der Inhalt entstanden sein?
Bestätigung suchen: Gibt es unabhängige, verlässliche Quellen?
Herkunftshinweise prüfen: Kennzeichnungen, Metadaten oder technische Herkunftssignale können helfen, sind aber nicht unfehlbar.

Auch automatische Deepfake-Erkennung kann Fehler machen. Deshalb sollte ein Detektor nicht als endgültiger Wahrheitsautomat behandelt werden. Technische Prüfung, Kontextwissen und menschliche Quellenkritik ergänzen sich.

Für eine Unterrichtsstunde reicht beim Terra-X-Video ein ausgewählter Ausschnitt, zum Beispiel die Einführung und die Passage zur Erkennung von Deepfakes. Entscheidend ist anschließend die Frage: Welche Informationen brauchst Du, um einem digitalen Inhalt begründet zu vertrauen?

Realistische Anwendungssituation: Der schulische Lernnavigator

Eine Schule testet einen fiktiven Lernnavigator für Mathematik. Nach freiwilligen Übungsaufgaben schlägt das System ein nächstes Thema vor. Es entscheidet keine Note und ersetzt keine Lehrkraft.

Der bisherige Bildschirm lautet:

Aktueller Entwurf	Empfehlung: Wiederhole lineare Funktionen. Sicherheit: 82 %. Weiter

Es gibt mehrere Probleme: „82 %“ ist nicht erklärt. Es ist unklar, welche Daten genutzt wurden. Lernende wissen nicht, ob die Empfehlung Auswirkungen auf Noten hat. Eine Korrektur oder Rückfrage ist nicht vorgesehen. Auch die verantwortliche Stelle bleibt unsichtbar.

Deine Designaufgabe

Entwickle in einer Gruppe eine bessere Lösung. Das Endprodukt besteht aus vier Teilen:

Teil	Ergebnis
Transparenzoberfläche	Ein Mock-up mit sofort sichtbaren Informationen und mindestens einer vertiefenden Ebene
Testprotokoll	Fünf Verständnisfragen und ein kurzer Nutzertest mit Mitschülerinnen und Mitschülern oder fiktiven Testpersonen
Folgenabschätzung	Drei mögliche Fehlfolgen mit Wahrscheinlichkeit, Ausmaß und Gegenmaßnahme
Entscheidungsbegründung	Ein kurzer Text, warum Ihr bestimmte Informationen zeigt, andere ausblendet und welche Änderung nach dem Test vorgenommen wurde

Ein möglicher verbesserter Entwurf könnte so aufgebaut sein:

Bereich	Beispiel
Kennzeichnung	KI-Unterstützung aktiv
Zweck	„Diese Empfehlung hilft Dir bei der Auswahl einer freiwilligen Übung.“
Grenze	„Sie verändert keine Note und kann falsch liegen.“
Datengrundlage	„Genutzt wurden Deine letzten fünf Übungsaufgaben in diesem Kurs.“
Erklärung	„Warum diese Empfehlung?“
Handlung	„Andere Übung wählen – Fehler melden – Lehrkraft fragen“
Verantwortung	„Fachlich verantwortlich: Mathematik-Fachbereich; technisch betreut durch Schul-IT.“

Übernimm diesen Entwurf nicht einfach. Prüfe, welche Information für Eure konkrete Gestaltung wirklich nötig ist und wie sie verständlicher werden kann.

Nutzertest und Verbesserung

Lass eine andere Gruppe Euren Entwurf ohne zusätzliche Erklärung ansehen. Stellt anschließend fünf Fragen:

Ist erkennbar, dass KI beteiligt ist?
Wozu dient die Empfehlung?
Welche Daten wurden genutzt?
Hat die Empfehlung Einfluss auf eine Note?
Was kannst Du tun, wenn Du die Empfehlung für falsch hältst?

Berechnet Eure Verständnisquote. Sammelt zusätzlich mindestens ein Missverständnis und eine Verbesserungsidee. Danach verändert Ihr den Entwurf.

Der wichtigste Lernschritt ist nicht der erste Entwurf, sondern die begründete Verbesserung nach dem Test.

Selbstkontrolle mit Bewertungsraster

Bewerte Euren Entwurf mit 0, 1 oder 2 Punkten je Kriterium.

Kriterium	0 Punkte	1 Punkt	2 Punkte
KI erkennbar	unklar	nur indirekt erkennbar	sofort eindeutig
Zweck verständlich	fehlt	teilweise klar	klar und knapp
Grenzen	fehlen	allgemein	konkret und handlungsrelevant
Datenbasis	unklar	grob benannt	verständlich und angemessen detailliert
Verantwortung	unklar	Stelle genannt	Stelle und Handlungsmöglichkeit klar
Anfechtbarkeit	keine	versteckt	sichtbar und einfach nutzbar
Fairness und Sicherheit	nicht berücksichtigt	erwähnt	mit Test oder Gegenmaßnahme verbunden
Barrierefreiheit	nicht beachtet	teilweise	klare Sprache und alternative Bedienbarkeit mitgedacht

Bei maximal 16 Punkten ist nicht automatisch der höchste Wert die perfekte Lösung. Diskutiert zusätzlich, ob zu viele Hinweise die wichtigste Information verdecken.

Transfer auf neue Fälle

Transparenz hängt vom Risiko und vom Kontext ab. Übertrage die acht Transparenzfragen auf neue Situationen:

Fall	Besondere Frage
KI-generiertes Bild in der Schülerzeitung	Wie wird die künstliche Erzeugung sichtbar, ohne die Bildaussage zu überdecken?
Chatbot einer Stadtverwaltung	Wie erkennen Bürgerinnen und Bürger Grenzen und finden eine menschliche Ansprechperson?
Software zur Vorauswahl von Praktikumsbewerbungen	Welche Fairness-, Begründungs- und Widerspruchsrechte sind besonders wichtig?
KI-gestützte Kamera in einer Schulwerkstatt	Welche Sicherheitsentscheidung darf automatisiert unterstützt werden und wo braucht es menschliche Kontrolle?
Produktempfehlung in einem Online-Shop	Welche wirtschaftlichen Interessen beeinflussen die Reihenfolge der Empfehlungen?

Der Transfer zeigt: Ein einheitliches Warnsymbol reicht nicht für jede Anwendung. Je stärker eine KI-Ausgabe Chancen, Rechte, Sicherheit oder persönliche Entwicklung beeinflussen kann, desto wichtiger werden nachvollziehbare Gründe, menschliche Verantwortung, Prüfwege und Beschwerdemöglichkeiten.

Unterrichtsablauf für 1–2 Unterrichtsstunden

Phase	45-Minuten-Variante	90-Minuten-Variante
Aktivierung	5 Min	8 Min
Einführung und Beispiele	10 Min	15 Min
Analyse Lernnavigator	8 Min	12 Min
Eigener Entwurf	10 Min	20 Min
Nutzertest	7 Min	15 Min
Verbesserung und Folgenabschätzung	entfällt oder als Hausaufgabe	12 Min
Reflexion und Transfer	5 Min	8 Min

Für die kurze Variante kann die Lehrkraft einen vorbereiteten Entwurf verteilen. In der Doppelstunde entwickeln die Lernenden die Oberfläche selbst, testen sie und dokumentieren eine Überarbeitung.

Interaktive Aufgaben

Quiz: Teste Dein Wissen

Wann ist eine Transparenzinformation besonders gelungen? (!Wenn sie möglichst viele Fachbegriffe enthält) (Wenn sie Nutzenden hilft, KI-Beteiligung, Grenzen und Handlungsmöglichkeiten zu verstehen) (!Wenn sie nur in den Nutzungsbedingungen steht) (!Wenn sie jede technische Einzelheit des Modells zeigt)

Was ist ein sinnvolles Beispiel für Human Agency? (Eine Person kann eine KI-Empfehlung hinterfragen und eine menschliche Prüfung verlangen) (!Die KI darf jede Entscheidung automatisch treffen) (!Nutzende dürfen nur zustimmen) (!Fehler werden ausschließlich intern protokolliert)

Warum kann eine hohe Gesamtgenauigkeit irreführend sein? (!Weil Prozentwerte grundsätzlich wertlos sind) (!Weil ein System mit hoher Genauigkeit keine Daten braucht) (Weil unterschiedliche Gruppen oder Situationen deutlich verschiedene Fehlerraten haben können) (!Weil nur die Geschwindigkeit eines Systems zählt)

Welche Information gehört am ehesten in die sofort sichtbare Transparenzebene? (!Die vollständige Entwicklungsdokumentation) (!Der gesamte Trainingsdatensatz) (!Jede interne Modellvariable) (Der Hinweis, dass KI beteiligt ist und wozu sie eingesetzt wird)

Was leistet eine Folgenabschätzung? (Sie untersucht mögliche positive und negative Folgen und plant Gegenmaßnahmen) (!Sie beweist, dass ein System fehlerfrei ist) (!Sie ersetzt jeden Nutzertest) (!Sie macht Datenschutz überflüssig)

Welche Aussage über Transparenz ist richtig? (!Transparenz garantiert automatisch Fairness) (Transparenz hilft bei der kritischen Einordnung, ersetzt aber keine Fairness- und Sicherheitsprüfung) (!Transparenz bedeutet immer Veröffentlichung des Quellcodes) (!Transparenz ist nur bei Chatbots relevant)

Warum ist ein Änderungsprotokoll wichtig? (!Damit möglichst viele Versionen gleichzeitig aktiv bleiben) (!Damit Nutzende keine Fragen stellen) (Weil Änderungen am System auch Erklärungen, Risiken und Testergebnisse verändern können) (!Weil dadurch jede neue Version automatisch besser wird)

Was ist bei einer Prozentangabe wie 82 Prozent besonders wichtig? (!Die Zahl sollte ohne Erklärung möglichst groß dargestellt werden) (!Die Zahl beweist, dass das System objektiv ist) (!Die Zahl sollte immer auf eine ganze Zahl gerundet werden) (Es muss verständlich sein, was genau gemessen wurde und was die Zahl bedeutet)

Welche Maßnahme unterstützt Quellenkritik bei möglichen Deepfakes am besten? (Quelle, Kontext und unabhängige Bestätigung gemeinsam prüfen) (!Nur auf die Bildqualität achten) (!Nur die Anzahl der Likes vergleichen) (!Einem einzelnen Erkennungstool blind vertrauen)

Was gehört zu guter KI-Governance? (!Nur die Auswahl eines leistungsfähigen Modells) (!Nur eine einmalige Freigabe vor dem Start) (Klare Rollen, Monitoring, Beschwerdewege, Dokumentation und erneute Prüfung nach Änderungen) (!Möglichst wenige menschliche Zuständigkeiten)

Memory

Kennzeichnung	KI-Beteiligung sichtbar machen
Erklärbarkeit	Gründe verständlich machen
Monitoring	Verhalten im Betrieb beobachten
Governance	Rollen und Verfahren festlegen
Folgenabschätzung	mögliche Auswirkungen vorab prüfen
Widerspruch	Entscheidung hinterfragen lassen
Versionierung	Änderungen nachvollziehbar dokumentieren

Drag and Drop

Ordne die richtigen Begriffe zu.	Thema
Sofortlabel	Sichtbare KI-Kennzeichnung
Warum-Schaltfläche	Vertiefende Erklärung
Fehlermeldung	Handlungsmöglichkeit
Versionshinweis	Nachvollziehbare Änderung
Nutzertest	Prüfung des Verständnisses
Beschwerdeweg	Menschliche Überprüfung

...

Kreuzworträtsel

Transparenz	Wie heißt das Prinzip, relevante Informationen über KI-Einsatz sichtbar und verständlich zu machen?
Fairness	Welcher Begriff bezeichnet das Ziel, ungerechtfertigte Benachteiligungen zu vermeiden?
Monitoring	Wie heißt die fortlaufende Beobachtung eines Systems im Betrieb?
Governance	Welcher Begriff umfasst Rollen, Regeln und Verantwortlichkeiten?
Kennzeichnung	Wie heißt ein sichtbarer Hinweis darauf, dass Inhalte künstlich erzeugt wurden?
Erklaerbarkeit	Wie heißt die Eigenschaft, Gründe für eine KI-Ausgabe verständlich zu machen?

LearningApps

Lückentext

Gute KI-Transparenz soll die

von Nutzenden stärken. Eine sofort sichtbare

hilft zu erkennen, dass KI beteiligt ist. Der erklärte

zeigt, wofür das System eingesetzt wird. Angaben zur

helfen, eine Ausgabe einzuordnen. Verständlich beschriebene

schützen vor übermäßigem Vertrauen. Ein sichtbarer

ermöglicht eine menschliche Prüfung. Durch

werden Probleme im laufenden Betrieb beobachtet. Eine

untersucht mögliche Schäden und Gegenmaßnahmen. Bei Änderungen sorgt

für Nachvollziehbarkeit. Transparenz ersetzt keine Prüfung auf

.

Offene Aufgaben

Leicht

KI-Kennzeichnung: Untersuche drei digitale Anwendungen aus Deinem Alltag und beschreibe, woran Du erkennst oder nicht erkennst, dass KI beteiligt ist.
Klare Sprache: Formuliere den Satz „Dieses System verwendet probabilistische Modelle zur Inferenz“ so um, dass er für eine zehnte Klasse verständlich und trotzdem korrekt bleibt.
Quellenkritik: Wähle ein KI-generiertes oder bearbeitetes Beispielbild aus einer sicheren Unterrichtssammlung und notiere vier Prüfschritte, bevor Du es weiterverbreiten würdest.
Transparenzvergleich: Vergleiche zwei Warnhinweise und begründe, welcher davon eine konkrete Handlung besser unterstützt.

Standard

Interface-Design: Gestalte für den Lernnavigator eine erste und eine vertiefende Transparenzebene. Begründe die Reihenfolge der Informationen.
Nutzertest: Entwickle fünf Verständnisfragen, teste einen Entwurf mit mindestens drei Personen oder fiktiven Testprofilen und berechne eine Verständnisquote.
Mathematische Evaluation: Erstelle mit synthetischen Daten zwei Gruppen mit unterschiedlichen Fehlerraten. Berechne Gesamtquote und Gruppenquoten und erkläre, warum beide Ebenen wichtig sind.
Governance: Entwirf für eine schulische KI-Anwendung eine Rollenkarte mit mindestens vier Verantwortlichkeiten und einem Ablauf für Fehlermeldungen.

Schwer

Folgenabschätzung: Entwickle für eine KI-Anwendung in Schule oder Alltag fünf mögliche Folgen, ordne Wahrscheinlichkeit und Ausmaß ein und plane konkrete Gegenmaßnahmen.
Fairness-Audit: Erstelle mit künstlichen Testdaten ein Prüfverfahren, das erkennen kann, ob eine gute Durchschnittsleistung problematische Unterschiede verdeckt.
Transparenzprototyp: Entwickle einen vollständigen Prototyp, führe einen Nutzertest durch, ändere mindestens zwei Elemente und dokumentiere, warum die neue Version besser ist.
Transferanalyse: Vergleiche Lernnavigator, Bewerbungssoftware und Stadtverwaltungs-Chatbot. Entscheide, welche Transparenzinformationen in allen drei Fällen nötig sind und welche vom Risiko abhängen.

Lernkontrolle

Systemanalyse: Eine Schule möchte KI-Feedback zu Aufsätzen einsetzen. Entwickle eine Transparenzlösung, die Kennzeichnung, Zweck, Grenzen, Quellenbezug, menschliche Verantwortung und Widerspruch abdeckt. Begründe jede Information mit einer möglichen Nutzerentscheidung.
Evaluationsplanung: Zwei Transparenzoberflächen erreichen 78 % und 86 % Verständnisquote. Erkläre, welche zusätzlichen Informationen Du brauchst, bevor Du Version B auswählst, und entwirf einen fairen Vergleichstest.
Governance-Fall: Nach einem Softwareupdate häufen sich falsche Empfehlungen. Entwickle einen Ablauf von der ersten Meldung bis zur erneuten Freigabe und ordne Verantwortlichkeiten zu.
Folgenabwägung: Ein KI-System kann Zeit sparen, sammelt dafür aber zusätzliche personenbezogene Daten. Entwickle mindestens zwei Designalternativen und begründe, welche Du bevorzugst.
Quellenkritischer Transfer: Ein virales Video enthält möglicherweise KI-generierte Szenen. Entwickle ein Prüfverfahren, das technische Hinweise mit unabhängiger Quellenprüfung verbindet, und erkläre, warum ein einzelner Detektor nicht genügt.
Human Agency: Entwirf für eine hochwirksame KI-Empfehlung eine Möglichkeit, wie Betroffene verstehen, widersprechen und eine menschliche Entscheidung erhalten können. Begründe, warum diese Schritte zur Selbstbestimmung beitragen.

Lernnachweis

Für einen Lernnachweis ist wichtig, dass Du nicht nur Begriffe wiedergeben kannst, sondern eine nachvollziehbare Gestaltung entwickelst.

Problemverständnis: Du beschreibst Zweck, Nutzende und mögliche Folgen einer KI-Anwendung.
Transparenzdesign: Du gestaltest sichtbare, verständliche und gestufte Informationen.
Evaluation: Du testest, ob andere Personen die wichtigsten Aussagen tatsächlich verstehen.
Mathematische Auswertung: Du nutzt mindestens eine passende Kennzahl und interpretierst sie kritisch.
Fairness und Sicherheit: Du erkennst mögliche ungleiche oder schädliche Folgen und planst Gegenmaßnahmen.
Governance: Du benennst klare Verantwortlichkeiten, Monitoring und einen Beschwerdeweg.
Verbesserung: Du überarbeitest Deine Lösung anhand von Testergebnissen.
Begründung: Du erklärst transparent, warum Du bestimmte Designentscheidungen getroffen hast und welche Unsicherheiten offenbleiben.

OERs zum Thema

Die eingebundenen Wikimedia-Commons-Dateien sind frei nutzbare Medien gemäß den jeweiligen Lizenzangaben auf ihrer Dateiseite. Prüfe bei einer Weiterverwendung immer die konkrete Lizenz und die erforderliche Namensnennung. Eingebettete YouTube-Videos sind nicht automatisch Open Educational Resources; sie dienen hier als verlinkte bzw. eingebettete Lernmedien.

Offizielle und weiterführende Quellen:

Verknüpfte Lernbereiche

Transparenz für KI-Nutzende gestalten

aiMOOC-Projekte

Frag mich zum aktuellen Lerninhalt oder wähle eine kurze Hilfe.

Textmodus bereit

Sprache