Die Druckversion wird nicht mehr unterstützt und kann Darstellungsfehler aufweisen. Bitte aktualisiere deine Browser-Lesezeichen und verwende stattdessen die Standard-Druckfunktion des Browsers.

Diesen aiMOOC als Battle spielen: Deutsch, Klasse 7-8, G-Niveau

Menschen müssen KI-Entscheidungen prüfen

Zielgruppe: Klasse 7, Sekundarstufe I
Zeitbedarf: etwa 1–2 Unterrichtsstunden, je nach Auswahl der Vertiefungen
Schwerpunkt: KI-Kompetenz, menschliche Handlungsfähigkeit, Quellenkritik, Bias, Medienanalyse, Fairness, Transparenz und begründetes Entscheiden
Fächerübergreifend: Informatik, Deutsch, Mathematik, Geschichte, Kunst, Ethik, Gemeinschaftskunde und Medienbildung

Einleitung

Eine KI kann Texte einordnen, Bilder erkennen, Empfehlungen geben, Risiken berechnen oder aus Daten eine Wahrscheinlichkeit ableiten. Das kann sehr nützlich sein. Doch eine KI kennt eine Situation nicht so wie ein Mensch. Sie arbeitet mit Daten, mathematischen Verfahren, Regeln, Wahrscheinlichkeiten und vorgegebenen Zielen. Deshalb ist eine KI-Ausgabe kein automatischer Beweis dafür, dass etwas wahr, fair oder richtig ist.

In diesem Lernkurs lernst Du eine zentrale KI-Kompetenz: Du gibst eine wichtige Entscheidung nicht einfach an eine KI ab, sondern prüfst ihre Ausgabe, vergleichst sie mit Belegen, untersuchst mögliche Fehler und triffst ein begründetes menschliches Urteil. Je größer die Folgen einer Entscheidung sind, desto sorgfältiger muss diese Prüfung sein.

Dabei geht es nicht darum, KI grundsätzlich abzulehnen. KI kann Menschen helfen, große Datenmengen zu durchsuchen, Muster zu entdecken oder mögliche Probleme sichtbar zu machen. Aber auch Menschen machen Fehler und haben Vorurteile. Gute Entscheidungen entstehen deshalb nicht dadurch, dass ein Mensch blind einer Maschine folgt oder jede KI-Ausgabe pauschal verwirft. Entscheidend ist ein nachvollziehbarer Prüfprozess.

Die Abbildung zeigt vereinfacht einen typischen Ablauf: Aus Daten und einem Ziel wird beim Training ein Modell. Dieses Modell verarbeitet später neue Eingaben und erzeugt Ausgaben. Erst danach stellt sich die wichtige Frage: Was soll ein Mensch mit dieser Ausgabe tun?

Lernziele

Nach diesem Kurs kannst Du erklären, warum eine KI-Ausgabe nicht mit Wahrheit gleichgesetzt werden darf. Du kannst bei einer KI-gestützten Entscheidung Daten, Quellen, Unsicherheit, mögliche Fehler und Folgen prüfen. Du kannst einfache Begriffe wie Trainingsdaten, Modell, Klassifikation, Schwellenwert, False Positive, False Negative und Bias in einem Beispiel anwenden. Du kannst bei Medien und KI-Aussagen zwischen Behauptung, Hinweis, Beleg und Urteil unterscheiden. Du kannst eine KI-Empfehlung annehmen, verändern oder zurückweisen und Deine Entscheidung mit nachvollziehbaren Kriterien begründen.

Unterrichtsrahmen für 1–2 Stunden

Zeit	Phase	Tätigkeit
5–10 Minuten	Aktivierung	Kurze Diagnose: Welche Entscheidungen dürfen Maschinen vorbereiten, welche müssen Menschen besonders sorgfältig prüfen?
10–20 Minuten	Einführung	Technischer Weg von Daten über Modell und Score bis zur menschlichen Entscheidung
15–25 Minuten	Analyse	Bias, Fehlerarten, Quellenkritik und Medienanalyse
20–30 Minuten	Anwendung	Fallwerkstatt zur KI-gestützten Lernempfehlung mit der PRÜFE-Methode
10–20 Minuten	Selbstkontrolle und Transfer	Interaktive Aufgaben, Reflexion und begründetes Abschlussurteil

Für eine einzelne Unterrichtsstunde kannst Du Aktivierung, technische Einführung, PRÜFE-Methode und Anwendungssituation bearbeiten. Für eine Doppelstunde kommen Mathematik-Vertiefung, Medienanalyse, fächerübergreifende Aufgaben und Reflexion hinzu.

Aktivierung und Diagnose: Wer darf entscheiden?

Stell Dir vier Situationen vor. Entscheide zunächst allein: A = KI darf weitgehend automatisch handeln, B = KI darf vorschlagen, ein Mensch muss prüfen, C = ein Mensch muss besonders sorgfältig entscheiden.

Rechtschreibkorrektur: Eine Software schlägt vor, ein falsch geschriebenes Wort zu verbessern.
Videoempfehlung: Ein Empfehlungssystem schlägt Dir das nächste Video vor.
Lernförderung: Eine Lernplattform meldet, ein Schüler brauche wahrscheinlich zusätzliche Förderung.
Täuschungsverdacht: Ein System behauptet, eine abgegebene Arbeit sei wahrscheinlich nicht selbstständig erstellt worden.

Vergleicht Eure Einschätzungen zu zweit. Nennt bei jeder Situation mindestens eine mögliche Folge einer falschen KI-Ausgabe. Haltet besonders fest, warum die Schwere möglicher Folgen beeinflusst, wie gründlich Menschen prüfen müssen.

Wie kommt eine KI zu einer Ausgabe?

Viele heutige KI-Systeme beruhen auf maschinellem Lernen. Ein Modell wird mit Daten trainiert. Dabei versucht ein mathematisches Verfahren, Muster zu finden, die zu einem vorgegebenen Ziel passen. Später verarbeitet das trainierte Modell neue Eingaben.

Ein vereinfachtes Schema lautet:

Daten → Aufbereitung → Training → Modell → neue Eingabe → Score oder Vorhersage → Regel oder Schwellenwert → Vorschlag → menschliche Prüfung → Entscheidung

Wichtig ist die Trennung zwischen Modellausgabe und Entscheidung. Ein Modell kann zum Beispiel den Wert „0,78“ ausgeben. Erst eine zusätzliche Regel macht daraus vielleicht „auffällig“, weil ein Schwellenwert von 0,70 festgelegt wurde. Danach entscheidet ein Mensch, ob dieser Hinweis für die konkrete Situation wirklich trägt.

Daten sind nicht die Welt selbst

Trainingsdaten sind immer nur ein Ausschnitt. Manche Fälle fehlen. Manche Daten sind veraltet. Manche Informationen wurden falsch gemessen oder falsch beschriftet. Manche Gruppen sind häufiger vertreten als andere. Ein Modell kann nur aus dem lernen, was in seinen Daten und Zielvorgaben enthalten ist.

Die Darstellung zum Deep Learning veranschaulicht, dass ein System Merkmale in mehreren Verarbeitungsschritten aus Eingaben ableiten kann. Daraus folgt aber nicht, dass das System einen Gegenstand so versteht wie ein Mensch. Eine erfolgreiche Mustererkennung ist nicht dasselbe wie menschliches Verstehen, Kontextwissen oder moralisches Urteilen.

Ein Score ist keine Gewissheit

Angenommen, ein Modell vergibt für eine Nachricht den Wert 0,82 für „wahrscheinlich Spam“. Dieser Wert ist keine Garantie. Je nach Modell kann er als Score oder Wahrscheinlichkeit interpretiert werden. Auch ein hoher Wert kann falsch sein.

Ein Schwellenwert legt fest, ab wann das System eine Kategorie vergibt. Wird der Schwellenwert verändert, verändern sich oft auch die Fehlerarten. Ein niedriger Schwellenwert entdeckt mehr verdächtige Fälle, produziert aber möglicherweise mehr Fehlalarme. Ein hoher Schwellenwert reduziert vielleicht Fehlalarme, übersieht dafür aber mehr tatsächliche Fälle.

Zwei wichtige Fehlerarten

False Positive: Das System meldet etwas als positiv oder auffällig, obwohl es tatsächlich nicht so ist.
False Negative: Das System meldet keinen Treffer, obwohl tatsächlich einer vorliegt.

Die sogenannte Konfusionsmatrix hilft dabei, solche Fehler sichtbar zu machen. In Klasse 7 reicht zunächst die Grundidee: Nicht nur fragen „Wie oft lag die KI richtig?“, sondern auch „Welche Art von Fehler macht sie – und wen betrifft dieser Fehler?“

Mathematik-Vertiefung: 87 Prozent richtig klingt gut – aber reicht das?

Ein fiktives Prüfsystem untersucht 30 Texte. Tatsächlich enthalten 10 Texte kopierte Passagen und 20 nicht. Das System markiert 12 Texte als auffällig. Von diesen 12 sind 9 tatsächlich problematisch und 3 nicht. Einen tatsächlich problematischen Text übersieht es.

Ergebnis	Anzahl	Bedeutung
Richtig auffällig erkannt	9	Treffer
Fälschlich auffällig	3	False Positive
Übersehen	1	False Negative
Richtig unauffällig	17	korrekte Entwarnung

Das System liegt bei 26 von 30 Fällen richtig, also bei ungefähr 87 Prozent. Trotzdem wären 3 unproblematische Texte fälschlich verdächtigt worden. Unter den 12 markierten Texten wären nur 9 tatsächlich problematisch. Das sind 75 Prozent.

Denkfrage: Reicht die Aussage „87 Prozent richtig“ aus, um einen Verdacht gegen eine bestimmte Person zu begründen? Begründe Deine Antwort mit mindestens zwei Informationen aus der Tabelle.

Warum KI unfair oder irreführend werden kann

Algorithmischer Bias bedeutet vereinfacht eine systematische Verzerrung in Daten, Modell, Zielsetzung oder Anwendung, die bestimmte Ergebnisse häufiger oder seltener macht. Bias ist nicht immer dasselbe wie absichtliche Diskriminierung. Er kann an vielen Stellen entstehen.

Auswahlbias: Die Trainingsdaten bilden die Wirklichkeit nicht ausreichend ab.
Messfehler: Ein Merkmal wurde ungenau, unterschiedlich oder mit einem ungeeigneten Ersatzwert erfasst.
Label-Bias: Menschen haben Trainingsbeispiele mit Bewertungen versehen, die selbst fehlerhaft oder voreingenommen sein können.
Historischer Bias: Alte Daten enthalten frühere Ungleichheiten oder Entscheidungen, die nicht einfach als faire Regel für die Zukunft übernommen werden sollten.
Kontextwechsel: Das Modell wird in einer Situation eingesetzt, die anders ist als die Situation, für die es getestet wurde.
Ziel-Bias: Das System optimiert auf ein Ziel, das zu eng oder ungeeignet gewählt wurde.

Das Video zum Erkennen von KI-Bias kann als Medienimpuls verwendet werden. Notiere beim Ansehen nicht einfach nur Aussagen, sondern prüfe: Welche Behauptung wird aufgestellt? Welche Erklärung wird angeboten? Welche Beispiele werden genannt? Welche zusätzlichen Belege würdest Du suchen?

Auch Menschen haben Bias

Menschen sind ebenfalls nicht neutral. Wir können Vorurteile haben, zu schnell urteilen oder nur Informationen beachten, die zu unserer bisherigen Meinung passen.

Die große Übersicht kognitiver Verzerrungen ist bewusst komplex. Für Klasse 7 ist nur eine Idee wichtig: Auch eine menschliche Prüfung braucht Regeln und Belege. Ein Mensch soll eine KI-Ausgabe also nicht einfach durch ein Bauchgefühl ersetzen.

Besonders wichtig ist der Automation Bias. Damit bezeichnet man die Tendenz, einer automatischen Empfehlung zu stark zu vertrauen, gerade weil sie technisch, exakt oder objektiv wirkt. Ein Wert wie „82 Prozent“ kann überzeugend aussehen, obwohl entscheidende Informationen fehlen.

Vertiefungsmedium: Wie Bias in Entscheidungssysteme gelangen kann

Datei:AI Police Action Decision Support.webm

Das frei lizenzierte Commons-Video zeigt an einem sensiblen Entscheidungskontext, wie Bias in ein KI-gestütztes Entscheidungssystem gelangen kann. Für die Analyse gilt: Übertrage das Beispiel nicht unkritisch auf andere Bereiche. Frage stattdessen, welche allgemeine Fehlerquelle gezeigt wird und welche menschliche Kontrollmaßnahme helfen könnte.

Quellenkritik und Medienanalyse

KI kann überzeugend formulieren, Bilder erzeugen, Quellen nennen oder Empfehlungen priorisieren. Das Aussehen einer Antwort sagt aber wenig über ihre Zuverlässigkeit aus. Deshalb prüfst Du nicht nur was gesagt wird, sondern auch woher die Information stammt.

Bei einer wichtigen KI-Aussage helfen fünf Fragen:

Urheber und Herkunft: Wer veröffentlicht die Information? Ist die Quelle erkennbar?
Beleg: Gibt es Daten, Originalquellen oder nachvollziehbare Nachweise?
Aktualität: Wann wurde die Information erstellt oder zuletzt aktualisiert?
Interesse und Zweck: Soll die Quelle informieren, überzeugen, verkaufen, unterhalten oder mobilisieren?
Gegenprüfung: Bestätigt eine zweite, unabhängige und möglichst geeignete Quelle die Aussage?

Ein KI-generierter Text ist keine Quelle für die darin behaupteten Tatsachen. Er kann ein Ausgangspunkt für eine Recherche sein. Die Belege müssen aber in nachvollziehbaren Quellen geprüft werden.

Behauptung, Hinweis, Beleg und Urteil unterscheiden

Ebene	Beispiel	Prüffrage
Behauptung	„Dieser Text ist wahrscheinlich kopiert.“	Wer behauptet das und worauf stützt sich die Aussage?
Hinweis	Ein Modell meldet 0,78 Ähnlichkeit.	Was bedeutet dieser Score technisch?
Beleg	Zwei konkrete Textstellen stimmen auffällig überein und eine Originalquelle ist auffindbar.	Ist der Beleg echt, relevant und ausreichend?
Urteil	„Es liegt ein klärungsbedürftiger Verdacht vor.“	Ist dieses Urteil mit Belegen, Kontext und Gegenargumenten begründet?

Gerade im Deutschunterricht ist diese Unterscheidung wichtig: Eine sprachlich sichere Formulierung kann eine schwache Begründung verdecken. Formuliere deshalb Aussagen so, dass andere nachvollziehen können, welcher Teil sicher belegt, welcher Teil nur wahrscheinlich und welcher Teil Deine Bewertung ist.

Die PRÜFE-Methode für KI-Entscheidungen

Für wichtige KI-gestützte Entscheidungen kannst Du Dir das Wort PRÜFE merken.

Buchstabe	Prüfschritt	Leitfragen
P	Problem und Folgen klären	Was soll entschieden werden? Wie groß sind die Folgen eines Fehlers? Wer ist betroffen?
R	Rohdaten und Quellen prüfen	Welche Daten wurden verwendet? Was könnte fehlen? Woher stammen die entscheidenden Informationen?
Ü	Unsicherheit untersuchen	Gibt es Score, Schwellenwert, Fehlerrate oder erkennbare Grenzen? Welche False Positives und False Negatives sind möglich?
F	Fairness und Folgen vergleichen	Werden Menschen möglicherweise unterschiedlich benachteiligt? Ist die Entscheidung verhältnismäßig und korrigierbar?
E	Entscheiden und erklären	Welche Belege sprechen dafür oder dagegen? Übernehme, ändere oder verwerfe die KI-Empfehlung und begründe Dein Urteil.

Zentrale Regel: Je folgenreicher eine Entscheidung ist, desto weniger darf menschliche Aufsicht nur aus einem schnellen Klick auf „Bestätigen“ bestehen.

Anwendungssituation: Die Lernplattform meldet Förderbedarf

Eine Schule nutzt eine fiktive Lernplattform. Sie soll Lehrkräften einen Hinweis geben, welche Lernenden möglicherweise zusätzliche Unterstützung in Mathematik brauchen. Das System berechnet aus Übungsergebnissen, Bearbeitungszeiten und fehlenden Aufgaben einen Score von 0 bis 100. Ab 70 Punkten erscheint der Hinweis „Förderbedarf prüfen“.

Das System entscheidet nicht automatisch über Noten oder Maßnahmen. Die Lehrkraft soll den Hinweis prüfen.

Lernende Person	KI-Score	Daten im System	Zusätzlicher Kontext
Aylin	78	Zwei Aufgaben fehlen, mehrere lange Bearbeitungszeiten	Zwei Uploads wurden wegen einer technischen Störung nicht gespeichert; der jüngste Test war deutlich besser
Ben	74	Mehrere niedrige Übungsergebnisse	Ben sagt selbst, dass er einige Themen noch nicht verstanden hat und Hilfe möchte
Cem	68	Knapp unter dem Schwellenwert, mehrere mittlere Ergebnisse	In den letzten drei Aufgaben wiederholen sich dieselben Rechenfehler
Dina	34	Hohe Ergebnisse, fast alle Aufgaben vollständig	Keine zusätzlichen Auffälligkeiten

Arbeitsauftrag zur Fallwerkstatt

Arbeitet in Gruppen. Verwendet für jede Person die PRÜFE-Methode.

Problem und Folgen: Klärt zuerst, welche Entscheidung überhaupt getroffen werden soll. „Förderbedarf prüfen“ ist nicht dasselbe wie „schlecht in Mathematik“.
Datenprüfung: Markiert Informationen, die das KI-System kennt, und Informationen, die erst Menschen ergänzen.
Unsicherheit: Untersucht, ob der Schwellenwert von 70 zu einer zu einfachen Grenze führt. Beachtet besonders Cem mit 68 Punkten.
Fairness: Prüft, ob technische Probleme oder andere Kontextfaktoren einzelne Lernende unfair erscheinen lassen könnten.
Urteil: Formuliert für jede Person eine begründete Empfehlung. Erlaubte Ergebnisse sind zum Beispiel „Hinweis bestätigen“, „weitere Information einholen“, „Hinweis verwerfen“ oder „auch ohne KI-Hinweis genauer prüfen“.
Begründung: Verwendet mindestens zwei Belege und nennt mindestens eine Unsicherheit.

Es gibt nicht für jede Person nur eine einzig mögliche Formulierung. Bewertet wird, ob Eure Entscheidung nachvollziehbar, belegt, fair und offen für Korrektur ist.

Was wäre ein schlechtes Prüfverfahren?

Ein schlechtes Verfahren wäre: „Der Computer hat 78 Punkte berechnet, also muss die Person Förderung bekommen.“ Ebenso schlecht wäre: „Ich traue Computern nicht, also ignoriere ich alle Hinweise.“ Beide Reaktionen vermeiden die eigentliche Aufgabe: Belege prüfen, Grenzen erkennen und verantwortungsvoll entscheiden.

Fächerübergreifende Perspektiven

Fach	Verbindung zum Thema	Mögliche Lernhandlung
Informatik	Daten, Training, Modell, Klassifikation, Schwellenwert und Mensch-Maschine-Schnittstelle	Zeichne den Weg von einer Eingabe bis zur menschlichen Entscheidung und markiere mögliche Fehlerstellen.
Deutsch	Sprache, Mehrdeutigkeit, Ironie, Argumentation, Quellenkritik und Trennung von Behauptung und Beleg	Prüfe zwei unterschiedlich formulierte KI-Begründungen auf Belege, Unsicherheiten und sprachliche Übertreibung.
Mathematik	Prozentwerte, Häufigkeiten, Fehlerraten, Schwellenwerte und Konfusionsmatrix	Vergleiche zwei Systeme nicht nur nach Gesamtgenauigkeit, sondern nach False Positives und False Negatives.
Geschichte	Entwicklung automatisierter Entscheidungsverfahren und Wandel von regelbasierten Systemen zu datenbasiertem maschinellem Lernen	Untersuche, was sich durch maschinelles Lernen verändert hat und welche menschliche Verantwortung geblieben ist.
Kunst	KI-Bilder, Darstellungsmuster, Stereotype, Bildkomposition und visuelle Medienkritik	Vergleiche Darstellungen desselben Berufs und untersuche, welche Rollen, Körper, Räume oder Symbole wiederholt erscheinen.
Ethik	Verantwortung, Menschenwürde, Gerechtigkeit, Schadensvermeidung und Recht auf Korrektur	Begründe, wann eine automatisierte Empfehlung moralisch vertretbar ist und wann nicht.
Gemeinschaftskunde	Regeln, Institutionen, Grundrechte, Rechenschaft, Beschwerdemöglichkeiten und Regulierung	Entwickle Mindestregeln für KI-gestützte Entscheidungen an einer Schule.
Medienbildung	Empfehlungssysteme, Informationsauswahl, Desinformation, Plattformlogik und Quellenprüfung	Untersuche, warum „wird mir empfohlen“ nicht dasselbe bedeutet wie „ist wahr oder wichtig“.

Historischer Medienimpuls

Das Video „Eine kurze Geschichte der Künstlichen Intelligenz“ eignet sich für den Geschichtsbezug. Beobachte dabei zwei Linien: Was konnten Computersysteme in verschiedenen Phasen leisten, und welche Erwartungen hatten Menschen jeweils an die Technik? Formuliere anschließend einen Satz dazu, warum technische Leistungssteigerung menschliche Verantwortung nicht automatisch ersetzt.

Menschliche Aufsicht ist auch gesellschaftlich wichtig

Die Idee menschlicher Kontrolle ist nicht nur eine Schulregel. Sie spielt auch in der europäischen Regulierung eine Rolle. Der EU AI Act enthält für Hochrisiko-KI Anforderungen an menschliche Aufsicht. Menschen, denen diese Aufsicht übertragen wird, sollen unter anderem Fähigkeiten und Grenzen des Systems verstehen, mögliche Überabhängigkeit von automatischen Ausgaben beachten, Ausgaben richtig interpretieren und sie gegebenenfalls ignorieren, übersteuern oder das System stoppen können.

Nicht jede KI-Anwendung ist automatisch ein Hochrisiko-System. Wie streng die Kontrolle sein muss, hängt vom Einsatzbereich und von möglichen Folgen ab. Für bestimmte Hochrisiko-Anwendungen in Bereichen wie Bildung oder Beschäftigung sieht die europäische Regulierung besondere Pflichten zu den gesetzlich festgelegten Anwendungszeitpunkten vor.

Das Video zu gesellschaftlichen Auswirkungen von KI eignet sich für die Leitfrage: Wann reicht eine technische Leistungszahl nicht aus, weil zusätzlich Fairness, Verantwortung und Folgen betrachtet werden müssen?

Human Agency: Du bleibst handlungsfähig

Human Agency bedeutet hier: Menschen behalten Ziele, Verantwortung und die Möglichkeit, Entscheidungen zu prüfen und zu verändern. Eine KI kann Informationen liefern oder Möglichkeiten sichtbar machen. Der Mensch muss aber wissen, wann er nachfragen, widersprechen, stoppen oder zusätzliche Expertise holen sollte.

Das bedeutet auch: Du darfst eine KI-Ausgabe ablehnen, wenn die Belege nicht tragen. Du solltest aber erklären können, warum.

Ein guter Mensch-KI-Prozess ermöglicht außerdem Korrektur. Wenn jemand von einer KI-gestützten Entscheidung betroffen ist, sollte es bei wichtigen Entscheidungen eine verständliche Erklärung, eine Möglichkeit zur Rückfrage und einen Weg zur Überprüfung geben.

Sicherheit und verantwortlicher KI-Einsatz

Datenschutz: Gib keine unnötigen persönlichen, vertraulichen oder sensiblen Daten in ein KI-System ein.
Belegpflicht: Übernimm wichtige Tatsachenbehauptungen nicht ohne überprüfbare Quelle.
Folgenabschätzung: Je größer ein möglicher Schaden, desto gründlicher muss die menschliche Prüfung sein.
Fairness: Prüfe, ob Daten oder Regeln bestimmte Personen systematisch benachteiligen könnten.
Transparenz: Kennzeichne, wenn KI wesentlich an einem Text, Bild oder einer Analyse beteiligt war, wenn dies für die Aufgabe relevant ist.
Widerspruch: Behandle eine KI-Empfehlung als prüfbaren Vorschlag und nicht als unangreifbare Autorität.
Hilfe holen: Bei besonders wichtigen Entscheidungen sollen geeignete Erwachsene, Lehrkräfte oder fachkundige Personen einbezogen werden.

Selbstkontrolle und Reflexion

Prüfe Dich selbst mit der folgenden Tabelle. Antworte jeweils mit sicher, teilweise oder noch nicht.

Ich kann …	Selbstcheck
erklären, warum ein KI-Score keine Wahrheit garantiert.
zwischen False Positive und False Negative unterscheiden.
mindestens drei mögliche Ursachen für Bias nennen.
eine KI-Aussage mit Quellen und Belegen prüfen.
die PRÜFE-Methode auf einen neuen Fall übertragen.
eine KI-Empfehlung begründet annehmen, verändern oder zurückweisen.

Reflexion und Transfer

Automation Bias: Beschreibe eine Situation, in der eine Zahl oder technische Anzeige Dich stärker überzeugen könnte, als sie eigentlich sollte. Welche Gegenfrage hilft?
Menschliche Verantwortung: Nenne eine Entscheidung, bei der eine KI viel vorbereiten darf, und eine Entscheidung, bei der Menschen besonders gründlich prüfen müssen. Begründe den Unterschied über die Folgen.
Transfer: Übertrage die PRÜFE-Methode auf eine Videoempfehlung, eine Navigationsroute oder eine automatische Übersetzung. Welche Prüfschritte bleiben gleich, welche werden weniger wichtig?
Metareflexion: Was ist gefährlicher: blindes Vertrauen in KI oder pauschale Ablehnung von KI? Begründe, warum ein strukturiertes Prüfverfahren besser sein kann als beide Extreme.

Quellenbasis

UNESCO: AI competency framework for students: Der Rahmen betont eine menschenzentrierte Perspektive, kritisches Urteilen, verantwortliche Nutzung und Human Agency.
EUR-Lex: Verordnung EU 2024/1689, konsolidierte Fassung, Artikel 14: Rechtliche Grundlage zur menschlichen Aufsicht bei Hochrisiko-KI.
Europäische Kommission: AI Act: Überblick zu Risikoklassen, Transparenz, menschlicher Aufsicht und aktuellen Anwendungsfristen.
KI-Campus: KI in meinem Alltag: Frei verfügbare, fächerübergreifende Materialien für die Sekundarstufe I, insbesondere Klassen 7–10.
KI-Campus: Können Maschinen diskriminieren?: Unterrichtstext zu algorithmischem Bias und fehlerhaften Trainingsdaten, CC BY-SA 4.0.
Bundeszentrale für politische Bildung: Diskriminierung und KI: Hintergrund zu Bias und diskriminierenden Effekten.
Landesmedienzentrum Baden-Württemberg: So lernen Maschinen: Einordnung der Videoreihe zum maschinellen Lernen.

Interaktive Aufgaben

Quiz: Teste Dein Wissen

Eine Lernplattform meldet bei einer Schülerin einen hohen Förderbedarf. Was ist der beste erste Schritt? (Prüfen welche Daten und welcher Kontext zur Meldung geführt haben) (!Die Meldung sofort als endgültiges Urteil übernehmen) (!Die Meldung löschen weil KI grundsätzlich unzuverlässig ist) (!Nur auf die Höhe des Scores schauen)

Ein Modell markiert einen unproblematischen Text fälschlich als verdächtig. Welche Fehlerart liegt vor? (False Positive) (!False Negative) (!Trainingsstopp) (!Quellenbeleg)

Ein System erreicht insgesamt eine hohe Genauigkeit. Was muss bei einer wichtigen Entscheidung zusätzlich geprüft werden? (Welche Fehlerarten auftreten und wen sie betreffen) (!Ob die Prozentzahl möglichst groß gedruckt ist) (!Ob die Oberfläche modern aussieht) (!Ob das System immer dieselbe Schrift verwendet)

Eine KI nennt eine konkrete historische Behauptung ohne überprüfbare Quelle. Wie gehst Du am besten vor? (Die Behauptung in geeigneten unabhängigen Quellen überprüfen) (!Die Behauptung übernehmen weil sie ausführlich klingt) (!Nur die Rechtschreibung kontrollieren) (!Die Aussage als wahr behandeln wenn sie zweimal wiederholt wird)

Warum kann ein Schwellenwert eine Entscheidung beeinflussen? (Er legt fest ab welchem Score eine Kategorie oder Meldung ausgelöst wird) (!Er beweist dass das Modell die Wirklichkeit vollständig versteht) (!Er beseitigt automatisch alle Trainingsfehler) (!Er macht menschliche Prüfung unnötig)

Welche Reaktion zeigt gute Human Agency? (Eine KI-Empfehlung mit Belegen prüfen und begründet überstimmen wenn nötig) (!Jede KI-Ausgabe ohne Prüfung bestätigen) (!Jede KI-Ausgabe grundsätzlich ablehnen) (!Nur die schnellste Entscheidung wählen)

Ein Datensatz enthält fast nur Beispiele aus einer bestimmten Situation. Welches Problem ist besonders naheliegend? (Das Modell kann auf andere Situationen schlecht übertragbar sein) (!Das Modell wird dadurch automatisch fair) (!Das Modell kennt dadurch jeden Sonderfall) (!Der Schwellenwert wird bedeutungslos)

Ein Empfehlungssystem schlägt Dir häufig ähnliche Videos vor. Welche Schlussfolgerung ist am besten begründet? (Die Empfehlung zeigt eine berechnete Auswahl und ist kein Wahrheitsbeweis) (!Das empfohlene Video ist dadurch automatisch sachlich richtig) (!Das Video ist dadurch automatisch wichtiger als andere Quellen) (!Das System kennt dadurch Deine Meinung vollständig)

Bei einer KI-gestützten Entscheidung fehlen wichtige Kontextinformationen. Was sollte ein Mensch tun? (Weitere Informationen einholen bevor ein folgenreicher Schluss gezogen wird) (!Die fehlenden Informationen als unwichtig behandeln) (!Den KI-Score verdoppeln) (!Die Entscheidung zufällig treffen)

Welche Begründung ist für ein verantwortliches Urteil am stärksten? (Die Entscheidung nennt Belege Unsicherheiten Folgen und mögliche Gegenargumente) (!Die Entscheidung beruft sich nur auf die Autorität der KI) (!Die Entscheidung nennt nur ein Bauchgefühl) (!Die Entscheidung vermeidet jede überprüfbare Aussage)

Memory

Trainingsdaten	Beispiele aus denen ein Modell Muster lernt
Schwellenwert	Grenze ab der ein Score eine Meldung auslöst
False Positive	Fehlalarm bei einem tatsächlich unauffälligen Fall
False Negative	Übersehener tatsächlich positiver Fall
Bias	Systematische Verzerrung in Daten Modell Ziel oder Anwendung
Human Agency	Menschliche Möglichkeit Ziele Kontrolle und Entscheidung zu behalten
Quellenkritik	Prüfung von Herkunft Beleg Aktualität Zweck und Gegenquelle
Automation Bias	Zu starkes Vertrauen in eine automatische Empfehlung

Drag and Drop

Ordne die richtigen Begriffe zu.	Thema
Datenprüfung	Herkunft und Vollständigkeit der Eingaben untersuchen
Unsicherheitsprüfung	Scores Fehlerraten und mögliche Fehlklassifikationen beachten
Fairnessprüfung	Auswirkungen auf unterschiedliche Betroffene vergleichen
Quellenprüfung	Aussagen durch geeignete Belege und Gegenquellen kontrollieren
Kontextprüfung	Informationen berücksichtigen die das Modell nicht kennt
Urteilsbegründung	Entscheidung mit Belegen und Unsicherheiten nachvollziehbar erklären

Kreuzworträtsel

Aufsicht	Wie heißt die menschliche Kontrolle eines KI-Systems mit einem Wort?
Fairness	Welcher Begriff beschreibt die Frage nach gerechter Behandlung?
Daten	Woraus lernt ein maschinelles Lernmodell typischerweise Muster?
Schwellenwert	Wie heißt die Grenze ab der ein Score eine Kategorie auslöst?
Kontext	Welcher Begriff bezeichnet wichtige Umstände rund um einen Einzelfall?
Beleg	Wie heißt ein überprüfbarer Nachweis für eine Behauptung?

LearningApps

Lückentext

Eine KI-Ausgabe ist zunächst ein berechneter

und nicht automatisch die Wahrheit. Ein Modell lernt Muster aus

. Eine Grenze, ab der ein Score eine Meldung auslöst, heißt

. Ein Fehlalarm wird als

bezeichnet. Ein übersehener tatsächlich positiver Fall heißt

. Systematische Verzerrungen werden häufig mit dem Begriff

beschrieben. Wer einer automatischen Empfehlung zu stark vertraut, kann dem

unterliegen. Bei wichtigen Aussagen müssen Herkunft und

geprüft werden. Die PRÜFE-Methode verlangt außerdem eine Betrachtung von Fairness und möglichen

. Am Ende muss ein Mensch die Entscheidung nachvollziehbar

.

Offene Aufgaben

Leicht

KI-Ampel: Sammle fünf KI-gestützte Alltagssituationen und ordne sie den Bereichen geringe, mittlere oder hohe Folgen zu. Begründe jede Einordnung mit einem Satz.
Behauptung oder Beleg: Suche in einem KI-generierten Beispieltext vier Tatsachenbehauptungen und notiere, welche Quelle Du jeweils zur Überprüfung benötigen würdest.
Fehlerdetektiv: Erfinde je ein leicht verständliches Beispiel für einen False Positive und einen False Negative aus Schule oder Alltag und erkläre, welcher Fehler problematischer wäre.
PRÜFE-Plakat: Gestalte ein übersichtliches Plakat oder digitales Bild zur PRÜFE-Methode, das ohne lange Erklärung verständlich ist.

Standard

Schwellenwert-Experiment: Entwickle für ein fiktives Meldesystem drei verschiedene Schwellenwerte und beschreibe, wie sich Fehlalarme und übersehene Fälle vermutlich verändern.
Medienvergleich: Vergleiche zwei Beiträge zum selben KI-Thema. Untersuche Autor, Datum, Belege, Sprache, Interessen und fehlende Gegenpositionen.
Bias in Bildern: Untersuche eine Sammlung frei verwendbarer KI-Bilder oder Bildbeschreibungen zu einem Beruf. Entwickle Kategorien für wiederkehrende Darstellungen und prüfe, ob stereotype Muster sichtbar werden.
Schulregel für KI: Entwerft zu zweit sechs Regeln für KI-gestützte Entscheidungen in der Schule. Jede Regel muss eine Begründung und ein Beispiel enthalten.

Schwer

Audit einer KI-Entscheidung: Entwickle ein kleines Prüfprotokoll für ein Empfehlungssystem. Es muss Daten, Modellgrenzen, Fehlerarten, Fairness, Quellen und Widerspruchsmöglichkeiten berücksichtigen.
Mathematischer Vergleich: Erfinde zwei fiktive Klassifikationssysteme mit unterschiedlichen False-Positive- und False-Negative-Zahlen. Begründe, welches System für zwei verschiedene Einsatzzwecke geeigneter wäre.
Debatte Human Agency: Führt eine strukturierte Debatte zur Aussage „Je besser KI wird, desto weniger müssen Menschen prüfen“. Jede Seite muss Belege, Gegenargumente und Bedingungen nennen.
Mini-Untersuchung: Befrage Mitschülerinnen und Mitschüler anonym zu der Frage, wann sie einer KI-Empfehlung vertrauen würden. Werte die Antworten aus und entwickelt daraus Kriterien für verantwortliches Vertrauen.

Lernkontrolle

Transferfall Navigation: Eine Navigations-KI empfiehlt die schnellste Route, obwohl eine lokale Straßensperrung noch nicht in den Daten steht. Wende PRÜFE an und begründe, wie ein Mensch entscheiden sollte.
Transferfall Medien: Zwei KI-Systeme fassen denselben Nachrichtenbeitrag unterschiedlich zusammen. Entwickle ein Verfahren, mit dem Du prüfst, welche Zusammenfassung näher an der Quelle liegt, ohne einfach die längere Antwort zu bevorzugen.
Transferfall Schule: Ein System stuft eine Hausaufgabe als auffällig ein. Formuliere drei Informationen, die vor einem persönlichen Vorwurf zusätzlich geprüft werden müssen, und begründe ihre Bedeutung.
Fairnessanalyse: Ein Modell funktioniert bei einer häufigen Fallgruppe sehr gut, bei einer seltenen Fallgruppe deutlich schlechter. Erkläre, warum eine hohe Gesamtgenauigkeit das Fairnessproblem verdecken kann.
Schwellenwertentscheidung: Beschreibe einen Fall, in dem ein niedriger Schwellenwert sinnvoll sein könnte, und einen Fall, in dem zu viele Fehlalarme problematisch wären. Begründe jeweils anhand der Folgen.
Begründetes Gesamturteil: Nimm Stellung zur Aussage „Menschen müssen KI-Entscheidungen prüfen“. Formuliere eine begründete Position, die mindestens einen technischen, einen ethischen und einen medienkritischen Aspekt verbindet.

Lernnachweis

Für einen Lernnachweis zu diesem Thema ist wichtig, dass Du nicht nur Begriffe auswendig kennst, sondern sie in einer neuen Situation anwenden kannst.

Technisches Verständnis: Du kannst den Weg von Daten über Modell und Score bis zur Entscheidung erklären.
Fehleranalyse: Du kannst False Positive, False Negative und mögliche Ursachen von Bias in einem Fall erkennen.
Quellenkritik: Du kannst Tatsachenbehauptungen von Belegen unterscheiden und geeignete Quellen zur Prüfung auswählen.
Mathematische Deutung: Du kannst einfache Prozentwerte und Fehlerzahlen interpretieren, ohne eine einzige Kennzahl mit Wahrheit gleichzusetzen.
Fairness und Ethik: Du kannst mögliche Folgen für Betroffene benennen und unterschiedliche Interessen abwägen.
Human Agency: Du kannst begründet entscheiden, ob eine KI-Empfehlung übernommen, verändert oder zurückgewiesen werden sollte.
Transparenz: Du kannst Deine Entscheidung so erklären, dass andere Deine Belege, Unsicherheiten und Kriterien nachvollziehen können.
Transfer: Du kannst die PRÜFE-Methode auf eine bisher unbekannte Schul- oder Alltagssituation übertragen.

OERs zum Thema

KI-Campus – KI in meinem Alltag: Offene Unterrichtsmaterialien für Sekundarstufe I, unter anderem zu Bias, maschinellem Lernen und KI-gestützten Auswahlverfahren.
KI-Campus – Können Maschinen diskriminieren?: CC BY-SA 4.0.
KI-Campus – Wie begegnen wir diskriminierenden Algorithmen?: Audio-Interview, CC BY-SA 4.0.
Wikimedia Commons – Artificial intelligence: Sammlung frei lizenzierter Medien.
Wikimedia Commons – False positives and false negatives: Frei lizenzierte Visualisierungen zu Fehlerarten.

Verknüpfte Lernbereiche

Menschen müssen KI-Entscheidungen prüfen

aiMOOC-Projekte

Frag mich zum aktuellen Lerninhalt oder wähle eine kurze Hilfe.

Textmodus bereit

Sprache