Diesen aiMOOC als Battle spielen: Deutsch, Klasse 7-8, G-Niveau

Halluzinationen erkennen

Einleitung

Halluzinationen erkennen ist eine zentrale KI-Kompetenz: Du lernst, Antworten einer generativen KI nicht einfach zu übernehmen, sondern Behauptungen zu erkennen, Belege zu suchen, Quellen zu vergleichen und am Ende selbst begründet zu entscheiden. Das ist wichtig, weil KI-Ausgaben sehr flüssig und überzeugend klingen können, obwohl einzelne Angaben falsch, erfunden, veraltet oder nicht belegt sind.

Der Fachbegriff KI-Halluzination bezeichnet eine überzeugend wirkende KI-Ausgabe, die falsche oder irreführende Informationen enthält oder für die kein tragfähiger Beleg vorhanden ist. Das Wort ist eine Metapher: Eine KI erlebt keine menschliche Sinnestäuschung. Bei Sprachmodellen entsteht Text vereinfacht dadurch, dass aus gelernten Mustern jeweils passende nächste Textstücke erzeugt werden. Eine sprachlich sichere Formulierung ist deshalb noch kein Wahrheitsbeweis.

Merksatz: Eine KI-Antwort ist ein Vorschlag zum Prüfen – kein Beweis.

Dieser Lernkurs richtet sich besonders an Klasse 6 und ist für etwa 1–2 Unterrichtsstunden gedacht. Du arbeitest mit Beispielen aus Schule und Alltag, lernst eine einfache Prüfroutine und wirst Schritt für Schritt selbstständiger.

Lernziele

Am Ende kannst Du erklären, was eine KI-Halluzination ist, typische Warnzeichen erkennen, überprüfbare Behauptungen aus einer Antwort herauslösen, passende Quellen auswählen, Informationen vergleichen und eine eigene Entscheidung mit Belegen begründen. Du kannst außerdem typische Fehlvorstellungen korrigieren: Eine selbstbewusste Formulierung macht eine Aussage nicht wahr, zwei gleichlautende KI-Antworten sind noch keine zwei unabhängigen Quellen und eine angegebene Quelle muss wirklich existieren und die Behauptung tatsächlich stützen.

Ablauf für 1–2 Unterrichtsstunden

Phase	Zeit	Was Du tust
Aktivierung und Diagnose	5–10 Minuten	Du entscheidest: sicher, unsicher oder prüfen.
Verständliche Einführung	10–15 Minuten	Du verstehst, warum plausible KI-Antworten trotzdem falsch sein können.
Geführte Prüfroutine	15–20 Minuten	Du übst den STOPP-Check an kurzen Beispielen.
Anwendungssituation	15–25 Minuten	Du prüfst eine KI-Antwort für ein Schulreferat.
Interaktive Aufgaben und Selbstkontrolle	10–20 Minuten	Du vergleichst, ordnest und begründest.
Reflexion und Transfer	5–10 Minuten	Du formulierst Deine eigene Regel für verantwortlichen KI-Einsatz.

Für eine einzelne Unterrichtsstunde können Aktivierung, Einführung, STOPP-Check und eine Anwendungssituation ausgewählt werden. Für zwei Stunden kommen Vertiefung, interaktive Aufgaben und Transfer hinzu.

Aktivierung: Würdest Du das sofort glauben?

Stell Dir vor, ein KI-Chatbot gibt Dir diese vier Aussagen:

Geografie: „Die Hauptstadt Australiens ist Sydney.“
Mathematik: „7/8 entspricht 0,875.“
Naturwissenschaften: „Wasser kocht immer bei genau 100 °C.“
Deutsch: „Franz Kafka schrieb den Roman Faust.“

Ordne jede Aussage zunächst nur in eine der Kategorien glaube ich, zweifle ich an oder muss ich prüfen ein. Begründe Deine erste Einschätzung. Wichtig: Deine erste Vermutung ist noch keine Prüfung.

Die Aufgabe zeigt ein Grundproblem: Manche falschen Sätze wirken vertraut, manche richtigen Sätze wirken ungewohnt und manche Aussagen sind zu pauschal. Deshalb brauchst Du mehr als Bauchgefühl.

Was ist eine KI-Halluzination?

Eine generative KI erzeugt neue Texte, Bilder oder andere Inhalte auf Grundlage gelernter Muster. Sie kann dabei sehr nützliche Entwürfe liefern. Sie kann aber auch Details ergänzen, die plausibel wirken, obwohl sie nicht stimmen.

Das Commons-Beispiel zeigt eine reale Art des Problems: Ein Sprachmodell kann auf eine scheinbar passende, aber nicht echte Webadresse reagieren, als wäre dort tatsächlich ein Artikel vorhanden. Für Dich ist dabei nicht die Marke wichtig, sondern das Muster: Eine erfundene oder nicht überprüfte Grundlage kann zu einer glaubhaft klingenden Antwort führen.

Typische Formen sind:

Erfundene Fakten: Namen, Orte, Daten oder Zahlen werden ergänzt, obwohl sie nicht stimmen.
Erfundene Quellen: Ein Buch, eine Website, eine Studie oder ein Zitat klingt echt, existiert aber nicht oder sagt etwas anderes.
Falsche Verknüpfungen: Zwei echte Dinge werden falsch miteinander verbunden.
Zu sichere Vereinfachungen: Eine Antwort lässt wichtige Bedingungen weg und klingt dadurch eindeutiger, als die Sache tatsächlich ist.
Veraltete Angaben: Eine frühere Information wird so dargestellt, als wäre sie noch aktuell.

Nicht jeder Fehler einer KI ist automatisch eine Halluzination. Eine Antwort kann auch wegen einer unklaren Frage, veralteten Daten, Rechenfehlern oder einer missverständlichen Darstellung falsch werden. Für Deine Prüfung ist entscheidend: Kann die Behauptung mit passenden Belegen überprüft werden?

Warum klingt Falsches manchmal so überzeugend?

Ein Sprachmodell erzeugt keine Antwort, indem es zuerst jede Aussage in einer Wissensdatenbank als wahr oder falsch markiert. Vereinfacht gesagt berechnet es aus Mustern, welche Textfortsetzung gut zur Eingabe und zum bisherigen Text passt. Dadurch kann ein Satz sprachlich sehr stimmig sein, ohne sachlich richtig zu sein.

Das führt zu einer wichtigen Trennung:

Sprachlich plausibel	Sachlich belegt
klingt flüssig	lässt sich mit geeigneten Quellen prüfen
benutzt Fachwörter	nennt nachvollziehbare Belege
wirkt selbstbewusst	stimmt mit unabhängigen Quellen oder Messungen überein
enthält viele Details	Details sind tatsächlich überprüfbar

Viele Details erhöhen nicht automatisch die Verlässlichkeit. Manchmal machen gerade erfundene Details eine falsche Antwort glaubwürdiger.

Video: Wie funktioniert Künstliche Intelligenz grundsätzlich?

Das folgende Video ist für Kinder und Jugendliche aufbereitet. Achte beim Ansehen darauf, an welchen Stellen Menschen Ziele setzen, Daten bereitstellen, Ergebnisse beurteilen und Verantwortung übernehmen.

Die STOPP-Prüfroutine

Für diesen Kurs verwendest Du die Merkhilfe STOPP. Sie ist keine Zauberformel und garantiert keine Wahrheit. Sie hilft Dir aber, systematisch zu prüfen.

Buchstabe	Schritt	Leitfrage
S – Stopp	Nicht sofort übernehmen, teilen oder abgeben.	Muss diese Aussage überhaupt richtig sein?
T – Tatsachen markieren	Trenne überprüfbare Behauptungen von Meinungen, Vorschlägen und Formulierungen.	Welche Namen, Zahlen, Daten, Zitate oder Ursachen werden behauptet?
O – Originalquelle suchen	Suche nach dem Ursprung der Information.	Gibt es die genannte Quelle wirklich und sagt sie das tatsächlich?
P – Prüfen und vergleichen	Nutze mindestens eine passende, möglichst unabhängige zweite Quelle oder eine eigene Rechnung/Messung.	Stimmen die Belege überein?
P – Position begründen	Entscheide selbst und kennzeichne Unsicherheit.	Was halte ich für richtig, falsch, teilweise richtig oder noch ungeklärt – und warum?

Der letzte Schritt ist besonders wichtig: Du bleibst die entscheidende Person. KI kann Dir beim Suchen, Formulieren oder Ordnen helfen, aber sie nimmt Dir die Verantwortung für Deine Abgabe oder Entscheidung nicht ab.

Schritt 1: Behauptungen erkennen

Eine Aussage ist besonders prüfenswert, wenn sie konkrete Tatsachen behauptet. Dazu gehören Namen, Daten, Zahlen, Zitate, Ursachen, Rekorde, Orte und wissenschaftliche Erklärungen.

Beispiel: „Der Mars hat drei Monde und wurde 1877 erstmals fotografiert.“ Dieser Satz enthält mindestens zwei getrennte Behauptungen. Prüfe sie einzeln. So verhinderst Du, dass eine richtige Teilinformation eine falsche Teilinformation glaubwürdig erscheinen lässt.

Schritt 2: Quellen wirklich öffnen

Eine Quellenangabe ist nur dann hilfreich, wenn Du kontrollierst:

Existiert die Quelle?
Wer hat sie veröffentlicht?
Ist sie für diese Frage geeignet?
Ist sie aktuell genug?
Steht die behauptete Information dort wirklich?

Eine KI kann eine Quelle nennen, die echt klingt, aber erfunden ist. Sie kann auch eine echte Quelle nennen, die die Aussage gar nicht stützt. Deshalb reicht es nicht, eine Quellenliste nur anzuschauen.

Schritt 3: Unabhängig vergleichen

Zwei identische KI-Antworten sind keine zwei unabhängigen Belege. Auch zehn Websites können voneinander abgeschrieben haben. Suche möglichst nach unterschiedlichen Ursprüngen: zum Beispiel Schulbuch plus Museum, Lexikon plus offizielle Statistik, eigene Rechnung plus Mathematikbuch oder Experiment plus naturwissenschaftliche Quelle.

Beim Vergleichen geht es nicht darum, „gegen die KI“ zu sein. Es geht darum, gute Gründe für eine Entscheidung zu sammeln.

Video: Quellen prüfen und Fakten checken

Das folgende Video von planet schule zeigt unter anderem, wie man Behauptungen, Bilder und Quellen überprüft. Es ist unter CC BY-SA veröffentlicht und eignet sich deshalb besonders gut für schulische Weiterarbeit.

Anwendungssituation: Ein Referat retten

Du bereitest mit Deiner Gruppe ein Referat über Bienen vor. Ein KI-Chatbot liefert folgenden Absatz:

„Honigbienen besitzen acht Flügel. Eine Arbeiterin lebt immer genau 14 Tage. Forschende der angeblichen Zeitschrift ‚European Bee Facts 2025‘ haben außerdem bewiesen, dass Bienen niemals schlafen.“

Deine Gruppe findet den Absatz gut formuliert und möchte ihn direkt auf die Folie kopieren.

Auftrag: Nutze STOPP.

Markiere jede prüfbare Behauptung.
Suche für jede Behauptung eine geeignete Quelle oder überlege, welche Quelle Du verwenden würdest.
Prüfe, ob die genannte Zeitschrift wirklich existiert und ob der konkrete Nachweis auffindbar ist.
Unterscheide zwischen falsch, zu pauschal, nicht belegt und belegt.
Formuliere anschließend einen neuen Absatz nur mit Aussagen, die Du vertreten kannst.
Notiere unter der Folie die tatsächlich verwendeten Quellen und kennzeichne, dass ein KI-Werkzeug beim Entwurf geholfen hat, falls das in Eurer Schule verlangt wird.

Die wichtigste Leistung ist nicht der neue Text, sondern Deine Begründung: Warum behältst Du eine Aussage, warum änderst Du sie und warum streichst Du eine andere?

Fächerübergreifende Bezüge

Fach	Was Du beim Halluzinationen-Erkennen trainierst
Informatik	Du verstehst generative Systeme als musterbasierte Werkzeuge und trennst Ausgabe von überprüfter Information.
Deutsch	Du erkennst Behauptungen, unterscheidest Fakt und Meinung und achtest auf Sprache, Belege und Zitate.
Mathematik	Du rechnest Ergebnisse unabhängig nach, prüfst Größenordnungen, Einheiten und Plausibilität.
Naturwissenschaften	Du verlangst Messungen, Beobachtungen, Versuche oder fachlich geeignete Quellen statt bloßer Behauptungen.
Kunst	Du untersuchst KI-Bilder kritisch: Ein realistisches Bild ist kein Beweis dafür, dass eine Szene wirklich stattgefunden hat.
Ethik	Du fragst nach Verantwortung, Fairness, Schaden, Privatsphäre und danach, wer von einer falschen Aussage betroffen sein könnte.
Gemeinschaftskunde	Du prüfst Aussagen über Gesellschaft und Politik besonders sorgfältig und vergleichst unterschiedliche vertrauenswürdige Quellen.
Medienbildung	Du übst Quellenkritik, Gegenchecks, Transparenz und verantwortliches Teilen.

Mathematik: Rechnen statt Vertrauen

Wenn eine KI eine Rechnung ausgibt, kannst Du oft selbst kontrollieren. Beispiel: Für „7/8 = 0,875“ kannst Du die Division nachrechnen oder einen Taschenrechner verwenden. Bei Prozenten, Einheiten und Diagrammen hilft zusätzlich eine Plausibilitätsfrage: Kann die Größenordnung überhaupt stimmen?

Eine KI kann auch eine korrekte Zahl mit einer falschen Erklärung verbinden. Prüfe deshalb Ergebnis und Rechenweg getrennt.

Naturwissenschaften: Bedingungen beachten

Der Satz „Wasser kocht immer bei genau 100 °C“ klingt wie Schulwissen, ist aber zu pauschal. Der Siedepunkt hängt unter anderem vom Luftdruck ab. Das Beispiel zeigt: Eine Aussage kann einen bekannten Kern enthalten und trotzdem falsch formuliert sein, weil wichtige Bedingungen fehlen.

In den Naturwissenschaften sind deshalb Fragen wichtig wie: Unter welchen Bedingungen gilt das? Wurde gemessen? Ist die Beobachtung wiederholbar? Gibt es eine fachlich geeignete Quelle?

Deutsch und Medienbildung: Sprache ist kein Beweis

Achte auf Formulierungen wie „wissenschaftlich bewiesen“, „immer“, „nie“, „alle Forschenden sind sich einig“ oder sehr genaue Zahlen ohne Beleg. Solche Wörter beweisen keine Halluzination, sind aber ein Anlass zum Prüfen.

Ein sachlicher Ton kann Vertrauen erzeugen. Deine Aufgabe ist es, zwischen Stil und Beleg zu unterscheiden.

Kunst und Bilder: Sieht echt aus – ist aber nicht automatisch echt

Generative KI kann Bilder erzeugen, die fotografisch wirken. Ein Bild allein beweist deshalb nicht, dass eine Person, ein Ort oder ein Ereignis wirklich so existiert hat. Prüfe Bildquelle, Kontext, Veröffentlichungsdatum und – wenn möglich – andere Aufnahmen desselben Ereignisses.

Wichtig ist auch Fairness: KI-Bilder können Menschen stereotyp oder verzerrt darstellen. Frage deshalb, wer wie gezeigt wird und ob das Bild eine Gruppe unfair behandelt.

Ethik und Human Agency

Ein verantwortlicher KI-Einsatz bedeutet nicht, KI grundsätzlich abzulehnen. Er bedeutet, dass Menschen Ziele setzen, Entscheidungen nachvollziehen und Verantwortung behalten.

Frage Dich:

Unterstützt mich die KI beim Denken – oder ersetzt sie mein Denken gerade?
Kann ich erklären, warum ich ein Ergebnis übernehme?
Habe ich persönliche Daten oder Daten anderer geschützt?
Könnte eine falsche Information jemandem schaden?
Fehlt eine wichtige Perspektive oder wird eine Gruppe unfair dargestellt?

Human Agency bedeutet hier: Du steuerst den Prozess, prüfst Ergebnisse und kannst auch „Nein, das übernehme ich nicht“ sagen.

Typische Fehlvorstellungen korrigieren

Fehlvorstellung	Bessere Regel
„Wenn die KI sicher klingt, stimmt es.“	Sicherheit im Ton ist kein Beleg.
„Wenn eine Quelle genannt wird, ist alles geprüft.“	Öffne die Quelle und kontrolliere, ob sie existiert und die Aussage stützt.
„Wenn zwei Chatbots dasselbe sagen, muss es wahr sein.“	Zwei KI-Ausgaben sind keine unabhängigen Quellen.
„Nur erfundene Namen sind Halluzinationen.“	Auch falsche Zahlen, Zitate, Verknüpfungen und zu sichere Behauptungen können problematisch sein.
„Ich muss jede KI-Antwort komplett überprüfen.“	Prüfe besonders wichtige, neue, überraschende oder folgenreiche Behauptungen gezielt.
„Eine KI lügt absichtlich.“	Der Begriff Halluzination beschreibt fehlerhafte Ausgaben; eine KI hat nicht automatisch menschliche Absichten.

Selbstkontrolle: Der 20-Sekunden-Check

Bevor Du eine KI-Information für Hausaufgabe, Referat, Nachricht oder Entscheidung verwendest, frage:

Was genau ist hier die überprüfbare Behauptung?
Welche Quelle würde ich akzeptieren, wenn die Aussage nicht von einer KI käme?
Habe ich mindestens einen unabhängigen Gegencheck?
Kann ich meine Entscheidung in einem Satz begründen?
Muss ich Unsicherheit kenntlich machen?

Wenn Du eine dieser Fragen nicht beantworten kannst, ist Weiterprüfen oft die bessere Entscheidung.

Interaktive Aufgaben

Quiz: Teste Dein Wissen

Was beschreibt eine KI-Halluzination am besten? (Eine glaubhaft wirkende KI-Ausgabe mit falschen irreführenden oder unbelegten Angaben) (!Eine KI die wegen eines leeren Akkus abschaltet) (!Ein besonders kreatives aber ausdrücklich erfundenes Gedicht) (!Ein Rechtschreibfehler in einer menschlichen Hausaufgabe)

Warum ist eine flüssig formulierte KI-Antwort noch kein Wahrheitsbeweis? (Sprachliche Plausibilität und sachliche Richtigkeit sind verschiedene Dinge) (!Flüssige Sätze sind immer automatisch falsch) (!Nur kurze Antworten können wahr sein) (!Fachwörter dürfen in richtigen Antworten nicht vorkommen)

Was ist beim STOPP-Check der erste sinnvolle Schritt? (Nicht sofort übernehmen oder teilen) (!Die Antwort möglichst schnell abschreiben) (!Nur die längsten Sätze markieren) (!Die KI um eine schönere Schrift bitten)

Was ist ein guter unabhängiger Gegencheck? (Eine fachlich passende Quelle mit eigenem Ursprung) (!Dieselbe KI noch einmal mit genau derselben Frage) (!Ein Screenshot ohne Herkunft) (!Ein Kommentar ohne Beleg)

Wie prüfst Du eine mathematische KI-Antwort besonders sinnvoll? (Du rechnest selbst nach und prüfst Größenordnung und Einheiten) (!Du glaubst der Antwort wenn viele Dezimalstellen vorkommen) (!Du prüfst nur die Rechtschreibung) (!Du suchst nach möglichst komplizierten Fachwörtern)

Was solltest Du mit einer von der KI genannten Studie tun? (Prüfen ob sie existiert und ob sie die Behauptung wirklich stützt) (!Nur den Titel in das Referat kopieren) (!Davon ausgehen dass jede Studie echt ist) (!Die Jahreszahl entfernen damit sie glaubwürdiger wirkt)

Was gilt für ein realistisch wirkendes KI-Bild? (Es ist ohne Quellenprüfung kein Beweis für ein reales Ereignis) (!Es ist immer eine echte Fotografie) (!Es kann keine Vorurteile enthalten) (!Es ist automatisch eine Primärquelle)

Welche Handlung zeigt verantwortlichen KI-Einsatz? (Du prüfst wichtige Aussagen und behältst die Entscheidung selbst) (!Du gibst persönliche Daten ein damit die Antwort genauer wird) (!Du übernimmst jede Antwort ohne Begründung) (!Du teilst ungeprüfte Behauptungen sofort weiter)

Was ist bei einer aktuellen oder unsicheren Information besonders sinnvoll? (Datum und mehrere geeignete Quellen prüfen) (!Nur auf den selbstbewussten Ton achten) (!Die älteste gefundene Aussage bevorzugen) (!Alle Quellenangaben ignorieren)

Was bedeutet Human Agency in diesem Kurs? (Der Mensch steuert prüft entscheidet und übernimmt Verantwortung) (!Die KI trifft alle Entscheidungen allein) (!Nur Lehrkräfte dürfen Informationen prüfen) (!Man darf KI grundsätzlich nie benutzen)

Memory

KI-Halluzination	glaubhaft wirkende fehlerhafte oder unbelegte Ausgabe
Behauptung	Aussage die sachlich überprüft werden kann
Originalquelle	Ursprung einer Information
Gegencheck	Prüfung mit einem unabhängigen Beleg
Plausibilität	erste Einschätzung ob etwas stimmen könnte
Verantwortung	begründetes menschliches Entscheiden

Drag and Drop

Ordne die richtigen Begriffe zu.	STOPP-Prüfroutine
Stopp	Nicht sofort übernehmen oder teilen
Tatsachen markieren	Prüfbare Aussagen herauslösen
Originalquelle	Ursprung einer Information suchen
Prüfvergleich	Mit einer unabhängigen Quelle abgleichen
Position begründen	Entscheidung treffen und Unsicherheit nennen

...

Kreuzworträtsel

Halluzination	Wie heißt eine glaubhaft wirkende fehlerhafte KI-Ausgabe?
Quelle	Woher stammt eine überprüfbare Information?
Vergleich	Was machst Du mit mehreren unabhängigen Belegen?
Beleg	Was stützt eine sachliche Behauptung?
Zweifel	Was kann ein sinnvolles Signal zum Weiterprüfen sein?
Verantwortung	Was behält der Mensch beim Einsatz von KI?

LearningApps

Lückentext

Offene Aufgaben

Leicht

Warnsignal-Sammlung: Sammle fünf Formulierungen, bei denen Du besonders aufmerksam prüfen würdest, und erkläre jeweils, warum sie ein Warnsignal sein können, aber noch kein Beweis für einen Fehler sind.
Behauptungen markieren: Nimm eine kurze KI-Antwort zu einem Schulthema und markiere alle Namen, Zahlen, Daten, Zitate und Ursachenbehauptungen.
Quellen-Detektiv: Prüfe drei Quellenangaben aus einem Beispieltext darauf, ob sie tatsächlich existieren und zur Aussage passen.
KI-Ampel: Entwickle eine Ampelkarte mit Grün für gut belegt, Gelb für unsicher und Rot für widerlegt. Teste sie an vier Aussagen.

Standard

Zwei-Quellen-Challenge: Prüfe eine KI-Aussage mit zwei Quellen unterschiedlichen Ursprungs und erkläre, welche Quelle für Deine Frage geeigneter ist.
Rechencheck: Lass Dir zu einem mathematischen Sachproblem einen Lösungsweg geben, rechne selbst nach und kennzeichne jede Stelle, an der ein Fehler auffallen könnte.
Bildprüfung: Untersuche ein KI-generiertes oder unbekanntes Bild. Beschreibe, welche Informationen Du zusätzlich brauchst, bevor Du es als Beleg verwenden würdest.
Referat-Rettung: Überarbeite einen kurzen KI-Text für ein Referat so, dass nur überprüfte Aussagen bleiben und jede Änderung begründet ist.

Schwer

Halluzinations-Fallakte: Dokumentiere einen echten oder von der Lehrkraft vorbereiteten Fall mit Ausgangsbehauptung, Prüfschritten, Quellen, Ergebnis und Restunsicherheit.
Fächervergleich: Vergleiche, wie man eine Behauptung in Mathematik, Naturwissenschaften und Gemeinschaftskunde jeweils überprüft. Erkläre Unterschiede und Gemeinsamkeiten.
Fairness-Check: Untersuche eine KI-Antwort über eine Personengruppe auf unbelegte Verallgemeinerungen, fehlende Perspektiven und mögliche Folgen. Formuliere eine fairere, besser belegte Version.
Prüfroutine verbessern: Teste STOPP an drei neuen Beispielen. Ergänze einen eigenen sechsten Prüfschritt und begründe, wann er besonders hilfreich ist.

Lernkontrolle

Transferfall Schulhomepage: Eine KI behauptet, Eure Schule habe einen neuen Wettbewerb gewonnen. Beschreibe, welche Informationen Du zuerst prüfen würdest, welche Quellen geeignet wären und wann Du die Nachricht veröffentlichen dürftest.
Erklärkompetenz: Erkläre einer jüngeren Person in höchstens fünf Sätzen, warum eine überzeugende KI-Antwort trotzdem falsch sein kann. Verwende ein eigenes Beispiel.
Quellenentscheidung: Du findest zu einer Behauptung einen anonymen Blog, ein Schulbuch von 2018 und eine aktuelle Seite einer Fachinstitution. Begründe, welche Quelle Du wofür verwenden würdest und welche Grenzen jede Quelle hat.
Widerspruch bearbeiten: Zwei seriöse Quellen widersprechen sich. Beschreibe, wie Du weiter vorgehst, ohne vorschnell eine Quelle als falsch abzuwerten.
Fehlvorstellung korrigieren: Jemand sagt: „Wenn die KI drei Quellen nennt, ist die Antwort sicher.“ Widerlege diese Aussage mit einer Prüfroutine und einem Beispiel.
Verantwortungsentscheidung: Eine KI-Antwort über eine Mitschülerin enthält eine unbelegte Behauptung. Erkläre, warum Du sie nicht weiterleitest und welche sicheren Alternativen Du hast.

Lernnachweis

Für einen Lernnachweis zu Halluzinationen erkennen ist wichtig, dass Du nicht nur Begriffe kennst, sondern Deine Prüfung sichtbar machen kannst:

Du erklärst den Begriff KI-Halluzination in eigenen Worten.
Du trennst überprüfbare Behauptungen von Meinungen oder Vorschlägen.
Du wendest die STOPP-Prüfroutine auf ein neues Beispiel an.
Du prüfst mindestens eine Quellenangabe auf Existenz und Passung.
Du führst einen unabhängigen Gegencheck durch.
Du unterscheidest zwischen falsch, teilweise richtig, unbelegt und noch unklar.
Du begründest Deine Entscheidung nachvollziehbar.
Du kennzeichnest Unsicherheit und gehst mit persönlichen Daten verantwortungsvoll um.
Du erklärst, warum menschliche Verantwortung trotz KI-Unterstützung erhalten bleibt.

OERs zum Thema

Der Wikipedia-Artikel bietet eine weiterführende fachliche Übersicht:

Die im Kurs verwendeten Wikimedia-Commons-Dateien sind jeweils auf ihrer Dateiseite mit ihrer freien Lizenz oder ihrem Public-Domain-Status beschrieben. Das eingebettete planet-schule-Video „Achtung Fake News!“ ist als CC BY-SA veröffentlicht.

Reflexion und Transfer

Beantworte zum Abschluss drei Fragen in ganzen Sätzen:

Welche Art von Behauptung wirst Du künftig als Erstes prüfen?
Woran erkennst Du, dass Du noch nicht genug Belege für eine Entscheidung hast?
Was bedeutet der Satz „KI unterstützt mein Denken, aber sie ersetzt meine Verantwortung nicht“ für Deinen Schulalltag?

Formuliere anschließend Deine persönliche Ein-Satz-Regel für KI-Nutzung. Beispielstruktur: „Bevor ich eine wichtige KI-Aussage übernehme, …“

Verknüpfte Lernbereiche

Halluzinationen erkennen

aiMOOC-Projekte

Inhalte werden geladen ...

Mediathek wird aus dem Wiki geladen ...

Frag mich zum aktuellen Lerninhalt oder wähle eine kurze Hilfe.

Textmodus bereit

Sprache