Die Druckversion wird nicht mehr unterstützt und kann Darstellungsfehler aufweisen. Bitte aktualisiere deine Browser-Lesezeichen und verwende stattdessen die Standard-Druckfunktion des Browsers.

Diesen aiMOOC als Battle spielen: Deutsch, Klasse 5-6, G-Niveau

IM6 - KI-Halluzinationen erkennen

Einleitung

Eine KI kann sehr freundlich, sicher und überzeugend schreiben – und trotzdem etwas Falsches behaupten. Genau darum geht es in diesem aiMOOC. Du lernst, sogenannte KI-Halluzinationen zu erkennen, Quellen zu prüfen und wichtige Aussagen nicht nur deshalb zu glauben, weil sie gut formuliert sind.

Der wichtigste Merksatz dieses aiMOOCs lautet: Plausibler Stil ist keine Garantie für Wahrheit.

Eine KI-Halluzination ist eine Ausgabe eines generativen KI-Systems, die überzeugend oder passend wirken kann, aber sachlich falsch, erfunden oder nicht durch eine verlässliche Quelle belegt ist. Der Begriff „Halluzination“ ist dabei ein Bild: Die KI hat keine menschlichen Sinneswahrnehmungen. Sie erzeugt Text, indem sie aus gelernten Mustern berechnet, welche Textbausteine wahrscheinlich gut zueinander passen.

Das Bild zeigt ein Beispiel, bei dem ein Chatbot zu einer erfundenen Internetadresse einen zunächst glaubwürdig wirkenden Inhalt erzeugt. Gerade solche Fälle sind wichtig: Eine Antwort kann ordentlich aussehen, vollständige Sätze enthalten und sogar Quellen nennen – und trotzdem nicht stimmen.

Lernziel: Nach diesem aiMOOC sollst Du nicht grundsätzlich jeder KI misstrauen. Du sollst lernen, wann Du prüfen musst und wie Du prüfst.

Lernziele

Nach diesem aiMOOC kannst Du:

KI-Halluzination: erklären, was eine KI-Halluzination ist.
Plausibilität: erklären, warum ein glaubwürdiger Stil kein Beweis für Wahrheit ist.
Faktencheck: einzelne Behauptungen in einer KI-Antwort erkennen und prüfen.
Quellenkritik: feststellen, ob eine angegebene Quelle wirklich existiert.
Quellenprüfung: überprüfen, ob eine echte Quelle die behauptete Aussage tatsächlich enthält.
Gegencheck: eine wichtige Behauptung mit einer zweiten unabhängigen Quelle vergleichen.
Primärquelle: bei Daten, Funktionen und historischen Ereignissen möglichst eine Originalquelle finden.
Unsicherheit: „nicht geprüft“, „unklar“ oder „nicht belegt“ sagen, wenn eine Aussage nicht sicher bestätigt werden kann.

Was ist eine KI-Halluzination?

Generative KI-Systeme erzeugen neue Inhalte. Sprachmodelle arbeiten dabei mit Mustern in sehr großen Textmengen und berechnen Wahrscheinlichkeiten für passende nächste Textbestandteile. Dadurch können sehr flüssige Antworten entstehen. Das System besitzt aber nicht automatisch eine eingebaute Garantie, dass jede erzeugte Aussage in der wirklichen Welt stimmt.

Eine Halluzination kann zum Beispiel so aussehen:

Die KI nennt ein Buch, das nie veröffentlicht wurde.
Die KI nennt ein falsches Datum, obwohl der restliche Text stimmt.
Die KI erfindet eine wissenschaftlich klingende Quelle.
Die KI nennt eine echte Quelle, aber behauptet etwas, das dort gar nicht steht.
Die KI erfindet eine Funktion in einem Programm oder in einer Programmiersprache.
Die KI mischt richtige und falsche Informationen in einem Absatz.

Gerade der letzte Fall ist gefährlich. Wenn neun Aussagen stimmen und nur die zehnte falsch ist, fällt der Fehler oft weniger auf.

Warum kann eine falsche Antwort so überzeugend klingen?

Stell Dir vor, Du würdest aus sehr vielen Texten lernen, welche Wörter häufig zusammen vorkommen. Du könntest dann vielleicht einen Satz bilden, der sprachlich perfekt klingt, ohne selbst nachgeprüft zu haben, ob sein Inhalt stimmt. Ein Sprachmodell arbeitet viel komplizierter als dieses vereinfachte Beispiel, aber der Vergleich hilft:

Sprachliche Wahrscheinlichkeit und sachliche Wahrheit sind nicht dasselbe.

Eine Antwort kann daher gleichzeitig:

grammatisch richtig sein,
höflich klingen,
genaue Zahlen nennen,
einen Autor und einen Buchtitel nennen,
eine Quelle mit Jahrgang und Seitenzahl nennen,
und trotzdem eine falsche Behauptung enthalten.

Eine Quellenangabe ist erst dann ein Beleg, wenn Du geprüft hast, ob die Quelle existiert und ob sie die Behauptung wirklich unterstützt.

Das KI-Ausgaben-Labor

In diesem Abschnitt begegnen Dir absichtlich falsche und teilweise richtige KI-Ausgaben. Die erfundenen Angaben sind Lernmaterial und dürfen nicht als echte Fakten übernommen werden. Lies jede Ausgabe zuerst selbst. Entscheide: richtig, teilweise richtig, falsch oder noch nicht geprüft?

Fall 1: Das erfundene Buch

KI-Ausgabe:

„Der Jugendroman Das Rätsel der Nebelinsel von Mara Sonnenfeld erschien 2022 im Südlicht Verlag. Das Buch gewann 2023 den Deutschen Jugendlesepreis und wird häufig im Unterricht der Klasse 6 eingesetzt.“

Dein Check: Welche Aussagen müsstest Du einzeln prüfen?

Auflösung anzeigen

Diese gesamte bibliografische Angabe wurde für diesen aiMOOC absichtlich erfunden. Genau so können KI-Halluzinationen aussehen: Titel, Autorenname, Verlag, Erscheinungsjahr und Preis passen sprachlich gut zusammen. Das macht sie aber nicht wahr.

Prüfweg: Suche nach dem Buchtitel in einem Bibliothekskatalog, auf der Website des behaupteten Verlags und bei der Organisation, die den genannten Preis vergeben haben soll. Findest Du keinen belastbaren Nachweis, darfst Du das Buch nicht als reale Veröffentlichung behandeln.

Fall 2: Ein fast richtiger Text über Apollo 11

KI-Ausgabe:

„Apollo 11 startete im Juli 1969. Neil Armstrong, Buzz Aldrin und Michael Collins gehörten zur Besatzung. Die Mondlandung fand am 20. Juli 1969 statt. Die gesamte Mission dauerte genau neun Tage.“

Dein Check: Drei Aussagen sind richtig. Eine ist falsch.

Auflösung anzeigen

Startmonat, Besatzung und Datum der Mondlandung stimmen. Die Mission dauerte jedoch nicht genau neun Tage. Nach Angaben der NASA dauerte sie etwa 8 Tage, 3 Stunden und 18 Minuten.

Lerneffekt: Ein Absatz kann größtenteils richtig sein und trotzdem einen Fehler enthalten. Prüfe deshalb nicht nur den Gesamteindruck, sondern einzelne Behauptungen.

Fall 3: Ein falsches Datum in einem glaubwürdigen Satz

KI-Ausgabe:

„Die Berliner Mauer wurde am 9. November 1990 geöffnet. Dieses Ereignis war ein wichtiger Schritt auf dem Weg zur deutschen Einheit.“

Auflösung anzeigen

Der zweite Satz beschreibt den historischen Zusammenhang sinnvoll. Das Datum ist aber falsch. Die Maueröffnung war am 9. November 1989. Die deutsche Wiedervereinigung folgte am 3. Oktober 1990.

Lerneffekt: Ein korrekter Zusammenhang kann neben einem falschen Datum stehen.

Fall 4: Eine richtige Tatsache mit erfundener Quelle

KI-Ausgabe:

„Apollo 11 landete am 20. Juli 1969 auf dem Mond. Quelle: Berger, N. (1971): Chronik der ersten Mondlandung, Journal der Mondgeschichte, Band 4, Heft 2, S. 18–24.“

Auflösung anzeigen

Das Datum der Mondlandung ist richtig. Die angegebene Literaturquelle wurde für diesen aiMOOC jedoch absichtlich erfunden.

Lerneffekt: Eine richtige Behauptung macht eine erfundene Quelle nicht echt. Quellen müssen unabhängig von der Aussage geprüft werden.

Fall 5: Eine erfundene wissenschaftliche Quelle

KI-Ausgabe:

„Kinder erkennen KI-Halluzinationen nach nur fünf Minuten Training zu 98 Prozent. Das zeigt die Studie von L. Muster und P. Beispiel: Fast Fact Checking in Grade Six, Institut für Digitale Wahrheit, 2025, S. 44.“

Auflösung anzeigen

Studientitel, Autorennamen, Institut, Prozentwert und Seitenangabe wurden für diesen aiMOOC erfunden.

Warnsignal: Sehr genaue Zahlen wirken oft besonders wissenschaftlich. Genauigkeit im Schreibstil ist aber kein Beweis dafür, dass eine Studie existiert.

Fall 6: Eine echte Python-Funktion mit falschem Ergebnis

KI-Ausgabe:

„In Python zählt len("Katze") die Buchstaben des Wortes. Das Ergebnis ist 4.“

Auflösung anzeigen

Die Funktion len() gibt es wirklich. Das Ergebnis ist aber 5, weil „Katze“ fünf Zeichen hat.

Lerneffekt: Auch wenn eine genannte Funktion echt ist, kann das behauptete Ergebnis falsch sein.

Fall 7: Eine erfundene Python-Funktion

KI-Ausgabe:

„Mit math.isprime(17) kannst Du in der Python-Standardbibliothek prüfen, ob 17 eine Primzahl ist. Die Funktion gehört zum Modul math.“

Auflösung anzeigen

Die Aussage über die Python-Standardbibliothek ist falsch. Das Standardmodul math besitzt keine Funktion isprime(). Andere Bibliotheken können Funktionen zur Primzahlprüfung anbieten, aber das macht die behauptete Standardfunktion nicht echt.

Prüfweg: Bei Softwarefunktionen ist die offizielle Dokumentation eine besonders wichtige Quelle.

Fall 8: Eine erfundene Tabellenkalkulations-Funktion

KI-Ausgabe:

„Mit der Formel =QUELLEPRÜFEN(A1) kontrolliert eine Tabellenkalkulation automatisch, ob der Inhalt von Zelle A1 im Internet wahr ist.“

Auflösung anzeigen

Diese Funktion wurde für das Beispiel erfunden. Eine Tabellenkalkulation kann nicht allein mit einer solchen allgemeinen Wahrheitsformel entscheiden, ob eine beliebige Aussage im Internet stimmt.

Lerneffekt: Funktionsnamen können sehr plausibel aussehen. Prüfe sie in der offiziellen Hilfe des Programms.

Fall 9: Naturwissenschaft – fast alles klingt richtig

KI-Ausgabe:

„Wasser siedet bei normalem Luftdruck ungefähr bei 100 °C. Auf hohen Bergen ist der Luftdruck geringer. Deshalb siedet Wasser dort bei einer höheren Temperatur.“

Auflösung anzeigen

Die ersten beiden Aussagen stimmen. Die Schlussfolgerung ist falsch: Bei geringerem Luftdruck siedet Wasser schon bei einer niedrigeren Temperatur.

Lerneffekt: Ein Text kann mit zwei richtigen Sätzen beginnen und daraus eine falsche Schlussfolgerung ziehen.

Fall 10: Sonnenfinsternis mit eingebautem Fehler

KI-Ausgabe:

„Der Mond umkreist die Erde. Bei einer Sonnenfinsternis steht die Erde zwischen Sonne und Mond und verdeckt dadurch die Sonne.“

Auflösung anzeigen

Der erste Satz stimmt. Der zweite Satz ist falsch. Bei einer Sonnenfinsternis befindet sich der Mond zwischen Sonne und Erde und verdeckt für Beobachtende auf der Erde die Sonne ganz oder teilweise.

Lerneffekt: Prüfe besonders Sätze, die Ursache und Wirkung erklären.

Fall 11: Eine Quelle existiert – aber beweist sie die Aussage?

KI-Ausgabe:

„Laut NASA dauerte Apollo 11 genau neun Tage.“

Auflösung anzeigen

Die NASA ist eine echte und passende Quelle für die Apollo-11-Mission. Die konkrete Aussage „genau neun Tage“ ist trotzdem falsch. Die NASA gibt eine Missionsdauer von ungefähr 8 Tagen, 3 Stunden und 18 Minuten an.

Lerneffekt: Ein bekannter Quellenname reicht nicht. Du musst die konkrete Fundstelle öffnen und prüfen, was dort tatsächlich steht.

Fall 12: Eine selbstbewusste Antwort ohne Beleg

KI-Ausgabe:

„Ich bin mir zu 100 Prozent sicher, dass diese Information stimmt.“

Auflösung anzeigen

Auch sehr große sprachliche Sicherheit ist kein Beweis. Eine KI kann einen Fehler selbstbewusst formulieren.

Merksatz: Selbstbewusstsein ist ein Stil. Belege sind überprüfbar.

Vier besonders wichtige Halluzinations-Arten

Art	Typisches Beispiel	Was Du prüfen solltest
Erfundenes Buch	Titel, Autor, Verlag und Preis klingen echt, sind aber ausgedacht.	Existiert das Buch in Bibliothekskatalogen oder beim Verlag?
Falsches Datum	Ein historischer Text enthält ein falsches Jahr.	Gibt es eine zuverlässige historische oder offizielle Quelle?
Falsche Quelle	Autor, Zeitschrift, DOI, Seitenzahl oder Link wurden erfunden.	Existiert die Quelle? Ist sie auffindbar? Unterstützt sie die Aussage?
Erfundene Funktion	Ein Programm soll einen Befehl besitzen, der logisch klingt, aber nicht existiert.	Steht die Funktion in der offiziellen Dokumentation?

Der Quellen-Check

Eine Quellenangabe ist kein magischer Wahrheitsstempel. Nutze für wichtige Aussagen den folgenden Prüfweg.

Schritt 1: Zerlege die Antwort in Behauptungen

Markiere Sätze, die überprüfbare Tatsachen behaupten. Zum Beispiel:

„Das Buch erschien 2022.“
„Die Mondlandung war am 20. Juli 1969.“
„Diese Studie fand 98 Prozent.“
„Diese Funktion gibt es in Python.“

Ein langer Absatz enthält oft mehrere Behauptungen. Prüfe sie getrennt.

Schritt 2: Frage nach der Quelle – aber glaube ihr noch nicht

Du kannst eine KI nach Quellen fragen. Die Antwort ist jedoch erst der Beginn der Prüfung. Auch eine Quellenliste kann halluziniert sein.

Prüffrage: Kannst Du die Quelle außerhalb des KI-Chats tatsächlich finden?

Schritt 3: Öffne die Originalquelle

Wenn möglich, nutze eine Primärquelle. Beispiele:

Für eine Raumfahrtmission: eine Seite der Raumfahrtorganisation.
Für eine Softwarefunktion: die offizielle Dokumentation.
Für ein Gesetz: die offizielle Gesetzessammlung.
Für ein Buch: Bibliothekskatalog, Verlag oder bibliografische Datenbank.
Für eine Studie: Originalpublikation oder Website der Forschungseinrichtung.

Schritt 4: Prüfe, ob die Quelle die Behauptung wirklich belegt

Eine echte Quelle kann falsch zitiert werden. Suche in der Quelle nach dem entscheidenden Satz, Datum, Namen oder Zahlenwert.

Frage Dich: Steht dort wirklich das, was die KI behauptet?

Schritt 5: Mache einen Gegencheck

Für wichtige Informationen solltest Du mindestens eine zweite unabhängige verlässliche Quelle suchen.

Eine gute Regel für Klasse 6 lautet:

Wichtig + überraschend + genaue Zahl = besonders sorgfältig prüfen.

Schritt 6: Gib Unsicherheit ehrlich an

Wenn Du keine Bestätigung findest, schreibe nicht einfach „stimmt“. Nutze Formulierungen wie:

„Diese Aussage ist noch nicht geprüft.“
„Dafür habe ich keine verlässliche Quelle gefunden.“
„Die Quellen widersprechen sich.“
„Die Angabe ist nicht belegt.“
„Ich weiß noch nicht, ob das stimmt.“

Das ist kein Scheitern. Es ist gute Medienkompetenz.

Die Faktenampel

Ampel	Bedeutung	Dein Umgang
Grün	Die konkrete Behauptung wurde durch passende verlässliche Quellen bestätigt.	Du kannst sie mit Quelle verwenden.
Gelb	Die Aussage klingt möglich, ist aber noch nicht ausreichend geprüft.	Kennzeichne sie als unsicher und suche weiter.
Rot	Eine verlässliche Quelle widerspricht der Aussage oder die angebliche Quelle/Funktion existiert nicht.	Nicht als Tatsache übernehmen.

Wichtig: Die Ampelfarbe richtet sich nicht danach, wie schön eine Antwort klingt. Sie richtet sich nach der Prüfung.

Quellenlabor: Echt, erfunden oder falsch verwendet?

In diesem Labor geht es nicht nur um die Frage „Gibt es diese Quelle?“, sondern auch um die zweite Frage „Belegt sie wirklich die Behauptung?“

Quellenangabe in einer KI-Antwort	Bewertung	Warum?
NASA: Apollo 11 Mission Overview	Echte Quelle	Eine offizielle NASA-Seite zur Mission existiert und eignet sich zur Prüfung von Missionsdaten.
Python Documentation: Built-in Functions	Echte Quelle	Die offizielle Python-Dokumentation eignet sich zum Prüfen von Standardfunktionen.
Muster, L. & Beispiel, P. (2025): Fast Fact Checking in Grade Six	Absichtlich erfunden	Diese Literaturangabe wurde für diesen aiMOOC konstruiert.
Berger, N. (1971): Chronik der ersten Mondlandung, Journal der Mondgeschichte	Absichtlich erfunden	Die bibliografische Angabe wurde für die Übung erfunden.
„Laut NASA dauerte Apollo 11 genau neun Tage.“	Echte Organisation, falsch verwendet	Die NASA ist echt, aber die behauptete Dauer ist falsch.
„Die offizielle Python-Dokumentation enthält math.isprime().“	Echte Quelle, falsche Behauptung	Die Quelle ist echt, doch die behauptete Funktion gehört nicht zum Standardmodul math.

Warnsignale: Wann solltest Du besonders genau hinsehen?

Ein Warnsignal beweist noch nicht, dass etwas falsch ist. Mehrere Warnsignale zusammen sind aber ein guter Grund für einen gründlichen Check.

Sehr genaue Zahl: Eine Antwort nennt einen exakten Prozentwert, aber keinen überprüfbaren Beleg.
Unbekannte Quelle: Eine Zeitschrift, ein Institut oder ein Verlag klingt professionell, ist aber nirgends auffindbar.
Kaputter Link: Die angegebene Seite existiert nicht.
Nicht passende Quelle: Die Quelle existiert, behandelt aber ein anderes Thema.
Erfundene Seitenzahl: Das Dokument existiert, aber auf der genannten Seite steht etwas anderes.
Übertriebene Sicherheit: Wörter wie „garantiert“, „zweifellos“ oder „100 Prozent sicher“ ersetzen keine Prüfung.
Ungewöhnliche Funktion: Ein Programm soll plötzlich einen sehr praktischen Befehl besitzen, den Du in der Dokumentation nicht findest.
Widerspruch: Zwei Stellen derselben KI-Antwort sagen Unterschiedliches.

Medienkompetenz statt KI-Angst

KI kann beim Lernen sehr hilfreich sein: Sie kann Ideen sammeln, Begriffe erklären, Übungsfragen formulieren oder einen Text vereinfachen. Das Problem entsteht, wenn eine erzeugte Antwort ungeprüft als sichere Wahrheit behandelt wird.

Deshalb gilt:

Nutze KI als Werkzeug – nicht als letzte Beweisstelle.

Das Video zum Erkennen von Fake News passt auch zu KI-Antworten: Quellen prüfen, Aussagen vergleichen und nicht nur auf einen professionellen Eindruck vertrauen.

Ein kurzer Blick hinter die Kulissen

Sprachmodelle arbeiten mit sogenannten Tokens. Ein Token kann ein Wort, ein Wortteil oder ein Zeichen sein. Das Modell berechnet auf Grundlage seines Trainings und des bisherigen Gesprächs Wahrscheinlichkeiten dafür, welche Tokens als Nächstes passen könnten.

Das führt zu einer wichtigen Unterscheidung:

Frage	Sprachmodell kann dafür sehr gut sein	Trotzdem zusätzlich prüfen
„Formuliere diesen Absatz einfacher.“	Stil, Struktur, sprachliche Varianten	Ob beim Umschreiben wichtige Fakten verändert wurden
„Nenne mir fünf Ideen für ein Referat.“	Ideenfindung	Ob Beispiele und Fakten stimmen
„Welches Jahr war dieses historische Ereignis?“	Kann häufig richtig antworten	Datum mit zuverlässiger Quelle abgleichen
„Gib mir drei wissenschaftliche Quellen.“	Kann Suchideen liefern	Jede Quelle auf Existenz und Inhalt prüfen
„Welche Funktion brauche ich in Python?“	Kann Codevorschläge erzeugen	In Dokumentation testen und nachschlagen

Das englischsprachige Video kann zur Vertiefung genutzt werden. Entscheidend bleibt: Eine Erklärung über Halluzinationen ist selbst kein Ersatz für den Faktencheck einer konkreten Aussage.

Mini-Training: Behauptung oder Meinung?

Für den Faktencheck ist es hilfreich, überprüfbare Behauptungen zu erkennen.

Aussage	Art	Warum?
„Apollo 11 landete 1969 auf dem Mond.“	Überprüfbare Tatsachenbehauptung	Datum und Ereignis lassen sich mit Quellen prüfen.
„Raumfahrt ist spannend.“	Meinung	„Spannend“ ist eine persönliche Bewertung.
„Dieses Buch erschien 2022.“	Überprüfbare Tatsachenbehauptung	Erscheinungsjahr und Buch lassen sich bibliografisch prüfen.
„Ich finde den Titel schön.“	Meinung	Geschmack ist nicht mit einer Quelle beweisbar.
„Diese Python-Funktion existiert im Standardmodul math.“	Überprüfbare Tatsachenbehauptung	Die offizielle Dokumentation kann die Aussage bestätigen oder widerlegen.

Die wichtigste Regel für Deinen nächsten KI-Chat

Bevor Du eine KI-Antwort für ein Referat, Plakat, Video, Arbeitsblatt oder eine Hausaufgabe verwendest, frage Dich:

Welche Aussagen sind Fakten?
Welche davon sind für meine Aufgabe wichtig?
Woher weiß ich, dass sie stimmen?
Existieren die genannten Quellen wirklich?
Sagen die Quellen tatsächlich das Behauptete?
Kann eine zweite Quelle die Aussage bestätigen?

Wenn Du diese Fragen beantworten kannst, arbeitest Du nicht nur mit KI. Du arbeitest kritisch und kompetent mit KI.

Interaktive Aufgaben

Quiz: Teste Dein Wissen

Was beschreibt eine KI-Halluzination am besten? (Eine überzeugend wirkende KI-Ausgabe, die falsch oder unbelegt sein kann) (!Eine KI, die im Schlaf Bilder sieht) (!Eine besonders schnelle Internetverbindung) (!Eine automatische Rechtschreibprüfung)

Warum ist ein professioneller Schreibstil kein Wahrheitsbeweis? (Weil ein Text sprachlich überzeugend und trotzdem sachlich falsch sein kann) (!Weil nur kurze Texte wahr sein können) (!Weil richtige Texte immer Rechtschreibfehler enthalten) (!Weil Quellen grundsätzlich unnötig sind)

Was solltest Du mit einer von einer KI genannten Quelle zuerst tun? (Prüfen, ob sie wirklich existiert und die Behauptung belegt) (!Sie sofort in das Referat kopieren) (!Nur auf den wissenschaftlich klingenden Titel achten) (!Annehmen, dass Seitenzahlen immer stimmen)

Was ist bei einer teilweise richtigen KI-Antwort besonders wichtig? (Jede wichtige Behauptung einzeln zu prüfen) (!Nur den ersten Satz zu lesen) (!Nur nach Rechtschreibfehlern zu suchen) (!Alle richtigen Sätze zu löschen)

Welche Quelle eignet sich besonders gut zum Prüfen einer behaupteten Python-Standardfunktion? (Die offizielle Python-Dokumentation) (!Ein erfundener Screenshot) (!Eine zufällig klingende Quellenangabe ohne Link) (!Die Länge des Funktionsnamens)

Was bedeutet Gelb bei der Faktenampel in diesem aiMOOC? (Die Aussage ist noch nicht ausreichend geprüft) (!Die Aussage ist sicher falsch) (!Die Aussage ist automatisch wahr) (!Die Aussage darf niemals geprüft werden)

Was zeigt das Apollo-11-Beispiel mit der falschen Missionsdauer? (Ein Text kann viele richtige Informationen und trotzdem einen Fehler enthalten) (!Historische Daten können grundsätzlich nicht geprüft werden) (!NASA ist keine Quelle für Raumfahrt) (!Eine genaue Zahl ist immer richtig)

Was ist ein Gegencheck? (Eine Behauptung mit einer zweiten unabhängigen verlässlichen Quelle vergleichen) (!Dieselbe KI dieselbe Frage zehnmal fragen und die längste Antwort wählen) (!Nur die Überschrift einer Quelle lesen) (!Eine Antwort nach schöner Sprache bewerten)

Was solltest Du tun, wenn Du keine belastbare Bestätigung für eine Aussage findest? (Die Unsicherheit klar kennzeichnen und weiter prüfen) (!Die Aussage als sicher darstellen) (!Eine passende Quelle erfinden) (!Eine Prozentzahl ergänzen)

Welche Aussage ist der wichtigste Merksatz dieses aiMOOCs? (Plausibler Stil ist keine Garantie für Wahrheit) (!Lange Antworten sind immer richtig) (!KI-Quellen müssen nicht geöffnet werden) (!Eine KI kann keine Fehler machen)

Memory

KI-Halluzination	Überzeugend wirkender, aber falscher oder unbelegter KI-Inhalt
Plausibilität	Etwas klingt möglich, ist dadurch aber noch nicht bewiesen
Primärquelle	Ursprüngliche Quelle einer Information
Gegencheck	Vergleich mit einer unabhängigen verlässlichen Quelle
Beleg	Nachweis, der eine konkrete Behauptung unterstützt
Quellenkritik	Prüfung von Herkunft, Qualität und Aussagekraft einer Quelle
Faktenfehler	Überprüfbare Aussage stimmt nicht mit den Tatsachen überein
Unsicherheit	Eine Information ist noch nicht ausreichend belegt

Drag and Drop

Ordne die richtigen Begriffe zu.	Faktencheck
Behauptung markieren	Erkennen, welche konkrete Aussage überprüft werden muss
Quelle öffnen	Kontrollieren, ob der genannte Beleg wirklich existiert
Fundstelle lesen	Prüfen, ob die Quelle die Behauptung tatsächlich unterstützt
Gegenquelle suchen	Eine unabhängige Bestätigung oder Widerlegung finden
Original bevorzugen	Wenn möglich die Primärquelle statt einer bloßen Zusammenfassung nutzen
Urteil kennzeichnen	Richtig, falsch oder noch unklar nachvollziehbar festhalten

Kreuzworträtsel

Halluzination	Wie heißt eine überzeugend wirkende, aber falsche oder unbelegte KI-Ausgabe?
Plausibilität	Welches Wort beschreibt, dass etwas glaubwürdig oder möglich klingt?
Gegencheck	Wie heißt die Prüfung mit einer zweiten unabhängigen Quelle?
Primärquelle	Wie heißt eine möglichst ursprüngliche Quelle einer Information?
Beleg	Wie heißt ein Nachweis, der eine Behauptung unterstützt?
Unsicherheit	Was solltest Du kennzeichnen, wenn eine Aussage noch nicht ausreichend geprüft ist?

LearningApps

Lückentext

Eine überzeugend klingende, aber falsche oder unbelegte KI-Ausgabe nennt man

.

Ein flüssiger Schreibstil ist kein

.

Eine genannte Quelle muss zuerst auf ihre

geprüft werden.

Danach musst Du prüfen, ob die Quelle die konkrete Behauptung wirklich

.

Eine zweite unabhängige Prüfung nennt man

.

Bei Softwarefunktionen hilft besonders die offizielle

.

Eine erfundene Seitenzahl kann eine falsche Quellenangabe besonders

wirken lassen.

Eine teilweise richtige Antwort kann trotzdem einen einzelnen

enthalten.

Wenn eine Behauptung noch nicht sicher geprüft ist, solltest Du die

kennzeichnen.

Für wichtige Informationen ist kritische

wichtiger als ein überzeugender Stil.

Offene Aufgaben

Leicht

Fehlerdetektiv: Schreibe fünf kurze KI-Aussagen auf, von denen drei richtig und zwei absichtlich falsch sind. Tausche sie mit einer Partnerin oder einem Partner und lasse die Fehler finden.
Büchercheck: Erfinde eine glaubwürdig klingende Buchangabe mit Titel, Autor, Verlag und Jahr. Kennzeichne sie anschließend deutlich als erfunden und notiere drei Möglichkeiten, wie man ihre Existenz prüfen könnte.
Faktenampel: Nimm fünf Aussagen aus einem Sachtext und ordne sie den Farben Grün, Gelb oder Rot zu. Begründe jede Entscheidung.
Quellenfrage: Formuliere zu einer KI-Antwort fünf Fragen, die Dir helfen würden zu entscheiden, ob die genannten Quellen vertrauenswürdig sind.

Standard

Quellenvergleich: Bitte eine KI um drei Quellen zu einem Unterrichtsthema. Prüfe anschließend jede Quelle außerhalb des Chats auf Existenz, Autor, Datum und passenden Inhalt.
Mischtext: Schreibe einen Absatz mit vier richtigen und einer falschen Tatsachenbehauptung. Lass Mitschülerinnen und Mitschüler die einzelne falsche Aussage durch Quellenprüfung finden.
Funktionscheck: Suche in der offiziellen Dokumentation einer Programmiersprache oder eines Programms nach zwei echten Funktionen. Erfinde zusätzlich eine plausible Funktion und erkläre, wie man den Unterschied nachweisen kann.
Erklärvideo: Produziere ein kurzes Video mit dem Titel „Klingt richtig – stimmt aber vielleicht nicht“. Zeige darin einen erfundenen Buchtitel, ein falsches Datum und eine erfundene Quelle.

Schwer

Halluzinationsprotokoll: Führe zehn sachliche Fragen an eine KI durch. Zerlege jede Antwort in überprüfbare Behauptungen und dokumentiere, welche sich bestätigen, widerlegen oder nicht sicher prüfen lassen.
Quellenforensik: Untersuche eine KI-Quellenliste. Prüfe nicht nur, ob die Quellen existieren, sondern auch, ob Titel, Autor, Jahr, Seitenangaben und behaupteter Inhalt übereinstimmen.
Faktencheck-Workshop: Entwickle für Deine Klasse einen Ablaufplan mit Rollen wie KI-Frager, Quellenprüfer, Gegenchecker und Protokollant. Testet den Plan mit einer schwierigen KI-Antwort.
Medienkompetenz-Kampagne: Gestalte ein Plakat, eine Präsentation oder einen Podcast mit fünf Regeln zum sicheren Umgang mit KI-Antworten und begründe jede Regel mit einem selbst geprüften Beispiel.

Lernkontrolle

Transferfall erfundenes Buch: Eine KI nennt Dir für ein Referat ein Buch mit Autor, Verlag, Erscheinungsjahr und ISBN. Beschreibe einen vollständigen Prüfweg, bevor Du das Buch in Dein Literaturverzeichnis aufnimmst.
Transferfall echtes Portal: Eine KI beruft sich auf eine bekannte Organisation. Erkläre, warum der bekannte Name der Organisation allein noch nicht beweist, dass die konkrete Aussage stimmt.
Transferfall Mischantwort: Eine Antwort enthält sechs korrekte Aussagen und eine falsche Zahl. Erkläre, warum die vielen richtigen Aussagen die falsche Zahl nicht zuverlässiger machen.
Transferfall Programmfunktion: Eine KI empfiehlt eine Funktion, die perfekt zu Deinem Problem passt, aber in der offiziellen Dokumentation nicht auftaucht. Beschreibe, wie Du weiter vorgehen würdest.
Transferfall Quellenkonflikt: Zwei seriös wirkende Quellen nennen unterschiedliche Werte. Entwickle mindestens drei Schritte, mit denen Du den Widerspruch untersuchen kannst.
Transferfall Referat: Formuliere eine Regel dafür, welche KI-Aussagen Du in einem Schulreferat ohne weitere Prüfung verwenden würdest und welche nicht. Begründe Deine Entscheidung.

Lernnachweis

Für einen Lernnachweis zu diesem Thema ist wichtig, dass Du zeigen kannst:

Du kannst den Begriff KI-Halluzination verständlich erklären.
Du kannst zwischen sprachlicher Plausibilität und überprüfter Wahrheit unterscheiden.
Du kannst eine KI-Antwort in einzelne Tatsachenbehauptungen zerlegen.
Du kannst ein erfundenes Buch oder eine erfundene Quelle durch Recherche erkennen.
Du kannst prüfen, ob eine reale Quelle die behauptete Information tatsächlich enthält.
Du kannst eine falsche Datumsangabe mit verlässlichen Quellen korrigieren.
Du kannst eine angebliche Softwarefunktion in einer offiziellen Dokumentation überprüfen.
Du kannst bei unklarer Beweislage Unsicherheit transparent kennzeichnen.
Du kannst einen Gegencheck mit einer unabhängigen Quelle durchführen.
Du kannst begründen, warum auch eine teilweise richtige KI-Antwort überprüft werden muss.

OERs zum Thema

Verlässliche Quellen zur Vertiefung

Die folgenden Quellen eignen sich zur Vertiefung und zum Nachvollziehen zentraler Aussagen dieses aiMOOCs. Auch hier gilt: Lies die konkrete Fundstelle selbst.

Mediennachweise

Die eingebundenen Bilder stammen von Wikimedia Commons. Durch Anklicken der jeweiligen Datei auf moocwiki.org können Lizenz, Urheber und Originalquelle eingesehen werden.