Diesen aiMOOC als Battle spielen: Deutsch, Klasse 7-8, G-Niveau

Unsicherheit von KI beurteilen

Einleitung

Unsicherheit von KI beurteilen bedeutet: Du entscheidest nicht danach, ob eine KI-Antwort flüssig, freundlich oder selbstsicher klingt. Du prüfst, wie gut eine Behauptung belegt ist, welche Unsicherheiten bleiben, ob Quellen verlässlich sind, ob Verzerrungen möglich sind und welche Folgen ein Fehler hätte. Genau diese Urteilskompetenz brauchst Du, wenn Du KI für Schule, Alltag, Medien oder kreative Projekte nutzt.

Der Kurs ist für die Klasse 7 gedacht und für etwa 60 bis 90 Minuten ausgelegt. Er verbindet Informatik, Deutsch, Mathematik, Geschichte, Kunst, Ethik, Gemeinschaftskunde und Medienbildung. Am Ende sollst Du ein begründetes Urteil formulieren können: Was weiß ich? Was ist nur plausibel? Welche Belege fehlen? Welche Risiken bestehen? Was muss ich selbst entscheiden?

Leitidee: KI kann nützlich sein, aber sie ist kein Wahrheitsautomat. Ein gutes Urteil entsteht aus Technikverständnis, Quellenkritik, Sicherheitsregeln und menschlicher Verantwortung.

Lernziele

Nach dem Kurs kannst Du erklären, warum generative KI überzeugende und trotzdem falsche Inhalte erzeugen kann. Du kannst sprachliche Sicherheit von tatsächlicher Beleglage unterscheiden, Quellen nach Autor, Datum, Originalbeleg und Unabhängigkeit prüfen, mögliche Verzerrungen erkennen, einfache Aussagen über Wahrscheinlichkeit und Kalibrierung verstehen und bei riskanten Situationen sichere Entscheidungen treffen. Dazu gehören auch sichere Eingaben, sparsame Freigaben, das Erkennen von Social Engineering und das angemessene Reagieren auf Manipulationsversuche.

Ablauf für 1–2 Unterrichtsstunden

Phase	Zeit	Ziel	Aktivität
Aktivierung und Diagnose	5–10 Minuten	Vorwissen sichtbar machen	Drei KI-Aussagen nach „eher vertrauenswürdig“, „unklar“ und „erst prüfen“ sortieren und Gründe nennen
Einführung	15–20 Minuten	Technik und Unsicherheit verstehen	Sprachmodell, Trainingsdaten, Wahrscheinlichkeit, Halluzination und Kalibrierung mit Beispielen klären
Prüflabor	15–20 Minuten	Quellenkritik und Bias anwenden	Behauptungen mit dem BELEG-Check untersuchen
Anwendungssituation	15–25 Minuten	Sicherheit und Urteil verbinden	Klassenchat-Szenario prüfen, Manipulationssignale erkennen und sichere Reaktion planen
Selbstkontrolle und Transfer	10–15 Minuten	Begründetes Urteil sichern	Quiz, Reflexion und kurze Transferaufgabe

Aktivierung und Diagnose

Stell Dir vor, drei KI-Antworten stehen nebeneinander:

Antwort	Aussage	Erste Reaktion
A	„Das Ereignis fand 1848 statt. Hier ist eine konkrete Quelle mit Autor, Titel, Datum und Fundstelle.“	Nicht sofort glauben: Quelle öffnen und prüfen
B	„Ich bin mir zu 98 Prozent sicher, dass das stimmt.“	Prozentzahl allein ist kein Beleg
C	„Ich kenne den aktuellen Stand nicht sicher. Prüfe die offizielle Quelle mit heutigem Datum.“	Unsicherheit wird transparent gemacht, trotzdem nachprüfen

Diagnosefrage: Welche Antwort wirkt auf Dich am vertrauenswürdigsten – und welche ist tatsächlich am besten prüfbar? Tauscht Euch zu zweit aus. Achtet darauf, ob Ihr Euch von Tonfall, Zahlen oder Quellen beeindrucken lasst.

Wie generative KI zu Antworten kommt

Ein Sprachmodell verarbeitet Text nicht wie ein Mensch mit eigenem Erleben. Vereinfacht gesagt wurde es mit sehr vielen Beispielen trainiert und hat dabei statistische Muster gelernt. Beim Erzeugen eines Textes berechnet es, welche Textbausteine – häufig spricht man von Tokens – im jeweiligen Kontext wahrscheinlich gut weiterpassen. Das Ergebnis kann fachlich richtig sein, muss es aber nicht.

Die Abbildung zeigt vereinfacht ein künstliches neuronales Netz: Eingaben werden über viele gewichtete Verbindungen verarbeitet und führen zu Ausgaben. Moderne große Sprachmodelle sind wesentlich komplexer, doch die Grundidee bleibt wichtig: Die Ausgabe entsteht durch gelernte mathematische Muster, nicht durch einen eingebauten Wahrheitsdetektor.

Das BSI-Video verdeutlicht, warum bei einem KI-System nicht nur das fertige Ergebnis betrachtet werden sollte, sondern auch Trainingsdaten, Lernprozess und Einsatzkontext.

Training und Nutzung sind zwei verschiedene Phasen

Beim Training werden Modellparameter anhand von Daten angepasst. Bei der späteren Nutzung – oft Inferenz genannt – erhält das trainierte Modell neue Eingaben und erzeugt daraus eine Ausgabe.

Daraus folgt ein wichtiger Punkt: Eine KI kann keine Quelle „gesehen haben“, nur weil ihre Antwort so klingt. Sie kann Wissen aus Trainingsmustern wiedergeben, Informationen aus bereitgestellten Dokumenten verarbeiten oder – wenn ein System entsprechend ausgestattet ist – externe Quellen abrufen. Du musst deshalb prüfen, woher eine konkrete Behauptung stammt.

Warum können Halluzinationen entstehen?

Bei generativer KI wird der Begriff Halluzination oder auch Konfabulation für plausibel klingende, aber falsche, erfundene oder widersprüchliche Inhalte verwendet. Das kann zum Beispiel eine erfundene Quellenangabe, ein falsches Datum oder eine nicht existierende Studie sein.

Ein Grund dafür liegt im Erzeugungsprinzip: Das Modell optimiert darauf, passende Ausgaben zu erzeugen. Passend klingend und faktisch belegt sind aber nicht dasselbe. Besonders riskant sind Fragen mit wenig Kontext, sehr aktuellen Informationen, seltenen Fakten, mehrdeutigen Formulierungen oder erfundenen Voraussetzungen.

Arten von Unsicherheit

Nicht jede Unsicherheit hat dieselbe Ursache. Für eine gute Bewertung hilft es, sie zu unterscheiden.

Art der Unsicherheit	Beispiel	Gute Reaktion
Fehlender Kontext	„War das richtig?“ – ohne zu sagen, worauf sich „das“ bezieht	Rückfrage stellen und Kontext ergänzen
Unvollständige oder veraltete Information	Eine aktuelle Regel oder ein heutiger Termin wird ohne Datum genannt	Aktuelle offizielle Quelle prüfen
Modellunsicherheit	Das System schwankt zwischen mehreren Antworten	Mehrere Belege prüfen und keine Sicherheit vortäuschen
Quellenunsicherheit	Eine Studie wird genannt, aber Titel oder Link lassen sich nicht finden	Originalquelle suchen und Zitat prüfen
Mehrdeutigkeit	Ein Begriff hat in Geschichte und Informatik verschiedene Bedeutungen	Bedeutung festlegen und Begriff präzisieren
Bias	Ein Beispiel beschreibt bestimmte Gruppen immer in denselben Rollen	Perspektiven und Datenbasis kritisch vergleichen
Manipulationsrisiko	Ein Dokument enthält eine fremde Anweisung, die nichts mit Deiner Aufgabe zu tun hat	Verarbeitung stoppen, Quelle isoliert prüfen und keine Daten freigeben

Wahrscheinlichkeit, Sicherheit und Kalibrierung

In der Mathematik bedeutet Wahrscheinlichkeit, dass Unsicherheit mit Zahlen beschrieben wird. Bei KI ist aber wichtig: Eine ausgegebene Prozentzahl ist nicht automatisch eine verlässliche Messung dafür, dass eine Behauptung wahr ist.

Kalibrierung bedeutet vereinfacht: Wenn ein System bei vielen vergleichbaren Aufgaben jeweils „80 Prozent sicher“ sagt, sollte es bei ungefähr 80 von 100 solchen Fällen richtig liegen, damit diese Angabe gut kalibriert ist.

Hypothetisches System	Gemeldete Sicherheit	Tatsächlich richtige Antworten bei 100 vergleichbaren Fällen	Bewertung
System A	80 Prozent	ungefähr 80	ungefähr kalibriert
System B	80 Prozent	ungefähr 55	übermäßig sicher
System C	60 Prozent	ungefähr 85	zu vorsichtig

Diese Zahlen sind nur ein Rechenbeispiel. Bei einem einzelnen Chat kannst Du aus einer selbst genannten Prozentzahl nicht ableiten, ob die Antwort wirklich so wahrscheinlich richtig ist. Forschung zeigt, dass sprachlich geäußerte Sicherheit bei Sprachmodellen unzuverlässig und teils übertrieben sein kann. Für Dich ist deshalb wichtiger: Belege vor Selbsteinschätzung.

Die Abbildung stammt aus der Statistik und zeigt ein verwandtes Grundprinzip: Unsicherheit lässt sich mathematisch untersuchen. Ein Konfidenzintervall ist aber nicht dasselbe wie die Sicherheit einer KI-Antwort. Im Unterricht kannst Du daran erkennen, warum genaue Prozentzahlen nur dann sinnvoll sind, wenn klar ist, wie sie berechnet und überprüft wurden.

Ein einfacher Unsicherheits-Check: BELEG

Nutze für wichtige KI-Aussagen den BELEG-Check:

Buchstabe	Frage	Woran Du erkennst, dass mehr Prüfung nötig ist
B – Behauptung	Was genau wird behauptet?	Mehrere Tatsachen werden in einem Satz vermischt
E – Evidenz	Welche Belege gibt es?	Keine Quelle, erfundene Quelle oder nur Verweis auf „Experten“
L – Lage	Von wann und aus welchem Kontext stammt die Information?	Datum fehlt, Situation hat sich geändert oder Ort ist unklar
E – Einseitigkeit	Welche Perspektiven oder Gruppen fehlen?	Nur eine Sichtweise, stereotype Beispiele oder auffällige Auswahl
G – Gefährdung	Wie schlimm wäre ein Fehler und welche Daten sind betroffen?	Gesundheit, Geld, Sicherheit, private Daten oder wichtige Entscheidungen

Je höher die mögliche Schadensfolge, desto stärker müssen Deine Belege sein. Bei einer Idee für eine Fantasiegeschichte ist ein Fehler meist wenig gefährlich. Bei persönlichen Daten, medizinischen Entscheidungen, Notfällen, Geld, rechtlichen Fragen oder öffentlichen Anschuldigungen reicht eine ungeprüfte KI-Antwort nicht.

Quellenkritik: Von der Antwort zum Beleg

In Deutsch, Geschichte und Medienbildung kennst Du Quellenkritik bereits in anderer Form. Bei KI kommt eine zusätzliche Frage hinzu: Hat die KI überhaupt eine überprüfbare Quelle benutzt – oder nur eine glaubwürdig klingende Angabe erzeugt?

Ein guter Quellencheck besteht aus mehreren Schritten:

Behauptung: Zerlege einen langen KI-Text in einzelne prüfbare Aussagen.
Quelle: Suche nach dem Originalbeleg statt nur nach einer Zusammenfassung.
Autor: Prüfe, wer verantwortlich ist und welche Fachkenntnis oder Interessen erkennbar sind.
Datum: Prüfe, ob die Quelle aktuell genug für die Behauptung ist.
Unabhängigkeit: Vergleiche mit mindestens einer zweiten, möglichst unabhängigen seriösen Quelle.
Passung: Lies nach, ob die Quelle wirklich genau das belegt, was die KI behauptet.
Transparenz: Notiere, was sicher belegt, nur plausibel oder ungeklärt bleibt.

Laterales Lesen

Laterales Lesen bedeutet, eine Webseite nicht nur von oben nach unten zu lesen. Öffne zusätzliche Quellen, prüfe, was andere verlässliche Stellen über den Autor oder die Organisation sagen, und suche nach dem Ursprung einer Behauptung. Das ist oft wirksamer, als nur auf professionelles Design, Logos oder selbstbewusste Sprache zu achten.

Warnzeichen bei erfundenen Quellen

Misstrauisch solltest Du werden, wenn ein Link nicht erreichbar ist, Titel und Autor nicht zusammenpassen, die genannte Textstelle in der Quelle nicht vorkommt, ein Zitat nirgends auffindbar ist oder nur viele scheinbar genaue Angaben ohne nachvollziehbaren Originalbeleg erscheinen. Eine echte Quelle kann ebenfalls falsch oder einseitig sein – aber eine nicht auffindbare Quelle kann die Behauptung schon gar nicht belegen.

Bias und Fairness

Bias bedeutet im KI-Kontext eine systematische Verzerrung. Sie kann aus Trainingsdaten, der Auswahl von Beispielen, Beschriftungen, Modellzielen oder dem Einsatzkontext entstehen. Ein System kann dadurch bestimmte Gruppen, Dialekte, Lebensweisen oder Perspektiven schlechter abbilden oder stereotype Muster wiederholen.

Für die Ethik ist entscheidend: Nicht jede Ungleichheit ist automatisch unfair, und nicht jede statistische Genauigkeit bedeutet Fairness. Du musst fragen, wer Vorteile oder Nachteile hat, wer in den Daten sichtbar ist und wer über die Regeln entscheidet.

Mini-Bias-Analyse

Stell Dir vor, eine KI soll Beispiele für „typische Berufe“ nennen. In zehn Beispielen werden technische Berufe fast nur Männern und Pflegeberufe fast nur Frauen zugeordnet. Das beweist noch nicht, wie das gesamte System arbeitet, ist aber ein Anlass für weitere Prüfung.

Prüfe dann: Ändert sich das Ergebnis bei neutraler Formulierung? Gibt es vielfältigere Beispiele? Welche gesellschaftlichen Muster könnten in Daten stecken? Werden Stereotype beschrieben oder verstärkt? Eine einzelne Ausgabe ist ein Hinweis – für ein belastbares Urteil brauchst Du mehrere Beobachtungen und Kontext.

Medienanalyse: Bilder, Audio und Deepfakes

KI kann Medien erzeugen oder verändern. Ein Deepfake ist ein synthetisch erzeugter oder manipulierter Medieninhalt, der Personen, Stimmen oder Ereignisse glaubwürdig erscheinen lassen kann, obwohl die Darstellung so nicht stattgefunden hat.

Verlasse Dich nicht nur auf vermeintliche Bildfehler wie Hände, Schatten oder Lippenbewegungen. Solche Hinweise können verschwinden, und echte Bilder können ebenfalls ungewöhnlich aussehen. Stärker sind Herkunft, Veröffentlichungszusammenhang, Originaldatei, unabhängige Bestätigung und bekannte seriöse Quellen.

Geschichte und Kunst: Manipulation gab es schon vor generativer KI

Bildmanipulation ist älter als moderne KI. In Geschichte untersuchst Du deshalb Urheber, Zeitpunkt, Zweck und Überlieferung eines Bildes. In Kunst analysierst Du Gestaltung, Auswahl, Ausschnitt, Perspektive und Wirkung.

Die historische Perspektive zeigt: Neue KI-Werkzeuge verändern Geschwindigkeit und Zugänglichkeit von Manipulation, aber die Grundfrage bleibt: Wer zeigt was, in welchem Zusammenhang und mit welchem Zweck?

Technische Vertiefung: Externe Quellen helfen, lösen aber nicht alles

Einige KI-Systeme können externe Dokumente oder Suchergebnisse einbeziehen. Ein technisches Verfahren dafür heißt Retrieval-Augmented Generation. Dabei werden passende Textstellen gesucht und dem Sprachmodell als zusätzlicher Kontext gegeben.

Das kann die Nachprüfbarkeit verbessern, wenn echte Quellen sichtbar sind. Trotzdem bleiben Risiken: Die gefundene Quelle kann falsch, veraltet, einseitig oder manipuliert sein; die KI kann sie missverstehen; und ein Dokument kann Anweisungen enthalten, die nicht zur Aufgabe gehören. Deshalb gilt auch hier: Quelle prüfen, Zugriff begrenzen, Ergebnis kontrollieren.

Defensive Sicherheitskompetenz

KI-Sicherheit im Schulalltag bedeutet nicht, Angriffe auszuprobieren. Du lernst stattdessen, typische Manipulationsmuster zu erkennen, Daten zu schützen und angemessen zu reagieren.

Social Engineering erkennen

Social Engineering versucht, Menschen durch Vertrauen, Zeitdruck, Angst, Hilfsbereitschaft oder angebliche Autorität zu einer unüberlegten Handlung zu bringen. KI kann solche Nachrichten sprachlich überzeugender machen oder Stimmen und Bilder imitieren.

Achte besonders auf überraschende Dringlichkeit, Forderungen nach Geheimnissen oder Zugangsdaten, ungewöhnliche Freigaben, neue Kontaktwege, unerwartete Links oder Dateien und den Satz „Mach das sofort, ohne jemanden zu fragen“. Entscheidend ist nicht, ob eine Nachricht perfekt aussieht, sondern ob die Forderung über einen unabhängigen bekannten Weg bestätigt werden kann.

Sichere Eingaben in KI-Systeme

Was Du nicht öffentlich machen würdest, gehört nicht automatisch in einen KI-Chat. Beachte die Regeln Deiner Schule und nutze nur freigegebene Systeme.

Datenschutz: Gib keine Passwörter, Zugangscodes, privaten Adressen, Gesundheitsdaten, vertraulichen Notizen oder Daten anderer Personen ein.
Datenminimierung: Nutze nur die Informationen, die für die Aufgabe wirklich nötig sind.
Anonymisierung: Ersetze Namen und eindeutige Merkmale durch neutrale Platzhalter, wenn die Aufgabe auch ohne Identitätsdaten lösbar ist.
Urheberrecht: Lade fremde Texte, Bilder oder Aufgaben nicht einfach vollständig hoch, wenn Du die Nutzungsrechte nicht kennst.
Schulregeln: Prüfe, ob ein KI-Werkzeug für die Aufgabe erlaubt ist und welche Einwilligungen oder Kontenregelungen gelten.
Transparenz: Kennzeichne im Lernprodukt, wo KI unterstützt hat, wenn es die Aufgabenregel verlangt.

Zugriffs- und Freigaberegeln

Eine KI-Anwendung braucht nicht automatisch Zugriff auf E-Mail, Cloudspeicher, Kontakte, Kamera, Mikrofon oder alle Dateien. Nutze das Prinzip so wenig Zugriff wie nötig. Prüfe Freigaben, bevor Du zustimmst, und entziehe Zugriffe wieder, wenn sie nicht mehr gebraucht werden.

Für Gruppenarbeiten gilt zusätzlich: Teile Dokumente nur mit den Personen, die sie wirklich benötigen. Veröffentliche keine Klassenlisten, Noten, privaten Fotos oder persönlichen Kontaktdaten in offenen Links.

Prompt Injection erkennen – ohne Angriffsanleitung

Bei einer Prompt Injection versucht fremder Inhalt, die Anweisungen eines KI-Systems zu verändern. Das kann direkt in einer Eingabe oder indirekt in einer Webseite, Datei oder Nachricht stehen, die das System verarbeitet. Für Dich reicht eine defensive Regel: Fremde Inhalte sind Daten, nicht automatisch vertrauenswürdige Befehle.

Warnzeichen sind Anweisungen in einer Quelle, die plötzlich nichts mit Deiner Lernaufgabe zu tun haben, die zum Ignorieren von Regeln auffordern, zusätzliche Daten verlangen oder neue Freigaben anfordern. Reagiere dann so:

Stopp-Regel: Unterbrich den Vorgang und führe keine unerwartete Aktion aus.
Daten schützen: Gib keine Zugangsdaten, persönlichen Informationen oder zusätzlichen Freigaben preis.
Quelle trennen: Öffne und prüfe das Dokument unabhängig von der KI.
Rückfrage: Kläre bei Lehrkraft oder verantwortlicher Stelle, ob die Anweisung wirklich zur Aufgabe gehört.
Melden: Dokumentiere den verdächtigen Inhalt, ohne ihn weiterzuverbreiten, und melde ihn über den vorgesehenen Schulweg.

Realistische Anwendungssituation: Die Nachricht im Klassenchat

Am Abend erscheint im Klassenchat ein Bild mit Schullogo und der Behauptung: „Morgen fällt der Unterricht wegen eines Wasserschadens aus.“ Eine Person fragt einen KI-Chat. Dieser antwortet sehr selbstbewusst, die Meldung sei „fast sicher richtig“, und nennt eine angebliche Unterseite der Schule. Der Link funktioniert nicht. Kurz danach wird ein Dokument geteilt, das angeblich weitere Informationen enthält. Darin steht eine auffällige Anweisung, zusätzliche Kontodaten einzugeben und bisherige Regeln zu ignorieren.

Deine Aufgabe: Entscheide, was Du glaubst und was Du tust. Nutze den BELEG-Check.

Prüfschritt	Mögliche Beobachtung	Sinnvolle Reaktion
Behauptung	Unterrichtsausfall ist eine konkrete, überprüfbare Aussage	Nicht weiterleiten, bevor sie bestätigt ist
Evidenz	KI nennt einen nicht funktionierenden Link	Offizielle Schulwebseite oder bekannten offiziellen Kanal selbst aufrufen
Lage	Meldung betrifft morgen und ist zeitkritisch	Auf Datum und Uhrzeit der offiziellen Mitteilung achten
Einseitigkeit	Nur Klassenchat und KI wiederholen dieselbe Behauptung	Unabhängige offizielle Bestätigung suchen
Gefährdung	Dokument verlangt zusätzliche Kontodaten	Nichts eingeben, keine neuen Freigaben erteilen
Manipulationssignal	Fremde Anweisung will Regeln überschreiben	Verarbeitung stoppen, Lehrkraft oder zuständige Stelle informieren

Begründetes Urteil: Solange keine offizielle Bestätigung vorliegt, ist die Meldung ungeklärt. Die selbstbewusste KI-Antwort und die Prozentzahl reichen nicht. Der tote Link schwächt den Beleg. Die Datenforderung und die regelwidrige Zusatzanweisung sind Sicherheitswarnzeichen. Die richtige Handlung ist: nicht weiterverbreiten, offiziellen Kanal prüfen, keine sensiblen Daten eingeben und bei Bedarf eine bekannte schulische Kontaktstelle nutzen.

Human Agency: Du bleibst verantwortlich

Human Agency bedeutet, dass Du Deine eigene Urteilskraft behältst. KI darf Dir Vorschläge machen, Gegenargumente liefern, Texte strukturieren oder Fragen formulieren. Sie sollte Dir aber nicht unbemerkt die Entscheidung abnehmen.

Eine gute Arbeitsweise lautet: erst selbst denken – dann KI gezielt nutzen – dann Belege prüfen – dann selbst entscheiden – dann Nutzung transparent machen. Besonders bei wichtigen oder persönlichen Fragen ist es sinnvoll, eine echte fachkundige Person einzubeziehen.

Fächerübergreifende Bezüge

Fach	Beitrag zum Thema	Beispiel
Informatik	Training, Inferenz, Sprachmodelle, Zugriffsrechte, Prompt Injection	Erklären, warum ein Modell plausible statt garantiert wahre Ausgaben erzeugt
Deutsch	Behauptung, Beleg, Argumentation, sprachliche Gewissheit	Wörter wie „sicher“, „vermutlich“ und „belegt“ unterscheiden
Mathematik	Wahrscheinlichkeit, Häufigkeit, Kalibrierung	80-Prozent-Aussagen mit beobachteten Trefferquoten vergleichen
Geschichte	Quellenkritik, Provenienz, Bildmanipulation	Historische Bildquelle nach Urheber, Zeit und Zweck prüfen
Kunst	Bildwirkung, Komposition, Manipulation, generative Medien	Wirkung eines synthetischen Bildes analysieren
Ethik	Fairness, Verantwortung, Menschenwürde, Transparenz	Folgen eines unfairen KI-Urteils für Betroffene diskutieren
Gemeinschaftskunde	Öffentlichkeit, Demokratie, Desinformation	Prüfen, wie ungeklärte KI-Inhalte Meinungsbildung beeinflussen
Medienbildung	Quellencheck, Datenschutz, sichere Freigaben, Deepfakes	Einen viralen Inhalt prüfen, bevor er geteilt wird

Merksätze für Dein Urteil

Flüssig ist nicht gleich richtig.
Eine Prozentzahl ist kein Beleg, wenn ihre Messung unklar ist.
Eine Quelle zählt erst, wenn Du sie finden, lesen und passend zur Behauptung prüfen kannst.
Mehrere gleiche Antworten sind ein Hinweis auf Stabilität, aber noch kein Wahrheitsbeweis.
Bei hohem Risiko brauchst Du stärkere Belege und menschliche Kontrolle.
Private Daten, Passwörter und unnötige Zugriffe bleiben draußen.
Fremde Inhalte dürfen nicht unbemerkt Deine Sicherheitsregeln überschreiben.
Du entscheidest – die KI unterstützt.

Quellen und Vertiefung

Die folgenden Quellen eignen sich besonders zur fachlichen Vertiefung und zur Unterrichtsvorbereitung:

UNESCO: AI competency framework for students – betont menschenzentrierte, ethische, technische und gestalterische KI-Kompetenzen.
NIST: Generative AI Profile – beschreibt unter anderem Konfabulationen und Risiken generativer KI.
BSI: Generative KI-Modelle – behandelt Chancen, Risiken und unter anderem indirekte Prompt Injections.
BSI: Unterrichts- und Gesprächseinstiege zur Cybersicherheit – Materialien zu Phishing, Kontoschutz und sicherem Verhalten.
Datenschutzkonferenz: KI und Datenschutz – Orientierung zum Umgang mit personenbezogenen Daten.
klicksafe: KI and me – Unterrichtsmaterial ab Klasse 7.
klicksafe: Deep Fake. Deep Impact. – Unterrichtsmaterial zu Deepfakes und Informationskompetenz.
Forschung zu verbalisierter Unsicherheit von Sprachmodellen – technische Vertiefung zur Frage, wie verlässlich Selbstauskünfte über Sicherheit sind.

Die Wikimedia-Commons-Medien in diesem Kurs sind auf ihren Dateiseiten mit freien Lizenzen oder als gemeinfrei gekennzeichnet. Für Weiterverwendung müssen die jeweils angegebenen Lizenzbedingungen beachtet werden.

Interaktive Aufgaben

Quiz: Teste Dein Wissen

Warum kann eine KI-Antwort überzeugend klingen und trotzdem falsch sein? (Weil ein Sprachmodell statistisch passende Ausgaben erzeugt und kein eingebauter Wahrheitsdetektor ist) (!Weil Computer grundsätzlich keine richtigen Sätze erzeugen können) (!Weil jede KI-Antwort zufällig ausgewählt wird) (!Weil Quellen im Internet immer falsch sind)

Was ist bei einer selbst genannten KI-Sicherheit von 95 Prozent am wichtigsten? (Die Zahl allein ist kein Beleg und muss durch überprüfbare Evidenz ergänzt werden) (!Eine Zahl über 90 Prozent beweist automatisch die Wahrheit) (!Je genauer die Zahl aussieht desto zuverlässiger ist sie) (!Die Prozentzahl ersetzt die Prüfung der Quelle)

Was beschreibt Kalibrierung am besten? (Gemeldete Sicherheit und tatsächliche Trefferhäufigkeit passen über viele vergleichbare Fälle zusammen) (!Eine Antwort wird besonders lang formuliert) (!Ein Text enthält möglichst viele Fachbegriffe) (!Eine KI wiederholt dieselbe Antwort zweimal)

Welcher Schritt gehört zu guter Quellenkritik? (Den Originalbeleg öffnen und prüfen ob er die Behauptung wirklich stützt) (!Nur das Design einer Webseite bewerten) (!Die erste Suchmeldung ungeprüft übernehmen) (!Eine Behauptung teilen sobald sie plausibel klingt)

Was ist Bias im KI-Kontext? (Eine systematische Verzerrung die bestimmte Ergebnisse oder Gruppen ungleich beeinflussen kann) (!Ein technischer Begriff für besonders schnelle Rechner) (!Ein Beweis dass jede KI absichtlich diskriminiert) (!Eine Methode zum Verschlüsseln von Passwörtern)

Welche Reaktion ist bei einer verdächtigen Datenforderung am sichersten? (Nichts eingeben und die Anfrage über einen bekannten unabhängigen Weg prüfen) (!Sofort antworten damit kein Zeitverlust entsteht) (!Das Passwort senden aber danach ändern) (!Den Link an möglichst viele Freunde weiterleiten)

Was ist ein typisches Zeichen für Social Engineering? (Ungewöhnlicher Zeitdruck verbunden mit einer Forderung nach Daten oder Handlungen) (!Eine sachliche Nachricht ohne Handlungsaufforderung) (!Ein bekanntes Schulbuch im Unterricht) (!Eine Rechenaufgabe mit mehreren Lösungswegen)

Wie solltest Du mit unerwarteten Anweisungen in einem fremden Dokument umgehen die Deine KI-Aufgabe verändern wollen? (Als mögliches Manipulationssignal behandeln und den Vorgang stoppen und prüfen) (!Immer ausführen weil Dokumente vertrauenswürdig sind) (!Die Anweisung an weitere Systeme weitergeben) (!Zusätzliche Zugriffsrechte vergeben)

Welche Aussage über mehrere übereinstimmende KI-Antworten ist richtig? (Übereinstimmung kann Stabilität zeigen ist aber noch kein Wahrheitsbeweis) (!Übereinstimmung beweist dass eine Quelle echt ist) (!Drei gleiche Antworten machen Quellen überflüssig) (!Wiederholung verhindert jede Halluzination)

Was bedeutet Human Agency beim Einsatz von KI? (Du behältst die Entscheidungshoheit und prüfst Belege selbst) (!Die KI entscheidet endgültig für Dich) (!Nur Lehrkräfte dürfen eigene Urteile bilden) (!Automatische Antworten sind immer neutral)

Memory

Kalibrierung	Sicherheit passt zur beobachteten Trefferhäufigkeit
Halluzination	Plausibel klingende aber unbelegte oder falsche Ausgabe
Bias	Systematische Verzerrung
Provenienz	Herkunft und Entstehung eines Mediums
Datenminimierung	Nur notwendige Informationen verwenden
Social Engineering	Manipulation von Menschen durch Täuschung und Druck
Laterales Lesen	Weitere Quellen parallel öffnen und vergleichen
Human Agency	Mensch behält Urteil und Entscheidung

Drag and Drop

Ordne die richtigen Begriffe zu.	Thema
Originalquelle	Beleg direkt am Ursprung prüfen
Kalibrierung	Sicherheit mit Trefferhäufigkeit vergleichen
Datenminimierung	Nur notwendige Angaben eingeben
Biasprüfung	Fehlende Perspektiven und systematische Verzerrungen suchen
Stopp-Regel	Bei verdächtigen Anweisungen keine unerwartete Aktion ausführen
Quervergleich	Unabhängige seriöse Quelle zusätzlich heranziehen

...

Kreuzworträtsel

Kalibrierung	Wie heißt die Übereinstimmung von angegebener Sicherheit und tatsächlicher Trefferhäufigkeit?
Trainingsdaten	Wie nennt man Daten die beim Lernen eines Modells verwendet werden?
Kontext	Welches Wort bezeichnet die Umgebung und Zusatzinformationen einer Frage?
Phishing	Wie heißt der Täuschungsversuch bei dem Zugangsdaten abgegriffen werden sollen?
Deepfake	Wie heißt ein täuschend echt wirkender synthetischer oder manipulierter Medieninhalt?
Bias	Welcher kurze englische Begriff bezeichnet eine systematische Verzerrung?

LearningApps

Lückentext

Ein Sprachmodell erzeugt Ausgaben mithilfe gelernter

und besitzt keinen eingebauten Wahrheitsdetektor. Eine plausibel klingende aber falsche Ausgabe wird oft

genannt. Eine selbst genannte Prozentzahl ersetzt keinen

. Bei guter Quellenkritik suchst Du möglichst nach der

. Systematische Verzerrungen werden häufig als

bezeichnet. Bei persönlichen Informationen gilt das Prinzip der

. Unerwartete fremde Anweisungen in Dateien können ein Hinweis auf

sein. Bei verdächtigen Datenforderungen solltest Du den Vorgang

. Die endgültige Entscheidung bleibt beim

.

Offene Aufgaben

Leicht

Unsicherheits-Ampel: Formuliere drei Beispielaussagen einer KI und ordne sie den Stufen „gut belegt“, „unklar“ oder „wahrscheinlich falsch“ zu. Begründe jede Zuordnung mit mindestens einem Kriterium.
Sprachdetektiv: Sammle fünf Wörter oder Formulierungen, mit denen ein Text Sicherheit ausdrückt. Erkläre, warum selbstbewusste Sprache noch kein Beleg ist.
Quellen-Finder: Nimm eine harmlose Sachbehauptung aus einem Schulfach und suche den Originalbeleg oder eine verlässliche Primärquelle. Dokumentiere Autor, Datum und Fundstelle.
Datenschutz-Check: Überarbeite einen erfundenen Schul-Prompt so, dass Namen, Kontaktdaten und unnötige persönliche Angaben durch neutrale Platzhalter ersetzt werden.

Standard

BELEG-Protokoll: Prüfe eine KI-Antwort mit allen fünf Schritten des BELEG-Checks und kennzeichne klar, was belegt, plausibel oder offen bleibt.
Bias-Lupe: Erzeuge oder erhalte mehrere harmlose Beispiele zu einem Alltagsthema und untersuche, ob Rollen, Gruppen oder Perspektiven einseitig dargestellt werden. Verändere die Fragestellung und vergleiche.
Medienanalyse: Wähle ein frei lizenziertes Bild oder einen historischen Bildbeleg und analysiere Herkunft, Ausschnitt, Kontext, mögliche Bearbeitung und Wirkung. Erkläre, was Du sicher und was Du nicht sicher sagen kannst.
Sicherheitsdialog: Entwickle zu zweit ein kurzes Rollenspiel, in dem eine Person eine verdächtige dringende Anfrage erhält. Zeigt ausschließlich sichere Reaktionen: stoppen, unabhängig prüfen, keine Daten preisgeben, melden.

Schwer

Kalibrierungs-Experiment: Arbeite mit mindestens 20 ungefähr gleich schwierigen Fragen. Vergleiche angegebene Sicherheit mit tatsächlicher Richtigkeit und stelle die Ergebnisse in einer Tabelle dar. Diskutiere die Grenzen Deiner kleinen Stichprobe.
Quellenvergleich: Vergleiche drei Quellen zu derselben Behauptung nach Autorität, Aktualität, Unabhängigkeit, Originalnähe und möglichem Interesse. Formuliere danach ein begründetes Gesamturteil.
KI-Risikoregeln: Entwirf für eine fiktive Schul-AG fünf Regeln für sichere KI-Nutzung zu Eingaben, Freigaben, Quellenprüfung, Transparenz und Reaktion auf Manipulationssignale. Begründe jede Regel.
Faktencheck-Redaktion: Erstellt in einer Gruppe einen kurzen Faktencheck zu einer fiktiven viralen Meldung. Trennt Behauptung, Belege, Gegenbelege, Unsicherheiten, Bias-Risiken und Sicherheitsaspekte und veröffentlicht erst danach Euer Urteil.

Lernkontrolle

Begründetes Urteil: Eine KI nennt eine konkrete Zahl, aber keine Quelle. Beschreibe, welche Informationen Du zusätzlich brauchst, bevor Du die Zahl in einem Referat verwendest, und begründe die Reihenfolge Deiner Prüfungen.
Transfer auf Geschichte: Ein altes Foto wird in sozialen Medien mit einer neuen Bildunterschrift verbreitet. Entwickle einen Prüfplan, der historische Quellenkritik und moderne Medienprüfung verbindet.
Transfer auf Mathematik: Ein System gibt bei zehn Aufgaben immer „90 Prozent sicher“ an und liegt nur sechsmal richtig. Erkläre, warum dieses kleine Ergebnis Zweifel an der Kalibrierung weckt und warum zehn Fälle trotzdem noch keine starke Schlussfolgerung erlauben.
Fairness-Fall: Eine KI empfiehlt für verschiedene erfundene Personen unterschiedliche Bildungswege. Entwickle Kriterien, mit denen Du prüfst, ob die Unterschiede sachlich begründet oder möglicherweise unfair verzerrt sind.
Sicherheitsentscheidung: Eine KI-Anwendung bittet um Zugriff auf den gesamten Cloudspeicher, obwohl Du nur eine einzelne Datei zusammenfassen willst. Begründe eine sichere Entscheidung nach dem Prinzip „so wenig Zugriff wie nötig“.
Manipulationsfall: In einer hochgeladenen Datei steht eine unerwartete Anweisung, zusätzliche persönliche Daten zu senden. Erkläre, warum das ein Warnzeichen ist, welche Schritte Du unterlässt und wen Du einbeziehst.
Demokratie-Transfer: Eine virale politische Aussage wird von vielen Accounts identisch wiederholt. Erkläre, warum Häufigkeit kein Wahrheitsbeweis ist und welche unabhängigen Belege Du für ein Urteil suchst.

Reflexion und Transfer

Beantworte am Ende drei Fragen in vollständigen Sätzen: Welche Art von KI-Aussage prüfst Du künftig genauer? Welches Sicherheitsverhalten änderst Du konkret? Woran erkennst Du, dass Dein Urteil auf Belegen und nicht nur auf einem Gefühl beruht?

Ein guter Abschluss-Satz hat diese Form: „Ich halte die Behauptung derzeit für …, weil … . Dafür sprechen die Belege … . Unsicher bleibt … . Deshalb würde ich als Nächstes … .“

Lernnachweis

Für einen Lernnachweis zu diesem Thema ist wichtig, dass Du nicht nur Begriffe wiedergeben kannst. Du sollst an einem neuen Fall zeigen, dass Du nachvollziehbar urteilst.

Du zerlegst eine KI-Antwort in konkrete prüfbare Behauptungen.
Du unterscheidest sprachliche Sicherheit von tatsächlicher Evidenz.
Du nutzt mindestens zwei geeignete Belege und bewertest deren Qualität.
Du prüfst Aktualität, Kontext, Originalnähe und mögliche Abhängigkeiten der Quellen.
Du benennst mögliche Bias- oder Fairnessprobleme.
Du erkennst Datenschutz-, Freigabe-, Social-Engineering- und Manipulationsrisiken.
Du wählst eine sichere Reaktion, ohne unnötige Daten oder Zugriffe freizugeben.
Du formulierst ein abgestuftes Urteil und kennzeichnest verbleibende Unsicherheit.
Du dokumentierst, wie KI eingesetzt wurde und welche Entscheidungen Du selbst getroffen hast.

OERs zum Thema

Verknüpfte Lernbereiche

Unsicherheit von KI beurteilen

aiMOOC-Projekte

Inhalte werden geladen ...

Mediathek wird aus dem Wiki geladen ...

Frag mich zum aktuellen Lerninhalt oder wähle eine kurze Hilfe.

Textmodus bereit

Sprache