Diesen aiMOOC als Battle spielen: Deutsch, Klasse 9-10, M-Niveau

KI-Forschung und KI-Behauptungen kritisch lesen

Zielgruppe: Klasse 10, fächerübergreifend für Informatik, Mathematik, Technik, Deutsch, Wirtschaft, Geschichte, Ethik, Gemeinschaftskunde und Medienbildung.

Zeitbedarf: etwa 45–90 Minuten. In einer Kurzstunde bearbeitest Du Aktivierung, Behauptungsanalyse, Quellencheck und Transferentscheidung. In einer Doppelstunde kommen Evaluation, Governance, Folgenabschätzung und vertiefte Aufgaben hinzu.

Leitfrage: Wie kannst Du eine überzeugend klingende Aussage über KI so prüfen, dass Deine Entscheidung nicht vom Tonfall, von einer Marke oder von einer einzelnen Quelle abhängt?

Grundregel: Eine KI-Ausgabe darf nie alleiniger Beleg für ihre eigene Aussage sein. KI kann beim Formulieren von Suchbegriffen, beim Strukturieren oder beim Finden möglicher Gegenargumente helfen. Ob eine Behauptung tragfähig ist, musst Du aber an nachvollziehbaren, möglichst unabhängigen Quellen, Daten, Methoden und Gegenprüfungen prüfen.

Einleitung

KI-Forschung produziert Studien, Datensätze, Benchmarks, technische Berichte, Modelle und Software. Gleichzeitig erscheinen dazu Pressemitteilungen, Social-Media-Posts, Produktwerbung, Nachrichtenbeiträge und KI-generierte Zusammenfassungen. Diese Texte können denselben Gegenstand behandeln, erfüllen aber unterschiedliche Funktionen. Deshalb ist die Frage „Stimmt das?“ oft zu grob. Besser ist: Was genau wird behauptet, für wen gilt es, wie wurde es geprüft, wer hat ein Interesse an der Aussage und welche unabhängigen Belege sprechen dafür oder dagegen?

Du lernst in diesem Kurs nicht, jede Quelle sofort in „wahr“ oder „falsch“ einzuteilen. Du lernst, Unsicherheit sichtbar zu machen, Evidenz zu gewichten, Grenzen einer Studie zu erkennen und eine begründete Entscheidung zu treffen. Das stärkt menschliche Entscheidungsfähigkeit: Technik liefert Hinweise, aber Verantwortung, Abwägung und Begründung bleiben bei Menschen.

Das Video zum lateralen Lesen zeigt eine zentrale Strategie: Bleibe nicht auf einer Webseite, um ihre Glaubwürdigkeit nur aus ihrem eigenen Erscheinungsbild abzuleiten. Öffne neue Tabs, prüfe, wer hinter der Quelle steht, suche unabhängige Einordnungen und vergleiche die ursprüngliche Behauptung mit anderen Belegen.

Lernziele

Nach dem Kurs kannst Du eine KI-Behauptung in überprüfbare Teilbehauptungen zerlegen, Primärquellen und Sekundärquellen unterscheiden, die Qualität von Studien und Benchmarks kritisch einschätzen, unabhängige Gegenprüfungen durchführen und verschiedene Perspektiven vergleichen. Du kannst außerdem ein KI-System als sozio-technisches System beschreiben, passende Evaluationskriterien wählen, Fragen der Governance, Fairness, Datenschutzes, Sicherheit und menschlichen Aufsicht einbeziehen und Folgen für unterschiedliche Gruppen abschätzen.

Am Ende überträgst Du das Vorgehen selbstständig auf einen neuen Fall und begründest, ob Du eine Behauptung akzeptierst, zurückstellst, weiterprüfst oder verwirfst.

Unterrichtsablauf für 45–90 Minuten

Phase	Kurzstunde	Doppelstunde	Ziel
Aktivierung/Diagnose	5 Min.	8 Min.	Erste Intuition sichtbar machen
Einführung Behauptung und Quelle	10 Min.	15 Min.	Behauptungen zerlegen und Quellenrollen verstehen
Evaluation und Systemdesign	10 Min.	20 Min.	Messung, Vergleich und Systemgrenzen prüfen
Anwendungssituation	15 Min.	30 Min.	Evidenz abwägen, Governance und Folgen prüfen
Selbstkontrolle, Reflexion, Transfer	5 Min.	17 Min.	Entscheidung begründen und auf neuen Fall übertragen

Fächerübergreifende Perspektiven

Fach	Typische Frage an eine KI-Behauptung	Kompetenz
Informatik	Welche Daten, Modelle, Schnittstellen und Fehlerpfade gehören zum System?	Systemdenken und technische Grenzen
Mathematik	Welche Bezugswerte, Kennzahlen, Unsicherheiten und Gruppenvergleiche stecken hinter einer Zahl?	Statistik, Prozentrechnung und Modellbewertung
Technik	Wie verhält sich das System im realen Einsatz und bei Störungen?	Gestaltung, Sicherheit und Lebenszyklus
Deutsch	Welche sprachlichen Mittel erzeugen Sicherheit, Dringlichkeit oder Autorität?	Argumentationsanalyse und präzises Formulieren
Wirtschaft	Welche Interessen, Kosten, Folgekosten und Abhängigkeiten beeinflussen eine Behauptung?	Anreize, Beschaffung und Wirtschaftlichkeit
Geschichte	Wie verändern Herkunft, Zeitpunkt, Überlieferungsweg und Perspektive die Aussagekraft einer Quelle?	Historische Quellenkritik und Kontextualisierung
Ethik	Welche Werte, Rechte, Nachteile und Verteilungseffekte stehen auf dem Spiel?	Normative Abwägung und Fairness
Gemeinschaftskunde	Wer setzt Regeln, wer kontrolliert und wie können Betroffene widersprechen?	Governance, Recht und demokratische Rechenschaft

Aktivierung und Diagnose: Würdest Du das teilen?

Stell Dir vor, Du siehst folgende Meldung: „Neue KI verbessert die Lernleistung um 30 Prozent und ist nachweislich fair.“ Bevor Du suchst, notiere in 60 Sekunden: Was glaubst Du? Was würdest Du gern wissen? Welche Wörter der Behauptung sind unklar?

Vergleiche anschließend zu zweit. Eine gute Diagnose besteht nicht darin, sofort die richtige Antwort zu kennen. Sie zeigt, welche Rückfragen Dir spontan fehlen. Typische Prüffragen betreffen die Bezugsgröße von „30 Prozent“, die Vergleichsgruppe, die Definition von „fair“, die Größe und Zusammensetzung der Stichprobe, Interessenkonflikte, unabhängige Replikation und die Übertragbarkeit auf Deine Schule.

Behauptungen präzise lesen

Von der Schlagzeile zur prüfbaren Aussage

Eine Behauptung ist prüfbar, wenn klar ist, wer oder was, unter welchen Bedingungen, mit welchem Vergleich, nach welchem Maßstab und mit welcher Sicherheit gemeint ist. Aus „KI ist besser“ wird zum Beispiel: „System X erreicht auf Datensatz Y bei Aufgabe Z eine höhere Trefferquote als Vergleich M, gemessen mit Kennzahl K.“ Erst dann weißt Du, welche Belege passen würden.

Unterscheide außerdem vier Arten von Aussagen. Eine deskriptive Aussage beschreibt beobachtete Daten. Eine kausale Aussage behauptet, dass etwas eine Veränderung verursacht. Eine Prognose sagt etwas über Zukünftiges. Eine normative Aussage bewertet, was getan werden sollte. Dieselbe Studie kann eine deskriptive Aussage stützen, aber für eine kausale oder normative Schlussfolgerung nicht ausreichen.

Mathematik-Falle: Prozent oder Prozentpunkte?

Steigt eine Trefferquote von 50 % auf 65 %, dann sind das 15 Prozentpunkte mehr. Relativ zur Ausgangslage sind es jedoch 30 % mehr, denn 15 geteilt durch 50 ergibt 0,30. Eine Schlagzeile mit „30 % Verbesserung“ kann also korrekt gerechnet und trotzdem irreführend sein, wenn sie die Bezugsgröße verschweigt. Genau deshalb gehören Prozentrechnung, Bezugswert und Ausgangswert zur Quellenkritik.

Unsicherheit und Geltungsbereich

Eine seriöse Aussage nennt Grenzen. Frage deshalb: Gilt das Ergebnis nur für einen bestimmten Datensatz, eine bestimmte Sprache, Altersgruppe, Region oder Modellversion? Wurden Fehlerbereiche, Streuung oder Konfidenzintervalle angegeben? Wurden viele Varianten getestet und nur die beste berichtet? Ein Ergebnis kann statistisch auffällig sein und praktisch trotzdem wenig bedeuten.

Quellenqualität und Evidenz

Primärquelle, Sekundärquelle und Quellenrolle

Eine Primärquelle liefert Material aus erster Hand zum untersuchten Gegenstand, zum Beispiel eine Originalstudie, ein Datensatz, ein Versuchsprotokoll, Quellcode, eine Modellkarte oder eine amtliche Rechtsnorm. Eine Sekundärquelle ordnet Primärmaterial ein, zum Beispiel ein Review, eine Metaanalyse, ein Fachkommentar oder ein journalistischer Bericht.

Wichtig ist: Die Quellenart allein garantiert keine Qualität. Eine fehlerhafte Originalstudie bleibt eine Primärquelle. Ein sorgfältiges systematisches Review kann für eine Überblicksfrage aussagekräftiger sein. Außerdem hängt die Quellenrolle von Deiner Frage ab: Eine Werbeseite eines Anbieters ist eine Primärquelle dafür, was der Anbieter behauptet, aber nicht automatisch ein guter Beleg dafür, dass die Behauptung stimmt.

Quellencheck in fünf Schritten

Behauptung präzisieren: Formuliere die Aussage so, dass sie widerlegbar oder bestätigbar wäre.
Ursprung finden: Suche nach der frühesten belastbaren Quelle, auf die spätere Texte verweisen.
Unabhängig gegenprüfen: Öffne neue Quellen, die organisatorisch und finanziell nicht vom ursprünglichen Akteur abhängen.
Methode prüfen: Untersuche Stichprobe, Vergleich, Messgrößen, Ausschlüsse, Unsicherheit und mögliche Interessenkonflikte.
Abwägen: Vergleiche übereinstimmende und widersprechende Befunde und gib an, wie sicher Deine Schlussfolgerung ist.

Die wissenschaftliche Methode ist kein linearer Wahrheitsautomat. Beobachten, Hypothesen bilden, prüfen, Ergebnisse einordnen und bei neuen Befunden revidieren gehören zusammen. Für KI-Forschung bedeutet das: Ein einzelner Benchmark oder eine einzelne Studie ist ein Baustein, nicht das Ende der Prüfung.

Perspektivenvergleich statt Autoritätsabkürzung

Vergleiche mindestens drei Perspektiven, wenn eine Entscheidung Folgen für andere hat: die Perspektive der Entwickelnden oder Anbieter, die Perspektive unabhängiger Forschung oder Prüfung und die Perspektive der Betroffenen. Bei einem schulischen KI-System können das beispielsweise Lehrkräfte, Lernende, Eltern, Datenschutzbeauftragte, Schulleitung und Schulträger sein. Unterschiedliche Perspektiven sind kein Beweis für Beliebigkeit; sie helfen Dir, unterschiedliche Ziele, Risiken und Wissensstände sichtbar zu machen.

KI-Systeme als Systeme verstehen

Mehr als ein Modell

Ein KI-System besteht nicht nur aus einem Modell. Dazu gehören Eingabedaten, Vorverarbeitung, Modell oder Regelkomponenten, Benutzeroberfläche, Menschen, organisatorische Abläufe, Schwellenwerte, Protokolle, Wartung und die Umgebung, in der Entscheidungen getroffen werden. Ein Modell kann im Labor gut funktionieren und im Alltag trotzdem ungeeignet sein, wenn Daten anders aussehen oder Menschen seine Ausgabe falsch interpretieren.

Beim Systemdesign fragst Du deshalb: Was ist der Zweck? Welche Eingaben sind erlaubt? Welche Ausgaben entstehen? Wer darf sie sehen? Wer trifft die endgültige Entscheidung? Was passiert bei Unsicherheit? Wie kann man widersprechen? Wann wird das System abgeschaltet oder neu geprüft?

Systemgrenze und Human Agency

Eine sinnvolle Systemgrenze zeigt, an welcher Stelle Technik endet und menschliche Verantwortung beginnt. Human-in-the-loop bedeutet nicht automatisch gute Aufsicht. Ein Mensch kann nur verantwortlich eingreifen, wenn er genügend Zeit, Informationen, Kompetenz und tatsächliche Entscheidungsbefugnis hat. Ein „Bestätigen“-Knopf allein ist keine wirksame Kontrolle.

Evaluation: Was bedeutet „funktioniert“?

Baseline, Testdaten und Messgrößen

Evaluation braucht einen Vergleich. Eine Baseline kann ein einfaches Regelverfahren, eine bisherige Praxis oder ein anderes Modell sein. Entscheidend ist, dass der Vergleich fair ist. Werden Systeme auf verschiedenen Daten oder mit unterschiedlichen Hilfsmitteln getestet, ist ein Ranglistenplatz wenig aussagekräftig.

Testdaten sollten die reale Einsatzsituation ausreichend abbilden und dürfen nicht heimlich zum Training oder zur Auswahl des besten Modells verwendet worden sein. Sonst droht Datenleckage: Das System scheint stark, weil es Teile der Prüfung schon indirekt „gesehen“ hat.

Bei Klassifikationsaufgaben reicht Accuracy oft nicht. Wenn 99 von 100 Fällen unkritisch sind, erreicht ein System 99 % Accuracy, wenn es immer „unkritisch“ sagt, erkennt aber keinen kritischen Fall. Deshalb können Precision, Recall, Fehlalarmrate oder gruppenspezifische Fehler wichtiger sein.

Fairness prüfen

„Fair“ ist keine einzelne technische Zahl. Je nach Kontext können unterschiedliche Fairnessziele miteinander in Spannung stehen. Prüfe deshalb, welche Fairnessdefinition verwendet wird, welche Gruppen betrachtet werden, ob die Gruppen groß genug für belastbare Aussagen sind und welche Folgen Fehlentscheidungen für die Betroffenen haben.

Beispiel: Ein System kann insgesamt 90 % korrekt sein, aber bei einer kleinen Gruppe deutlich häufiger falsche negative Entscheidungen treffen. Der Durchschnitt verdeckt dann ein relevantes Problem. Mathematische Kennzahlen werden erst im sozialen Kontext sinnvoll.

Robuste Evaluation statt Bestwertsuche

Eine gute Evaluation prüft nicht nur den besten Durchschnittswert. Sie untersucht Fehlerfälle, verschiedene Untergruppen, neue Daten, veränderte Bedingungen und den Vergleich mit einfachen Alternativen. Sie dokumentiert auch, welche Version des Systems getestet wurde. Bei schnell veränderten KI-Systemen kann ein Test einer alten Version nur begrenzt auf eine neue Version übertragen werden.

Governance, Gestaltung und Folgenabschätzung

Governance: Wer darf was entscheiden?

Governance bezeichnet Regeln, Zuständigkeiten und Verfahren, mit denen eine Organisation Entscheidungen steuert und Rechenschaft ermöglicht. Für ein KI-System gehören dazu zum Beispiel ein klarer Zweck, Verantwortlichkeiten, Freigabekriterien, Dokumentation, Beschwerdewege, Datenschutz, Sicherheitsmaßnahmen, regelmäßige Neubewertung und ein Plan für Störungen oder Fehlentscheidungen.

Ein hilfreiches Beispiel ist das freiwillige AI Risk Management Framework des US-amerikanischen NIST mit den Funktionen Govern, Map, Measure, Manage. Es ist kein allgemeingültiges Gesetz, zeigt aber ein wichtiges Prinzip: Risiken sollten über den gesamten Lebenszyklus betrachtet und nicht erst nach einem Schaden geprüft werden.

Diese Grafik ist frei lizenziert und selbst ein gutes Übungsobjekt: Sie kann ein Konzept anschaulich machen, ist aber kein Beleg dafür, dass ein konkretes System sicher oder fair ist. Prüfe bei jeder Grafik Herkunft, Autorenschaft, Lizenz, Zweck und die Quellen, auf die sie sich stützt.

Folgenabschätzung

Eine Folgenabschätzung fragt vor dem Einsatz: Wer profitiert? Wer trägt Risiken? Welche Fehler sind reversibel und welche nicht? Welche Daten werden benötigt? Gibt es weniger eingreifende Alternativen? Wie kann man Betroffene informieren und Einspruch ermöglichen? Welche direkten und indirekten Folgen könnten auftreten?

Für Schule sind besonders wichtig: Lernchancen, Leistungsdruck, Datenschutz, Barrierefreiheit, Diskriminierungsrisiken, Abhängigkeit von Technik, Kosten, pädagogische Freiheit und die Frage, ob Lernende verstehen können, wie eine Entscheidung zustande kommt.

Recht und Transparenz als Primärquelle lesen

Rechtsnormen sind Primärquellen für rechtliche Pflichten. Die EU-Verordnung über Künstliche Intelligenz enthält unter anderem Transparenz- und Aufsichtspflichten für bestimmte KI-Systeme. Für Deine Quellenkritik ist wichtig: Eine Zusammenfassung über ein Gesetz kann hilfreich sein, aber bei einer konkreten Rechtsfrage solltest Du die Originalnorm und gegebenenfalls fachkundige Einordnung prüfen. Eine KI-Zusammenfassung ersetzt weder den Gesetzestext noch Rechtsberatung.

Prebunking: Manipulation erkennen, bevor sie wirkt

Prebunking bedeutet, typische Manipulationstechniken vorab kennenzulernen, damit Du sie später leichter erkennst. Dazu gehören beispielsweise falsche Dichotomien, emotionale Übertreibung, persönliche Angriffe, Sündenbockmuster oder aus dem Zusammenhang gerissene Belege. Forschung zur psychologischen Inokulation zeigt, dass kurze Trainings die Erkennung solcher Techniken verbessern können. Das macht eine konkrete Behauptung aber nicht automatisch falsch: Du musst weiterhin den Sachbeleg prüfen.

Ein nützlicher Prebunking-Satz lautet: „Eine starke Formulierung ist noch kein starker Beleg.“ Achte besonders auf Behauptungen wie „wissenschaftlich bewiesen“, „völlig objektiv“, „100 % sicher“, „revolutionär“ oder „alle Experten sind sich einig“, wenn keine überprüfbaren Quellen, Bedingungen und Grenzen genannt werden.

Realistische Anwendungssituation: Soll die Schule ein KI-Lernsystem testen?

Die Schulleitung prüft ein neues KI-Lernsystem für Mathematik. Der Anbieter behauptet: „Mit unserem System verbessern Zehntklässler ihre Testergebnisse um 30 %, Lehrkräfte sparen 40 % Korrekturzeit und das System bewertet alle Lernenden fair.“ Eure Klasse soll eine Empfehlung für oder gegen einen sechsmonatigen Pilotversuch vorbereiten.

Ihr erhaltet ein fiktives, aber realistisches Evidenzpaket:

Quelle	Inhalt	Erste Einordnung
A: Anbieter-Pressemitteilung	„30 % bessere Leistung“, keine genaue Bezugsgröße	Primärquelle für die Anbieterbehauptung, nicht automatisch für deren Wahrheit
B: Studie mit Anbieterbeteiligung	60 Lernende, zwei Klassen, kurzer Zeitraum, Verbesserung von 50 % auf 65 % im Test	Originalstudie; möglicher Interessenkonflikt; 15 Prozentpunkte beziehungsweise 30 % relativ
C: Unabhängiger Review	Mehrere ähnliche Lernsysteme zeigen kleine bis mittlere Effekte, aber stark unterschiedliche Studienqualität	Sekundärquelle; hilfreich für den Überblick
D: Schulinterne Befragung	Lernende nennen Nutzen, aber auch Sorge über Datennutzung und Fehlbewertungen	Lokale Primärdaten; wichtig für Folgenabschätzung, aber kein Wirksamkeitsnachweis
E: Technische Dokumentation	Erklärt Eingaben, Ausgaben und Protokollierung, nennt aber keine gruppenspezifischen Fehlerraten	Relevant für Systemdesign und Transparenz; Fairnessbehauptung bleibt offen

Arbeitsauftrag in drei Niveaus

Leicht: Markiere in der Anbieterbehauptung mindestens vier unklare Begriffe. Formuliere für jeden Begriff eine Rückfrage, die mit Daten oder Dokumenten beantwortet werden könnte.

Standard: Ordne jede Quelle nach Quellenrolle, Unabhängigkeit, Relevanz und methodischer Stärke ein. Entscheide, welche zusätzliche Evidenz Du vor einem Pilotversuch verlangen würdest.

Schwer: Entwirf einen Pilotversuch mit Ziel, Vergleichsgruppe, mindestens zwei Leistungsmaßen, einem Fairnessmaß, Datenschutz- und Beschwerdeweg, menschlicher Aufsicht sowie Kriterien für Abbruch oder Weiterführung. Begründe, warum Dein Design die Behauptungen besser prüft als die vorhandenen Informationen.

Entscheidungsmatrix

Prüfbereich	Leitfrage	Mögliche Evidenz
Wirksamkeit	Lernen die Schülerinnen und Schüler tatsächlich besser?	Vorher-Nachher-Daten mit fairer Vergleichsgruppe, unabhängige Studien
Zuverlässigkeit	Bleibt die Leistung bei neuen Aufgaben und Gruppen stabil?	Externe Testdaten, Wiederholungen, Fehleranalysen
Fairness	Sind Fehler und Chancen zwischen relevanten Gruppen angemessen verteilt?	Gruppenspezifische Kennzahlen plus Folgenanalyse
Sicherheit und Datenschutz	Werden Daten minimiert, geschützt und zweckgebunden verarbeitet?	Datenschutzkonzept, technische und organisatorische Maßnahmen
Human Agency	Können Lehrkräfte und Lernende verstehen, widersprechen und eingreifen?	Erklärungen, Override, Beschwerdeweg, Schulung
Wirtschaftlichkeit	Ist der Nutzen die Kosten und Folgerisiken wert?	Vollkosten, Zeitaufwand, Alternativen, Exit-Kosten
Governance	Wer trägt Verantwortung und wann wird neu bewertet?	Rollen, Protokolle, Freigaben, Audit- und Eskalationswege

Selbstkontrolle und Reflexion

Bevor Du Deine Entscheidung abgibst, prüfe sie mit vier Sätzen: Ich behaupte …; Meine stärksten unabhängigen Belege sind …; Die wichtigste Unsicherheit ist …; Ich würde meine Entscheidung ändern, wenn …. Wenn Du beim dritten oder vierten Satz nichts nennen kannst, ist Deine Analyse wahrscheinlich noch zu sicher formuliert.

Reflektiere außerdem: Hast Du einer professionell gestalteten Quelle mehr vertraut als einer methodisch besseren, aber unscheinbaren Quelle? Hast Du eine KI-Zusammenfassung wie eine Quelle behandelt? Hast Du widersprechende Evidenz aktiv gesucht oder nur Bestätigung? Welche betroffene Gruppe kam in Deiner ersten Analyse nicht vor?

Transfer auf einen neuen Fall

Neue Situation: Eine Kommune erwägt ein KI-System, das Hinweise aus Bürgeranfragen automatisch priorisiert. Ein Bericht behauptet, das System sei „doppelt so effizient“ und „objektiver als Menschen“. Übertrage das Vorgehen ohne fertige Vorlage: Präzisiere die Behauptungen, bestimme benötigte Primär- und Sekundärquellen, plane eine unabhängige Gegenprüfung, wähle geeignete Kennzahlen, benenne Stakeholder, prüfe Governance und Folgen und triff eine begründete Empfehlung.

Dein Ergebnis soll nicht nur „ja“ oder „nein“ lauten. Eine gute Entscheidung kann auch heißen: Pilot unter Bedingungen, weitere Evidenz erforderlich oder Einsatz ablehnen, solange ein bestimmtes Risiko nicht beherrscht ist.

Gesicherte Quellen und Vertiefung

NIST AI Risk Management Framework: Das freiwillige Rahmenwerk strukturiert KI-Risikomanagement mit Govern, Map, Measure und Manage: https://www.nist.gov/itl/ai-risk-management-framework
EU-Verordnung über künstliche Intelligenz: Primärquelle für die europäische KI-Regulierung, einschließlich Transparenz und menschlicher Aufsicht für bestimmte Systeme: https://eur-lex.europa.eu/eli/reg/2024/1689/oj/deu
UNESCO-Leitfaden zu generativer KI in Bildung und Forschung: Betont einen menschenzentrierten, altersangemessenen und kritischen Einsatz: https://www.unesco.org/en/articles/guidance-generative-ai-education-and-research
Psychologische Inokulation gegen Desinformation: Roozenbeek u. a., Science Advances 2022, DOI 10.1126/sciadv.abo6254: https://pmc.ncbi.nlm.nih.gov/articles/PMC9401631/
Laterales Lesen: Forschung zur Quellenbewertung zeigt Vorteile des lateralen Lesens bei der Beurteilung digitaler Inhalte: https://pmc.ncbi.nlm.nih.gov/articles/PMC7615324/

Interaktive Aufgaben

Quiz: Teste Dein Wissen

Eine KI behauptet, ihre Antwort sei wissenschaftlich belegt. Was ist der beste nächste Schritt? (Die genannte Originalquelle öffnen und unabhängig gegenprüfen) (!Die Antwort übernehmen, wenn sie überzeugend formuliert ist) (!Die KI nach einer zweiten Formulierung fragen und diese als Bestätigung werten) (!Nur prüfen, ob die Antwort viele Fachbegriffe enthält)

Ein Testwert steigt von 50 auf 65 Prozent. Welche Formulierung ist mathematisch präzise? (15 Prozentpunkte mehr und relativ 30 Prozent mehr) (!15 Prozent mehr und relativ 65 Prozent mehr) (!30 Prozentpunkte mehr und relativ 15 Prozent mehr) (!65 Prozentpunkte mehr und relativ 50 Prozent mehr)

Wofür ist eine Anbieter-Pressemitteilung am stärksten als Quelle geeignet? (Dafür festzustellen, was der Anbieter selbst behauptet) (!Dafür endgültig zu beweisen, dass das Produkt wirkt) (!Dafür unabhängige Replikation zu ersetzen) (!Dafür Interessenkonflikte auszuschließen)

Ein Modell erreicht 99 Prozent Accuracy, erkennt aber keinen seltenen kritischen Fall. Welche Schlussfolgerung ist sinnvoll? (Weitere Kennzahlen wie Recall und die Folgen der Fehler müssen geprüft werden) (!99 Prozent Accuracy beweisen, dass das System für jeden Zweck geeignet ist) (!Bei hoher Accuracy sind Fehlertypen unwichtig) (!Die Testdaten können grundsätzlich ignoriert werden)

Welche Vorgehensweise entspricht lateralem Lesen? (Die Quelle verlassen und unabhängige Informationen über Quelle und Behauptung suchen) (!Möglichst lange nur die Selbstdarstellung der Quelle lesen) (!Nur das Design und die Professionalität der Webseite bewerten) (!Die erste Suchtrefferüberschrift als Bestätigung verwenden)

Wann ist menschliche Aufsicht bei einem KI-System besonders wirksam? (Wenn Menschen informiert sind, Zeit haben und tatsächlich eingreifen können) (!Wenn Menschen jede KI-Ausgabe automatisch bestätigen müssen) (!Wenn es nur einen Bestätigen-Knopf ohne zusätzliche Informationen gibt) (!Wenn Verantwortung vollständig an das System abgegeben wird)

Eine Studie wurde vom Hersteller des getesteten Systems finanziert. Wie solltest Du damit umgehen? (Interessenkonflikt dokumentieren und nach unabhängiger Bestätigung suchen) (!Die Studie allein wegen der Finanzierung automatisch verwerfen) (!Die Finanzierung ignorieren, wenn das Ergebnis positiv ist) (!Die Studie als unabhängig einstufen)

Was ist beim Prebunking das zentrale Ziel? (Manipulationstechniken früh erkennen, ohne die Sachprüfung zu ersetzen) (!Jede emotional formulierte Aussage automatisch für falsch halten) (!Nur bekannte Falschmeldungen auswendig lernen) (!Keine widersprechenden Quellen mehr lesen)

Ein KI-System ist im Durchschnitt genau, benachteiligt aber eine kleine Gruppe deutlich. Welche Reaktion ist angemessen? (Gruppenspezifische Fehler und Folgen prüfen und das System gegebenenfalls anpassen oder stoppen) (!Nur den Gesamtdurchschnitt berichten) (!Die kleine Gruppe aus der Evaluation entfernen) (!Fairness allein aus der Gesamtgenauigkeit ableiten)

Du musst über einen neuen KI-Einsatz entscheiden, aber die Evidenz ist unvollständig. Was ist eine verantwortliche Entscheidung? (Eine bedingte Entscheidung treffen und klar benennen, welche Evidenz noch fehlt) (!Unsicherheit verschweigen und eine sichere Aussage formulieren) (!Die Entscheidung vollständig an eine KI delegieren) (!Nur die positivste Quelle auswählen)

Memory

Primärquelle	Originalstudie mit eigener Datenerhebung
Sekundärquelle	Unabhängige Einordnung mehrerer Befunde
Laterales Lesen	Neue Tabs für externe Quellenprüfung öffnen
Baseline	Vergleichsmaßstab für eine Evaluation
Audittrail	Nachvollziehbare Spur von Entscheidungen und Änderungen
Prebunking	Vorwarnung vor typischen Manipulationstechniken

Drag and Drop

Ordne die richtigen Begriffe zu.	Thema
Behauptung präzisieren	Prüffrage
Originalstudie öffnen	Primärquelle
Unabhängige Quelle suchen	Gegenprüfung
Vergleichsmaßstab festlegen	Baseline
Fehler nach Gruppen prüfen	Fairness
Verantwortung und Einspruch regeln	Governance

Kreuzworträtsel

Evidenz	Wie heißt die Gesamtheit der Belege, die für oder gegen eine Behauptung spricht?
Baseline	Wie heißt ein Vergleichsmaßstab bei einer Evaluation?
Governance	Wie heißt die Regelung von Zuständigkeiten, Verfahren und Verantwortung?
Fairness	Welcher Begriff bezeichnet die Prüfung angemessener Behandlung verschiedener Gruppen?
Prebunking	Wie heißt das Vorabtraining gegen typische Manipulationstechniken?
Transparenz	Wie heißt das Prinzip, Informationen über Funktionsweise, Grenzen und Zuständigkeiten nachvollziehbar zu machen?

LearningApps

Lückentext

Eine KI-Ausgabe darf nie der einzige

für ihre eigene Aussage sein.

Eine Originalstudie ist typischerweise eine

.

Beim lateralen Lesen verlässt Du die Ausgangsseite und suchst

Informationen.

Ein Vergleichsmaßstab in einer Evaluation heißt

.

Der Anstieg von 50 auf 65 Prozent beträgt 15

.

Eine hohe Gesamtgenauigkeit kann gruppenspezifische

verdecken.

Regeln für Zuständigkeit, Dokumentation und Eskalation gehören zur

.

Eine Folgenabschätzung betrachtet Nutzen, Risiken und betroffene

.

Das Vorablernen typischer Manipulationstechniken nennt man

.

Eine verantwortliche Entscheidung macht verbleibende

sichtbar.

Offene Aufgaben

Leicht

Behauptungsanalyse: Nimm eine aktuelle Aussage über KI aus einem Schulbuch, Nachrichtenbeitrag oder Social-Media-Post und zerlege sie in mindestens vier überprüfbare Teilbehauptungen.
Quellenkritik: Finde zu einer KI-Behauptung die ursprüngliche Quelle und notiere, welche Information in späteren Zusammenfassungen verloren geht.
Prozentrechnung: Erfinde ein Beispiel, bei dem dieselbe Veränderung in Prozent und Prozentpunkten unterschiedlich beeindruckend klingt, und erkläre die Wirkung.
Prebunking: Gestalte eine kleine Infokarte zu einer Manipulationstechnik und ergänze eine Frage, mit der Mitschülerinnen und Mitschüler den Sachbeleg prüfen können.

Standard

Laterales Lesen: Vergleiche drei organisatorisch unabhängige Quellen zu derselben KI-Behauptung und dokumentiere, wie sich Deine Einschätzung nach jedem neuen Tab verändert.
Evaluation: Entwickle für ein schulisches KI-System drei sinnvolle Kennzahlen und begründe, warum eine einzelne Durchschnittskennzahl nicht genügt.
Fairness: Entwirf einen fiktiven Datensatz mit zwei Gruppen, bei dem der Gesamtdurchschnitt gut aussieht, aber eine Gruppe deutlich schlechtere Ergebnisse erhält, und erkläre die Folgen.
Systemdesign: Zeichne den Ablauf eines KI-gestützten Schulprozesses von Eingabe bis Entscheidung und markiere alle Stellen, an denen menschliche Kontrolle nötig ist.

Schwer

Governance: Entwirf für einen schulischen KI-Pilotversuch Rollen, Freigaberegeln, Protokollierung, Beschwerdeweg, Abschaltkriterium und Termin zur Neubewertung.
Folgenabschätzung: Vergleiche die Folgen eines KI-Systems für Lernende, Lehrkräfte, Eltern, Schulträger und eine besonders betroffene Minderheit und formuliere Bedingungen für einen vertretbaren Einsatz.
Evidenzsynthese: Erstelle ein zweiseitiges Dossier mit mindestens einer Primärquelle, einer unabhängigen Sekundärquelle und einer widersprechenden Quelle und gib am Ende eine abgestufte Sicherheitseinschätzung.
Transfer: Untersuche eine neue KI-Behauptung aus einem anderen Bereich wie Bewerbung, Kredit, Medizin, Verwaltung oder Verkehr und begründe eine eigenständige Entscheidung mit denselben Prüfschritten.

Lernkontrolle

Transferentscheidung: Ein Unternehmen behauptet, sein KI-Auswahlsystem reduziere Fehlentscheidungen bei Bewerbungen um die Hälfte. Formuliere zuerst, welche Angaben fehlen, und entwirf dann eine Evidenzstrategie, bevor Du eine Empfehlung aussprichst.
Methodenvergleich: Zwei Studien kommen zu gegensätzlichen Ergebnissen. Entwickle Kriterien, mit denen Du entscheidest, welche Studie stärker gewichtet wird, ohne nur auf Autorität oder Publikationsort zu schauen.
Systemgrenze: Ein KI-Modell ist technisch sehr genau, wird aber in einem hektischen Arbeitsablauf regelmäßig falsch bedient. Erkläre, warum eine reine Modellkennzahl das System nicht ausreichend bewertet, und schlage Verbesserungen vor.
Fairnessabwägung: Ein System verbessert die durchschnittliche Leistung, verschlechtert aber die Ergebnisse einer kleinen Gruppe. Entwickle mindestens zwei mögliche Handlungsoptionen und begründe, welche Du bevorzugst.
Governancefall: Bei einem KI-Pilotprojekt tritt ein bisher unbekannter Fehler auf. Lege fest, wer informiert wird, welche Nutzung sofort begrenzt werden sollte, welche Evidenz gesammelt wird und wer über die Wiederfreigabe entscheidet.
Quellenkonflikt: Eine KI nennt eine Studie, ein Nachrichtenartikel zitiert sie positiv, eine unabhängige Replikation findet aber keinen Effekt. Begründe, wie sich Deine Einschätzung ändern sollte und welche Information Du noch benötigst.

Lernnachweis

Für einen Lernnachweis zu diesem Thema ist wichtig, dass Du nicht nur Fachbegriffe nennst, sondern Deinen Prüfweg sichtbar machst.

Du formulierst die zentrale KI-Behauptung präzise und trennst Beschreibung, Ursache, Prognose und Bewertung.
Du verwendest mindestens eine geeignete Primärquelle und eine unabhängige Sekundärquelle und erklärst ihre jeweilige Rolle.
Du dokumentierst eine unabhängige Gegenprüfung und gehst auf widersprechende Evidenz ein.
Du bewertest Methode, Stichprobe, Vergleich, Kennzahlen, Unsicherheit und mögliche Interessenkonflikte.
Du beschreibst Systemgrenze, menschliche Aufsicht und mindestens einen relevanten Fehlerfall.
Du prüfst Fairness, Sicherheit, Datenschutz, Transparenz und Folgen für unterschiedliche Betroffene.
Du formulierst eine begründete Entscheidung mit Bedingungen, Unsicherheiten und einem Kriterium dafür, wann Du Deine Entscheidung ändern würdest.
Du zeigst im Transfer, dass Du das Vorgehen auf einen neuen Fall ohne vorgefertigte Lösung anwenden kannst.

OERs zum Thema

Verknüpfte Lernbereiche

KI-Forschung und KI-Behauptungen kritisch lesen

aiMOOC-Projekte

Inhalte werden geladen ...

Mediathek wird aus dem Wiki geladen ...

Frag mich zum aktuellen Lerninhalt oder wähle eine kurze Hilfe.

Textmodus bereit

Sprache