KI und Bildung kritisch beurteilen
KI und Bildung kritisch beurteilen
KI und Bildung kritisch beurteilen
Einleitung
Künstliche Intelligenz kann beim Lernen unterstützen, Texte erklären, Übungsaufgaben anpassen, Sprache zugänglicher machen oder Rückmeldungen strukturieren. Gleichzeitig können KI-Systeme Fehler produzieren, Vorurteile aus Daten übernehmen, persönliche Daten verarbeiten, Lernwege beeinflussen oder überzeugend wirkende synthetische Medien erzeugen. Deshalb reicht es nicht, KI einfach als „gut“ oder „schlecht“ einzuordnen. Du brauchst nachvollziehbare Kriterien, passende Belege und die Fähigkeit, Unsicherheit auszuhalten.
In diesem aiMOOC lernst Du, KI im Bildungsbereich kritisch und fair zu beurteilen. Im Mittelpunkt steht nicht die Frage „Ist das KI?“, sondern die anspruchsvollere Frage: Wie zuverlässig ist die Information oder das System in diesem konkreten Kontext, welche Folgen kann ein Fehler haben und wer trägt Verantwortung?
Der Kurs richtet sich besonders an die Klasse 9 und verbindet Informatik, Deutsch, Mathematik, Technik, Wirtschaft, Geschichte, Ethik und Gemeinschaftskunde. Er ist für etwa eine bis zwei Unterrichtsstunden angelegt.
Lernziele
Nach dem Kurs kannst Du:
- KI-Systeme nach Zweck, Daten, Funktionsweise, Nutzen, Fehlern und Folgen beurteilen.
- Herkunft, Kontext und Belege bei digitalen und synthetischen Medien prüfen.
- einfache Leistungsdaten eines Systems mit Konfusionsmatrix, Fehlalarmen und übersehenen Fällen interpretieren.
- Chancen und Risiken für Bildungsgerechtigkeit, Datenschutz, Fairness und menschliche Selbstbestimmung abwägen.
- ein begründetes Urteil formulieren, Bedingungen nennen und Verantwortung zuordnen.
Unterrichtsfahrplan für 45 bis 90 Minuten
| Phase | Zeit | Ziel | Aktivität |
|---|---|---|---|
| Aktivierung und Diagnose | 5–10 Minuten | Vorwissen sichtbar machen | Kurzurteil zu einem KI-Fall und Begründung notieren |
| Einführung | 10–15 Minuten | Systemverständnis aufbauen | Daten, Modell, Ausgabe und menschliche Entscheidung unterscheiden |
| Quellen- und Medienprüfung | 15–20 Minuten | synthetische Medien prüfen | Herkunft, Kontext, Gegenquellen und Provenienz untersuchen |
| Daten- und Systembewertung | 15–20 Minuten | Fehler und Fairness analysieren | Fallzahlen auswerten und Folgen von Fehlentscheidungen diskutieren |
| Anwendung | 15–20 Minuten | Urteil bilden | Schulkonferenz-Fall mit Kriterien entscheiden |
| Reflexion und Transfer | 5 Minuten | Human Agency sichern | eigenes Prüfschema formulieren |
Bei nur einer Unterrichtsstunde kannst Du die Abschnitte Aktivierung, Quellenprüfung, Systembewertung und Anwendungssituation als Kernpfad bearbeiten.
Aktivierung und Diagnose: Würdest Du der KI folgen?
Stell Dir vor, Deine Schule testet ein KI-System, das Lernenden automatisch Rückmeldungen zu Aufsätzen gibt. Das System schlägt zusätzlich vor, wer „besonderen Förderbedarf“ haben könnte.
Entscheide zunächst ohne lange Diskussion:
| Aussage | Deine erste Einschätzung | Welche Information fehlt Dir? |
|---|---|---|
| Die KI spart Lehrkräften Zeit. | eher Vorteil / eher Risiko / unklar | ... |
| Die KI erkennt Förderbedarf objektiv. | eher glaubwürdig / eher unglaubwürdig / unklar | ... |
| Ein hoher Prozentwert für Genauigkeit reicht als Qualitätsbeleg. | ja / nein / unklar | ... |
| Wenn ein Bild echt aussieht, kann man es wahrscheinlich glauben. | ja / nein / unklar | ... |
Diagnosefrage: Welche Deiner Antworten beruhen auf Belegen und welche eher auf Vermutungen?
Wie KI-Systeme im Bildungsbereich funktionieren
Vom Datensatz zur Ausgabe
Viele heutige KI-Systeme beruhen auf maschinellem Lernen. Vereinfacht entsteht ein Modell aus Beispieldaten und einem Trainingsverfahren. Später verarbeitet das trainierte Modell neue Eingaben und erzeugt Ausgaben, etwa eine Klassifikation, eine Vorhersage oder einen generierten Text.
Ein wichtiges Denkmodell lautet:
Daten → Training → Modell → neue Eingabe → Ausgabe → menschliche Nutzung
Das Modell ist dabei keine allwissende Datenbank. Es bildet statistische Muster ab. Bei generativer KI werden mögliche Fortsetzungen oder neue Inhalte auf Grundlage erlernter Muster erzeugt. Eine sprachlich überzeugende Antwort ist deshalb noch kein Beweis für sachliche Richtigkeit.
Wo KI beim Lernen nützlich sein kann
KI kann einen Bildungsprozess unterstützen, wenn der Einsatz zum Lernziel passt. Beispiele sind sprachliche Hilfen, alternative Erklärungen, Übungsmaterial, Barrierefreiheit, Übersetzung, Strukturierung von Ideen oder formative Rückmeldung. Der Nutzen hängt aber davon ab, wie das System eingesetzt wird.
Ein sinnvoller Einsatz stärkt Deine eigene Tätigkeit. Du bleibst verantwortlich für Fragestellung, Auswahl, Prüfung und Schlussfolgerung. Diese Fähigkeit, Ziele zu setzen und Entscheidungen nicht einfach an ein System abzugeben, nennt man Human Agency oder menschliche Handlungsmacht.
Beobachtungsauftrag: Notiere beim Video getrennt, welche Tätigkeiten die KI übernimmt und welche Tätigkeiten bei Lernenden oder Lehrkräften bleiben sollten.
Wo Probleme entstehen können
Ein KI-System kann im Bildungsbereich problematisch werden, wenn seine Ausgabe zu wichtig genommen wird oder wenn seine Grenzen unbekannt bleiben. Besonders relevant sind:
- Fehlinformation: Eine Antwort kann plausibel klingen und trotzdem falsch oder unbelegt sein.
- Bias: Daten und Modellentscheidungen können bestimmte Gruppen systematisch benachteiligen.
- Datenschutz: Lerntexte, Leistungsdaten oder persönliche Angaben können sensible Informationen enthalten.
- Abhängigkeit: Wer Denken, Formulieren oder Prüfen dauerhaft auslagert, trainiert eigene Kompetenzen weniger.
- Bildungsgerechtigkeit: Unterschiedlicher Zugang zu Geräten, Bezahlfunktionen oder Unterstützung kann Unterschiede verstärken.
- Transparenz: Lernende müssen verstehen können, wann und wozu KI eingesetzt wird.
- Verantwortung: Eine KI kann Vorschläge machen, aber Verantwortung für folgenreiche Entscheidungen muss menschlich und institutionell geklärt bleiben.
Daten- und Systembewertung
Ein System ist mehr als seine Ausgabe
Wenn Du ein KI-System bewertest, untersuche nicht nur einzelne Antworten. Frage nach dem gesamten System:
| Prüffeld | Leitfrage | Warum wichtig? |
|---|---|---|
| Zweck | Welches Problem soll gelöst werden? | Ein System kann für einen Zweck geeignet und für einen anderen ungeeignet sein. |
| Daten | Welche Daten wurden genutzt und wen bilden sie ab? | Nicht repräsentative Daten können Fehler ungleich verteilen. |
| Messung | Wie wurde Leistung getestet? | Ein einzelner Durchschnittswert kann wichtige Fehler verdecken. |
| Kontext | Unter welchen Bedingungen wurde getestet? | Ergebnisse aus einem anderen Alter, Fach oder Land sind nicht automatisch übertragbar. |
| Folgen | Was passiert bei einem Fehler? | Ein Tippfehler ist weniger folgenreich als eine falsche Einstufung. |
| Kontrolle | Kann ein Mensch widersprechen oder korrigieren? | Hohe Folgen verlangen besonders starke menschliche Kontrolle. |
| Transparenz | Ist nachvollziehbar, dass und wie KI beteiligt ist? | Betroffene brauchen Orientierung und Einspruchsmöglichkeiten. |
| Sicherheit | Werden Daten sparsam und geschützt verarbeitet? | Bildungsdaten können langfristige Auswirkungen haben. |
| Fairness | Sind Fehler für verschiedene Gruppen ähnlich verteilt? | Gleiche Gesamtgenauigkeit bedeutet nicht automatisch gerechte Wirkung. |
| Lernen | Fördert der Einsatz eigenes Denken? | Ein Werkzeug sollte Lernen unterstützen und nicht ersetzen. |
Mathematik trifft Ethik: Warum 85 Prozent Genauigkeit nicht alles sagen
Eine Schule testet ein System, das Hinweise auf möglichen Unterstützungsbedarf gibt. Eine spätere sorgfältige pädagogische Prüfung ergibt bei 100 Lernenden:
- 15 Lernende mit tatsächlichem Unterstützungsbedarf werden richtig erkannt.
- 5 Lernende mit Unterstützungsbedarf werden übersehen.
- 10 Lernende ohne diesen Unterstützungsbedarf werden fälschlich markiert.
- 70 Lernende ohne diesen Unterstützungsbedarf werden korrekt nicht markiert.
Daraus folgt:
Treffer = 15, übersehene Fälle = 5, Fehlalarme = 10, korrekte Entwarnungen = 70.
Die Gesamtgenauigkeit beträgt 85 von 100 Fällen, also 85 Prozent. Trotzdem sind zwei weitere Größen wichtig:
Trefferquote unter den tatsächlich Betroffenen: 15 von 20 = 75 Prozent.
Anteil richtiger Treffer unter allen Markierten: 15 von 25 = 60 Prozent.
Urteilsfrage: Ist das System „gut“, weil es 85 Prozent Genauigkeit erreicht? Eine verantwortliche Antwort hängt davon ab, was Fehlalarme und übersehene Fälle für die betroffenen Lernenden bedeuten, ob Menschen die Hinweise prüfen und ob bessere Alternativen verfügbar sind.
Fairness ist keine einzelne Zahl
Ein System kann insgesamt gut abschneiden und trotzdem eine Teilgruppe deutlich häufiger falsch beurteilen. Deshalb sollte man Ergebnisse nach sinnvollen Gruppen und Nutzungskontexten prüfen. Gleichzeitig darf Fairnessprüfung nicht selbst zu unnötiger Sammlung sensibler Daten führen.
Fairness bedeutet im Schulkontext nicht automatisch, dass alle exakt dieselbe Behandlung erhalten. Wichtig ist, ob Lernende vergleichbare Chancen haben, ob Entscheidungen nachvollziehbar sind, ob Benachteiligungen erkannt werden und ob Korrekturen möglich sind.
KI, Recht und Verantwortung in der Bildung
Warum manche Bildungsanwendungen besonders sensibel sind
In der Europäischen Union werden bestimmte KI-Systeme in Bildung und Berufsbildung als besonders risikoreich behandelt, etwa wenn sie Zugang oder Zulassung beeinflussen, Lernergebnisse bewerten, Bildungsniveaus zuordnen oder verbotenes Verhalten bei Prüfungen überwachen. Der Grund ist einfach: Solche Systeme können Bildungs- und Lebenswege wesentlich beeinflussen.
Daraus folgt für Deine Bewertung: Je größer die möglichen Folgen, desto höher müssen Anforderungen an Datenqualität, Prüfung, Transparenz, menschliche Kontrolle und Einspruchsmöglichkeiten sein.
Stand dieses Kurses: September 2026. Seit August 2026 gelten in der EU außerdem Transparenzpflichten für bestimmte KI-generierte oder manipulierte Inhalte. Für den Unterricht ist jedoch wichtiger als das Auswendiglernen einzelner Paragraphen: Kennzeichnung kann helfen, ersetzt aber keine Quellenprüfung.
Verantwortungskette
Bei einem schulischen KI-Einsatz tragen verschiedene Menschen und Institutionen unterschiedliche Verantwortung:
| Akteur | Typische Verantwortung |
|---|---|
| Anbieter | System dokumentieren, Risiken reduzieren, Schutzmaßnahmen bereitstellen |
| Schule | Zweck, Regeln, Datenschutz, Beschaffung und Folgen abwägen |
| Lehrkraft | pädagogisch sinnvoll einsetzen, Ergebnisse prüfen, Entscheidungen begründen |
| Lernende | Quellen prüfen, Grenzen beachten, eigenen KI-Einsatz transparent machen |
| Schulgemeinschaft | Regeln diskutieren, Betroffene einbeziehen und Beschwerden ermöglichen |
Synthetische Medien kritisch prüfen
Nicht auf Erkennungstricks verlassen
KI-generierte Bilder und Videos verändern sich schnell. Hinweise wie ungewöhnliche Hände, verzerrte Schrift oder unnatürliche Augen können manchmal auffallen, sind aber keine sicheren Erkennungsmethoden. Solche sichtbaren Fehler können in echten Bildern vorkommen und bei synthetischen Bildern fehlen.
Nutze visuelle Auffälligkeiten deshalb nur als Anlass zur Prüfung, niemals als Beweis.
Kritischer Videoauftrag: Sammle im Video vorgeschlagene Erkennungsmerkmale. Ordne danach jedes Merkmal einer von zwei Kategorien zu: Hinweis oder Beweis. Die meisten sichtbaren Merkmale gehören in die erste Kategorie.
Herkunft, Kontext, Belege und Ursprung prüfen
Ein robustes Prüfschema für Bilder, Videos, Audios und Texte:
| Schritt | Frage | Mögliche Handlung |
|---|---|---|
| Herkunft | Wer veröffentlicht den Inhalt? | Profil, Impressum, Institution und frühere Beiträge prüfen |
| Kontext | Stimmen Datum, Ort, Anlass und Bildbeschreibung? | Begleittext mit unabhängigen Informationen vergleichen |
| Belege | Gibt es glaubwürdige unabhängige Bestätigungen? | seriöse Nachrichtenquellen, Primärquellen oder offizielle Stellen suchen |
| Ursprung | Lässt sich die früheste oder ursprüngliche Version finden? | Rückwärtssuche, Originalpost oder Archiv prüfen |
| Provenienz | Gibt es nachvollziehbare Angaben zur Entstehungs- und Bearbeitungsgeschichte? | Metadaten oder Content Credentials prüfen, wenn vorhanden |
| Unsicherheit | Was weiß ich nicht? | Unsicherheit benennen und nicht vorschnell weiterteilen |
Provenienz und Content Credentials
Technische Herkunftsinformationen können anzeigen, mit welchen Werkzeugen ein Medium aufgenommen oder verändert wurde. Standards wie C2PA können solche Informationen kryptografisch nachvollziehbar machen.
Aber auch hier gilt: Provenienz ist ein Beleg über Herkunft und Bearbeitung, nicht automatisch ein Beweis dafür, dass eine dargestellte Behauptung wahr ist. Außerdem können Herkunftsinformationen fehlen oder verloren gehen. Das Fehlen einer Kennzeichnung beweist daher nicht, dass ein Medium gefälscht ist.
Deepfakes und reale Personen
Ein Deepfake ist ein synthetisch erzeugter oder stark manipulierter Medieninhalt, der eine reale oder scheinbar reale Person so darstellen kann, als hätte sie etwas gesagt oder getan.
Beim Umgang mit Darstellungen realer Personen gelten besondere Regeln:
- Teile zweifelhafte oder entwürdigende Inhalte nicht weiter, nur um sie „zu überprüfen“.
- Erzeuge keine täuschenden Darstellungen realer Mitschülerinnen, Mitschüler, Lehrkräfte oder anderer Personen ohne klare Zustimmung und legitimen Zweck.
- Bei sexualisierten, beleidigenden, erpresserischen oder mobbenden Darstellungen steht der Schutz der betroffenen Person vor Neugier.
- Sichere notwendige Belege nur verantwortungsvoll und hole Unterstützung bei einer vertrauenswürdigen erwachsenen Person oder zuständigen schulischen Stelle.
- Formuliere bei Unsicherheit vorsichtig: „unbestätigt“, „unklarer Ursprung“ oder „möglicherweise manipuliert“ statt eine Person vorschnell zu beschuldigen.
Hinweis für den Unterricht: Das Video thematisiert neben Deepfakes auch Erpressung mit gefälschten intimen Darstellungen. Besprecht vor dem Einsatz Klassenregeln für einen respektvollen und nicht sensationsorientierten Umgang.
Fächerübergreifende Perspektiven
Informatik
Untersuche Daten, Modelle, Eingaben, Ausgaben, Fehlerarten, Training und Testen. Entscheidend ist die Frage, welche Eigenschaften eines Systems technisch messbar sind und welche gesellschaftlichen Bewertungen zusätzlich nötig bleiben.
Deutsch
Analysiere sprachliche Glaubwürdigkeit, Quellen, Argumentationsmuster und Belege. Ein flüssiger KI-Text kann überzeugend wirken, ohne belastbare Quellen zu besitzen. Trenne deshalb Tatsachenbehauptung, Interpretation und Werturteil.
Mathematik
Nutze Anteile, Prozentrechnung, Wahrscheinlichkeiten und einfache Fehlermaße. Frage nicht nur „Wie hoch ist die Genauigkeit?“, sondern auch: Wie viele Fehlalarme und übersehene Fälle gibt es und wie verteilen sie sich?
Technik
Betrachte Rechenleistung, Dateninfrastruktur, Schnittstellen, Wartung, Sicherheit und Energiebedarf. Ein KI-System ist Teil einer technischen Infrastruktur und nicht nur eine Webseite mit Texteingabe.
Wirtschaft
Untersuche Kosten, Geschäftsmodelle, Plattformabhängigkeit und Lock-in-Effekte. Ein scheinbar kostenloses System kann indirekt über Daten, Werbung, spätere Gebühren oder Abhängigkeit finanziert werden.
Geschichte
Vergleiche synthetische Medien mit älteren Formen von Bildmanipulation, Propaganda und Quellenfälschung. Neu sind Geschwindigkeit, Zugänglichkeit und Skalierbarkeit; Quellenkritik selbst hat jedoch eine lange Tradition.
Ethik
Prüfe Werte wie Autonomie, Gerechtigkeit, Fürsorge, Privatsphäre und Verantwortung. Frage nicht nur, ob etwas technisch möglich ist, sondern ob es in einem konkreten Fall vertretbar ist.
Gemeinschaftskunde
Analysiere Auswirkungen auf Öffentlichkeit, demokratische Meinungsbildung, Regulierung und Teilhabe. Wenn synthetische Medien Vertrauen schwächen, wird die Fähigkeit zur begründeten Quellenprüfung zu einer demokratischen Kompetenz.
Anwendungssituation: Soll unsere Schule ein KI-Lernsystem einführen?
Die Schulkonferenz einer fiktiven Schule prüft ein KI-System für Klasse 9. Das System soll Texte kommentieren, Aufgaben empfehlen und Lernende markieren, die möglicherweise zusätzliche Unterstützung benötigen.
Vorliegende Informationen:
| Information | Bewertungshinweis |
|---|---|
| Anbieter wirbt mit 85 Prozent Gesamtgenauigkeit bei einer Förderbedarfsfunktion. | Ein Durchschnittswert allein reicht nicht. |
| Bei einem Test mit 100 Lernenden gab es 10 Fehlalarme und 5 übersehene Fälle. | Folgen der beiden Fehlerarten müssen getrennt betrachtet werden. |
| Lehrkräfte können jede Empfehlung überschreiben. | Menschliche Kontrolle ist vorhanden, ihre tatsächliche Nutzung bleibt zu prüfen. |
| Lerntexte werden auf Servern des Anbieters verarbeitet. | Speicherort, Aufbewahrungsdauer und Zweckbindung sind noch unklar. |
| Das System kann Texte vorlesen und sprachlich vereinfachen. | Es gibt einen möglichen Nutzen für Barrierefreiheit. |
| Das System kostet pro Lernendem jährlich Geld. | Kosten und Alternativen müssen verglichen werden. |
| Für verschiedene Lerngruppen liegen keine getrennten Fehlerwerte vor. | Fairness ist noch nicht ausreichend geprüft. |
Auftrag: Formuliere kein einfaches Ja oder Nein. Erstelle stattdessen ein Urteil nach dem Muster:
Entscheidung → wichtigste Belege → Risiken → Bedingungen → Verantwortliche → offene Fragen.
Ein mögliches Ergebnis könnte deshalb lauten: Pilot nur unter Bedingungen. Entscheidend ist aber, ob Du Deine Bedingungen mit Daten und Folgen begründen kannst.
Bewertungsraster für ein begründetes Urteil
| Kriterium | Leitfrage | Punkte |
|---|---|---|
| Zweck | Ist klar, welches Lernproblem gelöst werden soll? | 0–2 |
| Belege | Gibt es passende und unabhängige Nachweise für die behauptete Wirkung? | 0–2 |
| Fehlerfolgen | Sind Fehlalarme und übersehene Fälle bekannt und vertretbar? | 0–2 |
| Fairness | Wurden unterschiedliche betroffene Gruppen angemessen berücksichtigt? | 0–2 |
| Datenschutz | Werden nur notwendige Daten verarbeitet und Regeln transparent gemacht? | 0–2 |
| Human Agency | Bleiben Lernende und Lehrkräfte urteils- und entscheidungsfähig? | 0–2 |
| Transparenz | Ist erkennbar, wann KI beteiligt ist und wie Einspruch möglich ist? | 0–2 |
| Verhältnismäßigkeit | Überwiegt der erwartbare Nutzen gegenüber Kosten und Risiken? | 0–2 |
Wichtig: Die Punktzahl ersetzt nicht das Urteil. Sie hilft nur, Deine Begründung systematisch aufzubauen.
Reflexion: Deine persönliche KI-Regel
Vervollständige drei Sätze:
- Ich würde KI beim Lernen einsetzen, wenn ...
- Ich würde einer KI-Ausgabe nicht folgen, bevor ...
- Bei einer Darstellung einer realen Person würde ich besonders darauf achten, dass ...
Interaktive Aufgaben
Quiz: Teste Dein Wissen
Eine KI meldet 85 Prozent Genauigkeit. Welche Reaktion ist für eine verantwortliche Bewertung am sinnvollsten? (Fehlerarten und Folgen zusätzlich prüfen) (!Die Zahl ohne weitere Informationen akzeptieren) (!Nur nach dem Namen des Systems fragen) (!Die KI grundsätzlich ablehnen)
Ein sehr realistisches Bild einer Lehrkraft verbreitet sich in einer Klassengruppe. Was ist der beste erste Prüfschritt? (Herkunft und ursprüngliche Veröffentlichung prüfen) (!Auf die Hände im Bild achten und sofort entscheiden) (!Das Bild zur Sicherheit an viele Personen weiterleiten) (!Die dargestellte Person öffentlich beschuldigen)
Warum ist ein sichtbarer Bildfehler kein sicherer Beweis für KI-Erzeugung? (Weil echte und synthetische Medien ähnliche Auffälligkeiten enthalten können) (!Weil KI-Bilder niemals Fehler enthalten) (!Weil echte Bilder immer perfekt sind) (!Weil Metadaten jedes Bild automatisch verifizieren)
Welche Aussage beschreibt Human Agency beim Lernen am besten? (Der Mensch behält Ziele Prüfung und Entscheidungshoheit) (!Die KI entscheidet vollständig über Lernwege) (!Lernende übernehmen jede Ausgabe unverändert) (!Verantwortung wird an den Anbieter abgegeben)
Ein System markiert viele Lernende fälschlich als auffällig. Welche Fehlerart ist das? (Falschpositive Ergebnisse) (!Nur richtige Treffer) (!Falschnegative Ergebnisse) (!Zufällige Quellenangaben)
Was kann Provenienzinformation bei einem digitalen Medium sinnvoll unterstützen? (Die Prüfung von Herkunft und Bearbeitungsgeschichte) (!Den automatischen Beweis jeder dargestellten Behauptung) (!Die Garantie dass kein Kontext fehlt) (!Die sichere Erkennung jeder Täuschungsabsicht)
Wann ist eine KI-Anwendung im Schulbereich besonders kritisch zu prüfen? (Wenn ihre Entscheidung Bildungswege wesentlich beeinflussen kann) (!Wenn sie nur die Schriftgröße ändert) (!Wenn sie eine Stoppuhr ersetzt) (!Wenn sie ein Hintergrundbild anzeigt)
Welche Kombination stärkt Quellenkritik bei synthetischen Medien am meisten? (Herkunft Kontext Gegenquellen und Ursprung gemeinsam prüfen) (!Nur das Aussehen des Mediums beurteilen) (!Nur die Zahl der Likes betrachten) (!Nur eine KI nach ihrer eigenen Sicherheit fragen)
Was ist bei einer möglicherweise manipulierten Darstellung einer realen Person besonders wichtig? (Nicht unnötig weiterverbreiten und die betroffene Person schützen) (!Das Material zur Unterhaltung vervielfältigen) (!Ohne Prüfung Schuldige benennen) (!Die Darstellung als Beweis behandeln)
Welche Aussage beschreibt ein begründetes Urteil über KI in Bildung am besten? (Es verbindet Kriterien Belege Folgen Unsicherheit und Verantwortung) (!Es besteht nur aus einer persönlichen Vorliebe) (!Es übernimmt die Werbung des Anbieters) (!Es vermeidet jede Abwägung)
Memory
| Human Agency | Mensch behält Ziele und Urteilshoheit |
| Provenienz | nachvollziehbare Herkunft und Bearbeitungsgeschichte |
| Kontextprüfung | Datum Ort Anlass und Beschreibung abgleichen |
| Falschpositiv | System meldet einen Fall der tatsächlich nicht vorliegt |
| Falschnegativ | System übersieht einen tatsächlich vorhandenen Fall |
| Fairness | Auswirkungen und Fehlerverteilung gerecht prüfen |
| Datenminimierung | nur notwendige personenbezogene Daten verarbeiten |
| Gegenprüfung | unabhängige glaubwürdige Belege suchen |
Drag and Drop
| Ordne die richtigen Begriffe zu. | Thema |
|---|---|
| Ursprungsquelle suchen | Herkunft |
| Datum Ort und Anlass abgleichen | Kontext |
| Unabhängige Bestätigungen finden | Gegenprüfung |
| Bearbeitungsgeschichte untersuchen | Provenienz |
| Schaden Nutzen und Betroffene vergleichen | Risikoabwägung |
Kreuzworträtsel
| Provenienz | Wie heißt die nachvollziehbare Herkunfts- und Bearbeitungsgeschichte eines Mediums? |
| Kontext | Welcher Begriff bezeichnet Umstände wie Zeit Ort Anlass und Begleittext? |
| Fairness | Welcher Begriff steht für gerechte Auswirkungen und die Prüfung ungleicher Fehlerverteilungen? |
| Transparenz | Wie heißt das Prinzip nach dem KI-Beteiligung und Verfahren nachvollziehbar sein sollen? |
| Deepfake | Wie heißt ein täuschend wirkender synthetisch erzeugter oder manipulierter Medieninhalt? |
| Quellenkritik | Wie heißt die systematische Prüfung von Herkunft Aussage Kontext und Belegen? |
LearningApps
Lückentext
Offene Aufgaben
Leicht
- KI-Tagebuch: Beobachte einen Tag lang, wo Dir KI im Schul- oder Medienalltag begegnen könnte. Trenne sichere Beobachtungen von Vermutungen.
- Quellenprüfung: Wähle eine digitale Behauptung und dokumentiere Herkunft, Kontext, zwei Gegenquellen und Deine verbleibende Unsicherheit.
- Fehlerarten: Erfinde ein harmloses Schulbeispiel mit einem Fehlalarm und einem übersehenen Fall. Erkläre, warum die Folgen unterschiedlich sein können.
- Human Agency: Formuliere fünf Regeln, mit denen KI Dein Lernen unterstützt, ohne Dein eigenes Denken zu ersetzen.
Standard
- Systemanalyse: Untersuche ein schulisches KI-Werkzeug anhand der Kriterien Zweck, Daten, Transparenz, Fairness, Datenschutz, Lernwirkung und menschliche Kontrolle.
- Medienforensik: Analysiere ein öffentlich verfügbares Bild oder Video, ohne allein auf sichtbare KI-Merkmale zu vertrauen. Dokumentiere Deinen Prüfweg.
- Mathematik und KI: Erstelle für ein fiktives Klassifikationssystem eine Vierfeldertafel und vergleiche Gesamtgenauigkeit, Fehlalarme und übersehene Fälle.
- Erörterung: Schreibe eine dialektische Erörterung zur Frage, ob KI-Rückmeldungen bei Hausaufgaben erlaubt sein sollten. Verwende mindestens drei überprüfbare Belege.
Schwer
- Schulkonferenz: Entwickle einen Beschlussentwurf für einen begrenzten KI-Pilotversuch mit Bedingungen, Abbruchkriterien, Verantwortlichkeiten und Beteiligung der Lernenden.
- Bias-Audit: Entwirf einen Plan, wie eine Schule prüfen könnte, ob ein KI-System verschiedene Lerngruppen ungleich behandelt, ohne unnötig sensible Daten zu sammeln.
- Synthetische Medien: Entwickle einen Leitfaden für den Umgang mit manipulierten Darstellungen realer Personen an der Schule. Berücksichtige Schutz, Beweissicherung, Meldung und Kommunikation.
- Technikfolgenabschätzung: Vergleiche zwei mögliche Lösungen für ein Lernproblem: eine KI-gestützte und eine nicht KI-gestützte. Bewerte Nutzen, Kosten, Ressourcen, Abhängigkeiten, Risiken und pädagogische Wirkung.
|
|
Lernkontrolle
- Begründetes Urteil: Eine Schule möchte KI zur automatischen Bewertung kurzer Texte einsetzen. Formuliere ein Urteil, das mindestens vier Kriterien, zwei Belege, zwei Risiken und eine Bedingung enthält.
- Datenkritik: Ein Anbieter nennt 92 Prozent Genauigkeit. Beschreibe, welche zusätzlichen Daten Du verlangen würdest, bevor die Schule das System nutzt, und begründe jede Forderung.
- Quellentransfer: Ein Video zeigt angeblich eine bekannte Person bei einer problematischen Handlung. Entwickle einen Prüfplan, der ohne vermeintlich sichere Erkennungstricks auskommt.
- Fairnessanalyse: Erkläre anhand eines selbst gewählten Beispiels, wie ein System insgesamt gut und für eine Teilgruppe trotzdem unfair sein kann.
- Verantwortungskette: Ordne Anbieter, Schule, Lehrkraft und Lernende einem konkreten KI-Fall zu und erkläre, welche Verantwortung nicht einfach delegiert werden darf.
- Alternativenprüfung: Zeige für ein Bildungsproblem, unter welchen Bedingungen eine nicht KI-gestützte Lösung sinnvoller sein könnte als eine KI-Lösung.
Lernnachweis
Für einen Lernnachweis zu diesem Thema ist wichtig:
- Du kannst ein KI-System mit klaren Kriterien statt nur nach persönlichem Eindruck beurteilen.
- Du kannst Daten, Fehlerarten und mögliche Folgen verständlich erklären.
- Du kannst Herkunft, Kontext, Gegenquellen und Provenienz synthetischer Medien prüfen.
- Du kannst Unsicherheit offen benennen und vermeidest unbelegte Gewissheit.
- Du kannst den Schutz realer Personen bei manipulierten Darstellungen begründen.
- Du kannst Chancen, Risiken, Fairness, Datenschutz, Human Agency und Verantwortung gegeneinander abwägen.
- Du kannst ein abschließendes Urteil mit Belegen, Bedingungen und offenen Fragen formulieren.
OERs zum Thema
Die eingebundenen Bilder stammen von Wikimedia Commons und sind dort mit ihren jeweiligen Lizenzinformationen dokumentiert.
Weiterführende frei zugängliche oder öffentlich bereitgestellte Materialien:
- UNESCO: AI competency framework for students
- UNESCO: Guidance for generative AI in education and research
- Europäische Kommission: Transparenzregeln für KI-Systeme
- EU AI Act: konsolidierter Text
- klicksafe: Deep Fake. Deep Impact.
- Planet Schule: Dennis und die KI
- C2PA: Content Provenance and Authenticity
Selbstkontrolle und Transfer
Beantworte am Ende ohne Hilfsmittel drei Fragen:
- Welche zwei Kriterien würdest Du bei jedem schulischen KI-System zuerst prüfen und warum?
- Welche drei Schritte würdest Du bei einem zweifelhaften Bild einer realen Person durchführen, bevor Du etwas darüber behauptest?
- Was müsste eine KI leisten, damit sie Deine Handlungsmacht stärkt statt schwächt?
Vergleiche Deine Antworten mit Deiner Aktivierungsdiagnose. Hat sich Dein Urteil verändert? Wenn ja, welcher neue Beleg oder welches neue Kriterium war dafür entscheidend?
Verknüpfte Lernbereiche