Diesen aiMOOC als Battle spielen: Deutsch, Klasse 9-10, G-Niveau

Probleme für KI präzise definieren

Dieser aiMOOC richtet sich vor allem an Lernende der Klasse 10 und ist für etwa 1–2 Unterrichtsstunden konzipiert. Im Mittelpunkt steht nicht das schnelle Erzeugen einer KI-Lösung, sondern die Fähigkeit, ein Problem so präzise zu beschreiben, dass Du begründet entscheiden kannst, ob überhaupt KI gebraucht wird, welche Art von Werkzeug geeignet ist, wie Mensch und KI sinnvoll zusammenarbeiten und wie Ergebnisse kontrolliert werden.

Du lernst dabei eine Denkweise kennen, die in Informatik, Mathematik, Technik, Deutsch, Wirtschaft, Geschichte, Ethik und Gemeinschaftskunde gebraucht wird: Ziele klären, Anforderungen unterscheiden, Betroffene berücksichtigen, Risiken abschätzen, Qualitätskriterien festlegen, Alternativen vergleichen und Entscheidungen transparent begründen.

Lernziele

Nach dem Kurs kannst Du ein reales Problem in Ziel, Betroffene, Eingaben, gewünschte Ausgaben, Randbedingungen und Risiken zerlegen. Du kannst zwischen Nicht-KI-Lösungen, einfachen Regeln, klassischen Algorithmen, statistischen Verfahren und generativer KI unterscheiden. Du kannst eine begründete Mensch-KI-Arbeitsteilung entwerfen, Kontrollpunkte festlegen und Kriterien nennen, mit denen sich Qualität, Sicherheit, Fairness und Nutzen prüfen lassen. Am Ende überträgst Du dieses Vorgehen selbstständig auf eine neue Situation und begründest, ob KI eingesetzt, gewechselt oder bewusst nicht verwendet werden sollte.

Ablauf für 1–2 Unterrichtsstunden

Phase	Richtzeit	Ziel
Aktivierung und Diagnose	5–10 Minuten	Erste Unterscheidung zwischen Problem, Werkzeug und Lösung
Einführung in die Problemdefinition	15 Minuten	Problemkarte verstehen und an einem Beispiel anwenden
Werkzeugwahl und Mensch-KI-Arbeitsteilung	15–20 Minuten	Alternativen vergleichen und Kontrollpunkte setzen
Anwendungssituation	20–30 Minuten	Systemdesign, Evaluation und Governance verbinden
Selbstkontrolle und Reflexion	10–15 Minuten	Qualitätskriterien prüfen und Fehlentscheidungen erkennen
Transfer	10–20 Minuten	Vorgehen auf einen neuen Fall übertragen und begründen

Für eine kürzere Stunde kann die Anwendungssituation in Partnerarbeit bearbeitet und der Transfer als Hausaufgabe genutzt werden. Für eine Doppelstunde können Folgenabschätzung, Fairnessprüfung und Präsentation vertieft werden.

Aktivierung und Diagnose: Was ist eigentlich das Problem?

Stell Dir drei Aussagen vor:

„Wir brauchen eine KI für unsere Schule.“
„Viele Schülerinnen und Schüler finden wichtige Informationen auf der Schulwebsite nicht.“
„Ein Chatbot soll alle Fragen automatisch beantworten.“

Nur die zweite Aussage beschreibt bereits ein Problem. Die erste nennt vorschnell eine Technologie, die dritte bereits eine mögliche Lösung. Gute KI-Arbeit beginnt deshalb mit einer Trennung von Problem, Ziel und Werkzeug.

Diagnosefrage: Formuliere in einem Satz, welches Problem hinter dem Wunsch „Wir brauchen eine KI für unsere Schule“ stecken könnte. Ergänze danach eine mögliche Lösung ohne KI. Wenn Dir beides gelingt, hast Du bereits den wichtigsten Perspektivwechsel dieses Kurses begonnen.

Das Video zeigt beispielhaft, dass KI in der Schule unterstützen kann, das fachliche Denken aber nicht ersetzt. Beobachte beim Anschauen: Welche Aufgaben bleiben erkennbar beim Menschen?

Einführung

Warum präzise Problemdefinition wichtiger ist als ein guter Prompt

Ein Prompt ist eine Eingabe an ein KI-System. Eine Problemdefinition liegt eine Ebene davor. Sie beantwortet nicht „Was soll ich der KI schreiben?“, sondern „Was soll in der realen Welt besser werden, für wen, unter welchen Bedingungen und woran erkennen wir Erfolg?“.

Ein ungenaues Problem führt häufig zu unpassenden Lösungen. Wenn beispielsweise eine Schule sagt „Wir wollen KI zur Verbesserung der Leistungen“, ist unklar, welche Leistung gemeint ist, welche Lernenden profitieren sollen, welche Daten verwendet werden dürften, wie der Erfolg gemessen würde und welche Nebenwirkungen auftreten könnten. Erst wenn diese Fragen geklärt sind, kann eine Werkzeugentscheidung verantwortbar getroffen werden.

Die Grafik macht deutlich, dass „KI“ kein einzelnes Werkzeug ist. Unterschiedliche Ansätze eignen sich für unterschiedliche Aufgaben. Schon deshalb ist die Frage „Welche KI nehmen wir?“ meistens zu früh gestellt.

Die Problemkarte: Acht Fragen vor jeder KI-Nutzung

Eine brauchbare Problemdefinition kannst Du mit einer Problemkarte strukturieren. Sie enthält acht Bausteine:

Ziel: Welcher konkrete Zustand soll besser werden?
Betroffene: Wer nutzt das System, wer profitiert, wer trägt Risiken und wer kann widersprechen?
Eingabe: Welche Informationen liegen vor und dürfen sie überhaupt verarbeitet werden?
Ausgabe: Welche Form von Ergebnis wird wirklich benötigt?
Randbedingung: Welche Regeln, Zeiten, Kosten, Datenschutz- oder Sicherheitsanforderungen gelten?
Fehler: Welche falschen Ergebnisse sind möglich und wie schwer wären ihre Folgen?
Qualitätskriterium: Woran erkennen wir, dass die Lösung ausreichend gut ist?
Kontrollpunkt: An welcher Stelle prüft oder entscheidet ein Mensch?

Eine präzise Problemkarte vermeidet eine häufige Falle: Man optimiert etwas, das leicht messbar ist, aber gar nicht das eigentliche Ziel darstellt. In der Mathematik nennt man das sinngemäß eine schlechte Operationalisierung; in der Technik wäre es eine fehlerhafte Anforderung; in der Wirtschaft könnte ein falscher Kennwert zu einer Fehlsteuerung führen.

Vom realen Problem zum Systemdesign

Ein KI-System ist nie nur ein Modell. Es ist Teil eines soziotechnischen Systems: Menschen, Regeln, Daten, Technik, Abläufe und Verantwortlichkeiten wirken zusammen. Ein sinnvolles Systemdesign kann so gedacht werden:

Schritt	Leitfrage	Typische Entscheidung
Problem	Was soll sich verbessern?	Ziel und Nicht-Ziele festlegen
Daten oder Informationen	Was darf und muss verarbeitet werden?	Quellen auswählen, sensible Daten ausschließen
Werkzeug	Welche Methode passt zur Aufgabe?	Kein KI-Einsatz, Regel, Algorithmus, Statistik oder KI
Verarbeitung	Was darf automatisiert werden?	Teilaufgaben klar begrenzen
Kontrolle	Wo prüft ein Mensch?	Freigabe, Stichprobe, Gegenquelle oder Vier-Augen-Prinzip
Entscheidung	Wer trägt Verantwortung?	Zuständigkeit dokumentieren
Evaluation	Wie wird Qualität geprüft?	Testfälle, Fehleranalyse und Vergleich mit Alternativen
Verbesserung oder Stopp	Was passiert bei Problemen?	Anpassen, Werkzeug wechseln oder Einsatz beenden

Die Grafik zeigt einen typischen maschinellen Lernprozess mit Training und späterer Anwendung. Für diesen Kurs ist wichtig: Auch wenn ein Modell technisch gut funktioniert, ist damit noch nicht entschieden, ob das Gesamtsystem sinnvoll, fair und sicher ist.

Werkzeugwahl: KI ist eine Option, kein Standard

Bevor Du ein KI-Werkzeug auswählst, solltest Du mindestens fünf Lösungsarten vergleichen:

Nichtdigitale Lösung: Gespräch, klare Regel, Checkliste, Unterrichtsmethode oder organisatorische Veränderung.
Einfache digitale Lösung: Formular, Tabelle, Suche, Filter oder Datenbank.
Klassischer Algorithmus: Eine nachvollziehbare, fest programmierte Regel löst die Aufgabe zuverlässig.
Statistisches Verfahren: Wahrscheinlichkeiten oder Zusammenhänge werden mit Daten untersucht.
Künstliche Intelligenz: Mustererkennung, Klassifikation, Vorhersage oder generative Verarbeitung kann bei offenen oder komplexen Aufgaben nützlich sein.

Eine starke Entscheidung lautet manchmal „Keine KI“. Das ist besonders dann sinnvoll, wenn die Aufgabe einfach regelbasiert lösbar ist, kaum Daten vorliegen, Fehler schwerwiegende Folgen hätten, sensible Informationen nicht geschützt werden können oder die Nutzung den eigentlichen Lernprozess ersetzen würde.

Nutze solche Entscheidungsdiagramme nicht als automatische Wahrheit, sondern als Denkstütze: Welche Frage müsste in Deinem eigenen Entscheidungsbaum zusätzlich vorkommen?

Wann sollte ein Werkzeug gewechselt werden?

Ein KI-Werkzeug ist nicht dauerhaft „das richtige“. Du solltest wechseln oder den Einsatz beenden, wenn mindestens eine der folgenden Situationen auftritt: Die Aufgabe verändert sich, die Fehlerquote ist zu hoch, wichtige Gruppen werden benachteiligt, Quellen lassen sich nicht zuverlässig prüfen, Datenschutzanforderungen können nicht eingehalten werden, Kosten oder Zeitaufwand steigen unverhältnismäßig oder ein einfacheres Werkzeug löst das Problem transparenter.

Die technische Grafik zeigt beispielhaft, dass schon innerhalb des maschinellen Lernens unterschiedliche Methoden für unterschiedliche Problemarten gewählt werden. Für Schule und Alltag gilt noch grundlegender: Erst Problemtyp bestimmen, dann Werkzeug wählen.

Mensch-KI-Arbeitsteilung: Wer macht was?

Gute Mensch-KI-Arbeitsteilung bedeutet nicht, dass der Mensch nur am Ende „OK“ klickt. Menschen sollten dort entscheiden, wo Werte, Kontext, Verantwortung oder schwerwiegende Folgen eine Rolle spielen. KI kann dagegen sinnvoll sein, wenn große Mengen ähnlicher Informationen strukturiert, Varianten erzeugt oder Hinweise für eine weitere Prüfung geliefert werden sollen.

Eine mögliche Arbeitsteilung für eine schulische Recherche könnte so aussehen:

Teilaufgabe	Mensch	KI	Kontrollpunkt
Forschungsfrage entwickeln	entscheidet über Ziel und Relevanz	kann Gegenfragen vorschlagen	Forschungsfrage wird vor Recherche festgelegt
Suchbegriffe sammeln	bewertet fachliche Passung	erzeugt Varianten	ungeeignete Begriffe werden entfernt
Quellen finden	prüft Herkunft und Aktualität	kann Hinweise liefern	Originalquellen werden geöffnet
Aussagen zusammenfassen	prüft Bedeutung und Kontext	kann Entwürfe formulieren	Zusammenfassung wird mit Quelle verglichen
Schlussfolgerung	argumentiert und verantwortet	kann Gegenargumente nennen	finale Begründung stammt vom Lernenden

Die entscheidende Regel lautet: Delegiere Arbeit, aber nicht Verantwortung.

Gestaltung: Human Agency sichtbar machen

Human Agency bedeutet, dass Menschen handlungsfähig bleiben: Sie verstehen den Zweck eines Systems, können wichtige Entscheidungen beeinflussen, Fehler korrigieren und eine Nutzung gegebenenfalls ablehnen. Gute Gestaltung macht diese Handlungsmöglichkeiten sichtbar.

Ein menschenzentriertes KI-System sollte deshalb nicht nur eine Ausgabe präsentieren. Es sollte deutlich machen, was automatisch erzeugt wurde, welche Eingaben verwendet wurden, wo Unsicherheit besteht und wie ein Mensch eingreifen kann. Für schulische Anwendungen sind insbesondere vier Gestaltungselemente hilfreich: Bearbeiten statt blind übernehmen, Rückgängig machen statt unumkehrbar ausführen, Quellen oder Begründungen prüfen statt nur Ergebnistext sehen und Widerspruch ermöglichen statt automatische Entscheidungen als endgültig darzustellen.

Gestaltung ist damit mehr als „schönes Aussehen“. Sie beeinflusst Verhalten. Ein großer Knopf „Automatisch übernehmen“ kann unkritische Nutzung fördern, während eine Oberfläche mit Vergleich, Prüfschritt und Begründungsfeld zum Nachdenken anregt. In Technik, Informatik, Ethik und Deutsch lässt sich daran untersuchen, wie Interface-Entscheidungen Verantwortung und Urteilskraft beeinflussen.

Kontrollpunkte statt blindem Vertrauen

Ein Kontrollpunkt ist eine bewusst eingeplante Stelle, an der ein Mensch prüft, ob der Prozess weiterlaufen darf. Kontrollpunkte können vor, während und nach der KI-Nutzung liegen.

Vor der Nutzung prüfst Du beispielsweise Daten, Zweck und Zulässigkeit. Während der Nutzung kannst Du Stichproben, Gegenfragen oder alternative Quellen einsetzen. Nach der Nutzung prüfst Du Ergebnisqualität, Fairness, mögliche Schäden und Dokumentation. Bei besonders wichtigen Entscheidungen sollte es eine Möglichkeit zum Widerspruch oder zur Korrektur geben.

Qualitätskriterien: Was bedeutet „gut“?

„Die Antwort klingt gut“ ist kein ausreichendes Qualitätskriterium. Je nach Aufgabe brauchst Du überprüfbare Maßstäbe:

Kriterium	Prüffrage	Fachbezug
Richtigkeit	Stimmen überprüfbare Aussagen mit verlässlichen Quellen überein?	Deutsch, Geschichte, Gemeinschaftskunde
Vollständigkeit	Fehlen wichtige Aspekte oder Gruppen?	Informatik, Deutsch
Relevanz	Hilft das Ergebnis beim eigentlichen Ziel?	Wirtschaft, Technik
Nachvollziehbarkeit	Kann erklärt werden, wie das Ergebnis entstanden ist?	Informatik, Ethik
Fairness	Werden vergleichbare Fälle vergleichbar behandelt?	Ethik, Gemeinschaftskunde, Mathematik
Sicherheit	Können Fehler Menschen, Systeme oder Daten schädigen?	Technik, Informatik
Datenschutz	Werden nur notwendige und zulässige Daten verarbeitet?	Informatik, Gemeinschaftskunde
Lernwirksamkeit	Unterstützt die Nutzung eigenes Denken statt es zu ersetzen?	alle Fächer

In der Mathematik kannst Du Qualität zusätzlich quantifizieren. Eine einfache Fehlerquote ist:

Fehlerquote = Anzahl falscher Ergebnisse / Anzahl aller geprüften Ergebnisse

Doch eine niedrige Gesamtfehlerquote kann täuschen. Wenn Fehler fast nur eine bestimmte Gruppe treffen, liegt möglicherweise ein Fairnessproblem vor. Deshalb müssen Gesamtqualität und Verteilung von Fehlern getrennt betrachtet werden.

Bias, Fairness und unterschiedliche Fehlerfolgen

Bias bedeutet vereinfacht eine systematische Verzerrung. Sie kann aus gesellschaftlichen Ungleichheiten, unausgewogenen Daten, ungeeigneten Zielgrößen oder fehlerhaften Annahmen entstehen. Nicht jede Abweichung ist automatisch Diskriminierung, aber systematische Benachteiligung muss untersucht werden.

Die Zielscheiben helfen, zwei Fehlerarten zu unterscheiden: zufällige Streuung und systematische Verschiebung. Für KI-Systeme ist das wichtig, weil häufige kleine Fehler anders bewertet werden müssen als seltene, aber schwerwiegende Fehler.

Beim Video zu algorithmischem Bias kannst Du besonders darauf achten, wo Bias entsteht: in Daten, Zieldefinitionen, Rückkopplungen oder Entscheidungen. Übertrage danach einen dieser Mechanismen auf ein schulisches Beispiel.

Folgenabschätzung: Nicht nur fragen, ob etwas funktioniert

Eine Folgenabschätzung betrachtet erwünschte und unerwünschte Wirkungen. Für eine schulische KI-Idee kannst Du fünf Perspektiven prüfen:

Lernende: Wer profitiert, wer wird möglicherweise benachteiligt oder abhängig?
Lehrkräfte: Entsteht echte Entlastung oder nur zusätzliche Kontrollarbeit?
Schule: Welche Regeln, Zuständigkeiten und technischen Voraussetzungen sind nötig?
Gesellschaft: Welche Werte wie Fairness, Teilhabe, Datenschutz und Transparenz sind betroffen?
Langzeitwirkung: Welche Fähigkeiten werden gestärkt, welche könnten verloren gehen?

Eine Risikomatrix verbindet Wahrscheinlichkeit und Auswirkung. Sie darf eine ethische Entscheidung nicht ersetzen, hilft aber beim Priorisieren: Ein seltenes Ereignis mit sehr schwerem Schaden kann wichtiger sein als ein häufiges, leichtes Problem.

Governance: Wer darf entscheiden und wer ist verantwortlich?

Governance bezeichnet Regeln, Rollen und Verfahren, die festlegen, wie ein System eingesetzt, überwacht und verändert wird. In einer Schule gehören dazu zum Beispiel Zuständigkeiten, Datenschutz, Dokumentation, Freigaben, Beschwerdemöglichkeiten und Regeln für den Umgang mit Fehlern.

Eine einfache Governance-Frage lautet: Wer kann das System stoppen? Wenn darauf niemand eine klare Antwort hat, ist das System schlecht gestaltet.

Für den europäischen Kontext ist außerdem relevant, dass KI-Kompetenz inzwischen auch regulatorisch ausdrücklich gefördert wird. Der EU AI Act enthält Anforderungen zur Unterstützung von KI-Kompetenz bei Personen, die beruflich mit KI-Systemen arbeiten. Für den Unterricht folgt daraus keine automatische Pflicht zur Nutzung bestimmter Produkte; sinnvoll ist vielmehr, Fähigkeiten zu entwickeln, Chancen und Risiken kontextbezogen zu beurteilen.

Quellenkritik und Transparenz

Generative KI kann überzeugend formulieren, ohne dass eine Aussage belegt ist. Deshalb gilt: Eine KI-Antwort ist keine Quelle. Wenn ein Ergebnis überprüfbare Behauptungen enthält, brauchst Du geeignete Belege. Gute Quellenkritik fragt nach Urheber, Zeitpunkt, Zweck, Belegen, Interessenkonflikten und unabhängiger Bestätigung.

Im Deutschunterricht trainierst Du damit Argumentation und Textprüfung. In Geschichte prüfst Du Quellenkontext und Perspektivität. In Gemeinschaftskunde untersuchst Du politische Interessen und Öffentlichkeit. In Wirtschaft prüfst Du Anreize und Geschäftsmodelle. In Informatik dokumentierst Du Daten- und Verarbeitungsschritte.

Sicherheit und Datenschutz

Verarbeite in ungeprüften KI-Diensten keine vertraulichen, personenbezogenen oder besonders sensiblen Informationen. Prüfe zuerst, ob Daten wirklich benötigt werden. Nutze möglichst Datenminimierung, anonymisierte Beispiele und schulisch freigegebene Systeme. Bei hohen Risiken ist ein Verzicht auf KI oft die bessere Entscheidung.

Sicherheit bedeutet außerdem, Fehlbedienung mitzudenken. Frage nicht nur „Was passiert bei korrekter Nutzung?“, sondern auch „Was passiert bei Missverständnissen, absichtlichem Missbrauch, falschen Eingaben oder technischem Ausfall?“.

Realistische Anwendungssituation

Fall: Ideen für die schulische Projektwoche auswerten

Die Schülervertretung sammelt 350 kurze, freiwillig und ohne Namen abgegebene Vorschläge für die nächste Projektwoche. Einige Vorschläge ähneln sich stark. Die SV möchte Themencluster bilden, häufige Interessen erkennen und anschließend demokratisch über Schwerpunkte abstimmen. Jemand schlägt vor: „Wir lassen einfach eine KI alles sortieren.“

Deine Aufgabe ist nicht, sofort ein Tool zu benutzen. Entwickle zuerst ein begründetes Systemdesign.

Schritt 1: Problem präzisieren

Eine gute Problemdefinition könnte lauten:

„Die 350 anonymen Vorschläge sollen so thematisch gruppiert werden, dass die SV einen übersichtlichen, nachvollziehbaren Ausgangspunkt für die weitere menschliche Prüfung und demokratische Entscheidung erhält. Einzelne Vorschläge dürfen nicht verloren gehen oder inhaltlich verfälscht werden.“

Beachte, was diese Definition nicht behauptet: Die KI soll nicht entscheiden, welche Projekte stattfinden. Sie soll auch keine Personen bewerten.

Schritt 2: Alternativen vergleichen

Lösung	Vorteil	Nachteil	Einschätzung
Manuell sortieren	hohe menschliche Kontextkenntnis	zeitaufwendig und eventuell uneinheitlich	brauchbar bei kleinerer Menge
Tabellenfilter mit Schlagwörtern	transparent und reproduzierbar	ähnliche Bedeutungen werden nicht immer erkannt	gute Baseline
Regelbasierte Kategorien	sehr nachvollziehbar	Kategorien müssen vorher bekannt sein	sinnvoll bei stabiler Themenstruktur
KI-gestützte Clusterbildung	kann ähnliche Formulierungen zusammenführen	Kategorien können unklar oder verzerrt sein	nur mit Prüfung sinnvoll

Die wichtigste professionelle Frage lautet: Welche einfache Lösung ist gut genug? Erst wenn ein Mehrwert der KI plausibel ist, sollte die zusätzliche Komplexität in Kauf genommen werden.

Schritt 3: Mensch-KI-Arbeitsteilung entwerfen

Ein verantwortbarer Ablauf könnte so aussehen:

Menschen bereinigen offensichtliche persönliche Angaben, falls trotz Anonymität welche vorkommen.
Ein einfaches Verfahren oder eine KI schlägt Themencluster vor.
Zwei Lernende prüfen eine Stichprobe aus jedem Cluster auf Fehlzuordnungen.
Uneindeutige Vorschläge werden nicht automatisch erzwungen zugeordnet, sondern markiert.
Die SV benennt die Cluster selbst und veröffentlicht die Kriterien.
Über die Auswahl der Projektthemen entscheiden Menschen in einem transparenten Verfahren.

Hier ist die KI nur Assistenz, nicht Entscheiderin.

Schritt 4: Evaluation planen

Lege vor dem Einsatz fest, wann die Lösung ausreichend gut ist. Mögliche Kriterien:

Mindestens eine festgelegte Stichprobe wird manuell geprüft.
Kein Vorschlag darf vollständig verschwinden.
Ähnliche Themen sollen überwiegend gemeinsam erscheinen.
Minderheitenvorschläge dürfen nicht allein deshalb ausgeblendet werden, weil sie selten sind.
Die SV muss erklären können, wie Cluster entstanden sind.
Bei schlechter Qualität wird auf manuelle oder regelbasierte Sortierung zurückgewechselt.

Diese Kriterien machen deutlich: Qualität ist nicht nur eine technische Kennzahl, sondern hängt vom Zweck ab.

Schritt 5: Governance und Folgen abschätzen

Frage, wer Zugriff auf die Rohdaten erhält, wie lange Daten gespeichert werden, wer Fehler melden kann und wer die finale Entscheidung trifft. Prüfe außerdem, ob seltene Themen systematisch an Sichtbarkeit verlieren könnten. Ein demokratischer Prozess darf „Mehrheit“ nicht mit „alle wichtigen Interessen“ verwechseln.

Entscheidung

In diesem Fall kann ein begrenzter KI-Einsatz vertretbar sein, wenn die Vorschläge wirklich anonym sind, die KI nur vorsortiert, Menschen Stichproben prüfen, Minderheitenpositionen sichtbar bleiben und ein Rückfall auf eine einfachere Methode vorgesehen ist. Ohne diese Kontrollpunkte wäre dieselbe Technik schlechter gestaltet.

Kontrastfall: Wann KI bewusst nicht eingesetzt werden sollte

Stell Dir vor, eine Schule möchte private Nachrichten an die Schulsozialarbeit automatisch nach „Dringlichkeit“ sortieren und weniger dringende Meldungen später anzeigen. Hier sind die möglichen Schäden bei Fehlern erheblich, die Daten besonders sensibel und die Bedeutung von Aussagen stark kontextabhängig.

Eine generative Standard-KI sollte hier nicht einfach als automatische Entscheiderin eingesetzt werden. Schon die Problemdefinition zeigt, dass hohe Anforderungen an Datenschutz, Fachverantwortung, Sicherheit, Nachvollziehbarkeit und menschliche Erreichbarkeit bestehen. Eine bessere erste Frage wäre: Wie kann die Schulsozialarbeit organisatorisch und technisch unterstützt werden, ohne kritische Hilfesignale einem unzuverlässigen Filter zu überlassen?

Das Beispiel zeigt, warum „KI kann Texte sortieren“ keine ausreichende Begründung für den Einsatz ist.

Fächerübergreifende Bezüge

Informatik

Du modellierst ein Problem, unterscheidest Daten, Algorithmus und Ausgabe, planst Kontrollpunkte und bewertest ein soziotechnisches System. Wichtige Begriffe sind Algorithmus, Daten, Maschinelles Lernen, Künstliche Intelligenz, Mensch-Computer-Interaktion und Informationssicherheit.

Mathematik

Du definierst messbare Kriterien, unterscheidest absolute Zahlen und Quoten, interpretierst Fehlerwahrscheinlichkeiten und vergleichst Gruppen. Dabei erkennst Du, dass Messgrößen immer zur Problemdefinition passen müssen.

Technik

Du arbeitest mit Anforderungen, Sicherheitsdenken, Fehlerszenarien, Redundanz und Rückfallebenen. Ein System ist nur dann gut, wenn es auch bei Fehlern beherrschbar bleibt.

Deutsch

Du formulierst präzise Problemstellungen, prüfst Behauptungen, vergleichst Quellen, erkennst unklare Begriffe und begründest Entscheidungen adressatengerecht.

Wirtschaft

Du vergleichst Kosten, Nutzen, Zeitaufwand, Skalierbarkeit und Fehlanreize. Ein technisch beeindruckendes System kann wirtschaftlich schlechter sein als eine einfache Alternative.

Geschichte

Du kannst historische Technikbegeisterung und frühere Automatisierungsversprechen mit heutigen KI-Debatten vergleichen. Dabei untersuchst Du, wie gesellschaftliche Werte und Machtverhältnisse technische Systeme prägen.

Ethik

Du bewertest Folgen für Autonomie, Fairness, Verantwortung, Würde und Teilhabe. Besonders wichtig ist die Frage, welche Entscheidungen Menschen nicht an Maschinen delegieren sollten.

Gemeinschaftskunde

Du untersuchst Regeln, Institutionen, Beteiligung, Transparenz und demokratische Kontrolle. KI-Governance wird damit zu einer Frage politischer Gestaltung.

Orientierungen für verantwortlichen KI-Einsatz

Menschenzentrierte KI bedeutet, dass Technik menschliche Handlungsfähigkeit stärken und nicht ersetzen soll. Internationale Leitlinien betonen wiederkehrend Fairness, Transparenz, Sicherheit, Rechenschaftspflicht und Schutz von Rechten. Für Schule ist besonders wichtig, dass KI-Nutzung pädagogisch sinnvoll, altersangemessen und überprüfbar bleibt.

Die Leitlinien ersetzen keine schulischen Regeln oder Rechtsberatung. Sie helfen Dir aber, gute Prüffragen zu entwickeln.

Selbstkontrolle: KI einsetzen, wechseln oder nicht verwenden?

Entscheide in jedem Fall zunächst ohne ein bestimmtes Markenprodukt:

Eine Klasse möchte 20 selbst geschriebene Gedichte nach frei gewählten Motiven ordnen. Braucht sie KI oder genügt manuelles Clustern?
Ein Betrieb möchte aus tausenden standardisierten Sensordaten frühzeitig Wartungsbedarf erkennen. Welche datenbasierte Methode könnte sinnvoll sein?
Eine Lehrkraft möchte automatisch Abschlussnoten vergeben. Welche Gründe sprechen für starke menschliche Kontrolle oder gegen eine Automatisierung?
Eine Schülergruppe möchte Gegenargumente zu einer Debattenposition sammeln. Wie kann generative KI als Ideengeber dienen, ohne die Quellenprüfung zu ersetzen?
Ein Sekretariat möchte häufige, nicht personenbezogene Fragen zu Öffnungszeiten beantworten. Könnte eine gut gepflegte FAQ transparenter sein als ein Chatbot?

Begründe jede Entscheidung mit mindestens drei Kriterien aus der Problemkarte. Ein starkes Argument nennt nicht nur Vorteile, sondern auch Grenzen und einen Kontrollpunkt.

Reflexion

Beantworte schriftlich drei Sätze:

„Ich würde KI einsetzen, wenn …“
„Ich würde das Werkzeug wechseln, wenn …“
„Ich würde bewusst auf KI verzichten, wenn …“

Ergänze anschließend: „Die Verantwortung bleibt beim Menschen, weil …“ Formuliere die Antwort so, dass eine Person außerhalb des Unterrichts Deine Entscheidung nachvollziehen kann.

Transfer auf einen neuen Fall

Eine Stadtbibliothek plant ein digitales Angebot, das Jugendlichen Bücher für Referate empfiehlt. Das System könnte Suchbegriffe, Altersstufe und Interessengebiete auswerten. Deine Aufgabe ist, selbstständig zu entscheiden, ob und wie KI eingesetzt werden sollte.

Erstelle dafür eine neue Problemkarte. Vergleiche mindestens eine Lösung ohne KI mit einer KI-Lösung. Lege fest, welche Daten wirklich erforderlich sind, welche Empfehlungen problematisch sein könnten, wie unterschiedliche Interessen fair berücksichtigt werden und wo ein Mensch kontrolliert. Formuliere zum Schluss eine Entscheidung in der Form:

„Wir setzen KI ein / setzen sie nur begrenzt ein / verzichten auf KI, weil … . Wir prüfen die Entscheidung erneut, wenn … .“

Damit zeigst Du Transfer: Du übernimmst nicht die Lösung aus dem Schulbeispiel, sondern wendest das Denkverfahren auf eine neue Situation an.

Interaktive Aufgaben

Quiz: Teste Dein Wissen

Eine Schule sagt: „Wir brauchen KI für bessere Lernleistungen.“ Was sollte zuerst geschehen? (Das konkrete Problem und das gewünschte Ziel präzisieren) (!Sofort ein möglichst großes KI-Modell auswählen) (!Möglichst viele Daten sammeln) (!Zuerst einen langen Prompt schreiben)

Wann ist der bewusste Verzicht auf KI besonders gut begründbar? (Wenn eine einfache transparente Lösung das Problem zuverlässig löst) (!Wenn ein KI-System modern wirkt) (!Wenn viele Personen über KI sprechen) (!Wenn ein Ergebnis automatisch erzeugt werden kann)

Welche Rolle sollte ein Kontrollpunkt in einem Mensch-KI-System haben? (Einen menschlichen Prüf- oder Entscheidungszeitpunkt festlegen) (!Die Ausgabe automatisch veröffentlichen) (!Alle Fehler statistisch verstecken) (!Die Verantwortung vollständig an das System abgeben)

Welche Qualitätsfrage prüft Fairness am besten? (Werden vergleichbare Fälle und betroffene Gruppen angemessen behandelt) (!Ist die Antwort besonders lang) (!Reagiert das System besonders schnell) (!Sieht die Benutzeroberfläche modern aus)

Eine KI sortiert Vorschläge für eine Projektwoche. Was ist eine sinnvolle menschliche Aufgabe? (Stichproben prüfen und uneindeutige Zuordnungen klären) (!Alle Vorschläge ungeprüft übernehmen) (!Seltene Vorschläge automatisch löschen) (!Die KI allein über Projekte entscheiden lassen)

Warum reicht eine niedrige Gesamtfehlerquote nicht immer aus? (Fehler können bestimmte Gruppen ungleich stark treffen) (!Jede Fehlerquote ist grundsätzlich bedeutungslos) (!Nur Geschwindigkeit bestimmt Qualität) (!Fehler treten bei KI niemals systematisch auf)

Was ist bei einer KI-gestützten Recherche eine gute Quellenregel? (Überprüfbare Aussagen mit geeigneten Original- oder verlässlichen Quellen abgleichen) (!Die KI-Antwort selbst als Quelle angeben) (!Nur die erste gefundene Aussage verwenden) (!Auf Quellen verzichten, wenn der Text überzeugend klingt)

Welche Frage gehört zur Governance eines KI-Systems? (Wer darf das System stoppen oder eine Entscheidung korrigieren) (!Welche Schriftart verwendet die Startseite) (!Wie viele Wörter erzeugt das System pro Minute) (!Welche Farbe hat das Programmsymbol)

Wann sollte ein eingesetztes KI-Werkzeug gewechselt werden? (Wenn es die festgelegten Qualitäts- oder Sicherheitskriterien nicht mehr erfüllt) (!Sobald ein neues Produkt beworben wird) (!Wenn eine Antwort kürzer als erwartet ist) (!Immer nach genau einer Woche)

Was zeigt erfolgreichen Transfer am besten? (Das Entscheidungsverfahren auf einen neuen Fall anwenden und begründen) (!Die Musterlösung auswendig wiederholen) (!Dasselbe Werkzeug in jedem Fall verwenden) (!Nur Definitionen ohne Anwendung nennen)

Memory

Problemziel	gewünschter Zustand
Kontrollpunkt	menschliche Prüfung
Qualitätskriterium	messbarer Maßstab
Governance	Regeln und Zuständigkeiten
Folgenabschätzung	Wirkungen und Risiken
Werkzeugwechsel	Reaktion auf unzureichende Qualität

Drag and Drop

Ordne die richtigen Begriffe zu.	Thema
Zielklärung	Was soll sich in der realen Situation verbessern?
Werkzeugvergleich	Welche einfache oder KI-basierte Methode passt am besten?
Arbeitsteilung	Welche Aufgaben übernimmt der Mensch und welche die Technik?
Evaluation	Nach welchen Kriterien wird die Qualität geprüft?
Governance	Wer trägt Verantwortung und kann eingreifen?

...

Kreuzworträtsel

Kontrollpunkt	Wie heißt eine geplante Stelle, an der ein Mensch prüft oder entscheidet?
Fairness	Welcher Begriff beschreibt die angemessene Behandlung vergleichbarer Fälle und Gruppen?
Governance	Wie heißt das System aus Regeln, Rollen und Zuständigkeiten?
Quellenkritik	Wie heißt die Prüfung von Herkunft, Belegen, Zweck und Verlässlichkeit einer Information?
Transparenz	Welcher Begriff bezeichnet Nachvollziehbarkeit und Offenlegung wichtiger Systeminformationen?
Transfer	Wie heißt die Übertragung eines gelernten Verfahrens auf einen neuen Fall?

LearningApps

Lückentext

Eine präzise Problemdefinition beschreibt zuerst das

der geplanten Veränderung. Vor der Werkzeugwahl sollten auch die

und ihre Interessen betrachtet werden. Eine KI ist nur dann sinnvoll, wenn sie gegenüber einfacheren Lösungen einen begründbaren

bietet. Die Arbeit zwischen Mensch und Technik sollte durch klare

abgesichert werden. Qualität muss mit vorher festgelegten

überprüft werden. Eine systematische Benachteiligung kann auf einen

hinweisen. Regeln, Zuständigkeiten und Eingriffsmöglichkeiten gehören zur

. Überprüfbare Behauptungen einer generativen KI müssen durch geeignete

kontrolliert werden. Bei zu hohen Risiken kann ein bewusster

auf KI die bessere Entscheidung sein. Wer das Verfahren auf einen neuen Fall anwendet und begründet, zeigt gelungenen

.

Offene Aufgaben

Leicht

Problemdefinition: Formuliere aus der Aussage „Wir brauchen KI für Hausaufgaben“ drei unterschiedliche reale Probleme, die dahinterstecken könnten.
Werkzeugwahl: Nimm ein Alltagsproblem aus der Schule und finde je eine Lösung ohne digitale Technik, mit einfacher Software und mit KI. Vergleiche die drei Lösungen.
Kontrollpunkt: Zeichne einen Ablauf mit mindestens zwei Stellen, an denen ein Mensch eine KI-Ausgabe prüfen oder stoppen kann.
Quellenkritik: Lass Dir zu einem Unterrichtsthema fünf überprüfbare Behauptungen nennen und entwickle einen Plan, wie Du jede Behauptung unabhängig prüfen würdest, ohne die KI-Antwort selbst als Quelle zu verwenden.

Standard

Systemdesign: Entwickle für die Auswertung anonymer Projektwochen-Ideen ein Systemdiagramm mit Problem, Eingabe, Werkzeug, Kontrolle, Ausgabe und Verantwortung.
Evaluation: Erfinde zehn Testfälle für ein hypothetisches KI-System, das Schulbibliotheksbücher thematisch zuordnet. Begründe, warum diese Testfälle unterschiedliche Fehler sichtbar machen.
Fairness: Entwickle ein Szenario, in dem eine gute Gesamtgenauigkeit trotzdem eine Gruppe benachteiligt. Erkläre, welche zusätzlichen Kennzahlen oder Prüfungen nötig wären.
Governance: Entwirf fünf Schulregeln für einen verantwortlichen KI-Einsatz. Jede Regel soll festlegen, wer entscheidet, was dokumentiert wird und wann eingegriffen werden muss.

Schwer

Folgenabschätzung: Analysiere den Vorschlag, KI zur automatischen Auswahl von Bewerberinnen und Bewerbern für ein Schülerpraktikum einzusetzen. Erstelle eine Nutzen-Risiko-Matrix und formuliere eine begründete Empfehlung.
Mensch-KI-Arbeitsteilung: Entwickle zwei verschiedene Arbeitsabläufe für eine komplexe Recherche: einen mit viel KI-Unterstützung und einen mit wenig KI. Vergleiche Lernwirkung, Zeit, Fehleranfälligkeit und Transparenz.
Technikfolgenabschätzung: Untersuche, wie sich die Einführung eines KI-Systems in einer Schule auf Macht, Verantwortung und Teilhabe verändern könnte. Befrage dafür mindestens zwei Personen mit unterschiedlichen Rollen und werte die Antworten aus.
Transfer: Wähle einen neuen Fall aus Wirtschaft, Verwaltung, Technik oder Alltag. Erstelle Problemkarte, Werkzeugvergleich, Kontrollpunkte, Qualitätskriterien, Governance und Entscheidung. Begründe ausdrücklich, wann Du die Entscheidung später revidieren würdest.

Lernkontrolle

Problemdefinition und Zielkonflikt: Eine Stadt möchte KI einsetzen, um Bürgeranfragen schneller zu bearbeiten. Entwickle zwei mögliche Problemdefinitionen, die zu unterschiedlichen Systemen führen würden, und erkläre die Folgen.
Werkzeugvergleich: Für eine Aufgabe Deiner Wahl sollst Du drei Lösungswege vergleichen: ohne KI, mit einer einfachen regelbasierten Lösung und mit KI. Entscheide anhand selbst gewählter Kriterien.
Fehlerfolgen: Entwickle je ein Beispiel für einen häufigen kleinen Fehler und einen seltenen schweren Fehler. Erkläre, warum dieselbe Fehlerquote zu unterschiedlichen Entscheidungen führen kann.
Governance und Verantwortung: Entwirf für ein schulisches KI-System Rollen für Nutzung, Kontrolle, Beschwerde und Abschaltung. Begründe, warum keine dieser Rollen vollständig an die KI delegiert werden sollte.
Transferentscheidung: Bearbeite einen unbekannten Fall und entscheide, ob KI eingesetzt, begrenzt eingesetzt, gewechselt oder nicht verwendet werden soll. Deine Begründung muss Ziel, Betroffene, Risiken, Qualitätskriterien und mindestens einen Kontrollpunkt enthalten.
Reflexion: Beschreibe einen Fall, in dem eine technisch mögliche KI-Lösung pädagogisch oder ethisch trotzdem ungeeignet wäre. Entwickle eine bessere Alternative.

Lernnachweis

Für einen Lernnachweis zu diesem Thema ist wichtig, dass Du nicht nur Begriffe wiedergeben kannst, sondern einen vollständigen Entscheidungsprozess sichtbar machst.

Eine reale Problemsituation klar von einer vorweggenommenen technischen Lösung trennen.
Ziel, Betroffene, Eingaben, Ausgaben und Randbedingungen präzise beschreiben.
Mindestens eine Nicht-KI-Alternative mit einer KI-Lösung vergleichen.
Eine nachvollziehbare Mensch-KI-Arbeitsteilung mit Kontrollpunkten entwerfen.
Qualitätskriterien festlegen und geeignete Testfälle begründen.
Risiken, Fairness, Datenschutz, Sicherheit und mögliche Nebenfolgen berücksichtigen.
Governance mit Verantwortung, Eingriffsmöglichkeit und Beschwerdeweg beschreiben.
Quellen und überprüfbare Aussagen kritisch prüfen.
Eine begründete Entscheidung treffen, wann KI eingesetzt, gewechselt oder bewusst nicht verwendet wird.
Das gesamte Verfahren auf eine neue Situation übertragen und die Entscheidung adressatengerecht erläutern.

OERs zum Thema

Die eingebundenen Wikimedia-Commons-Dateien sind über ihre jeweiligen Dateiseiten mit freien Lizenzen oder Public-Domain-Hinweisen dokumentiert. Besonders geeignet für eine Vertiefung sind die freien Diagramme zu Problemlösung, KI-Workflow, Bias und Risikomatrizen.

Verknüpfte Lernbereiche

Probleme für KI präzise definieren

aiMOOC-Projekte

Inhalte werden geladen ...

Mediathek wird aus dem Wiki geladen ...

Frag mich zum aktuellen Lerninhalt oder wähle eine kurze Hilfe.

Textmodus bereit

Sprache