Die Druckversion wird nicht mehr unterstützt und kann Darstellungsfehler aufweisen. Bitte aktualisiere deine Browser-Lesezeichen und verwende stattdessen die Standard-Druckfunktion des Browsers.

Diesen aiMOOC als Battle spielen: Deutsch, Klasse 9-10, G-Niveau

KI-Systeme verbessern statt nur benutzen

Zielgruppe: Klasse 10, fächerübergreifend mit Schwerpunkten in Informatik, Mathematik, Technik, Deutsch, Wirtschaft, Geschichte, Ethik und Gemeinschaftskunde.

Zeitumfang: etwa 1–2 Unterrichtsstunden.

Leitfrage: Wie kannst Du ein KI-System so prüfen, verändern und erneut testen, dass es nicht nur beeindruckende Ergebnisse liefert, sondern für einen klaren Zweck möglichst zuverlässig, fair, sicher, transparent und verantwortbar arbeitet?

Einleitung

KI-Kompetenz bedeutet mehr, als eine Anfrage in ein KI-System einzugeben und eine Antwort zu übernehmen. Wirklich handlungsfähig wirst Du, wenn Du ein KI-System als gestaltbares sozio-technisches System verstehst. Zu diesem System gehören nicht nur ein Modell oder ein Algorithmus, sondern auch Daten, Ziele, Testfälle, Benutzeroberflächen, Menschen, Regeln, Zuständigkeiten und die Folgen des Einsatzes.

Die zentrale Kompetenz dieses Lernkurses lautet deshalb:

Du kannst ein KI-System für einen konkreten Zweck entwerfen, systematisch testen, Fehler und unerwünschte Folgen erkennen, Verbesserungen entwickeln, erneut prüfen und Deine Entscheidungen transparent begründen.

Dafür nutzt Du eine Verbesserungsschleife:

Zweck klären → Kriterien festlegen → testen → Ergebnisse messen → Fehler und Folgen untersuchen → System verändern → erneut testen → Entscheidung dokumentieren.

Diese Schleife ist wichtiger als die Suche nach dem „perfekten Prompt“. Ein besserer Prompt kann nützlich sein, aber ein KI-System kann auch durch ungeeignete Daten, falsche Ziele, schlechte Testfälle, unfaire Regeln, eine irreführende Oberfläche oder fehlende menschliche Kontrolle problematisch werden.

Das UNESCO-Rahmenkonzept für KI-Kompetenzen von Schülerinnen und Schülern verbindet einen menschenzentrierten Blick, KI-Ethik, technische Grundlagen und Anwendungen sowie KI-Systemdesign. Die Lernenden sollen dabei vom Verstehen über das Anwenden bis zum eigenständigen Gestalten gelangen. Genau daran knüpft dieser Kurs an: Du sollst nicht nur Nutzerin oder Nutzer sein, sondern begründet als Mitgestalterin oder Mitgestalter handeln.

Lernziele

Nach dem Lernkurs kannst Du erklären, warum die Qualität eines KI-Systems nicht nur von seinem Modell abhängt. Du kannst für einen Anwendungsfall messbare und begründbare Bewertungskriterien festlegen, Testfälle entwerfen, einfache Kennzahlen berechnen, Fehlerarten unterscheiden und Unterschiede zwischen Gruppen untersuchen. Du kannst außerdem Maßnahmen für Fairness, Datenschutz, Sicherheit, Transparenz und menschliche Kontrolle vorschlagen.

Am Ende entwickelst Du eine eigene verbesserte Systemlösung, testest sie mit neuen Fällen und hältst nachvollziehbar fest, warum Du bestimmte Änderungen vorgenommen oder einen Einsatz sogar abgelehnt hast.

Unterrichtsplanung für 45 oder 90 Minuten

Phase	45-Minuten-Variante	90-Minuten-Variante	Tätigkeit
Aktivierung und Diagnose	5 Minuten	10 Minuten	Erste Entscheidungen zu KI-Anwendungsfällen treffen und begründen
Einführung	8 Minuten	15 Minuten	KI-System als Zusammenspiel von Ziel, Daten, Modell, Menschen und Regeln verstehen
Evaluation	15 Minuten	25 Minuten	Ein fiktives KI-System mit Testfällen und Kennzahlen prüfen
Verbesserung	12 Minuten	20 Minuten	Systemdesign verändern und Wirkung der Änderung vorhersagen oder erneut testen
Governance und Folgen	3 Minuten	10 Minuten	Zuständigkeiten, Grenzen, Dokumentation und Stop-Regeln festlegen
Reflexion und Transfer	2 Minuten	10 Minuten	Entscheidung begründen und auf einen neuen Fall übertragen

Aktivierung und Diagnose

Stell Dir vor, Deine Schule könnte morgen eines der folgenden KI-Systeme einführen. Entscheide zunächst ohne lange Recherche, ob Du den Einsatz befürwortest, nur unter Bedingungen erlaubst oder ablehnst. Notiere für einen Fall den wichtigsten Grund.

Anwendung	Deine erste Entscheidung	Wichtigste Frage
Ein System schlägt passende Praktikumsfelder vor.	Befürworten / Bedingungen / Ablehnen	Wer könnte durch falsche Empfehlungen benachteiligt werden?
Ein System gibt Feedback zu Aufsätzen, vergibt aber keine Note.	Befürworten / Bedingungen / Ablehnen	Welche Sprache oder Schreibweise könnte das System bevorzugen?
Ein System bewertet automatisch die Vertrauenswürdigkeit von Internetquellen.	Befürworten / Bedingungen / Ablehnen	Wie wird verhindert, dass eine plausible, aber falsche Bewertung übernommen wird?
Ein System entscheidet vollständig automatisch über Schulnoten.	Befürworten / Bedingungen / Ablehnen	Darf eine so folgenreiche Entscheidung ohne verantwortliche Person getroffen werden?

Vergleiche Deine Entscheidung später mit Deinem Urteil am Ende des Kurses. Entscheidend ist nicht, ob Du KI grundsätzlich gut oder schlecht findest. Entscheidend ist, welche Aufgabe, welche Folgen und welche Schutzmaßnahmen vorliegen.

Vom KI-Werkzeug zum KI-System

Ein KI-Modell ist nur ein Teil eines größeren Systems. Wenn beispielsweise eine Schule eine KI zur Unterstützung bei der Praktikumsorientierung einsetzen wollte, müssten mindestens folgende Bestandteile gestaltet werden:

Zweck: Welche Aufgabe soll unterstützt werden und welche ausdrücklich nicht?
Daten: Welche Informationen werden genutzt, fehlen oder dürfen aus Datenschutzgründen gar nicht verwendet werden?
Modell: Wie entstehen Empfehlungen und wie zuverlässig sind sie?
Benutzeroberfläche: Werden Vorschläge als sichere Entscheidung oder als unsichere Empfehlung dargestellt?
Menschliche Kontrolle: Wer kann korrigieren, widersprechen oder den Einsatz stoppen?
Governance: Wer trägt Verantwortung, dokumentiert Änderungen und entscheidet über Freigabe?
Folgenabschätzung: Wem nutzt das System, wer trägt Risiken und welche indirekten Folgen entstehen?

Eine anschauliche Analogie

Stell Dir ein KI-System wie eine Schulküche vor. Das Modell ist nicht die ganze Küche, sondern eher eine wichtige Maschine darin. Selbst eine sehr gute Maschine führt nicht automatisch zu gutem Essen. Entscheidend sind auch Zutaten, Rezept, Hygiene, Kontrolle, Zielgruppe, Allergien, Ausgabe und Verantwortung. Genauso kann ein leistungsfähiges KI-Modell in einem schlecht gestalteten Gesamtsystem schlechte Ergebnisse erzeugen.

Systemkompetenz bedeutet deshalb: Du fragst nicht nur „Was kann das Modell?“, sondern auch „Wofür setzen wir es ein, wie testen wir es, wer kontrolliert es und was passiert, wenn es falsch liegt?“

Systemdesign: Erst das Problem klären, dann KI einsetzen

Bevor ein KI-System entwickelt oder ausgewählt wird, sollte die Problemstellung möglichst präzise sein.

Eine hilfreiche Struktur ist:

Designfrage	Beispiel Praktikumsorientierung
Welches Problem soll gelöst werden?	Schülerinnen und Schüler kennen viele Berufsfelder nicht und wünschen Vorschläge.
Was darf das System tun?	Mehrere Möglichkeiten mit Begründung vorschlagen.
Was darf es nicht tun?	Menschen automatisch aussortieren oder verbindlich über Praktikumsplätze entscheiden.
Wer entscheidet letztlich?	Die Schülerin oder der Schüler gemeinsam mit verantwortlichen Menschen.
Welche Informationen werden wirklich benötigt?	Interessen, freiwillig angegebene Fähigkeiten und gewünschte Tätigkeitsbereiche.
Welche Daten sollten vermieden werden?	Für die Aufgabe unnötige persönliche oder besonders sensible Angaben.
Was wäre ein Erfolg?	Unterschiedliche passende Vorschläge, nachvollziehbare Gründe und geringe Fehlerraten.
Wann wird gestoppt?	Bei systematischer Benachteiligung, schweren Sicherheitsproblemen oder unvertretbar vielen Fehlentscheidungen.

Eine wichtige Verbesserung kann deshalb sogar darin bestehen, weniger KI einzusetzen. Vielleicht reicht eine transparente Such- und Filterfunktion. Vielleicht sollte ein KI-System nur Vorschläge formulieren, aber keine Rangliste erzeugen. Systemdesign beginnt mit der Frage, ob KI für die Aufgabe überhaupt angemessen ist.

Evaluation: Gute Ergebnisse müssen geprüft werden

Evaluation bedeutet, ein System nicht nach einem beeindruckenden Einzelbeispiel zu beurteilen, sondern mit vorher festgelegten Kriterien und systematischen Testfällen.

Eine gute Evaluation umfasst mehrere Perspektiven:

Korrektheit: Wie oft erfüllt das System die fachlich definierte Aufgabe?
Robustheit: Bleibt die Qualität bei Tippfehlern, anderer Reihenfolge oder ungewöhnlichen Fällen stabil?
Fairness: Unterscheiden sich Fehlerraten zwischen relevanten Gruppen oder Darstellungsformen?
Sicherheit: Kann das System zu schädlichen oder leicht missbrauchbaren Ergebnissen führen?
Datenschutz: Werden nur notwendige Daten verwendet und angemessen geschützt?
Transparenz: Können Nutzerinnen und Nutzer erkennen, dass KI beteiligt ist, welche Grenzen gelten und wie eine Entscheidung zustande kam?
Nützlichkeit: Hilft das System bei der eigentlichen Aufgabe oder erzeugt es nur zusätzlichen Aufwand?
Folgen: Welche sozialen, wirtschaftlichen und ökologischen Auswirkungen entstehen?

Mathematik der Evaluation: Nicht nur auf Genauigkeit schauen

Bei einer Klassifikationsaufgabe können vier Fälle auftreten:

Richtig positiv: Das System empfiehlt etwas, das nach dem festgelegten Kriterium tatsächlich passend ist.

Richtig negativ: Das System empfiehlt etwas nicht und das ist nach dem Kriterium korrekt.

Falsch positiv: Das System empfiehlt etwas, obwohl es nicht passend ist.

Falsch negativ: Das System übersieht eine passende Möglichkeit.

Daraus entstehen Kennzahlen. Für Klasse 10 reichen zunächst drei:

Genauigkeit = richtige Entscheidungen / alle getesteten Entscheidungen

Präzision = richtige positive Entscheidungen / alle positiven Systementscheidungen

Trefferquote für positive Fälle, oft Recall genannt = richtig erkannte positive Fälle / alle tatsächlich positiven Fälle

Keine Kennzahl ist automatisch „die wichtigste“. Das hängt von den Folgen der Fehler ab. Bei einer Brandwarnung ist ein übersehener Brand schwerwiegender als ein zusätzlicher Fehlalarm. Bei einer automatisierten Empfehlung kann eine hohe Gesamtgenauigkeit problematisch sein, wenn eine bestimmte Gruppe deutlich häufiger übersehen wird.

Realistische Anwendungssituation: Der Praktikums-Matcher

Die fiktive Schule „Am Stadtpark“ testet ein KI-System. Es soll nur unverbindliche Vorschläge für Praktikumsfelder machen. Es darf niemanden von einer Bewerbung ausschließen und keine endgültige Entscheidung treffen.

Das Entwicklungsteam hat acht fiktive Testprofile erstellt. Für jedes Profil wurde mithilfe einer transparenten Kriterienliste und einer unabhängigen Gegenprüfung festgelegt, ob ein bestimmtes Praktikumsfeld passend ist. Auch diese Referenzentscheidung ist nicht unfehlbar, aber sie ist begründet und überprüfbar.

Die Profile unterscheiden sich unter anderem darin, wie ausführlich sie formuliert sind. Gruppe A schreibt ausführlich und standardsprachlich. Gruppe B formuliert sehr knapp oder in einfacher Sprache.

Testfall	Darstellungsform	Nach Kriterien passend?	Empfehlung des Systems
A1	ausführlich	passend	passend
A2	ausführlich	nicht passend	nicht passend
A3	ausführlich	passend	passend
A4	ausführlich	nicht passend	nicht passend
B1	knapp	passend	nicht passend
B2	knapp	nicht passend	nicht passend
B3	einfache Sprache	passend	nicht passend
B4	einfache Sprache	nicht passend	nicht passend

Arbeitsauftrag: Prüfe das System

Berechne zunächst die Gesamtgenauigkeit. Untersuche anschließend getrennt, wie oft das System in Gruppe A und Gruppe B richtig liegt. Bestimme außerdem, wie viele tatsächlich passende Fälle übersehen wurden.

Lösung zur Selbstkontrolle: Insgesamt sind 6 von 8 Entscheidungen richtig. Die Gesamtgenauigkeit beträgt also 75 %. In Gruppe A sind 4 von 4 Entscheidungen richtig, also 100 %. In Gruppe B sind 2 von 4 Entscheidungen richtig, also 50 %. Von vier tatsächlich passenden Fällen erkennt das System nur zwei. Die Trefferquote für passende Fälle beträgt deshalb 50 %.

Die Zahl 75 % klingt zunächst vielleicht ordentlich. Die getrennte Betrachtung zeigt aber ein Problem: Das System reagiert offenbar stark auf die sprachliche Form. Das kann dazu führen, dass Fähigkeiten oder Interessen von Personen übersehen werden, wenn sie diese anders ausdrücken.

Wichtige Einsicht: Durchschnittswerte können systematische Schwächen verbergen.

Verbessere das Systemdesign

Du bist nun Teil des Entwicklungsteams. Entscheide, welche Änderungen Du zuerst testen würdest.

Mögliche Verbesserungen sind:

Das System erhält stärker strukturierte Angaben zu Interessen und Tätigkeiten, damit Schreibstil weniger Einfluss hat.
Freitext wird nicht als alleinige Entscheidungsgrundlage verwendet.
Die Testmenge wird um knappe Formulierungen, einfache Sprache, Tippfehler und ungewöhnliche Fälle erweitert.
Das System gibt mehrere Optionen statt eines einzigen Ergebnisses aus.
Jede Empfehlung enthält nachvollziehbare Kriterien und einen Hinweis auf Unsicherheit.
Nutzerinnen und Nutzer können Empfehlungen ablehnen, korrigieren oder ergänzen.
Eine verantwortliche Person prüft auffällige Fälle und kann den Einsatz stoppen.
Jede neue Systemversion wird mit demselben Kern-Testset und zusätzlichen neuen Fällen verglichen.

Formuliere danach eine Hypothese im Stil: Wenn wir … ändern, erwarten wir …, weil … . Erst anschließend wird getestet. So wird Verbesserung überprüfbar.

Fairness: Gleiche Behandlung ist nicht immer faire Wirkung

Fairness ist kein einzelner Zahlenwert. Ein System kann beispielsweise für alle dieselben Eingabefelder verwenden und trotzdem bestimmte Gruppen häufiger benachteiligen. Gründe können ungeeignete Trainingsdaten, indirekte Stellvertretermerkmale, unterschiedliche Datenqualität oder ein schlecht gewähltes Zielkriterium sein.

Ein Proxy ist ein Merkmal, das indirekt Informationen über etwas anderes enthält. Selbst wenn ein sensibles Merkmal nicht direkt eingegeben wird, können beispielsweise Sprache, Postleitzahl oder bestimmte Verhaltensmuster indirekt mit sozialen Gruppen zusammenhängen.

Fairnessprüfung bedeutet deshalb:

Welche Gruppen oder Fälle könnten unterschiedlich betroffen sein? Welche Fehler sind für wen besonders folgenreich? Sind Unterschiede sachlich begründbar? Können wir das System verändern, ohne neue Probleme zu erzeugen?

Das Video von Joy Buolamwini zeigt am Beispiel algorithmischer Verzerrungen, warum technische Leistung und gesellschaftliche Wirkung gemeinsam untersucht werden müssen. Übertrage die Idee auf den Schulfall: Eine durchschnittlich gute Leistung reicht nicht, wenn Fehler ungleich verteilt sind.

Quellenkritik und generative KI

Bei generativen KI-Systemen ist die Aufgabe häufig keine einfache Klassifikation. Texte können flüssig und überzeugend klingen und trotzdem falsche Behauptungen, erfundene Quellen oder unvollständige Einordnungen enthalten.

Nutze deshalb bei Sachfragen die Regel:

Behauptung → Quelle → Gegenprüfung → Unsicherheit → eigene Entscheidung

Prüfe mindestens, ob eine genannte Quelle tatsächlich existiert, ob sie die konkrete Behauptung stützt, wie aktuell sie ist, wer sie veröffentlicht hat und ob andere unabhängige Quellen zu einem ähnlichen Ergebnis kommen.

Das Erkennen eines KI-Bildes allein reicht nicht aus. Entscheidend ist die umfassendere Medienkompetenz: Woher stammt ein Inhalt? Welche Belege gibt es? Wurde das Material verändert? In welchem Kontext wird es gezeigt? Welche Interessen können hinter seiner Verbreitung stehen?

Robustheit und Sicherheit

Ein zuverlässiges System sollte nicht nur bei „schönen“ Testfällen funktionieren. Teste deshalb gezielt Randfälle:

Schreibe dieselbe Information einmal ausführlich und einmal sehr knapp.
Verändere unwichtige Wörter, Reihenfolge oder Rechtschreibung.
Gib widersprüchliche Angaben ein.
Lass wichtige Angaben fehlen.
Prüfe, ob das System Unsicherheit ausdrückt oder trotzdem übertrieben sicher antwortet.
Teste, ob ungeeignete Eingaben zu schädlichen oder offensichtlich unsinnigen Ergebnissen führen.

Bei realen Systemen dürfen dafür keine vertraulichen Daten von Mitschülerinnen und Mitschülern ohne klare Erlaubnis verwendet werden. Verwende im Unterricht bevorzugt fiktive oder anonymisierte Testfälle.

Governance: Wer darf was entscheiden?

Governance bedeutet, Regeln und Verantwortlichkeiten für Entwicklung, Einsatz, Kontrolle und Veränderung eines Systems festzulegen. Gute Governance verhindert, dass Verantwortung einfach an „die KI“ abgeschoben wird.

Für ein schulisches KI-System könnten Rollen so verteilt werden:

Rolle	Verantwortung
Systemverantwortliche	Zweck, Grenzen und Freigabe des Systems festlegen
Testteam	Testfälle planen, Kennzahlen prüfen und Fehler dokumentieren
Nutzende	Ergebnisse kritisch verwenden und Probleme melden
Betroffene	Rückmeldung geben, Entscheidungen anfechten und Korrekturen verlangen können
Unabhängige Prüfinstanz	Besonders folgenreiche Änderungen oder Beschwerden kontrollieren

Zu guter Governance gehören auch ein Änderungsprotokoll, dokumentierte Testwerte, bekannte Grenzen, ein Verfahren für Beschwerden und klare Kriterien für das Abschalten oder Zurückrollen einer neuen Version.

KI-Regeln in Europa als Beispiel

Der EU AI Act verfolgt einen risikobasierten Ansatz: Je größer mögliche Schäden oder Eingriffe in Rechte, desto strenger sind die Anforderungen. Seit dem 2. August 2026 gelten unter anderem neue Transparenzregeln für bestimmte KI-Interaktionen und KI-generierte oder manipulierte Inhalte. Für Deinen Unterricht ist vor allem die Grundidee wichtig: Nicht jede KI-Anwendung ist gleich riskant, deshalb müssen Prüfaufwand und Schutzmaßnahmen zur möglichen Wirkung passen.

Rechtsregeln ersetzen jedoch nicht die eigene Beurteilung. Ein System kann rechtlich zulässig und trotzdem didaktisch schlecht, unfair oder unnötig sein. Umgekehrt kann eine nützliche Idee zusätzliche Schutzmaßnahmen benötigen, bevor sie verantwortbar eingesetzt werden kann.

Folgenabschätzung

Vor einer Einführung sollte ein Team nicht nur fragen, ob ein System technisch funktioniert. Es sollte auch mögliche Auswirkungen untersuchen.

Nutze dafür die SEHEN-Perspektive:

S – Sicherheit: Welche Schäden oder Missbrauchsmöglichkeiten sind denkbar?

E – Equity/Fairness: Wer profitiert, wer könnte benachteiligt werden?

H – Human Agency: Bleibt eine echte menschliche Entscheidungsmöglichkeit erhalten?

E – Erklärbarkeit und Evidenz: Welche Belege, Grenzen und Unsicherheiten werden sichtbar?

N – Nachhaltigkeit und Nebenfolgen: Welche ökologischen, sozialen oder wirtschaftlichen Folgen entstehen?

Das Bild erinnert daran, dass KI-Systeme von menschlicher Arbeit abhängen. Daten werden gesammelt, ausgewählt, bereinigt oder beschriftet; Systeme werden getestet und moderiert. Auch Arbeitsbedingungen, Ressourcenverbrauch und wirtschaftliche Interessen gehören daher zur Folgenabschätzung.

Fächerübergreifende Perspektiven

Fach	Beitrag zum Thema
Informatik	Daten, Modelle, Testfälle, Robustheit, Systemarchitektur und Iteration
Mathematik	Kennzahlen, Prozentrechnung, Fehlerraten, Stichproben und Vergleich von Gruppen
Technik	Systemdenken, Anforderungen, Prototypen, Sicherheitsreserven und Wartung
Deutsch	präzise Kriterien formulieren, Quellen prüfen, Erklärungen analysieren und Entscheidungen begründen
Wirtschaft	Automatisierung, Produktivität, Kosten, Arbeitsverteilung, Anreize und Haftungsfragen
Geschichte	historische Quellenkritik mit digitaler Quellenkritik vergleichen und technische Entwicklungen in gesellschaftliche Kontexte einordnen
Ethik	Fairness, Verantwortung, Menschenwürde, Autonomie und Zielkonflikte beurteilen
Gemeinschaftskunde	Regeln, Institutionen, demokratische Kontrolle, Teilhabe und Grundrechte diskutieren

Die Verbesserungsschleife

Ein verantwortbares Team arbeitet iterativ. „Fertig“ bedeutet bei KI-Systemen selten, dass nie wieder geprüft werden muss.

Schritt	Leitfrage	Nachweis
Zweck	Welches Problem soll gelöst werden?	klarer Einsatzbereich
Kriterien	Woran erkennen wir eine gute Lösung?	messbare und qualitative Prüfkriterien
Test	Welche normalen, schwierigen und unfair behandelten Fälle prüfen wir?	Testset
Analyse	Welche Fehler treten auf und wen betreffen sie?	Fehlerbericht
Änderung	Welche Systemkomponente verändern wir?	begründete Designentscheidung
Neutest	Wird es wirklich besser, ohne an anderer Stelle schlechter zu werden?	Vergleich vorher/nachher
Freigabe oder Stopp	Ist der verbleibende Nutzen größer als das vertretbare Risiko?	dokumentierte Entscheidung
Beobachtung	Bleibt das System im Betrieb zuverlässig?	Monitoring und Rückmeldungen

Mini-Projekt: Entwickle, teste und verbessere eine eigene Lösung

Arbeite in einem kleinen Team. Wählt einen schulnahen Anwendungsfall, zum Beispiel Quellenhilfe für Referate, Ideenhilfe für Projektarbeit, barrierearme Umformulierung von Schultexten oder unverbindliche Praktikumsorientierung.

Euer Ziel ist nicht, möglichst schnell einen fertigen KI-Text zu erzeugen. Euer Ziel ist ein überprüfbarer Systementwurf.

Erstellt dazu ein Systemblatt mit diesen Punkten:

Zweck und Nicht-Zweck des Systems
betroffene Personen und ihre Interessen
erlaubte und nicht benötigte Daten
mindestens fünf Testfälle, darunter ein Randfall
mindestens drei Bewertungskriterien
eine Fairness- oder Sicherheitsfrage
eine Verbesserung nach dem ersten Test
Ergebnis des zweiten Tests
bekannte Grenzen
verantwortliche menschliche Entscheidung
kurze Begründung für Einsatz, eingeschränkten Einsatz oder Nicht-Einsatz

Das Ergebnis kann ein Papierprototyp, ein Ablaufdiagramm, eine Tabelle oder ein tatsächlich getesteter Prototyp mit einem zugelassenen KI-Werkzeug sein. Verwendet keine realen sensiblen Daten.

Beispiel für einen Testplan

Testfall	Erwartung	Beobachtung	Bewertung	Änderung
klare Standardanfrage	sachlich passende Hilfe	eintragen	bestanden / nicht bestanden	eintragen
sehr knappe Anfrage	keine unbegründete Ablehnung	eintragen	bestanden / nicht bestanden	eintragen
mehrdeutige Anfrage	Rückfrage oder Unsicherheit	eintragen	bestanden / nicht bestanden	eintragen
falsche Behauptung in der Eingabe	nicht ungeprüft übernehmen	eintragen	bestanden / nicht bestanden	eintragen
Anfrage außerhalb des Zwecks	Grenze klar nennen	eintragen	bestanden / nicht bestanden	eintragen

Transfer: Kannst Du die Methode auf neue Fälle anwenden?

Wende die Verbesserungsschleife auf einen neuen Fall an, ohne dieselbe Lösung einfach zu kopieren.

Neuer Fall	Besondere Prüfidee
KI moderiert einen Klassenchat.	Fehlalarme, Meinungsfreiheit, Schutz vor Beleidigungen und Beschwerdeweg
KI schlägt Energiesparmaßnahmen für das Schulgebäude vor.	Messdaten, technische Sicherheit, Kosten und ökologische Wirkung
KI gibt Feedback zu Geschichtsreferaten.	Quellenlage, Perspektivenvielfalt, erfundene Belege und Einfluss auf Bewertung
KI erzeugt Zusammenfassungen politischer Nachrichten.	Aktualität, Quellenvielfalt, Framing, Fehler und demokratische Meinungsbildung
KI unterstützt bei Ausbildungs- oder Berufswahl.	Fairness, wirtschaftliche Interessen, Autonomie und menschliche Beratung

Frage Dich bei jedem Fall: Welche Kriterien bleiben gleich und welche müssen wegen der neuen Folgen verändert werden? Genau dieser Transfer zeigt, ob Du Systemkompetenz aufgebaut hast.

Interaktive Aufgaben

Quiz: Teste Dein Wissen

Was ist der beste erste Schritt beim Verbessern eines KI-Systems? (Den Zweck und die Erfolgskriterien klären) (!Einfach einen längeren Prompt schreiben) (!Das modernste Modell auswählen) (!Möglichst viele Daten sammeln)

Warum kann eine hohe Gesamtgenauigkeit problematisch sein? (Sie kann große Unterschiede zwischen Teilgruppen verdecken) (!Sie bedeutet immer, dass zu wenige Daten vorhanden sind) (!Sie beweist automatisch einen Datenschutzverstoß) (!Sie zeigt, dass kein menschlicher Test nötig ist)

Was ist ein falsch negativer Fall beim Praktikums-Matcher? (Ein tatsächlich passender Fall wird nicht empfohlen) (!Ein unpassender Fall wird empfohlen) (!Ein passender Fall wird empfohlen) (!Ein unpassender Fall wird nicht empfohlen)

Welche Maßnahme stärkt Human Agency am deutlichsten? (Menschen können Empfehlungen prüfen, korrigieren und anfechten) (!Das System versteckt seine Unsicherheit) (!Die Rangliste wird automatisch verbindlich) (!Alle Entscheidungen werden dauerhaft gespeichert)

Was gehört zu einer robusten Evaluation? (Auch Randfälle, Varianten und ungewöhnliche Eingaben testen) (!Nur das beste Beispiel präsentieren) (!Nur die Trainingsdaten betrachten) (!Nach dem ersten erfolgreichen Test aufhören)

Was beschreibt Governance bei einem KI-System am besten? (Regeln, Zuständigkeiten, Kontrolle und dokumentierte Entscheidungen) (!Nur die Geschwindigkeit des Modells) (!Nur das Design der Benutzeroberfläche) (!Nur die Anzahl der Trainingsdaten)

Welche Aussage zu Fairness ist sinnvoll? (Gleiche Regeln können trotzdem ungleiche Auswirkungen haben) (!Fairness ist immer identisch mit Gesamtgenauigkeit) (!Fairness kann nur mit einer einzigen Kennzahl gemessen werden) (!Fairness spielt bei Empfehlungen keine Rolle)

Was ist bei generativer KI für Sachfragen besonders wichtig? (Behauptungen mit geeigneten Quellen gegenprüfen) (!Flüssige Sprache als Wahrheitsbeweis nutzen) (!Nur die längste Antwort auswählen) (!Jede Quellenangabe automatisch übernehmen)

Wann kann Nicht-Einsatz die beste Systemverbesserung sein? (Wenn Nutzen, Risiken oder Zweck den KI-Einsatz nicht rechtfertigen) (!Wenn ein System weniger als hundert Funktionen besitzt) (!Wenn Menschen eine Aufgabe verstehen) (!Sobald ein Fehler gefunden wird)

Was sollte nach einer Systemänderung passieren? (Das System mit geeigneten Testfällen erneut prüfen) (!Nur die Beschreibung der Änderung speichern) (!Die alten Ergebnisse löschen und nicht vergleichen) (!Das neue System sofort ohne Kontrolle einsetzen)

Memory

Evaluation	systematische Prüfung anhand festgelegter Kriterien
Robustheit	stabile Leistung bei veränderten Eingaben
Fairness	Untersuchung gerechter Auswirkungen und Fehlerraten
Governance	Regeln und Zuständigkeiten für verantwortlichen Einsatz
Human Agency	echte menschliche Entscheidungs- und Eingriffsmöglichkeit
Transparenz	nachvollziehbare Informationen über Einsatz und Grenzen
Iteration	wiederholtes Testen und Verbessern
Folgenabschätzung	Untersuchung möglicher Wirkungen vor und während des Einsatzes

Drag and Drop

Ordne die richtigen Begriffe zu.	Thema
Zweckklärung	Welches Problem soll das System lösen?
Evaluation	Wie gut erfüllt das System vorher definierte Kriterien?
Fairnessprüfung	Sind Fehler oder Nachteile ungleich verteilt?
Governance	Wer entscheidet, kontrolliert und dokumentiert?
Folgenabschätzung	Welche Nebenwirkungen können für Menschen und Gesellschaft entstehen?
Neutest	Hat die Änderung das System tatsächlich verbessert?

...

Kreuzworträtsel

Evaluation	Wie heißt die systematische Prüfung eines Systems anhand festgelegter Kriterien?
Robustheit	Wie nennt man stabile Leistung auch bei veränderten oder schwierigen Eingaben?
Fairness	Welcher Begriff bezeichnet die Prüfung gerechter Auswirkungen?
Governance	Wie heißt die Organisation von Regeln, Zuständigkeiten und Kontrolle?
Transparenz	Welcher Begriff steht für nachvollziehbare Informationen über Einsatz und Grenzen?
Iteration	Wie heißt das wiederholte Testen, Verändern und erneute Prüfen?

LearningApps

Lückentext

Ein KI-System besteht nicht nur aus einem Modell, sondern auch aus Daten, Menschen, Regeln und einem konkreten

. Vor dem Einsatz werden geeignete

festgelegt. Mit unterschiedlichen Testfällen wird anschließend die Leistung des Systems in einer

geprüft. Wenn das System bei leicht veränderten Eingaben stabil bleibt, spricht das für

. Unterschiede in Fehlerraten können auf ein Problem mit der

hinweisen. Regeln über Zuständigkeiten und Freigaben gehören zur

. Nutzerinnen und Nutzer sollen durch

erkennen können, wie KI eingesetzt wird und wo Grenzen liegen. Menschliche Entscheidungs- und Eingriffsmöglichkeiten stärken die

. Nach einer Veränderung folgt ein erneuter

. Erst der Vergleich vorher und nachher zeigt, ob eine Maßnahme tatsächlich eine

war.

Offene Aufgaben

Leicht

KI-Systemkarte: Zeichne für eine schulische KI-Anwendung die Bestandteile Zweck, Daten, Modell, Oberfläche, Menschen und Regeln ein.
Fehlerjagd: Erfinde drei Testfälle, bei denen ein KI-System wahrscheinlich Schwierigkeiten bekommt, und begründe Deine Auswahl.
Quellencheck: Prüfe eine sachliche KI-Antwort anhand von zwei unabhängigen Quellen und dokumentiere Unterschiede.
Human Agency: Gestalte eine Benutzeroberfläche auf Papier, in der Menschen eine KI-Empfehlung korrigieren oder ablehnen können.

Standard

Testset entwickeln: Erstelle für ein schulnahes KI-System mindestens acht Testfälle mit normalen Fällen, Randfällen und problematischen Eingaben.
Fairnessvergleich: Teile ein Testset nach einem sachlich begründeten Merkmal auf und vergleiche die Fehlerraten, ohne reale sensible Daten zu verwenden.
Governance-Regeln: Formuliere fünf Regeln für Freigabe, Beschwerde, Dokumentation, Datenschutz und Stoppen eines Systems.
Vorher-Nachher-Vergleich: Teste eine Systemänderung, dokumentiere mindestens zwei Kennzahlen oder qualitative Kriterien und entscheide, ob die neue Version besser ist.

Schwer

Folgenabschätzung: Analysiere ein KI-System aus Sicht von Lernenden, Lehrkräften, Eltern, Schule und Gesellschaft und beschreibe Zielkonflikte.
Systemaudit: Entwickle einen kurzen Prüfbericht mit Zweck, Testmethode, Ergebnissen, Fairnessbefund, Risiken, Grenzen und Freigabeempfehlung.
Kontroverse Entscheidung: Vergleiche zwei Systemdesigns, von denen eines leistungsfähiger und das andere transparenter ist, und begründe Deine Wahl.
Transferprojekt: Übertrage Deine Verbesserungsschleife auf einen neuen Bereich wie Nachrichten, Energie, Berufswahl oder Chatmoderation und entwickle dafür einen eigenen Prototypen.

Lernkontrolle

Systemdiagnose: Ein KI-System erreicht insgesamt 90 % richtige Ergebnisse, liegt für eine bestimmte Gruppe aber nur bei 60 %. Erkläre, warum die Gesamtzahl für eine Freigabe nicht genügt, und schlage weitere Prüfungen vor.
Designentscheidung: Ein System zur Quellenbewertung ist sehr schnell, kann seine Einstufung aber nicht begründen. Entwickle zwei Verbesserungen und erläutere, welche neue Risiken dadurch entstehen könnten.
Fehlerfolgen: Vergleiche einen falsch positiven und einen falsch negativen Fehler bei einer Brandwarnung und bei einer Praktikumsempfehlung. Begründe, warum dieselbe Kennzahl je nach Kontext unterschiedlich wichtig sein kann.
Governance-Fall: Nach einem Update verschlechtert sich die Leistung deutlich. Entwirf einen Ablauf dafür, wer den Fehler meldet, wer entscheidet und wie eine frühere Version wiederhergestellt werden könnte.
Quellenkritik: Eine KI nennt drei Quellen, von denen eine nicht existiert und eine die Behauptung gar nicht stützt. Beschreibe einen Prüfprozess, der solche Fehler möglichst zuverlässig entdeckt.
Transfer: Übertrage die Kriterien Fairness, Robustheit, Transparenz, Sicherheit und Human Agency auf ein KI-System, das politische Nachrichten zusammenfasst. Begründe, welches Kriterium Du dort besonders streng prüfen würdest.

Selbstkontrolle und Reflexion

Bewerte Dein eigenes Mini-Projekt jeweils mit ja, teilweise oder noch nicht:

Prüffrage	ja / teilweise / noch nicht
Wir haben Zweck und Nicht-Zweck klar beschrieben.
Unsere Testfälle enthalten nicht nur einfache Standardfälle.
Wir haben mindestens eine mögliche Benachteiligung untersucht.
Wir können erklären, warum unsere Kriterien zum Anwendungsfall passen.
Wir haben nach einer Änderung erneut getestet.
Wir nennen bekannte Grenzen offen.
Eine verantwortliche Person bleibt entscheidungsfähig.
Wir können unseren Einsatz oder Nicht-Einsatz begründen.

Reflektiere anschließend schriftlich:

Welche Entscheidung in Deinem Projekt hat sich durch das Testen verändert?

Welche Information würdest Du vor einem echten Einsatz noch benötigen?

An welcher Stelle sollte ein Mensch bewusst nicht durch KI ersetzt werden?

Lernnachweis

Für einen guten Lernnachweis zu diesem Thema ist wichtig, dass Du nicht nur Begriffe wiedergeben kannst. Zeige anhand eines konkreten Systems, dass Du einen Zweck abgrenzt, passende Testfälle entwickelst, Ergebnisse auswertest, mindestens einen Fehler oder Zielkonflikt analysierst, eine begründete Verbesserung vorschlägst und diese erneut überprüfst.

Ein überzeugender Lernnachweis enthält außerdem eine Fairness- oder Folgenperspektive, Regeln für menschliche Kontrolle, eine transparente Dokumentation wichtiger Entscheidungen und einen Transfer auf einen neuen Anwendungsfall.

Mögliche Formate sind ein Systemaudit, ein Testprotokoll mit Vorher-Nachher-Vergleich, ein kommentierter Prototyp oder eine kurze Präsentation mit begründeter Freigabe-, Einschränkungs- oder Stop-Entscheidung.

OERs zum Thema

Die im Kurs verwendeten Grafiken aus Wikimedia Commons sind frei lizenzierte Medien. Prüfe bei Weiterverwendung jeweils die konkrete Lizenz und erforderliche Namensnennung auf der Dateiseite.

Verknüpfte Lernbereiche

KI-Systeme verbessern statt nur benutzen

aiMOOC-Projekte

Frag mich zum aktuellen Lerninhalt oder wähle eine kurze Hilfe.

Textmodus bereit

Sprache