Diesen aiMOOC als Battle spielen: Deutsch, Klasse 9-10, G-Niveau

KI-Prototypen gestalten

Einleitung

Ein KI-System wird nicht dadurch gut, dass es beeindruckende Antworten erzeugt. Ein gutes System beginnt mit einem klaren menschlichen Ziel, berücksichtigt die betroffenen Menschen, nutzt geeignete Daten und Quellen, wird systematisch getestet und bleibt unter menschlicher Verantwortung. In diesem aiMOOC entwickelst Du deshalb nicht einfach „irgendetwas mit KI“, sondern einen nachvollziehbaren KI-Prototypen: eine vereinfachte, testbare Version einer Idee, mit der Du früh erkennen kannst, was funktioniert, wo Risiken liegen und was verbessert werden muss.

Der zentrale Arbeitsrhythmus lautet:

Menschliches Ziel → eigene Idee → Kriterien → KI zum Variieren oder Visualisieren → menschliche Auswahl → Test → Folgenabschätzung → Verbesserung → begründete Freigabe oder Stopp

Dabei gilt eine wichtige Regel: Deine eigene Idee wird zuerst sichtbar gemacht. Erst danach darf KI beim Variieren, Visualisieren, Formulieren, Simulieren oder Verbessern helfen. Zielsetzung, Auswahl, Quellenprüfung und Endverantwortung bleiben bei Dir und Deinem Team.

Dieser Kurs ist für die Klasse 10 konzipiert und kann in etwa 45 bis 90 Minuten durchgeführt werden. Er verbindet Informatik, Mathematik, Technik, Deutsch, Wirtschaft, Geschichte, Ethik und Gemeinschaftskunde.

Das Bild zeigt reale Prototypen aus einem Design-Thinking-Workshop. Es macht sichtbar: Ein Prototyp muss nicht perfekt sein. Entscheidend ist, dass er früh getestet werden kann.

Lernziele

Nach dem Lernkurs kannst Du einen einfachen KI-Prototypen so planen, dass technische, soziale und organisatorische Fragen gemeinsam betrachtet werden. Du kannst erklären, welche Aufgabe die KI übernehmen soll und welche Entscheidungen beim Menschen bleiben. Du kannst Testfälle entwickeln, Ergebnisse auswerten, Fehler gewichten, Fairness und Sicherheit prüfen sowie eine begründete Entscheidung über Verbesserung, Einsatz oder Stopp treffen.

Am Ende sollst Du außerdem dokumentieren können, welche Idee von Dir stammt, wofür KI eingesetzt wurde, welche Vorschläge Du verworfen hast und warum Du die endgültige Lösung verantwortest.

Unterrichtsfahrplan für 45 bis 90 Minuten

Phase	Kurzversion	Vertiefung	Ergebnis
Aktivierung und Diagnose	5 Minuten	8 Minuten	Eigene Idee ohne KI
Verständliche Einführung	8 Minuten	12 Minuten	Systembild und Kriterien
Prototyping	10 Minuten	20 Minuten	Testbarer Entwurf
Evaluation	10 Minuten	20 Minuten	Testmatrix und Verbesserung
Governance und Folgenabschätzung	7 Minuten	15 Minuten	Regeln, Risiken, Verantwortlichkeit
Reflexion und Transfer	5 Minuten	15 Minuten	Begründete Entscheidung

Aktivierung und Diagnose: Erst denken, dann KI

Stell Dir folgende Situation vor: Eure Schule plant einen Projekttag. Viele Schülerinnen und Schüler stellen ähnliche Fragen zu Räumen, Zeiten, Barrierefreiheit, Anmeldung und Ablauf. Die Schülervertretung überlegt, einen KI-gestützten Informationsassistenten zu prototypisieren.

Noch keine KI verwenden. Nimm drei Minuten und notiere auf Papier oder in einem lokalen Dokument:

Ziel klären: Welches konkrete Problem soll gelöst werden?
Grenzen setzen: Was darf das System auf keinen Fall tun?
Erfolg definieren: Woran würdest Du erkennen, dass der Prototyp hilfreich ist?
Betroffene berücksichtigen: Wer könnte besonders profitieren oder benachteiligt werden?

Vergleiche anschließend Deine Antworten mit einer Partnerperson. Markiert Gemeinsamkeiten und Unterschiede. Erst wenn diese eigene Ausgangsidee sichtbar dokumentiert ist, darf KI als Werkzeug hinzukommen.

Mini-Diagnose

Ordne Dich selbst ein:

Aussage	Noch unsicher	Teilweise sicher	Sicher
Ich kann zwischen Ziel, Eingabe, Verarbeitung und Ausgabe eines KI-Systems unterscheiden.	□	□	□
Ich kann erklären, warum ein Prototyp getestet werden muss.	□	□	□
Ich kann mindestens ein Risiko für Fairness, Sicherheit oder Datenschutz nennen.	□	□	□
Ich kann dokumentieren, welche Rolle KI und welche Rolle der Mensch hatte.	□	□	□

Wiederhole diese Einschätzung am Ende des Kurses.

Was ist ein KI-Prototyp?

Ein Prototyp ist eine frühe, vereinfachte und testbare Darstellung einer geplanten Lösung. Bei einem KI-Prototypen kann das zum Beispiel ein Papierentwurf, ein Klickmodell, ein Ablaufdiagramm, ein simuliertes Dialogsystem oder eine kleine funktionsfähige Anwendung sein. Ein Prototyp ist kein fertiges Produkt und sollte nicht so behandelt werden.

Ein KI-System arbeitet typischerweise mit Eingaben, Regeln oder Modellen und erzeugt daraus Ausgaben. Beim maschinellen Lernen entstehen Modelle aus Daten und Lernverfahren. Bei generativer KI können Eingaben wie Texte, Bilder oder andere Daten zu neuen Ausgaben verarbeitet werden. Das Ergebnis kann überzeugend wirken und trotzdem falsch, unvollständig oder unangemessen sein.

Die Grafik zeigt vereinfacht einen Lern- und Prüfprozess. Für Deinen Prototypen ist besonders wichtig: Entwickeln, prüfen, Fehler finden und verbessern bilden einen Kreislauf.

Das Video eignet sich als verständliche Einführung in grundlegende Funktionsweisen künstlicher Intelligenz. Prüfe beim Anschauen, welche Aussagen heute noch gelten und welche Beispiele zeitgebunden sind.

KI, Maschinelles Lernen und generative KI unterscheiden

Künstliche Intelligenz ist ein Oberbegriff für Systeme, die Aufgaben bearbeiten, für die normalerweise Fähigkeiten wie Wahrnehmen, Schlussfolgern, Planen, Sprachverarbeitung oder Mustererkennung nötig sind. Maschinelles Lernen bezeichnet Verfahren, bei denen Modelle aus Daten Muster lernen. Generative Künstliche Intelligenz erzeugt neue Inhalte wie Text, Bild, Audio oder Code auf Grundlage gelernter Muster.

Für das Prototyping musst Du nicht zwingend selbst ein Modell trainieren. Du kannst auch einen Low-Fidelity-Prototyp entwickeln, bei dem Du den Ablauf, die Eingaben, die erwarteten Ausgaben und die menschliche Kontrolle testest.

Das Prinzip Mensch – KI – Mensch

Ein verantwortlicher KI-Prototyp beginnt und endet mit menschlicher Entscheidung:

Phase	Menschliche Aufgabe	Mögliche KI-Unterstützung
Ziel	Problem, Zielgruppe und Grenzen festlegen	Keine oder erst nach eigener Ideensammlung
Ideen	Eigene Lösungsidee sichtbar machen	Varianten, Gegenbeispiele oder Visualisierungen erzeugen
Auswahl	Kriterien anwenden und Vorschläge auswählen	Alternativen sortieren oder zusammenfassen
Prüfung	Quellen kontrollieren und Testfälle bewerten	Tests simulieren oder Formulierungen variieren
Verantwortung	Entscheidung begründen und Ergebnis freigeben oder stoppen	Keine Übernahme der Endverantwortung

Human Agency bedeutet hier: Du bestimmst Zweck, Maßstäbe, Auswahl und Abbruchbedingungen. KI darf unterstützen, aber nicht unbemerkt Deine Ziele ersetzen.

Systemdesign: Ein KI-System als Ganzes denken

Ein KI-Prototyp ist mehr als ein Prompt. Du gestaltest ein Soziotechnisches System, in dem Menschen, Daten, Regeln, technische Komponenten und organisatorische Entscheidungen zusammenwirken.

Systemdesign-Canvas

Baustein	Leitfrage	Beispiel für den Projekttag-Assistenten
Problem	Welches konkrete Problem soll gelöst werden?	Häufige organisatorische Fragen schnell beantworten
Nutzende	Wer verwendet das System?	Schülerinnen und Schüler, Lehrkräfte, Gäste
Betroffene	Wer kann Auswirkungen spüren?	Auch Personen, die das System nicht selbst bedienen
Eingaben	Welche Informationen gibt ein Mensch ein?	Fragen in Alltagssprache
Wissensbasis	Auf welche geprüften Quellen darf das System zurückgreifen?	Offizieller Ablaufplan des Projekttags
KI-Funktion	Was soll automatisiert oder unterstützt werden?	Frage verstehen und passende Information formulieren
Ausgabe	Was wird sichtbar oder hörbar?	Kurze Antwort mit Quellenhinweis
Menschliche Kontrolle	Wann muss ein Mensch eingreifen?	Bei unklaren, sensiblen oder nicht belegbaren Fragen
Grenzen	Was darf das System ausdrücklich nicht?	Persönliche Daten sammeln oder Entscheidungen über Personen treffen
Evaluation	Woran messen wir die Qualität?	Korrektheit, Verständlichkeit, Sicherheit, Fairness, Transparenz

Visualisierung des Systemflusses

Diese Commons-Grafik ist selbst KI-gestützt erstellt worden. Nutze sie deshalb nicht nur als Illustration, sondern auch als Anlass zur Quellenkritik: Welche Teile eines realen Systems fehlen? Wo wären menschliche Freigaben, Datenschutz, Beschwerdewege oder gesellschaftliche Folgen einzuzeichnen?

Realistische Anwendungssituation: Projekttag-Info-Assistent

Du entwickelst einen Prototypen für einen schulischen Informationsassistenten. Er darf ausschließlich ein fiktives, von der Lehrkraft bereitgestelltes Informationsblatt verwenden. Es werden keine echten personenbezogenen Daten benötigt.

Das fiktive Informationsblatt enthält folgende geprüfte Aussagen:

Thema	Geprüfte Information für den Prototyp
Beginn	Der Projekttag beginnt um 08:30 Uhr.
Treffpunkt	Alle Gruppen starten in der Aula.
Barrierefreiheit	Die Aula und die Räume im Hauptgebäude sind über einen Aufzug erreichbar.
Ruheraum	Ein Ruheraum befindet sich in Raum B204.
Mittagspause	Die gemeinsame Mittagspause beginnt um 12:30 Uhr.
Nicht enthalten	Zu Busfahrplänen, individuellen Noten und privaten Kontaktdaten liegen keine Informationen vor.

Wichtig: Der Prototyp soll bei fehlenden Informationen nicht raten. Eine gute Reaktion kann lauten: „Dazu habe ich in meiner geprüften Quelle keine Information. Bitte frage eine verantwortliche Person.“

Warum diese Situation geeignet ist

Die Aufgabe ist alltagsnah, aber nicht hochriskant. Trotzdem entstehen echte Gestaltungsfragen: Was passiert bei falschen Raumangaben? Wie reagiert das System auf Tippfehler? Wie verständlich sind Antworten? Ist die Lösung für Menschen mit unterschiedlichen Sprachkenntnissen zugänglich? Welche Informationen dürfen gespeichert werden? Wer ist für falsche Angaben verantwortlich? Genau solche Fragen gehören zum Systemdesign.

Gestalten: Vom eigenen Entwurf zur KI-unterstützten Variante

Datei:Design-Thinking-Prozess.png

Die Grafik zeigt den Wechsel zwischen Problemraum und Lösungsraum. Für KI-Prototypen ist dieser Wechsel wichtig: Wer zu früh eine fertige Lösung erzeugt, überspringt oft das eigentliche Verstehen des Problems.

Schritt 1: Eigene Idee sichtbar machen

Entwirf ohne KI einen einfachen Ablauf mit mindestens fünf Stationen. Beispiel:

Frage → Prüfung auf Zuständigkeit → Suche in geprüfter Quelle → Antwort oder begründete Ablehnung → menschliche Eskalation bei Unsicherheit

Notiere zusätzlich drei Qualitätskriterien und zwei Stoppsignale. Ein Stoppsignal könnte sein: „Das System behauptet etwas, das nicht in der Quelle steht.“

Schritt 2: KI gezielt zum Variieren einsetzen

Erst jetzt darf ein schulisch zugelassenes KI-Werkzeug verwendet werden. Falls kein Werkzeug verfügbar ist, kann eine Mitschülerin oder ein Mitschüler die Rolle der KI simulieren.

Eine sinnvolle Anfrage wäre zum Beispiel:

„Hier ist mein eigener Ablauf für einen schulischen Info-Assistenten. Erzeuge drei alternative Abläufe. Verändere jeweils nur einen Schwerpunkt: einmal Verständlichkeit, einmal Sicherheit und einmal Barrierearmut. Entscheide nicht, welche Variante die beste ist.“

Damit bleibt die Zielsetzung beim Menschen. Die KI wird für Variation, nicht für die endgültige Entscheidung eingesetzt.

Schritt 3: Menschlich auswählen und begründen

Vergleiche Deinen ursprünglichen Entwurf mit den KI-Varianten anhand Deiner vorher festgelegten Kriterien. Du darfst auch alle KI-Vorschläge verwerfen. Wichtig ist, dass Deine Entscheidung nachvollziehbar bleibt.

Variante	Was ist besser?	Was ist schlechter?	Behalten?	Begründung
Eigener Entwurf
KI-Variante A
KI-Variante B
KI-Variante C

Verantwortungsprotokoll

Fülle für Deinen Prototypen diese Dokumentation aus:

Frage	Deine Dokumentation
Wer hat das Ziel festgelegt?
Welche Idee existierte vor der KI-Nutzung?
Wofür wurde KI eingesetzt?
Welche KI-Vorschläge wurden verworfen?
Wer hat Quellen geprüft?
Wer hat die Endauswahl getroffen?
Wer übernimmt die Verantwortung für die abgegebene Lösung?

Dieses Protokoll verhindert, dass KI-Nutzung unsichtbar wird.

Evaluation: Testen statt beeindrucken lassen

Ein Prototyp ist dann nützlich, wenn er systematisch geprüft wird. Einzelne gute Antworten reichen nicht. Du brauchst unterschiedliche Testfälle, klare Erwartungen und eine Dokumentation der Fehler.

Eine Testmatrix entwickeln

Testfall	Beispiel-Eingabe	Erwartetes Verhalten
Direkte Frage	Wann beginnt der Projekttag?	08:30 Uhr nennen
Umformulierung	Um wie viel Uhr geht es los?	Gleiche geprüfte Information
Tippfehler	Wo ist der Ruheruam?	Raum B204 erkennen
Fehlende Information	Welcher Bus fährt nach Hause?	Nicht raten, auf fehlende Quelle hinweisen
Sensible Frage	Welche Note hat Person X?	Ablehnen und keine personenbezogenen Angaben erzeugen
Einfache Sprache	Wo kann ich Pause ohne Lärm machen?	Ruheraum verständlich erklären

Mathematisch auswerten

Eine einfache Kennzahl ist die Test-Erfüllungsquote:

Test-Erfüllungsquote = bestandene Testfälle ÷ alle Testfälle × 100 Prozent

Wenn 6 von 8 Testfällen bestanden werden, beträgt die Quote 75 Prozent. Diese Zahl allein reicht aber nicht. Ein einziger schwerer Sicherheitsfehler kann wichtiger sein als mehrere kleine Formulierungsfehler.

Deshalb ergänzt Du die Zahl durch eine qualitative Bewertung:

Fehlerklasse	Beispiel	Gewichtung
Kritisch	Erfindet persönliche Daten oder gefährliche Anweisungen	Sehr hoch
Schwer	Falscher Raum oder falsche Uhrzeit	Hoch
Mittel	Antwort ist missverständlich	Mittel
Leicht	Unnötig lange Formulierung	Niedrig

Was ein guter Test abdeckt

Ein sinnvoller Test prüft nicht nur Durchschnittsfälle. Er enthält auch Tippfehler, mehrdeutige Fragen, fehlende Informationen, ungewöhnliche Formulierungen und Situationen, in denen das System bewusst nicht antworten sollte. So prüfst Du Robustheit und erkennst, ob ein System bei Unsicherheit angemessen reagiert.

Fairness, Bias und Barrierearmut

Bias bedeutet eine systematische Verzerrung. Bei KI kann sie durch Daten, Auswahlprozesse, Modellannahmen, Sprache, Messmethoden oder die Gestaltung der Anwendung entstehen. Fairness bedeutet nicht automatisch, dass alle Menschen exakt gleich behandelt werden. Manchmal ist eine Anpassung nötig, damit unterschiedliche Menschen eine vergleichbare Chance auf Zugang und Nutzung haben.

Teste deshalb mindestens drei unterschiedliche Nutzungssituationen: eine kurze direkte Frage, eine umgangssprachliche oder fehlerhafte Frage und eine Formulierung in einfacher Sprache. Prüfe, ob die Qualität deutlich auseinanderfällt.

Fairness-Fragen für Klasse 10

Perspektive	Prüffrage
Sprache	Versteht das System auch einfache oder ungewöhnliche Formulierungen?
Zugang	Kann die Information auch ohne das KI-System erreicht werden?
Behinderung	Ist eine barrierearme Alternative vorgesehen?
Fehlerfolgen	Wer trägt Nachteile, wenn die Antwort falsch ist?
Repräsentation	Wessen Bedürfnisse wurden im Test berücksichtigt und wessen nicht?

Governance: Regeln, Rollen und Verantwortung

Governance bedeutet hier: Vor dem Einsatz werden Regeln, Zuständigkeiten, Prüfwege und Stop-Kriterien festgelegt. Das passt zu professionellen Ansätzen des KI-Risikomanagements. Das NIST-Rahmenwerk bündelt solche Aufgaben in Govern, Map, Measure und Manage: Regeln und Verantwortung organisieren, Kontext und Risiken verstehen, Risiken messen und anschließend geeignete Maßnahmen umsetzen.

Auch der EU AI Act betont KI-Kompetenz und enthält risikobezogene sowie transparente Anforderungen für unterschiedliche KI-Anwendungen. Für den Unterricht dient das als Orientierung dafür, dass verantwortliche KI-Nutzung mehr ist als Bedienkompetenz. Der Kurs ersetzt keine Rechtsberatung.

Governance-Karte für Deinen Prototypen

Regelbereich	Entscheidung
Zweck	Wofür darf das System eingesetzt werden?
Verantwortliche Person	Wer prüft und gibt den Prototypen frei?
Erlaubte Daten	Welche Daten dürfen verarbeitet werden?
Verbotene Daten	Welche Daten dürfen nicht eingegeben werden?
Quellen	Welche Informationen gelten als geprüft?
Transparenz	Wie erkennen Nutzende Grenzen und Unsicherheiten?
Eskalation	Wann wird an einen Menschen verwiesen?
Beschwerdeweg	Wie können Fehler gemeldet werden?
Monitoring	Welche Fehler werden nach dem Test weiter beobachtet?
Stop-Kriterium	Wann wird die Nutzung ausgesetzt?

Datenampel

Ampel	Beispiele	Umgang
Grün	Fiktive Daten, frei zugängliche Stundenpläne für die Übung, selbst erstellte Testfragen	Für den Unterricht geeignet
Gelb	Schulinterne Informationen ohne Personenbezug	Nur mit Freigabe und klarer Zweckbindung
Rot	Namen, Noten, Gesundheitsdaten, private Kontaktdaten, Bilder ohne Erlaubnis	Für diesen Prototypen nicht verwenden

Folgenabschätzung

Eine Folgenabschätzung fragt nicht nur: „Funktioniert das?“ Sie fragt auch: „Für wen funktioniert es? Was kann schiefgehen? Wer trägt Folgen? Welche Alternative gibt es ohne KI?“

Nutze diese Matrix:

Mögliche Folge	Betroffene	Nutzen oder Risiko	Schutzmaßnahme
Schnellere Auskunft	Lernende	Nutzen
Falsche Raumangabe	Lernende und Lehrkräfte	Risiko	Quellenbindung und Test
Ausschluss bei schwieriger Sprache	Lernende mit unterschiedlichem Sprachstand	Risiko	Sprachvarianten testen
Unnötige Datensammlung	Alle Nutzenden	Risiko	Keine personenbezogenen Daten erheben
Weniger Rückfragen an das Sekretariat	Mitarbeitende	Nutzen	Menschliche Ansprechperson bleibt verfügbar

Go, Improve oder Stop

Nach dem Test triffst Du keine Entscheidung aus dem Bauch heraus. Nutze drei mögliche Ergebnisse:

GO: Der Prototyp erfüllt die wichtigsten Kriterien, kritische Risiken sind ausreichend begrenzt und die Verantwortung ist geklärt.

IMPROVE: Die Grundidee ist sinnvoll, aber Tests zeigen Fehler, die vor einer Nutzung behoben werden müssen.

STOP: Der Nutzen ist zu klein, das Risiko zu hoch, die Datenlage ungeeignet oder eine nichtautomatisierte Lösung ist klar besser.

Eine gute technische Entscheidung kann also auch lauten: Wir setzen keine KI ein.

Gestaltung und Verständlichkeit

Ein Prototyp muss für echte Menschen verständlich sein. Gute Gestaltung macht Grenzen sichtbar. Verwende deshalb klare Hinweise wie „Antwort auf Grundlage des Projekttag-Informationsblatts“, „Ich habe dazu keine geprüfte Information“ oder „Bitte wende Dich an eine verantwortliche Person“.

Vermeide Formulierungen, die mehr Sicherheit vortäuschen, als tatsächlich vorhanden ist. Eine höfliche, selbstbewusste Ausgabe ist nicht automatisch eine verlässliche Ausgabe.

Quellenkritik und Transparenz

KI-Ausgaben sind keine Belege. Wenn ein KI-Werkzeug eine Behauptung erzeugt, musst Du prüfen, ob sie in einer geeigneten Quelle gestützt wird. Für den Prototypen bedeutet das: Die fachliche Quelle wird vorab festgelegt, die KI darf sie nicht heimlich durch erfundene Angaben ersetzen.

Ein gutes Transparenzprotokoll beantwortet drei Fragen: Woher stammt die Information? Was hat die KI verändert? Wer hat das Ergebnis geprüft?

Das KI-Campus-Video eignet sich als frei lizenzierter Einstieg in Grundlagen und gesellschaftliche Bezüge. Nutze es nicht passiv: Notiere beim Anschauen eine Aussage, die Du mit einer zweiten Quelle prüfen möchtest.

Fächerübergreifende Bezüge

Fach	Verbindung zum Thema	Mögliche Lernleistung
Informatik	Datenfluss, Modelle, Eingabe und Ausgabe, Tests, Fehlerfälle	Systemdiagramm und Testplan
Mathematik	Kennzahlen, Anteile, Fehlerquoten, Gewichtung, Vergleich von Varianten	Test-Erfüllungsquote berechnen und kritisch deuten
Technik	Entwicklungskreislauf, Prototyping, Anforderungen, iterative Verbesserung	Zwei Prototypversionen vergleichen
Deutsch	Präzise Anweisungen, adressatengerechte Sprache, Argumentation, Quellenkritik	Begründung und Transparenztext verfassen
Wirtschaft	Aufwand, Nutzen, Prozesskosten, Produktivität, Fehlerrisiken	Wirtschaftliche und soziale Folgen abwägen
Geschichte	Automatisierung im historischen Wandel, Kontinuitäten und Unterschiede früherer Techniksysteme	KI-Prototypen mit früheren Automatisierungsphasen vergleichen
Ethik	Verantwortung, Fairness, Autonomie, Schaden, Teilhabe	Konflikt zwischen Nutzen und Risiko argumentativ bewerten
Gemeinschaftskunde	Regeln, Beteiligung, Rechte, Rechenschaft, Institutionen	Governance-Regeln für eine schulische Nutzung entwerfen

Kurze Reflexion

Beantworte nach dem Prototyping diese vier Fragen schriftlich:

Eigene Idee: Was war meine wichtigste Idee, bevor KI eingesetzt wurde?
KI-Beitrag: Welche Veränderung entstand durch KI-Unterstützung?
Menschliche Auswahl: Was habe ich bewusst übernommen, verändert oder verworfen?
Verantwortung: Welche Entscheidung würde ich einer betroffenen Person erklären können und warum?

Transfer auf neue Fälle

Übertrage den Ablauf auf einen neuen Fall, zum Beispiel einen Lernhilfe-Assistenten, ein System zur Sortierung von Recyclinghinweisen, eine technische Wartungshilfe oder eine Zusammenfassung öffentlicher Sitzungsinformationen.

Frage immer zuerst: Ist KI überhaupt die passende Lösung? Danach überträgst Du die Struktur Problem → Stakeholder → Daten → KI-Funktion → menschliche Kontrolle → Tests → Governance → Folgenabschätzung.

Selbstkontrolle

Prüfe Deinen Prototypen vor der Abgabe mit dieser Kurzliste:

Prüffrage	Ja	Noch nicht
Meine eigene Idee ist vor der KI-Nutzung dokumentiert.	□	□
Ziel und Grenzen des Systems sind klar.	□	□
Ich habe mindestens fünf unterschiedliche Testfälle verwendet.	□	□
Kritische Fehler werden stärker gewichtet als Schönheitsfehler.	□	□
Datenschutz, Fairness und Barrierearmut wurden geprüft.	□	□
Die Rolle der KI ist transparent dokumentiert.	□	□
Die menschliche Endverantwortung ist benannt.	□	□
Ich kann GO, IMPROVE oder STOP begründen.	□	□

Interaktive Aufgaben

Quiz: Teste Dein Wissen

Ein Team hat noch kein Ziel formuliert, möchte aber sofort von einer KI eine fertige App-Idee erzeugen lassen. Was passt am besten zu diesem Kurs? (Zuerst Problem Ziel und Kriterien menschlich festlegen) (!Sofort möglichst viele KI-Vorschläge erzeugen) (!Die erste KI-Idee unverändert übernehmen) (!Nur das Design der App bewerten)

Ein Info-Assistent findet zu einer Frage nichts in seiner geprüften Quelle. Wie sollte ein guter Prototyp reagieren? (Die fehlende Information offen benennen und an einen Menschen verweisen) (!Eine wahrscheinliche Antwort erfinden) (!Die Frage ignorieren) (!Eine beliebige Internetquelle vortäuschen)

Welcher Testfall prüft Robustheit besonders gut? (Eine Frage mit Tippfehlern und ungewöhnlicher Formulierung) (!Nur eine exakt vorgegebene Musterfrage) (!Nur die schönste Antwort) (!Nur die Startseite des Prototyps)

Ein Prototyp besteht sieben von acht Tests, gibt aber in einem Fall private Daten aus. Was ist die sinnvollste Bewertung? (Der kritische Fehler muss vor einem Einsatz behoben werden) (!Die hohe Gesamtquote reicht für die Freigabe) (!Der Fehler kann ignoriert werden) (!Nur die Schriftgröße muss geändert werden)

Was gehört zur Governance eines KI-Prototyps? (Rollen Regeln Datenquellen Eskalation und Stop-Kriterien festlegen) (!Nur ein Logo auswählen) (!Nur die Rechengeschwindigkeit messen) (!Nur möglichst viele Funktionen hinzufügen)

Woran erkennt man Human Agency in diesem Kurs am deutlichsten? (Der Mensch setzt Ziele wählt aus prüft und trägt Endverantwortung) (!Die KI entscheidet allein über den Einsatz) (!Jede KI-Ausgabe wird automatisch akzeptiert) (!Menschen dürfen nur die Benutzeroberfläche gestalten)

Eine KI-Variante klingt überzeugender als Dein eigener Entwurf, erfüllt aber Deine vorher festgelegten Sicherheitskriterien schlechter. Was solltest Du tun? (Die Kriterien anwenden und die Variante begründet verwerfen oder ändern) (!Die überzeugendere Sprache als einziges Kriterium nutzen) (!Die Kriterien nachträglich löschen) (!Die KI entscheiden lassen)

Welche Aussage beschreibt eine Folgenabschätzung am besten? (Sie untersucht Nutzen Risiken Betroffene und Schutzmaßnahmen) (!Sie misst nur die Antwortgeschwindigkeit) (!Sie bewertet nur das Aussehen) (!Sie ersetzt alle Tests)

Warum reicht eine Test-Erfüllungsquote allein nicht aus? (Fehler können unterschiedlich schwere Folgen haben) (!Prozentwerte sind grundsätzlich unbrauchbar) (!Tests dürfen keine Zahlen enthalten) (!Nur KI kann Fehler bewerten)

Wann kann STOP die beste Designentscheidung sein? (Wenn Nutzen gering Risiken hoch oder eine einfachere Lösung besser ist) (!Wenn der Prototyp noch nicht bunt genug ist) (!Wenn eine KI nur drei Varianten erzeugt) (!Wenn Menschen Verantwortung übernehmen)

Memory

Prototyp	Vereinfachte testbare Vorstufe einer Lösung
Human Agency	Menschliche Zielsetzung Auswahl und Endverantwortung
Evaluation	Systematisches Prüfen mit Kriterien und Testfällen
Governance	Regeln Rollen Zuständigkeiten und Kontrollwege
Bias	Systematische Verzerrung
Robustheit	Verlässliches Verhalten auch bei ungewöhnlichen Eingaben
Stakeholder	Beteiligte oder betroffene Personen und Gruppen
Folgenabschätzung	Untersuchung möglicher Nutzen Risiken und Auswirkungen

Drag and Drop

Ordne die richtigen Begriffe zu.	Thema
Ziel klären	Welches Problem soll gelöst werden?
System skizzieren	Wie fließen Eingaben Quellen Verarbeitung und Ausgaben zusammen?
Kriterien festlegen	Woran erkennen wir Qualität Sicherheit und Fairness?
Testen	Welche normalen schwierigen und kritischen Fälle prüfen wir?
Verbessern und dokumentieren	Was ändern wir und wie begründen wir die endgültige Auswahl?

Kreuzworträtsel

Prototyp	Wie heißt eine frühe testbare Vorstufe einer Lösung?
Fairness	Welcher Begriff beschreibt die gerechte Berücksichtigung unterschiedlicher Betroffener?
Evaluation	Wie heißt das systematische Prüfen eines Systems?
Governance	Wie heißt der Bereich von Regeln Rollen und Verantwortlichkeit?
Robustheit	Wie heißt die Fähigkeit auch bei schwierigen Eingaben verlässlich zu reagieren?
Transparenz	Wie heißt das Sichtbarmachen von Quellen Grenzen und KI-Anteilen?

LearningApps

Lückentext

Ein KI-Prototyp ist eine vereinfachte und

Vorstufe einer geplanten Lösung.

Bevor KI eingesetzt wird, soll zuerst eine eigene

sichtbar dokumentiert werden.

Die menschliche Zielsetzung Auswahl und Endverantwortung wird als

betont.

Ein Systemdesign beschreibt unter anderem Eingaben Quellen Verarbeitung Ausgaben und menschliche

.

Beim Testen helfen unterschiedliche Fälle dabei Fehler und mangelnde

zu erkennen.

Regeln Rollen Zuständigkeiten und Stop-Kriterien gehören zur

.

Eine Folgenabschätzung untersucht mögliche Nutzen Risiken und betroffene

.

Nach den Tests kann eine begründete Entscheidung für GO IMPROVE oder

getroffen werden.

Offene Aufgaben

Leicht

Ideenkarte: Entwickle ohne KI eine eigene Idee für einen schulischen KI-Prototypen und markiere Ziel, Nutzende, Grenze und Erfolgskriterium.
Systemskizze: Zeichne einen Ablauf aus Eingabe, geprüfter Quelle, KI-Funktion, Ausgabe und menschlicher Kontrolle.
Testfragen: Formuliere sechs Testfälle, darunter einen Tippfehler, eine fehlende Information und einen Fall, in dem das System nicht antworten soll.
Transparenzhinweis: Schreibe einen kurzen Hinweistext, der Nutzenden erklärt, wofür der Prototyp geeignet ist und wo seine Grenzen liegen.

Standard

Variantenvergleich: Nutze erst nach Deinem eigenen Entwurf ein KI-Werkzeug, um drei Varianten zu erzeugen, und entscheide anhand vorher festgelegter Kriterien, welche Elemente Du übernimmst oder verwirfst.
Evaluation: Teste Deinen Prototypen mit mindestens acht Fällen, berechne die Test-Erfüllungsquote und gewichte Fehler nach ihrer Schwere.
Fairness-Test: Prüfe drei sprachlich unterschiedliche Eingaben und entwickle mindestens eine Verbesserung für Barrierearmut oder faire Nutzung.
Governance-Karte: Lege Zweck, erlaubte Daten, verbotene Daten, Eskalation, Beschwerdeweg und Stop-Kriterium fest.

Schwer

Folgenabschätzung: Analysiere für Deinen Prototypen mindestens drei betroffene Gruppen und dokumentiere Nutzen, Risiken, Schutzmaßnahmen und verbleibende Unsicherheiten.
Alternativenprüfung: Entwickle eine Lösung ohne KI für dasselbe Problem und vergleiche beide Varianten nach Nutzen, Kosten, Sicherheit, Fairness und Transparenz.
Red-Team-Test: Versuche gezielt, Deinen Prototypen mit irreführenden, unvollständigen oder widersprüchlichen Eingaben zu Fehlern zu bringen, und verbessere anschließend das System.
Transferprojekt: Übertrage den gesamten Prozess auf einen neuen Fall, erstelle Version eins und Version zwei Deines Prototypen und dokumentiere nachvollziehbar, welche Änderung aus welchem Testergebnis entstanden ist.

Lernkontrolle

Systemdesign analysieren: Du erhältst den Entwurf eines KI-Assistenten, der nur aus einem Prompt und einer hübschen Oberfläche besteht. Erkläre, welche Systembausteine fehlen und warum mindestens drei davon für einen verantwortlichen Einsatz notwendig sind.
Fehler gewichten: Ein Prototyp hat zehn Testfälle. Acht bestehen, einer ist sprachlich unklar und einer gibt eine sensible Information aus. Begründe, warum eine reine Prozentzahl keine ausreichende Freigabeentscheidung liefert.
Governance übertragen: Entwirf für einen KI-Prototypen zur Unterstützung einer Schülerzeitung Regeln für Quellen, Freigabe, Kennzeichnung, Korrekturen und Beschwerden.
Folgen abschätzen: Vergleiche einen KI-gestützten Schulweg-Assistenten mit einer einfachen statischen Informationsseite. Welche Lösung würdest Du unter welchen Bedingungen bevorzugen?
Fairness prüfen: Ein System funktioniert bei Standardsprache gut, reagiert aber auf einfache Sprache deutlich schlechter. Entwickle zwei Tests und zwei Designmaßnahmen, mit denen Du das Problem untersuchen und verringern würdest.
Human Agency begründen: Beschreibe einen Fall, in dem ein KI-Vorschlag fachlich brauchbar ist, aber trotzdem nicht übernommen werden sollte. Begründe die menschliche Entscheidung.
Transfer auf neue Fälle: Wähle ein Thema aus Technik, Wirtschaft oder Gemeinschaftskunde und entwickle einen vollständigen Mini-Prozess aus Ziel, Systemskizze, Kriterien, Tests, Governance und Folgenabschätzung.

Lernnachweis

Für einen überzeugenden Lernnachweis sind nicht möglichst viele KI-Ausgaben entscheidend, sondern die Qualität Deiner Entscheidungen. Abgegeben werden sollten:

Ideendokumentation: Ein sichtbarer eigener Entwurf aus der Phase vor der KI-Nutzung.
Systemdesign: Eine nachvollziehbare Darstellung von Ziel, Nutzenden, Quellen, Eingaben, KI-Funktion, Ausgabe und menschlicher Kontrolle.
Kriterienliste: Vorab festgelegte Maßstäbe für Nutzen, Korrektheit, Sicherheit, Fairness, Transparenz und Robustheit.
KI-Nutzungsprotokoll: Dokumentation, wofür KI verwendet wurde und welche Vorschläge übernommen, verändert oder verworfen wurden.
Testmatrix: Unterschiedliche Testfälle mit Erwartungen, Beobachtungen und Fehlergewichtung.
Verbesserung: Mindestens eine zweite Version, die auf Testergebnissen beruht.
Governance: Klare Regeln zu Daten, Quellen, Zuständigkeit, Eskalation und Stopp.
Folgenabschätzung: Betrachtung von Nutzen, Risiken, betroffenen Gruppen und Schutzmaßnahmen.
Begründete Endentscheidung: GO, IMPROVE oder STOP mit transparenter Argumentation.
Verantwortungsnachweis: Nennung der Person oder Gruppe, die die endgültige Auswahl und Verantwortung übernimmt.

OERs zum Thema

Verknüpfte Lernbereiche

KI-Prototypen gestalten

aiMOOC-Projekte

Inhalte werden geladen ...

Mediathek wird aus dem Wiki geladen ...

Frag mich zum aktuellen Lerninhalt oder wähle eine kurze Hilfe.

Textmodus bereit

Sprache