Schulsichere KI-Agenten - Zukunftswerkstatt Schule - aiMOOC

Einleitung

Schulsichere KI-Agenten sind KI-gestützte digitale Helfer, die in der Schule nicht einfach „irgendetwas können“, sondern für einen klaren pädagogischen Zweck, mit Datenschutz, Transparenz, Datensparsamkeit, Inklusion, Barrierefreiheit und menschlicher Verantwortung gestaltet werden. In diesem aiMOOC arbeitest Du mit dem Leitgedanken der Zukunftswerkstatt Schule: Künstliche Intelligenz, Making, Medienbildung, Technik, Kreativität und Zukunftskompetenz werden so verbunden, dass Lernende und Lehrkräfte nicht nur über digitale Zukunft sprechen, sondern sie reflektiert, sicher und gestaltend erproben.

{{#ev:youtube| https://www.youtube.com/watch?v=oGyaEGdFVmY |500|center}}

Der Begriff schulsicher ist kein festes Gesetzeswort. In diesem Kurs meint er: Ein KI-Agent ist nur dann schulgeeignet, wenn er zu den Bildungszielen passt, keine unnötigen personenbezogenen Daten verarbeitet, verständlich erklärt wird, altersangemessen funktioniert, überprüfbar bleibt und keine wichtigen pädagogischen Entscheidungen ohne menschliche Kontrolle trifft. Ein schulsicherer KI-Agent ersetzt keine Lehrkraft, sondern unterstützt Lernprozesse, Feedback, Projektarbeit, Recherche, Reflexion oder Organisation in einem geschützten Rahmen.

Lernziele

Nach diesem aiMOOC kannst Du erklären, was KI-Agenten sind, wie sie sich von einfachen Chatbots unterscheiden und warum der schulische Einsatz besondere Regeln braucht. Du entwickelst ein eigenes Konzept für einen schulsicheren KI-Agenten, prüfst Risiken, formulierst Nutzungsregeln und entwirfst eine kleine Zukunftswerkstatt, in der Schule als lernende Organisation gedacht wird.

KI-Agenten verstehen: Du beschreibst die Bausteine Ziel, Rolle, Kontext, Werkzeug, Speicher, Kontrolle und Ausgabe.
Schulsicherheit bewerten: Du unterscheidest pädagogische, technische, rechtliche und ethische Anforderungen.
Datenschutz anwenden: Du erkennst, wann personenbezogene Daten problematisch sind und wie Datensparsamkeit hilft.
Prompts gestalten: Du formulierst klare, sichere und überprüfbare Arbeitsaufträge für KI-Systeme.
Zukunftswerkstatt planen: Du entwickelst Ideen für eine Schule, die Kreativität, Making und Medienkompetenz verbindet.
Transfer leisten: Du beurteilst reale Einsatzszenarien, entwickelst Schutzmaßnahmen und begründest Entscheidungen.

Was sind KI-Agenten?

Ein KI-Agent ist ein digitales System, das auf ein Ziel hinarbeitet, Informationen verarbeitet, Zwischenschritte plant und mit Werkzeugen handeln kann. Während ein einfacher Chatbot meist auf einzelne Eingaben antwortet, kann ein KI-Agent eine Aufgabe in Teilschritte zerlegen, Informationen aus einer erlaubten Wissensbasis abrufen, Ergebnisse prüfen, Rückfragen stellen und eine Ausgabe vorbereiten. In der Schule kann ein solcher Agent zum Beispiel als Lernbegleiter, Recherchecoach, Feedbackhelfer, Projektmentor, Sprachtrainer, Barrierefreiheitsassistent oder Organisationstool eingesetzt werden.

Ein typischer KI-Agent besteht aus mehreren Bausteinen. Das Ziel legt fest, wofür der Agent da ist. Die Rolle beschreibt seine pädagogische Funktion, zum Beispiel „Sokratischer Lerncoach“ oder „Feedback-Assistent“. Der Kontext enthält erlaubte Informationen, Materialien, Regeln und Niveauvorgaben. Die Werkzeuge können Suchfunktionen, Rechenfunktionen, Dokumentenabruf oder Vorlagen sein. Der Kontrollmechanismus prüft, ob Ausgaben sicher, sachlich und passend sind. Die menschliche Aufsicht entscheidet, ob Ergebnisse genutzt, verändert oder verworfen werden.

Ein KI-Agent ist nicht automatisch intelligent im menschlichen Sinn. Er erkennt Muster, erzeugt Vorschläge und kann überzeugend formulieren. Trotzdem kann er Fehler machen, Quellen falsch deuten, Dinge erfinden oder unpassende Empfehlungen geben. Solche fehlerhaften, aber glaubwürdig klingenden Ausgaben werden oft als Halluzinationen bezeichnet. Deshalb gehört zu jedem schulsicheren Agenten eine klare Regel: Die Verantwortung bleibt beim Menschen.

Warum braucht Schule besondere Sicherheit?

Schule ist ein besonderer Schutzraum. Lernende sind oft minderjährig, Leistungsbewertungen können weitreichende Folgen haben und pädagogische Beziehungen beruhen auf Vertrauen. Deshalb reicht es nicht, ein technisch spannendes KI-Werkzeug zu nutzen, nur weil es verfügbar ist. Ein schulsicherer Einsatz muss begründen, wozu das Werkzeug dient, welche Daten verarbeitet werden, wer Zugriff hat, wie Ergebnisse geprüft werden und wie Lernende ihre Rechte verstehen.

Besonders sensibel sind Daten wie Namen, Leistungsstände, Diagnosen, Förderbedarfe, familiäre Informationen, Verhaltensdaten, Standortdaten, Fotos, Stimmen oder persönliche Texte. Solche Informationen dürfen nicht unbedacht in offene KI-Systeme eingegeben werden. DSGVO, schulische Vorgaben der Länder und lokale Datenschutzkonzepte verlangen, dass Verarbeitung rechtmäßig, zweckgebunden, transparent und möglichst sparsam erfolgt. Für Schulen bedeutet das: Erst pädagogisches Ziel klären, dann Risiko prüfen, dann geeignetes Werkzeug auswählen.

Auch der EU AI Act ist für Bildung wichtig. Bestimmte KI-Systeme im Bereich Bildung und Berufsbildung können als Hochrisiko-Systeme gelten, etwa wenn sie Zugang, Zulassung, Lernleistungen, Prüfungsverhalten oder Bildungswege wesentlich beeinflussen. Daraus folgt für die Schule kein pauschales KI-Verbot, aber ein hoher Anspruch an Prüfung, Dokumentation, Transparenz, menschliche Kontrolle und Verantwortlichkeit.

Schulsicher heißt: pädagogisch, rechtlich, technisch und ethisch tragfähig

Ein schulsicherer KI-Agent muss vier Perspektiven verbinden. Die pädagogische Perspektive fragt, ob der Agent Lernen, Motivation, Verstehen, Kreativität oder Teilhabe verbessert. Die rechtliche Perspektive fragt nach Datenschutz, Urheberrecht, Einwilligung, Altersangemessenheit und schulischen Vorgaben. Die technische Perspektive prüft Zugänge, Datenflüsse, Protokolle, Schutzmechanismen und Fehleranfälligkeit. Die ethische Perspektive achtet auf Fairness, Transparenz, Diskriminierung, Bias, Abhängigkeit, Autonomie und Verantwortung.

Pädagogische Tragfähigkeit: Der Agent unterstützt Lernziele, fördert Denken und ersetzt nicht die eigene Leistung.
Datenschutzrechtliche Tragfähigkeit: Der Agent verarbeitet nur notwendige Daten und nutzt sichere Zugänge.
Technische Tragfähigkeit: Der Agent ist stabil, überprüfbar, begrenzt und nachvollziehbar.
Ethische Tragfähigkeit: Der Agent vermeidet ungerechte Benachteiligung und stärkt selbstbestimmtes Lernen.
Transparente Kommunikation: Lernende wissen, wann und wofür KI eingesetzt wird.

Zukunftswerkstatt Schule

Die Zukunftswerkstatt ist eine Methode, mit der Gruppen Zukunft nicht nur vorhersagen, sondern aktiv gestalten. Für das Thema Schulsichere KI-Agenten eignet sie sich besonders, weil Künstliche Intelligenz nicht nur ein technisches Thema ist. Es geht auch um Lernen, Gerechtigkeit, Kreativität, Verantwortung, Schulentwicklung und demokratische Beteiligung.

Eine Zukunftswerkstatt kann in drei Phasen ablaufen. In der Kritikphase sammelst Du Probleme, Sorgen und Grenzen. In der Fantasiephase entwickelst Du mutige Ideen ohne vorschnelle Einschränkungen. In der Realisierungsphase wählst Du umsetzbare Schritte aus, entwickelst Prototypen und prüfst Risiken. So entsteht aus einer allgemeinen Diskussion ein konkreter Plan für eine bessere Schule.

Kritikphase: Was läuft noch nicht gut?

In der Kritikphase geht es nicht darum, Technik schlechtzureden. Es geht darum, echte Probleme sichtbar zu machen. Beispiele sind unklare Regeln zur KI-Nutzung, Angst vor Täuschung, unfaire Leistungsbewertungen, unpassende Tools, fehlende Fortbildungen, Datenschutzunsicherheit, digitale Ungleichheit oder Überforderung durch zu viele Plattformen.

Mögliche Leitfragen sind: Wo erleben Lernende KI als Hilfe? Wo als Druck? Welche Aufgaben fördern noch echtes Denken? Welche Daten sollten nie eingegeben werden? Welche Regeln sind unklar? Wer wird ausgeschlossen, wenn KI nur für einige verfügbar ist? Wie verhindern wir, dass KI Fehler verstärkt oder Lernende abhängig macht?

Fantasiephase: Welche Schule wollen wir?

In der Fantasiephase darfst Du mutig denken. Stelle Dir eine Schule vor, in der KI-Agenten langweilige Routinearbeit reduzieren, individuelle Lernwege unterstützen, kreative Projekte anregen, Sprachbarrieren abbauen und Inklusion stärken. Gleichzeitig bleibt Schule ein sozialer Raum, in dem Beziehung, Verantwortung, Fehlerkultur und gemeinsames Handeln zentral sind.

Mögliche Zukunftsbilder sind: Ein Quellenlotse hilft bei Recherche und zeigt Unsicherheiten. Ein Feedbackcoach stellt Rückfragen, statt fertige Lösungen zu liefern. Ein Projektmentor begleitet Making-Projekte von der Idee bis zum Prototyp. Ein Sprachbegleiter unterstützt Mehrsprachigkeit. Ein Barrierefreiheitsagent hilft, Texte in einfache Sprache zu übertragen. Ein Ethikchecker fragt nach Fairness, Daten und Folgen.

Realisierungsphase: Wie wird aus der Idee ein sicherer Prototyp?

In der Realisierungsphase wird aus einer Idee ein begrenztes, prüfbares Vorhaben. Ein guter Prototyp beginnt nicht mit einem Tool, sondern mit einem Problem. Danach werden Zielgruppe, Lernziel, Datennutzung, Grenzen, Verantwortlichkeiten, Testphase und Bewertungskriterien festgelegt. Erst dann wird entschieden, welche technische Lösung geeignet ist.

Ein schulsicherer Prototyp sollte klein starten. Er braucht eine Testgruppe, klare Nutzungsregeln, dokumentierte Prompts, eine Rückmelderunde und eine Entscheidung darüber, ob er erweitert, verändert oder beendet wird. Ein Agent, der Unterrichtsmaterial vorschlägt, ist meist weniger riskant als ein Agent, der Noten empfiehlt. Je stärker ein Agent Bildungswege beeinflusst, desto höher sind die Anforderungen an Prüfung und menschliche Kontrolle.

Architektur eines schulsicheren KI-Agenten

Ein schulsicherer KI-Agent kann als Lernprozess verstanden werden. Eingaben werden nicht sofort ungeprüft ausgegeben, sondern durchlaufen Schutz- und Reflexionsschritte.

Ziel klären: Der Agent hat einen genau begrenzten Auftrag.
Rolle festlegen: Der Agent erklärt, ob er Lerncoach, Feedbackhelfer oder Rechercheassistent ist.
Kontext begrenzen: Der Agent nutzt nur erlaubte Materialien, Regeln und Quellen.
Daten minimieren: Der Agent fragt nur nach Informationen, die wirklich notwendig sind.
Werkzeuge begrenzen: Der Agent darf nur freigegebene Funktionen nutzen.
Ausgabe prüfen: Ergebnisse werden auf Sachlichkeit, Fairness, Quellenbezug und Verständlichkeit kontrolliert.
Menschliche Entscheidung sichern: Wichtige Entscheidungen trifft immer ein Mensch.
Evaluation durchführen: Lernende und Lehrkräfte prüfen, ob der Agent wirklich hilft.

Beispiele für schulsichere KI-Agenten

Quellenlotse

Der Quellenlotse unterstützt Dich bei der Recherche. Er schlägt Suchbegriffe vor, erklärt Unterschiede zwischen Quellenarten, hilft beim Vergleich von Aussagen und erinnert an Quellenkritik. Er darf keine fertige Hausarbeit schreiben, sondern führt Dich zu besseren Fragen. Schulsicher wird er durch erlaubte Quellen, klare Zitierregeln, Hinweise auf Unsicherheit und die Pflicht, Ergebnisse selbst zu überprüfen.

Feedbackcoach

Der Feedbackcoach kommentiert Entwürfe, ohne sie für Dich zu erledigen. Er kann zum Beispiel fragen: Ist Deine These klar? Begründest Du Deine Meinung? Gibt es Belege? Ist die Struktur nachvollziehbar? Schulsicher wird er, wenn keine sensiblen personenbezogenen Daten eingegeben werden, die Rückmeldung lernförderlich ist und die Lehrkraft festlegt, wann KI-Feedback erlaubt ist.

Projektmentor für Making

Der Projektmentor begleitet Making-Projekte. Er hilft, eine Idee in Materialliste, Skizze, Testplan und Verbesserungsschleifen zu übersetzen. Er kann Sicherheitsfragen stellen, Alternativen vorschlagen und Dokumentationshilfen geben. Schulsicher ist er, wenn gefährliche Bauanleitungen ausgeschlossen, Labor- und Werkstattregeln beachtet und Ergebnisse praktisch überprüft werden.

Barrierefreiheitsassistent

Der Barrierefreiheitsassistent unterstützt Inklusion. Er kann Texte vereinfachen, Begriffe erklären, Arbeitsaufträge strukturieren oder Alternativen für verschiedene Lernwege vorschlagen. Schulsicher wird er durch sorgfältige Prüfung, weil vereinfachte Texte nicht verfälschen dürfen und Förderinformationen besonders sensibel sind.

Ethikchecker

Der Ethikchecker hilft, KI-Projekte kritisch zu prüfen. Er stellt Fragen zu Bias, Diskriminierung, Datenschutz, Transparenz, Abhängigkeit und Folgen. Schulsicher ist er, wenn er nicht entscheidet, sondern Reflexion anregt und unterschiedliche Perspektiven sichtbar macht.

Risikofelder im Überblick

Datenschutz und Datensparsamkeit

Datenschutz bedeutet nicht, dass Lernen mit KI unmöglich ist. Datenschutz bedeutet, dass Daten geschützt, zweckgebunden und kontrolliert verarbeitet werden. Besonders wichtig ist Datensparsamkeit. Für viele schulische Aufgaben reicht es, mit anonymisierten Beispielen, fiktiven Namen oder allgemeinen Lernständen zu arbeiten. Persönliche Texte, Bilder, Stimmen oder Leistungsdaten sollten nur in dafür freigegebenen und geprüften Umgebungen genutzt werden.

Halluzinationen und Quellenprobleme

KI-Systeme können überzeugend klingen und trotzdem falsch liegen. Deshalb ist Quellenprüfung ein eigener Lerngegenstand. Ein schulsicherer Agent sollte Unsicherheiten markieren, keine erfundenen Quellen erzeugen und Lernende zur Überprüfung anleiten. Besonders bei Geschichte, Politische Bildung, Naturwissenschaften, Medizin, Recht oder aktuellen Ereignissen ist eine Prüfung mit verlässlichen Quellen notwendig.

Bias und Diskriminierung

Bias bezeichnet Verzerrungen, die durch Daten, Modelle, Aufgabenstellungen oder gesellschaftliche Vorurteile entstehen können. Ein KI-Agent kann Gruppen unfair darstellen, Stereotype wiederholen oder unterschiedliche Sprachstile ungleich bewerten. Schulsicher wird der Einsatz, wenn Beispiele vielfältig sind, Ergebnisse kritisch verglichen werden und Betroffene nicht durch automatische Entscheidungen benachteiligt werden.

Leistungsbewertung und Prüfungen

Bei Leistungsbewertung ist besondere Vorsicht nötig. Ein KI-Agent darf Lernende beim Üben unterstützen, aber nicht heimlich Noten bestimmen. Wenn KI bei Prüfungen, Bewertung oder Lernstandsdiagnosen eingesetzt wird, müssen Regeln, Zuständigkeiten, Nachvollziehbarkeit und menschliche Entscheidung klar sein. Für Lernende muss erkennbar sein, welche Hilfen erlaubt sind und wie KI-Nutzung dokumentiert wird.

Abhängigkeit und Lernqualität

Ein gutes KI-Werkzeug macht Lernende nicht passiv. Es fordert zum Denken auf, stellt Rückfragen, zeigt Strategien und stärkt Selbstständigkeit. Ein schulsicherer Agent sollte daher nicht immer sofort fertige Lösungen ausgeben. Oft ist es besser, Hinweise, Beispiele, Gegenfragen oder Reflexionsimpulse zu geben. Ziel ist nicht Bequemlichkeit, sondern besseres Lernen.

Schulsicherheits-Checkliste

Diese Checkliste hilft Dir, einen KI-Agenten vor dem Einsatz zu prüfen.

Zweck: Ist klar, welches Lernproblem der Agent lösen soll?
Zielgruppe: Ist der Agent altersangemessen und verständlich?
Daten: Werden personenbezogene Daten vermieden oder rechtmäßig geschützt?
Offenlegung: Wissen Lernende, dass KI eingesetzt wird?
Rolle: Ist klar, dass der Agent unterstützt und nicht entscheidet?
Quellen: Können Aussagen überprüft werden?
Fairness: Werden Verzerrungen und Benachteiligungen geprüft?
Zugänglichkeit: Können alle Lernenden den Agenten nutzen oder gibt es Alternativen?
Aufsicht: Gibt es menschliche Kontrolle bei wichtigen Ergebnissen?
Dokumentation: Werden Prompts, Regeln, Tests und Rückmeldungen festgehalten?
Evaluation: Wird überprüft, ob der Agent wirklich Lernqualität verbessert?
Abbruchregel: Gibt es eine Regel, wann der Agent nicht weiter genutzt wird?

Prompt-Regeln für die Schule

Ein Prompt ist ein Arbeitsauftrag an ein KI-System. Gute Prompts sind klar, begrenzt, überprüfbar und pädagogisch sinnvoll. In der Schule sollten Prompts nicht nur ein Ergebnis verlangen, sondern den Lernprozess unterstützen.

Rolle nennen: „Du bist ein Lerncoach und gibst keine fertige Lösung.“
Ziel beschreiben: „Hilf mir, meine Argumentation zu verbessern.“
Niveau festlegen: „Erkläre es für Klasse 8.“
Grenzen setzen: „Nutze keine personenbezogenen Daten und erfinde keine Quellen.“
Rückfragen erlauben: „Stelle zuerst drei Fragen, wenn Informationen fehlen.“
Prüfschritt verlangen: „Kennzeichne unsichere Aussagen.“
Reflexion einbauen: „Gib mir am Ende zwei Fragen, mit denen ich selbst weiterdenken kann.“

Zukunftskompetenzen

Schulsichere KI-Agenten sind kein Selbstzweck. Sie sollen Zukunftskompetenzen fördern. Dazu gehören Kritisches Denken, Kreativität, Kommunikation, Kollaboration, Medienkompetenz, Datenkompetenz, Problemlösen, Selbstregulation und Verantwortung. Besonders wertvoll wird KI, wenn Lernende nicht nur Antworten konsumieren, sondern eigene Fragen entwickeln, Prototypen bauen, Ergebnisse prüfen und gesellschaftliche Folgen diskutieren.

Making verbindet Kopf, Hand und Haltung. Lernende können zum Beispiel einen Papierprototyp eines KI-Agenten bauen, einen Dialogfluss auf Karten entwerfen, ein Datenschutzplakat gestalten, ein Erklärvideo produzieren oder einen schulischen KI-Kompass entwickeln. So wird aus abstrakter Technik ein gestaltbares Lernprojekt.

Unterrichtsprojekt: Agenten-Labor Zukunftsschule

Ein mögliches Unterrichtsprojekt heißt Agenten-Labor Zukunftsschule. Es dauert je nach Tiefe zwischen drei Doppelstunden und mehreren Projektwochen. Ziel ist, einen schulsicheren KI-Agenten als Konzept, Papierprototyp oder einfachen digitalen Prototyp zu entwickeln.

Problem finden: Welche schulische Herausforderung soll verbessert werden?
Betroffene befragen: Welche Perspektiven haben Lernende, Lehrkräfte, Eltern und Schulleitung?
Agenten-Steckbrief erstellen: Welche Rolle, Grenzen, Daten und Regeln hat der Agent?
Promptkarte entwickeln: Wie wird der Agent sicher angesprochen?
Risiken prüfen: Welche Fehler, Datenprobleme oder Benachteiligungen könnten entstehen?
Prototyp bauen: Wie sieht der erste Test aus?
Evaluation planen: Woran erkennt die Gruppe, ob der Agent nützt?
Präsentation vorbereiten: Wie wird das Konzept verständlich und kritisch vorgestellt?

Beispiel-Steckbrief für einen schulsicheren KI-Agenten

Name: Quellenlotse Schule

Ziel: Unterstützung bei Recherche und Quellenkritik

Zielgruppe: Lernende ab Klasse 7

Erlaubte Daten: Thema, Fach, Klassenstufe, allgemeine Fragestellung

Nicht erlaubte Daten: vollständiger Name, private Erlebnisse, Noten, Gesundheitsdaten, Fotos, Stimmen, fremde personenbezogene Informationen

Rolle: Der Agent stellt Suchfragen, erklärt Quellenarten, gibt Prüfkriterien und fordert zur eigenen Bewertung auf

Grenzen: Der Agent schreibt keine fertige Arbeit, erfindet keine Quellen und entscheidet nicht über Noten

Schutzmaßnahmen: Datensparsame Eingaben, geprüfte Quellenliste, Hinweis auf Unsicherheiten, menschliche Kontrolle, Dokumentation der Nutzung

Evaluation: Lernende vergleichen Recherchequalität mit und ohne Agent und reflektieren, ob sie selbstständiger gearbeitet haben

Rollen in der Schule

Schulsichere KI-Agenten gelingen nur gemeinsam. Lernende brauchen Orientierung und Freiraum. Lehrkräfte brauchen Fortbildung, klare Regeln und geeignete Werkzeuge. Schulleitungen brauchen ein schulisches Konzept. Datenschutzbeauftragte und Schulträger unterstützen bei Auswahl, Prüfung und Dokumentation. Eltern und Erziehungsberechtigte sollten verstehen, welche Ziele verfolgt werden und wie Schutz gewährleistet wird.

Lernende: nutzen KI reflektiert, dokumentieren Hilfen und prüfen Ergebnisse.
Lehrkräfte: gestalten Lernaufgaben, erklären Regeln und sichern pädagogische Verantwortung.
Schulleitung: entwickelt Leitlinien, Ressourcen und Fortbildungsstrukturen.
Datenschutzbeauftragte: prüfen Datenflüsse, Verträge und Schutzmaßnahmen.
Eltern: begleiten Medienbildung und unterstützen transparente Kommunikation.
Schulträger: sichern Infrastruktur, Zugänge und technische Rahmenbedingungen.

Bewertung von KI-Nutzung

Eine moderne Lernkultur unterscheidet zwischen erlaubter Unterstützung und Täuschung. Es ist sinnvoll, Aufgaben so zu gestalten, dass Lernprozess, Reflexion, Quellenarbeit, mündliche Erklärung, Prototyp, Lerntagebuch und Überarbeitung sichtbar werden. Dann kann KI als Werkzeug genutzt werden, ohne dass Lernen verschwindet.

Mögliche Regeln sind: KI-Hilfe wird dokumentiert, wichtige Ergebnisse werden erklärt, Quellen werden geprüft, persönliche Daten werden geschützt und die Eigenleistung wird sichtbar. Eine gute Leitfrage lautet: Hilft der Agent Dir, besser zu denken, oder nimmt er Dir das Denken ab?

Interaktive Aufgaben

Quiz: Teste Dein Wissen

Was bedeutet schulsicher in diesem aiMOOC? (Ein KI-Agent ist pädagogisch sinnvoll, datensparsam, transparent und menschlich kontrolliert) (!Ein KI-Agent darf ohne Regeln alle Schuldaten nutzen) (!Ein KI-Agent ersetzt die Lehrkraft vollständig) (!Ein KI-Agent ist automatisch richtig, wenn er freundlich klingt)

Was unterscheidet einen KI-Agenten am ehesten von einem einfachen Chatbot? (Ein KI-Agent kann zielorientiert Teilschritte planen und erlaubte Werkzeuge nutzen) (!Ein KI-Agent darf immer Noten vergeben) (!Ein KI-Agent funktioniert nur ohne menschliche Kontrolle) (!Ein KI-Agent kann keine Fehler machen)

Warum ist Datensparsamkeit in der Schule besonders wichtig? (Weil nur notwendige Daten verarbeitet werden sollen) (!Weil Lernende möglichst viele persönliche Daten eingeben sollen) (!Weil Datenschutz nur für Unternehmen gilt) (!Weil KI ohne Namen keine Texte erzeugen kann)

Was ist eine Halluzination bei KI-Systemen? (Eine plausibel klingende, aber falsche oder unbelegte Ausgabe) (!Eine besonders kreative und immer richtige Idee) (!Ein gesetzlich vorgeschriebener Prüfbericht) (!Ein sicherer Speicherort für Schuldaten)

Welche Rolle hat der Mensch bei schulsicheren KI-Agenten? (Der Mensch behält Verantwortung und prüft wichtige Ergebnisse) (!Der Mensch darf keine Entscheidungen mehr treffen) (!Der Mensch muss alle KI-Ausgaben automatisch übernehmen) (!Der Mensch wird nur für technische Wartung gebraucht)

Welche Phase gehört zur Zukunftswerkstatt? (Kritikphase) (!Zufallsphase) (!Notenphase) (!Abschlussverbot)

Was sollte ein Feedbackcoach in der Schule vor allem tun? (Rückfragen stellen und Lernende bei der Verbesserung unterstützen) (!Fertige Lösungen ohne Erklärung schreiben) (!Private Daten sammeln) (!Prüfungsnoten automatisch festlegen)

Wann ist bei KI im Bildungsbereich besondere Vorsicht nötig? (Wenn KI Bildungswege, Bewertungen oder Prüfungsverhalten wesentlich beeinflusst) (!Wenn KI nur eine allgemeine Begriffserklärung gibt) (!Wenn Lernende eine fiktive Beispielgeschichte schreiben) (!Wenn eine Lehrkraft ein anonymes Tafelbeispiel vorbereitet)

Was gehört zu einem guten Prompt für schulische KI-Nutzung? (Ein klares Ziel, Grenzen und ein Prüfschritt) (!Möglichst viele private Informationen) (!Keine Angabe der Klassenstufe) (!Die Aufforderung, Quellen zu erfinden)

Was ist ein gutes Ziel beim Einsatz von KI-Agenten im Unterricht? (Selbstständiges Denken, Reflexion und Lernqualität stärken) (!Lernprozesse unsichtbar machen) (!Jede Aufgabe ohne eigene Leistung erledigen) (!Alle Lernenden gleich bewerten lassen)

Memory

Datensparsamkeit	Nur nötige Daten nutzen
Transparenz	KI-Einsatz offenlegen
Human-in-the-loop	Menschliche Entscheidung sichern
Prompt	Arbeitsauftrag an KI
Auditlog	Nutzung nachvollziehen
Bias	Verzerrung erkennen
RAG	Quellengebunden antworten
Sandbox	Geschützter Testraum

Drag and Drop

Ordne die richtigen Begriffe zu.	Thema
Zielklärung	Lernproblem beschreiben
Datensparsamkeit	Persönliche Angaben vermeiden
Transparenz	KI-Nutzung erklären
Quellenkritik	Aussagen überprüfen
Human-in-the-loop	Menschliche Verantwortung sichern
Evaluation	Wirkung auf Lernen prüfen

Kreuzworträtsel

Datenschutz	Welches Prinzip schützt persönliche Informationen in der Schule?
Transparenz	Was entsteht, wenn KI-Nutzung offen erklärt wird?
Prompt	Wie heißt ein Arbeitsauftrag an ein KI-System?
Bias	Wie nennt man eine Verzerrung in Daten oder Ergebnissen?
Agent	Wie heißt ein zielorientiertes digitales KI-System?
Halluzination	Wie nennt man eine plausibel klingende, aber falsche KI-Ausgabe?

LearningApps

Lückentext

Ein schulsicherer KI-Agent verfolgt einen klar begrenzten

.

In der Schule ist der Schutz personenbezogener Daten besonders wichtig, deshalb gilt das Prinzip der

.

Ein KI-Agent darf wichtige pädagogische Entscheidungen nicht allein treffen, denn die

bleibt beim Menschen.

Wenn ein KI-System überzeugend klingt, aber falsche Informationen erzeugt, spricht man von einer

.

Die Zukunftswerkstatt beginnt häufig mit einer Phase, in der Probleme gesammelt werden, der

.

Ein guter Prompt beschreibt Ziel, Rolle, Grenzen und mindestens einen

.

Verzerrungen in Daten oder Ergebnissen werden oft als

bezeichnet.

Ein schulsicheres KI-Projekt sollte nach einer Testphase durch

überprüft werden.

Offene Aufgaben

Leicht

KI-Beobachtung: Sammle drei Situationen aus Deinem Schulalltag, in denen ein KI-Agent helfen könnte, und beschreibe jeweils, welches Lernproblem gelöst werden soll.
Datenschutzampel: Erstelle eine Ampel mit grünen, gelben und roten Beispielen für Daten, die in einem schulischen KI-Agenten unproblematisch, sensibel oder verboten sein könnten.
Promptkarte: Formuliere eine sichere Promptkarte für einen Lerncoach, der Dir nur Hinweise gibt und keine fertige Lösung schreibt.
Begriffsplakat: Gestalte ein Plakat zu fünf Begriffen aus diesem aiMOOC und erkläre sie in eigenen Worten.

Standard

Agenten-Steckbrief: Entwickle einen Steckbrief für einen schulsicheren KI-Agenten mit Ziel, Zielgruppe, erlaubten Daten, Grenzen, Schutzmaßnahmen und Evaluationsidee.
Zukunftswerkstatt: Führe in einer Gruppe eine Mini-Zukunftswerkstatt mit Kritikphase, Fantasiephase und Realisierungsphase zum Thema KI in Eurer Schule durch.
Quellenlotse: Teste an einem schulischen Recherchethema, welche Fragen ein Quellenlotse stellen müsste, damit Du nicht nur schneller, sondern besser recherchierst.
KI-Nutzungsordnung: Entwirf fünf verständliche Regeln für eine Klasse, die KI im Unterricht verantwortungsvoll nutzen möchte.

Schwer

Risikoanalyse: Analysiere einen geplanten KI-Agenten mit Blick auf Datenschutz, Bias, Transparenz, Lernqualität und menschliche Kontrolle und entwickle konkrete Schutzmaßnahmen.
Prototyping: Baue einen Papierprototyp oder digitalen Ablaufplan für einen KI-Agenten und teste ihn mit Mitschülerinnen und Mitschülern anhand realistischer Aufgaben.
Ethikdebatte: Organisiere eine strukturierte Debatte zur Frage, ob KI-Agenten Lernleistungen bewerten dürfen, und beziehe rechtliche, pädagogische und ethische Perspektiven ein.
Schulentwicklung: Entwickle ein Konzept für eine schulweite Zukunftswerkstatt, in der Lernende, Lehrkräfte, Eltern und Schulleitung gemeinsam Regeln für KI-Agenten erarbeiten.

type=create break=no preload=CHAT GPT TEXT HIER EINFÜGEN default= width=30 placeholder= Dein MOOC Titel buttonlabel=MOOC erstellen </inputbox>

Lernkontrolle

Transferanalyse: Vergleiche zwei Einsatzszenarien, einen KI-Agenten zur Hausaufgabenhilfe und einen KI-Agenten zur Notenempfehlung, und begründe, warum die Anforderungen unterschiedlich hoch sind.
Fallentscheidung: Eine Klasse möchte persönliche Lerntagebücher in ein offenes KI-Tool hochladen, um Feedback zu erhalten. Analysiere Chancen, Risiken und sichere Alternativen.
Konzeptprüfung: Prüfe einen selbst entworfenen Agenten mit der Schulsicherheits-Checkliste und entscheide, welche drei Punkte vor einem Test unbedingt verbessert werden müssen.
Zukunftsentwurf: Beschreibe eine Schule im Jahr 2030, in der KI-Agenten sinnvoll genutzt werden, und erkläre, welche Regeln verhindern, dass Lernen, Gerechtigkeit oder Datenschutz leiden.
Argumentation: Begründe, warum Transparenz bei KI-Nutzung nicht nur eine rechtliche, sondern auch eine pädagogische Bedeutung hat.
Rollenreflexion: Erkläre, wie sich die Rolle der Lehrkraft verändert, wenn KI-Agenten Routineaufgaben unterstützen, und welche Aufgaben menschlich besonders wichtig bleiben.
Projektbewertung: Entwickle Kriterien, mit denen eine Schule nach einer Pilotphase entscheidet, ob ein KI-Agent weiter genutzt, überarbeitet oder abgeschaltet wird.

Lernnachweis

Für den Lernnachweis erstellst Du ein Agenten-Portfolio. Es besteht aus einem Problemaufriss, einem Agenten-Steckbrief, einer Promptkarte, einer Risikoanalyse, einem Testprotokoll und einer Reflexion. Wichtig ist nicht, dass der Agent technisch perfekt funktioniert. Entscheidend ist, dass Du zeigen kannst, wie Du pädagogische Ziele, Datenschutz, Transparenz, Fairness, Kreativität und menschliche Verantwortung zusammendenkst.

Problemaufriss: Beschreibe ein reales schulisches Problem und begründe, warum ein KI-Agent helfen könnte.
Agenten-Steckbrief: Lege Rolle, Zielgruppe, erlaubte Daten, Grenzen und Schutzmaßnahmen fest.
Promptkarte: Formuliere einen sicheren Systemauftrag und zwei Beispielprompts.
Risikoanalyse: Bewerte mindestens vier Risiken und ordne passende Gegenmaßnahmen zu.
Testprotokoll: Dokumentiere einen kleinen Test mit Rückmeldungen und Verbesserungen.
Reflexion: Erkläre, was Du über verantwortliche KI-Gestaltung gelernt hast.

OERs zum Thema

Freie Materialien und Quellen zur Vertiefung

Links

Schulsichere KI-Agenten

aiMOOC-Projekte

Schulfach+

Prüfungsliteratur 2026
Bundesland	Bücher	Kurzbeschreibung
Baden-Württemberg	Abitur Der zerbrochne Krug - Heinrich von Kleist Heimsuchung - Jenny Erpenbeck Mittlere Reife Der Markisenmann - Jan Weiler oder Als die Welt uns gehörte - Liz Kessler Ein Schatten wie ein Leopard - Myron Levoy oder Pampa Blues - Rolf Lappert	Abitur Dorfrichter-Komödie über Wahrheit/Schuld; Roman über einen Ort und deutsche Geschichte. Mittlere Reife Wahllektüren (Roadtrip-Vater-Sohn / Jugendroman im NS-Kontext / Coming-of-age / Provinzroman).
Bayern	Abitur Der zerbrochne Krug - Heinrich von Kleist Heimsuchung - Jenny Erpenbeck	Abitur Lustspiel über Machtmissbrauch und Recht; Roman als Zeitschnitt deutscher Geschichte an einem Haus/Grundstück.
Berlin/Brandenburg	Abitur Der zerbrochne Krug - Heinrich von Kleist Woyzeck - Georg Büchner Der Biberpelz - Gerhart Hauptmann Heimsuchung - Jenny Erpenbeck	Abitur Gerichtskomödie; soziales Drama um Ausbeutung/Armut; Komödie/Satire um Diebstahl und Obrigkeit; Roman über Erinnerungsräume und Umbrüche.
Bremen	Abitur Nach Mitternacht - Irmgard Keun Mario und der Zauberer - Thomas Mann Emilia Galotti - Gotthold Ephraim Lessing oder Miss Sara Sampson - Gotthold Ephraim Lessing	Abitur Roman in der NS-Zeit (Alltag, Anpassung, Angst); Novelle über Verführung/Massenpsychologie; bürgerliche Trauerspiele (Moral, Macht, Stand).
Hamburg	Abitur Der zerbrochne Krug - Heinrich von Kleist Das kunstseidene Mädchen - Irmgard Keun	Abitur Justiz-/Machtkritik als Komödie; Großstadtroman der Weimarer Zeit (Rollenbilder, Aufstiegsträume, soziale Realität).
Hessen	Abitur Der zerbrochne Krug - Heinrich von Kleist Woyzeck - Georg Büchner Heimsuchung - Jenny Erpenbeck Der Prozess - Franz Kafka	Abitur Gerichtskomödie; Fragmentdrama über Gewalt/Entmenschlichung; Erinnerungsroman über deutsche Brüche; moderner Roman über Schuld, Macht und Bürokratie.
Niedersachsen	Abitur Der zerbrochene Krug - Heinrich von Kleist Das kunstseidene Mädchen - Irmgard Keun Die Marquise von O. - Heinrich von Kleist Über das Marionettentheater - Heinrich von Kleist	Abitur Schwerpunkt auf Drama/Roman sowie Kleist-Prosatext und Essay (Ehre, Gewalt, Unschuld; Ästhetik/„Anmut“).
Nordrhein-Westfalen	Abitur Der zerbrochne Krug - Heinrich von Kleist Heimsuchung - Jenny Erpenbeck	Abitur Komödie über Wahrheit und Autorität; Roman als literarische „Geschichtsschichtung“ an einem Ort.
Saarland	Abitur Heimsuchung - Jenny Erpenbeck Furor - Lutz Hübner und Sarah Nemitz Bahnwärter Thiel - Gerhart Hauptmann	Abitur Erinnerungsroman an einem Ort; zeitgenössisches Drama über Eskalation/Populismus; naturalistische Novelle (Pflicht/Überforderung/Abgrund).
Sachsen (berufliches Gymnasium)	Abitur Der zerbrochne Krug - Heinrich von Kleist Woyzeck - Georg Büchner Irrungen, Wirrungen - Theodor Fontane Der gute Mensch von Sezuan - Bertolt Brecht Heimsuchung - Jenny Erpenbeck Der Trafikant - Robert Seethaler	Abitur Mischung aus Klassiker-Drama, sozialem Drama, realistischem Roman, epischem Theater und Gegenwarts-/Erinnerungsroman; zusätzlich Coming-of-age im historischen Kontext.
Sachsen-Anhalt	Abitur (keine fest benannte landesweite Pflichtlektüre veröffentlicht; Themenfelder)	Abitur Schwerpunktsetzung über Themenfelder (u. a. Literatur um 1900; Sprache in politisch-gesellschaftlichen Kontexten), ohne feste Einzeltitel.
Schleswig-Holstein	Abitur Der zerbrochne Krug - Heinrich von Kleist Heimsuchung - Jenny Erpenbeck	Abitur Recht/Gerechtigkeit und historische Tiefenschichten eines Ortes – umgesetzt über Drama und Gegenwartsroman.
Thüringen	Abitur (keine fest benannte landesweite Pflichtlektüre veröffentlicht; Orientierung am gemeinsamen Aufgabenpool)	Abitur In der Praxis häufig Orientierung am gemeinsamen Aufgabenpool; landesweite Einzeltitel je nach Vorgabe/Handreichung nicht einheitlich ausgewiesen.
Mecklenburg-Vorpommern	Abitur (Quelle aktuell technisch nicht abrufbar; Beteiligung am gemeinsamen Aufgabenpool bekannt)	Abitur Land beteiligt sich am länderübergreifenden Aufgabenpool; konkrete, veröffentlichte Einzeltitel konnten hier nicht ausgelesen werden.
Rheinland-Pfalz	Abitur (keine landesweit einheitliche Pflichtlektüre; schulische Auswahl)	Abitur Keine landesweite Einheitsliste; Auswahl kann schul-/kursbezogen erfolgen.