KI und Verantwortung verstehen

Diesen aiMOOC als Battle spielen: Deutsch, Klasse 5-6, G-Niveau

Einleitung

KI und Verantwortung verstehen ist ein Lernkurs für die Klasse 5, der Dir zeigt, wie Du mit Künstlicher Intelligenz selbstständig, kritisch und verantwortungsvoll umgehen kannst. Du brauchst dafür keine technischen Vorkenntnisse. Wichtig ist vor allem eine Idee: KI kann Menschen unterstützen, aber Menschen müssen Ziele setzen, Entscheidungen prüfen, Verantwortung übernehmen und eingreifen können.

Der Kurs ist für etwa 1–2 Unterrichtsstunden gedacht. Du lernst nicht nur Begriffe, sondern entscheidest in realistischen Situationen, prüfst unterschiedliche Interessen, erkennst mögliche Risiken und begründest eigene Urteile. Dabei geht es besonders um menschliche Handlungsfähigkeit, Verantwortung, Transparenz, Datenschutz, Fairness, Grundrechte, Kinderrechte, Medienkompetenz und menschliche Kontrolle.

Das Bild von Mensch und Maschine passt zur Leitfrage des Kurses: Wer bestimmt eigentlich, was mit KI geschieht? Eine KI kann Vorschläge machen, Muster erkennen, Texte erzeugen oder Bilder sortieren. Sie hat aber nicht automatisch das Recht, über Menschen zu bestimmen. Je wichtiger eine Entscheidung für Menschen ist, desto wichtiger sind verständliche Regeln, Kontrolle und die Möglichkeit, eine Entscheidung zu prüfen oder zu ändern.

Video laden

YouTube

YouTube sammelt möglicherweise persönliche Daten. Datenschutzrichtlinie

Fortfahren Ausblenden

Der Trickfilm von fragFINN eignet sich als kindgerechter Einstieg. Beobachte beim Ansehen: Wo hilft KI? Wo macht sie Fehler? Und wann braucht es einen Menschen, der nachdenkt oder eingreift?

Lernziele

Nach dem Kurs kannst Du die Grundidee von Verantwortung bei KI in eigenen Worten erklären, in neuen Situationen wiedererkennen und typische Missverständnisse korrigieren. Du kannst außerdem:

1. Human Agency: erklären, warum Menschen Ziele setzen, Entscheidungen prüfen und bei Bedarf stoppen oder überstimmen müssen.
2. Verantwortung: benennen, wer bei einer KI-Anwendung welche Aufgabe trägt.
3. Stakeholder: verschiedene Betroffene und ihre Interessen erkennen.
4. Wertekonflikt: erklären, warum zum Beispiel Schnelligkeit, Fairness, Datenschutz und Sicherheit manchmal miteinander in Spannung stehen.
5. Grundrechte: Rechte und Werte berücksichtigen, die durch KI berührt werden können.
6. Transparenz: begründen, warum Menschen wissen sollten, wann und wofür KI eingesetzt wird.
7. Quellenkritik: KI-Ausgaben nicht ungeprüft übernehmen, sondern Aussagen und Quellen kontrollieren.
8. Fairness: mögliche Benachteiligungen erkennen und nach Verbesserungen suchen.
9. Menschliche Kontrolle: einen sinnvollen Kontrollpunkt für eine KI-Anwendung entwerfen.
10. Urteilsbildung: eine Entscheidung nachvollziehbar mit Gründen vertreten.

Unterrichtsplan für 1–2 Stunden

Phase	Richtzeit	Was Du tust	Ziel
Aktivierung und Diagnose	8–10 Minuten	Aussagen einschätzen und begründen	Vorwissen und Fehlvorstellungen sichtbar machen
Verständliche Einführung	15–20 Minuten	Bilder, Video und ein einfaches KI-Modell betrachten	KI als Werkzeug in einem Mensch-KI-System verstehen
Fächerübergreifende Mini-Experimente	15–20 Minuten	Daten zählen, Quellen prüfen, Fairness und Sicherheit untersuchen	Zusammenhänge praktisch erkennen
Realistische Fallentscheidung	20–30 Minuten	Stakeholder, Rechte, Werte und Kontrollmöglichkeiten abwägen	Verantwortung und Human Agency trainieren
Selbstkontrolle und Reflexion	10–15 Minuten	Aufgaben lösen, Urteil überprüfen, Missverständnisse korrigieren	Wissen auf neue Fälle übertragen

Wenn nur eine Unterrichtsstunde zur Verfügung steht, konzentriert Euch auf Diagnose, Einführung, die große Fallentscheidung und die abschließende Reflexion. Bei zwei Unterrichtsstunden können zusätzlich die fächerübergreifenden Stationen und mehrere offene Aufgaben bearbeitet werden.

Aktivierung und Diagnose: Was glaubst Du?

Bevor Du weiterliest, entscheide bei jeder Aussage: stimmt eher, stimmt eher nicht oder ich bin unsicher. Begründe Deine Entscheidung in einem Satz. Am Ende des Kurses prüfst Du dieselben Aussagen noch einmal.

Aussage	Deine erste Einschätzung	Dein Grund
Wenn eine KI etwas sehr sicher formuliert, muss es stimmen.
Wenn eine KI eine Entscheidung vorschlägt, bleibt trotzdem jemand für Prüfung und Folgen verantwortlich.
Eine KI ist automatisch fair, weil sie keine Gefühle hat.
Bei wichtigen Entscheidungen über Menschen sollte es eine Möglichkeit geben, dass ein Mensch eingreift.
Mehr Daten sind immer besser, auch wenn sie gar nicht nötig sind.
Man sollte erkennen können, ob ein Inhalt oder eine Entscheidung mit Hilfe von KI entstanden ist.

Merke Dir Deine Antworten. Besonders interessant ist nicht, ob Du am Anfang richtig liegst, sondern ob Du am Ende besser erklären kannst, warum.

Was ist KI – und was ist sie nicht?

KI ist ein Sammelbegriff für Computersysteme, die Aufgaben bearbeiten können, für die Menschen oft Wahrnehmung, Sprache, Planung, Mustererkennung oder Entscheidungen nutzen. Viele heutige KI-Systeme lernen aus Daten oder verwenden gelernte Muster, um neue Eingaben zu bearbeiten. KI ist ein Gebiet der Informatik.

Ein hilfreiches vereinfachtes Modell lautet:

Eingabe → KI-Verarbeitung → Ausgabe → menschliche Prüfung → Handlung

Beispiel: Du gibst einem System ein Bild einer Pflanze. Die KI schlägt eine Pflanzenart vor. Dann prüfst Du den Vorschlag mit einem Bestimmungsbuch oder einer verlässlichen Quelle. Erst danach verwendest Du das Ergebnis für Deine Aufgabe.

Video laden

YouTube

YouTube sammelt möglicherweise persönliche Daten. Datenschutzrichtlinie

Fortfahren Ausblenden

Das Video von SRF Kids erklärt kindgerecht, was KI ist, wie sie im Alltag vorkommt und warum neben Chancen auch Risiken beachtet werden müssen.

Drei wichtige Unterschiede

KI berechnet – Menschen bewerten. Ein KI-System kann Muster verarbeiten und Ergebnisse erzeugen. Es hat dadurch nicht automatisch dieselben Erfahrungen, Gefühle, Werte oder Verantwortungsfähigkeiten wie ein Mensch.

KI kann hilfreich sein – aber auch irren. Ein überzeugend klingender Text kann falsche Angaben enthalten. Ein Bilderkennungssystem kann unter ungewohnten Bedingungen Fehler machen. Deshalb ist Prüfen wichtig.

KI entscheidet nicht allein, wie sie eingesetzt wird. Menschen und Organisationen wählen Ziele, Daten, Regeln, Einsatzorte und Kontrollmöglichkeiten. Deshalb gehört Verantwortung zum gesamten System rund um die KI.

Typische Fehlvorstellungen korrigieren

Fehlvorstellung	Bessere Erklärung
Die KI weiß, was wahr ist.	KI kann plausible Ausgaben erzeugen, die trotzdem falsch sein können. Aussagen müssen geprüft werden.
Eine Maschine ist automatisch neutral.	Daten, Auswahlregeln und Ziele stammen aus einer bestimmten Situation. Dadurch können Fehler oder Benachteiligungen entstehen.
Wenn die KI entschieden hat, ist niemand verantwortlich.	Menschen und Organisationen tragen weiterhin Verantwortung dafür, ob und wie KI eingesetzt, überwacht und korrigiert wird.
Transparenz bedeutet, dass jeder den gesamten Programmcode lesen muss.	Für Lernende ist vor allem wichtig, verständlich zu wissen, dass KI eingesetzt wird, wofür sie genutzt wird, welche Datenarten eine Rolle spielen und wie man eine Entscheidung prüfen oder anfechten kann.
Mehr Daten sind immer besser.	Daten sollten passend, ausreichend, möglichst fehlerarm und nur soweit nötig verwendet werden. Datenschutz bleibt wichtig.
Wenn KI schnell ist, ist sie automatisch die beste Lösung.	Schnelligkeit ist nur ein Wert unter mehreren. Fairness, Sicherheit, Datenschutz, Teilhabe und Nachvollziehbarkeit können wichtiger sein.

Human Agency: Der Mensch bleibt handlungsfähig

Human Agency bedeutet hier menschliche Handlungsfähigkeit. Du sollst nicht nur Empfänger einer KI-Ausgabe sein. Menschen sollen verstehen, was passiert, eigene Ziele setzen, Vorschläge hinterfragen, Entscheidungen mitgestalten und im nötigen Fall eingreifen können. In Leitlinien für vertrauenswürdige KI wird dies mit menschlicher Aufsicht und der Möglichkeit verbunden, Entscheidungen zu kontrollieren oder KI auch nicht einzusetzen.

Beispiel aus der Schule: Eine KI schlägt Dir drei Themen für ein Referat vor. Human Agency bedeutet nicht, dass Du automatisch Thema 1 nimmst. Du vergleichst die Vorschläge, formulierst vielleicht ein eigenes Thema, fragst nach Gründen und entscheidest mit Deiner Lehrkraft, was zu Deinem Lernziel passt.

Menschliche Kontrolle ist mehr als ein Not-Aus

Menschliche Kontrolle kann an mehreren Stellen stattfinden:

1. Zielsetzung: Menschen entscheiden, wofür KI überhaupt eingesetzt werden soll.
2. Datenprüfung: Menschen prüfen, ob die verwendeten Daten passend und zulässig sind.
3. Ergebnisprüfung: Menschen kontrollieren wichtige Ausgaben.
4. Eingriff: Menschen können Vorschläge ändern, stoppen oder ablehnen.
5. Beschwerde und Korrektur: Betroffene können eine Entscheidung hinterfragen.
6. Nachbereitung: Fehler werden untersucht und Regeln verbessert.

Das bedeutet: Verantwortung beginnt vor dem Knopfdruck und endet nicht mit der Ausgabe.

Verantwortung: Wer trägt sie?

Verantwortung bedeutet, für Aufgaben, Entscheidungen und Folgen einzustehen. Bei KI verteilt sich Verantwortung oft auf mehrere Personen oder Gruppen. Deshalb hilft die Frage: Wer kann was beeinflussen?

Rolle	Mögliche Verantwortung
Entwicklerinnen und Entwickler	System gestalten, testen, Grenzen dokumentieren und Sicherheitsrisiken beachten
Schule oder Organisation	Entscheiden, ob das System für den Zweck geeignet ist und welche Regeln gelten
Lehrkraft	Ergebnisse pädagogisch prüfen und keine wichtige Entscheidung blind übernehmen
Lernende	KI-Ausgaben kritisch prüfen, Quellen kennzeichnen und vereinbarte Regeln einhalten
Eltern oder Sorgeberechtigte	Bei altersrelevanten Fragen begleiten und Interessen des Kindes vertreten
Betroffene	Rückmeldung geben, Fehler melden und eigene Perspektive einbringen

Wichtig ist: Eine KI selbst kann nicht als Ausrede dienen. Der Satz „Das hat die KI so entschieden“ beantwortet noch nicht, wer das System ausgewählt, eingestellt, überwacht und für die Entscheidung verwendet hat.

Rechte, Werte und Fairness

Wenn KI Kinder betrifft, sind Kinderrechte besonders wichtig. Dazu gehören unter anderem Schutz, Privatsphäre, Beteiligung, Nichtdiskriminierung, Entwicklung und das Wohl des Kindes. UNICEF empfiehlt für kindzentrierte KI unter anderem Sicherheit, Datenschutz, Fairness, Transparenz, Verantwortlichkeit und die Achtung von Kinderrechten.

Bei KI-Fragen können verschiedene Grundrechte und Werte berührt sein, zum Beispiel Menschenwürde, Gleichbehandlung, Privatsphäre, Schutz persönlicher Daten, Bildung, Teilhabe und freie Meinungsbildung. In einem konkreten Fall müssen diese Aspekte gemeinsam betrachtet werden.

Fair heißt nicht immer: Alle bekommen genau dasselbe

Fairness kann bedeuten, gleiche Regeln anzuwenden. Manchmal braucht Fairness aber auch unterschiedliche Unterstützung, weil Menschen verschiedene Voraussetzungen haben. Deshalb ist die Frage „Ist das fair?“ oft anspruchsvoller als „Hat die KI für alle dieselbe Formel benutzt?“.

Beispiel: Eine automatische Spracherkennung versteht manche Sprechweisen schlechter als andere. Wenn dadurch bestimmte Kinder häufiger falsche Ergebnisse erhalten, wäre es nicht genug zu sagen: „Das Programm wurde bei allen gleich verwendet.“ Entscheidend ist auch, wie sich das System auf verschiedene Menschen auswirkt.

Das Bild steht für Verzerrung. Bei KI kann eine Verzerrung entstehen, wenn Daten, Auswahlregeln oder Messmethoden manche Gruppen oder Situationen schlechter abbilden. Eine ungleiche Datenmenge ist dabei ein Warnsignal, aber noch kein Beweis für eine unfaire Entscheidung. Man muss die tatsächlichen Fehler und Folgen untersuchen.

Mini-Labor Mathematik und Informatik: Daten zählen

Stell Dir vor, ein Bilderkennungssystem soll zwischen zwei Tierarten unterscheiden. Zum Üben erhält es diese Beispieldaten:

Tierart in den Trainingsbeispielen	Anzahl Bilder
Katzen	16
Hunde	4

1. Anteile bestimmen: Welcher Anteil der 20 Bilder zeigt Katzen? Welcher Anteil zeigt Hunde?
2. Warnsignal erkennen: Warum könnte diese Verteilung Anlass sein, genauer zu testen?
3. Fehler vergleichen: Angenommen, das System erkennt 9 von 10 Katzenbildern richtig, aber nur 5 von 10 Hundebildern. Was fällt Dir auf?
4. Verbesserung planen: Welche zusätzlichen Testbilder würdest Du sammeln?

Wichtig: Aus einer ungleichen Anzahl allein folgt nicht sicher, dass ein System unfair ist. Du brauchst Tests. Mathematik hilft Dir dabei, Fehlerzahlen und Anteile sichtbar zu machen.

Mini-Labor Naturwissenschaften und Informatik: Bedingungen testen

Bei einem naturwissenschaftlichen Experiment veränderst Du möglichst nur eine Bedingung. Diese Idee kannst Du auf KI übertragen.

Versuchsidee ohne persönliche Daten: Nutzt vorbereitete Bilder desselben Gegenstands, zum Beispiel eines Apfels, unter verschiedenen Bedingungen: heller Hintergrund, dunkler Hintergrund, Schatten, teilweise verdeckt, gedreht. Vergleicht vorgegebene KI-Ergebnisse oder Ergebnisse eines von der Lehrkraft freigegebenen Systems.

Bedingung	Vorhersage	Richtig?	Vermutung zum Fehler
hell
dunkel
verdeckt
gedreht

Achte darauf, keine Gesichter, Namen, Adressen oder anderen persönlichen Daten hochzuladen. Ziel ist nicht, das System „auszutricksen“, sondern zu verstehen, dass Sicherheit und Zuverlässigkeit unter verschiedenen Bedingungen geprüft werden müssen.

Mini-Labor Deutsch und Medienbildung: Behauptung oder Beleg?

Eine KI antwortet auf die Frage nach einem seltenen Tier:

„Der Mondfisch schläft jeden Winter sechs Monate lang auf dem Meeresboden.“

Du weißt nicht, ob die Aussage stimmt. Gehe deshalb so vor:

1. Behauptung markieren: Was genau wird behauptet?
2. Quelle suchen: Finde zwei voneinander unabhängige, verlässliche Quellen.
3. Autorität prüfen: Wer veröffentlicht die Information und mit welchem Fachwissen?
4. Datum prüfen: Ist die Information aktuell genug?
5. Vergleichen: Stimmen die Quellen überein?
6. Urteil formulieren: Schreibe „bestätigt“, „widerlegt“ oder „noch unklar“ und nenne Deinen Grund.

Die zentrale Medienregel lautet: Eine flüssige Formulierung ist kein Beweis. Quellenkritik bleibt Deine Aufgabe.

Mini-Labor Kunst und Medienbildung: Wer gestaltet?

Bei einem KI-erzeugten Bild treffen mehrere Einflüsse zusammen: die Person, die ein Ziel und eine Beschreibung vorgibt, die Gestaltung des Systems, die Daten und Regeln des Modells sowie spätere Auswahl und Bearbeitung.

Aufgabe: Zeichne selbst ein Fantasietier. Lass Dir anschließend – nur wenn Eure Schulregeln es erlauben – von einem freigegebenen KI-System eine zweite Idee beschreiben oder erzeugen. Vergleiche:

1. Gestaltungsentscheidung: Welche Entscheidungen hast Du selbst getroffen?
2. Überarbeitung: Was würdest Du an der KI-Idee verändern?
3. Kennzeichnung: Wie würdest Du kenntlich machen, dass KI beteiligt war?
4. Urheberrecht und Verantwortung: Welche Quellen, Rechte oder fremden Inhalte könnten eine Rolle spielen?
5. Kreativität: Warum ist „KI hat das Bild gemacht“ oft eine zu einfache Beschreibung des gesamten Gestaltungsprozesses?

Transparenz und Datenschutz

Transparenz bedeutet in diesem Kurs: Betroffene sollen verständlich erkennen können, dass KI verwendet wird, welchem Zweck sie dient, welche Informationen ungefähr einfließen, welche Grenzen bekannt sind und wie ein Ergebnis geprüft werden kann.

Datenschutz bedeutet: Persönliche Daten dürfen nicht beliebig gesammelt oder weitergegeben werden. Für eine verantwortungsvolle KI-Nutzung ist eine gute Frage: Brauchen wir diese Daten wirklich für unser Ziel?

Beispiel: Für eine KI, die den Papierverbrauch der Schule vorhersagen soll, braucht man möglicherweise Zahlen zu vergangenen Papierbestellungen. Namen einzelner Kinder wären dafür wahrscheinlich unnötig. Verantwortungsvolles Handeln bedeutet deshalb auch, Daten zu vermeiden, die für den Zweck nicht gebraucht werden.

Sicherheitsregel für Klasse 5

Gib ohne Erlaubnis der Lehrkraft oder Sorgeberechtigten keine persönlichen Daten wie vollständigen Namen, Adresse, Telefonnummer, Passwörter, Gesundheitsinformationen, private Fotos oder vertrauliche Schulunterlagen in KI-Systeme ein. Wenn Du unsicher bist, frage zuerst.

Der KI-Verantwortungs-Kompass

Der folgende Kompass hilft Dir bei fast jeder KI-Entscheidung:

Kompassfrage	Was Du prüfst
1. Ziel	Welches Problem soll überhaupt gelöst werden? Brauchen wir dafür KI?
2. Betroffene	Wer nutzt das System und wer kann Folgen spüren?
3. Daten	Welche Daten werden gebraucht? Sind persönliche Daten nötig?
4. Rechte und Werte	Welche Rechte, Interessen und Werte können berührt werden?
5. Fairness und Sicherheit	Wer könnte benachteiligt werden? Was passiert bei einem Fehler?
6. Menschliche Kontrolle	Wer prüft, stoppt, ändert oder verwirft eine KI-Ausgabe?
7. Transparenz	Können Betroffene verstehen, dass und wofür KI eingesetzt wird?
8. Begründung	Können wir unsere Entscheidung mit nachvollziehbaren Gründen erklären?

Der Kompass liefert nicht automatisch eine einzige „richtige“ Antwort. Er macht aber sichtbar, welche Fragen Menschen selbst beantworten müssen.

Realistische Anwendungssituation: Wer bekommt einen Platz?

Stell Dir vor, Deine Schule bietet einen neuen Forscherfreitag an. Es gibt 12 Plätze, aber 30 Kinder möchten teilnehmen. Die Schulleitung überlegt, ein KI-System eine Rangliste erstellen zu lassen.

Das System soll folgende Daten verwenden:

1. letzte Mathematik- und Sachkundennoten,
2. Ergebnisse aus einem Online-Quiz,
3. Fehlzeiten,
4. kurze Lehrkraftnotizen.

Die KI soll daraus für jedes Kind eine Punktzahl berechnen.

Mehrere Menschen haben unterschiedliche Interessen:

Stakeholder	Interesse oder Sorge
Schülerinnen und Schüler	Wollen eine faire Chance und möchten verstehen, wie entschieden wird.
Lehrkräfte	Möchten eine gute Auswahl treffen, haben aber wenig Zeit.
Schulleitung	Möchte eine nachvollziehbare und organisatorisch einfache Lösung.
Eltern	Sorgen sich um Datenschutz und falsche Benachteiligungen.
Schulsozialarbeit	Warnt davor, dass Fehlzeiten ganz unterschiedliche Gründe haben können.
Anbieter des KI-Systems	Verspricht eine schnelle Auswertung.

Der Zielkonflikt

Die Schule möchte schnell entscheiden. Gleichzeitig soll die Auswahl fair, datensparsam, verständlich und korrigierbar sein. Diese Ziele können miteinander in Spannung stehen.

Diskutiert drei Möglichkeiten:

Variante A: Die KI-Rangliste entscheidet automatisch.

Variante B: Die KI darf höchstens einen Vorschlag machen. Ein menschliches Team prüft Kriterien, besondere Umstände und mögliche Fehler. Kinder können nachfragen und eine Überprüfung verlangen.

Variante C: Die Schule verwendet für die Platzvergabe keine KI und entwickelt ein anderes Verfahren, zum Beispiel Losanteile, Motivationsfragen und reservierte Plätze für unterschiedliche Interessenlagen.

Deine Entscheidungsaufgabe

Arbeite mit dem KI-Verantwortungs-Kompass. Schreibe zu jeder Frage mindestens einen Satz:

1. Ziel klären: Was ist das eigentliche Ziel der Platzvergabe?
2. Stakeholder prüfen: Wer könnte von der Entscheidung besonders betroffen sein?
3. Datensparsamkeit: Welche Daten würdest Du streichen oder kritisch prüfen?
4. Fairness: Warum könnten Fehlzeiten ein problematisches Kriterium sein?
5. Transparenz: Was müssten Kinder über das Verfahren wissen?
6. Menschliche Kontrolle: An welcher Stelle muss ein Mensch eingreifen können?
7. Beschwerde: Wie kann ein Kind sagen, dass eine Entscheidung überprüft werden soll?
8. Urteil: Für welche Variante entscheidest Du Dich – oder entwickelst Du eine bessere Variante?
9. Begründung: Nenne mindestens drei Gründe und mindestens einen möglichen Nachteil Deiner eigenen Lösung.

Wichtig: Es gibt nicht in jedem Detail nur eine vertretbare Lösung. Entscheidend ist, ob Dein Urteil Rechte, Werte, Betroffene, Risiken und Kontrollmöglichkeiten nachvollziehbar berücksichtigt.

Zweite Anwendung: KI schreibt für die Schülerzeitung

Die Schülerzeitung möchte einen Artikel über den neuen Schulgarten veröffentlichen. Ein Team lässt von einer KI einen fertigen Text erzeugen. Der Text klingt gut, enthält aber zwei erfundene Angaben über Pflanzen und nennt eine Lehrerin mit einem falschen Zitat.

Entwickelt in Gruppen einen verantwortungsvollen Arbeitsablauf:

1. Auftrag: Menschen legen Thema, Zielgruppe und Fragestellung fest.
2. Recherche: Verlässliche Quellen und eigene Beobachtungen werden gesammelt.
3. KI-Nutzung: KI darf Ideen oder Formulierungsvorschläge liefern, wenn die Schulregeln dies erlauben.
4. Faktencheck: Aussagen werden mit Quellen geprüft.
5. Persönlichkeitsrechte: Zitate und Namen werden nicht erfunden.
6. Redaktion: Menschen wählen aus, überarbeiten und verantworten die Veröffentlichung.
7. Transparenz: Die Nutzung von KI wird entsprechend den vereinbarten Regeln kenntlich gemacht.

Dieses Beispiel zeigt Human Agency besonders deutlich: Die Lernenden bleiben Autorinnen und Autoren ihrer Entscheidungen, auch wenn ein Werkzeug Vorschläge liefert.

Fächerübergreifende Bezüge

Fach	Verbindung zum Thema	Handlungsorientierte Aufgabe
Informatik	Daten, Modelle, Eingabe und Ausgabe, Testen, Fehler, menschliche Kontrolle	Zeichne einen Mensch-KI-Regelkreis und markiere Kontrollpunkte.
Deutsch	Argumentieren, Quellenkritik, Behauptung und Beleg, sprachliche Wirkung	Prüfe einen KI-Text und schreibe eine begründete Korrektur.
Mathematik	Häufigkeiten, Anteile, Fehlerzahlen, Vergleiche	Vergleiche Trefferquoten für zwei Testgruppen und erkläre, was die Zahlen zeigen und was nicht.
Naturwissenschaften	Experimentieren, Variablen, Messfehler, Zuverlässigkeit	Teste dieselbe Aufgabe unter veränderten Bedingungen und dokumentiere Unterschiede.
Kunst	Bildgestaltung, Autorschaft, Auswahl, Bearbeitung, Kennzeichnung	Erstelle eine eigene Bildidee und analysiere den Anteil menschlicher Entscheidungen.
Ethik	Verantwortung, Werte, Rechte, Fairness, Zielkonflikte	Führe eine Stakeholder-Debatte mit begründetem Urteil.
Medienbildung	Transparenz, Datenschutz, Quellenkritik, KI-Kennzeichnung, Desinformation	Entwickle eine Prüfliste für KI-Inhalte.

Vertiefendes Video

Video laden

YouTube

YouTube sammelt möglicherweise persönliche Daten. Datenschutzrichtlinie

Fortfahren Ausblenden

Die Reportage von Checker Tobi zeigt verschiedene Anwendungen von KI. Beobachte beim Ansehen besonders, welche Aufgaben Menschen übernehmen und an welchen Stellen ein KI-System geprüft oder begrenzt werden muss.

Selbstkontrolle: Drei Sätze, die Du erklären können solltest

Formuliere zu jedem Satz ein eigenes Beispiel:

1. Eine KI-Ausgabe ist ein Vorschlag oder Ergebnis, aber noch keine Begründung dafür, dass eine Handlung richtig ist.

2. Je größer die möglichen Folgen für Menschen, desto wichtiger sind Kontrolle, Transparenz und eine Möglichkeit zur Korrektur.

3. Verantwortungsvolle KI-Nutzung heißt nicht, KI immer zu benutzen. Manchmal ist die beste Entscheidung, ein anderes Verfahren zu wählen.

Reflexion und Transfer

Kehre jetzt zu den Aussagen aus der Aktivierung zurück. Ändere Deine Einschätzung, wenn Du heute anders denkst. Ergänze zu jeder geänderten Antwort den Satz:

„Ich denke jetzt anders, weil …“

Beantworte anschließend diese Transferfrage:

Eine KI schlägt vor, welche Bücher Dir die Schulbibliothek anzeigen soll. Welche Teile des KI-Verantwortungs-Kompasses sind hier wichtig? Was wäre anders, wenn dieselbe KI darüber entscheiden sollte, wer einen Schulpreis bekommt?

Achte darauf, dass Du nicht nur sagst „Das zweite Beispiel ist wichtiger“, sondern erklärst, welche Folgen, Rechte, Daten und Kontrollmöglichkeiten sich unterscheiden.

Interaktive Aufgaben

Quiz: Teste Dein Wissen

Eine KI schlägt vor, welches Kind einen Förderplatz bekommt. Was stärkt Human Agency am meisten? (Ein Mensch prüft den Vorschlag und das Kind kann eine Überprüfung verlangen) (!Die KI entscheidet automatisch, weil sie schneller ist) (!Die Punktzahl bleibt geheim, damit niemand diskutiert) (!Alle Daten werden gesammelt, auch wenn sie nicht nötig sind)

Ein KI-Text nennt eine überraschende Tierart als schnellstes Tier der Welt. Was ist der beste nächste Schritt? (Die Behauptung mit verlässlichen unabhängigen Quellen prüfen) (!Die Aussage übernehmen, weil sie flüssig formuliert ist) (!Die Aussage nur dann glauben, wenn sie lang erklärt wird) (!Die Aussage übernehmen, wenn niemand sofort widerspricht)

Eine Schule möchte KI nutzen, um den Papierverbrauch vorherzusagen. Welche Datennutzung ist am verantwortungsvollsten? (Nur die für die Vorhersage nötigen Verbrauchsdaten verwenden) (!Namen aller Schülerinnen und Schüler hinzufügen) (!Private Chatnachrichten der Klassen einbeziehen) (!Alle verfügbaren Daten sammeln, falls sie irgendwann helfen)

Zwei Gruppen erhalten bei derselben KI-Aufgabe sehr unterschiedliche Fehlerquoten. Was sollte man zuerst tun? (Die Unterschiede genauer testen und mögliche Ursachen untersuchen) (!Die schlechtere Gruppe ausschließen) (!Die Zahlen geheim halten) (!Annehmen, dass die KI deshalb absichtlich unfair ist)

Was bedeutet Transparenz bei einer schulischen KI-Anwendung besonders? (Betroffene erfahren verständlich, dass und wofür KI eingesetzt wird) (!Niemand außer der Hersteller darf wissen, dass KI beteiligt ist) (!Alle müssen den vollständigen Programmcode auswendig kennen) (!Die KI darf keine Grenzen oder Fehler haben)

Warum ist der Satz Das hat die KI entschieden keine ausreichende Verantwortungsbegründung? (Weil Menschen auswählen, einsetzen, prüfen und auf Folgen reagieren müssen) (!Weil KI niemals Daten verarbeitet) (!Weil Computer keine Ergebnisse erzeugen können) (!Weil nur Schülerinnen und Schüler Verantwortung tragen)

Eine KI ist beim Erkennen von Bildern im Dunkeln deutlich schlechter als bei Tageslicht. Was zeigt das? (Das System sollte unter verschiedenen realistischen Bedingungen getestet werden) (!Das System ist deshalb in jeder Situation unbrauchbar) (!Dunkle Bilder sind grundsätzlich falsche Daten) (!Ein einzelner Test reicht für eine sichere Bewertung)

Bei einer Entscheidung stehen Schnelligkeit und Fairness in Spannung. Was ist verantwortungsvolle Urteilsbildung? (Beide Werte und die Folgen für Betroffene begründet abwägen) (!Immer die schnellste Lösung wählen) (!Immer nur die billigste Lösung wählen) (!Die Entscheidung vollständig an die KI abgeben)

Wann kann es verantwortungsvoll sein, eine KI nicht einzusetzen? (Wenn Risiken oder Nachteile größer sind als der erwartete Nutzen) (!Nie, denn KI muss immer verwendet werden) (!Nur wenn das Gerät ausgeschaltet ist) (!Nur wenn niemand die KI interessant findet)

Eine KI erzeugt für die Schülerzeitung ein angebliches Zitat einer Lehrkraft. Was ist richtig? (Das Zitat nicht veröffentlichen, sondern die Person und Quelle prüfen) (!Das Zitat veröffentlichen, wenn es gut klingt) (!Das Zitat anonym veröffentlichen, obwohl es erfunden ist) (!Das Zitat als Tatsache behandeln, weil eine KI es geschrieben hat)

Memory

Human Agency	Menschen setzen Ziele und bleiben handlungsfähig
Transparenz	KI-Einsatz und Zweck werden verständlich gemacht
Datenschutz	Persönliche Informationen werden geschützt
Fairness	Benachteiligungen werden geprüft und vermieden
Kontrolle	Menschen können prüfen eingreifen und stoppen
Stakeholder	Betroffene und Beteiligte einer Entscheidung
Quellenkritik	Aussagen werden mit verlässlichen Belegen geprüft
Verantwortung	Zuständigkeit für Entscheidungen und Folgen

Drag and Drop

Ordne die richtigen Begriffe zu.	Thema
Mensch bleibt entscheidungsfähig	Human Agency
KI-Einsatz wird erkennbar erklärt	Transparenz
Nur nötige persönliche Informationen nutzen	Datenschutz
Benachteiligungen untersuchen	Fairness
Ausgabe kann gestoppt oder geändert werden	Menschliche Kontrolle

Kreuzworträtsel

Fairness	Wie heißt das Prinzip das ungerechte Benachteiligung vermeiden soll?
Kontrolle	Wie heißt die Möglichkeit menschlich zu prüfen einzugreifen oder zu stoppen?
Transparenz	Wie heißt es wenn KI-Einsatz und Zweck verständlich gemacht werden?
Datenschutz	Welcher Begriff beschreibt den Schutz persönlicher Informationen?
Verantwortung	Wie heißt das Einstehen für Aufgaben Entscheidungen und Folgen?
Menschenrechte	Wie heißen grundlegende Rechte die jedem Menschen zustehen?

Lückentext

Vervollständige den Text.

Eine KI kann Vorschläge erzeugen, aber Menschen bleiben für wichtige Entscheidungen . Menschliche Handlungsfähigkeit wird auch als bezeichnet. Vor einem KI-Einsatz sollte zuerst das geklärt werden. Personen oder Gruppen, die von einer Entscheidung betroffen sind, heißen . Persönliche Informationen sollen durch geschützt werden. Wenn eine KI manche Gruppen häufiger benachteiligt, muss die geprüft werden. Betroffene sollten verstehen können, wann und wofür KI eingesetzt wird; das gehört zur . Eine wichtige KI-Ausgabe sollte nicht blind übernommen, sondern durch menschliche geprüft werden. Aussagen aus KI-Texten benötigen bei wichtigen Themen verlässliche . Eine verantwortungsvolle Entscheidung darf auch lauten, eine KI einzusetzen.

Offene Aufgaben

Leicht

1. KI-Tagebuch: Notiere einen Tag lang drei Situationen, in denen Dir wahrscheinlich algorithmische oder KI-gestützte Systeme begegnen. Schreibe jeweils dazu, wer vermutlich das Ziel festgelegt hat und wo Menschen entscheiden.
2. Fehlvorstellungen-Plakat: Gestalte ein Plakat mit drei typischen Fehlvorstellungen über KI und einer verständlichen Korrektur für jüngere Kinder.
3. Quellencheck: Nimm eine sachliche Behauptung aus einem KI-Text oder einem vorbereiteten Arbeitsblatt und überprüfe sie mit zwei verlässlichen Quellen. Dokumentiere Deinen Weg.
4. Datensparsamkeit: Erfinde eine harmlose Schul-KI-Anwendung und liste auf, welche Daten sie wirklich braucht und welche Daten unnötig wären.

Standard

1. Stakeholder-Rollenspiel: Spielt die Fallentscheidung zum Forscherfreitag mit Rollen für Kinder, Lehrkräfte, Eltern, Schulleitung und Schulsozialarbeit. Jede Rolle nennt Interessen, Sorgen und einen Kompromiss.
2. KI-Verantwortungs-Kompass: Wende den Kompass auf eine neue Situation an, zum Beispiel eine KI-Empfehlung für Schulbücher, Pausenspiele oder Lernaufgaben.
3. Fairness-Test: Entwickelt mit vorbereiteten Beispieldaten einen kleinen Testplan. Entscheidet, welche Gruppen oder Bedingungen getrennt betrachtet werden sollten und warum.
4. Medienkennzeichnung: Entwerft ein verständliches Symbol oder einen kurzen Hinweis, mit dem eine Schülerzeitung KI-Unterstützung transparent machen könnte.

Schwer

1. Kontrollplan: Entwerft für eine schulische KI-Anwendung einen Ablauf mit mindestens drei menschlichen Kontrollpunkten, einer Möglichkeit zur Beschwerde und einer Regel für Fehlerfälle.
2. Wertekonflikt-Debatte: Diskutiert einen Fall, in dem Schnelligkeit, Datenschutz, Fairness und Lernchancen nicht gleichzeitig vollständig erfüllt werden können. Formuliert danach ein begründetes Gruppenurteil.
3. Mini-Audit: Prüft eine fiktive KI-Anwendung mit den Kategorien Ziel, Betroffene, Daten, Rechte, Fairness, Sicherheit, Transparenz, menschliche Kontrolle und Verantwortung. Gebt am Ende die Empfehlung einsetzen, verändern oder nicht einsetzen.
4. Transfer-Erklärvideo: Produziert ein 2- bis 3-minütiges Erklärvideo für eine Parallelklasse: Was bedeutet Verantwortung bei KI? Verwendet ein eigenes Fallbeispiel, korrigiert mindestens zwei Fehlvorstellungen und zeigt eine menschliche Kontrollmöglichkeit.

Lernkontrolle

1. Neuer Fall analysieren: Eine KI empfiehlt, welche Kinder beim Schulfest auf der Bühne auftreten dürfen. Analysiere Ziel, Stakeholder, Daten, Rechte, mögliche Benachteiligungen und mindestens zwei Kontrollmöglichkeiten. Begründe, ob und wie Du die KI einsetzen würdest.
2. Werte abwägen: Eine Lehrkraft kann durch KI sehr viel Zeit sparen, aber die Ergebnisse sind nicht immer nachvollziehbar. Erkläre den Zielkonflikt und entwickle eine Lösung, die sowohl Entlastung als auch verantwortungsvolle Kontrolle berücksichtigt.
3. Fehlvorstellung korrigieren: Ein Mitschüler sagt: „Eine KI kann nicht unfair sein, weil sie keine Gefühle hat.“ Schreibe eine Antwort mit einem konkreten Beispiel und erkläre den Unterschied zwischen Absicht und Wirkung.
4. Mensch-KI-Regelkreis gestalten: Zeichne für eine selbst gewählte Schulaufgabe einen Ablauf von menschlichem Ziel über KI-Unterstützung bis zur menschlichen Entscheidung. Markiere mindestens zwei Stellen, an denen geprüft oder gestoppt werden kann.
5. Quellenurteil: Du erhältst zwei widersprüchliche KI-Antworten auf dieselbe Sachfrage. Beschreibe einen Prüfplan, mit dem Du ohne bloßes Raten zu einem begründeten Urteil kommst.
6. Transfer auf Grundrechte: Erkläre an einem neuen Beispiel, wie eine KI-Anwendung gleichzeitig nützlich sein und trotzdem Privatsphäre, Gleichbehandlung oder Teilhabe gefährden kann. Schlage eine Verbesserung vor.

Lernnachweis

Für einen Lernnachweis zu KI und Verantwortung verstehen ist wichtig, dass Du nicht nur Begriffe wiedergeben kannst, sondern Zusammenhänge begründet erklärst. Du solltest zeigen können:

1. Grundidee: KI kann unterstützen, aber menschliche Handlungsfähigkeit und Verantwortung dürfen nicht verschwinden.
2. Human Agency: Menschen setzen Ziele, hinterfragen Vorschläge und können eingreifen oder auf KI verzichten.
3. Stakeholderanalyse: Du erkennst verschiedene Betroffene und ihre Interessen.
4. Rechte und Werte: Du berücksichtigst Fairness, Sicherheit, Datenschutz, Transparenz und wichtige Rechte.
5. Zielkonflikte: Du kannst erklären, warum zwei gute Ziele miteinander in Spannung stehen können.
6. Menschliche Kontrolle: Du entwickelst konkrete Kontroll- und Korrekturmöglichkeiten.
7. Quellenkritik: Du überprüfst Behauptungen und trennst überzeugende Sprache von verlässlichen Belegen.
8. Fehlvorstellungen: Du kannst typische falsche Vorstellungen über KI verständlich korrigieren.
9. Transfer: Du wendest den KI-Verantwortungs-Kompass auf eine neue Situation an.
10. Urteilsbegründung: Du formulierst eine eigene Entscheidung mit nachvollziehbaren Gründen und nennst auch Grenzen oder Nachteile Deiner Lösung.

OERs zum Thema

Frei verwendbare Medien und Vertiefung

Die im Kurs eingebundenen Wikimedia-Commons-Dateien besitzen auf ihren Dateibeschreibungsseiten Angaben zu Urheberschaft und Lizenz. Besonders geeignet zum Weiterarbeiten sind:

1. Kinderrechtskonvention als visuelle Grundlage für Rechte und Schutz.
2. Symbol für algorithmische Verzerrung und Fairness.
3. Symbol für Privatsphäre und Datenschutz.
4. Waage als Gesprächsanlass für Gerechtigkeit und Werteabwägung.
5. Symbol zur Verbindung von KI und Menschenrechten.
6. Bildimpuls zur Beziehung zwischen Mensch und Technik.

Verknüpfte Lernbereiche

KI und Verantwortung verstehen Künstliche Intelligenz Human Agency Verantwortung Menschliche Kontrolle Transparenz Datenschutz Fairness Grundrechte Kinderrechte Quellenkritik Medienkompetenz Ethik der Künstlichen Intelligenz

Der Lernkurs verbindet mehrere Fächer und Kompetenzbereiche: In Informatik geht es um Daten, Modelle und Kontrollpunkte; in Deutsch um Sprache, Argumentation und Quellenkritik; in Mathematik um Anteile und Fehlervergleiche; in den Naturwissenschaften um Testbedingungen und Zuverlässigkeit; in Kunst um Gestaltung, Auswahl und Kennzeichnung; in Ethik um Rechte, Werte und Verantwortung; in der Medienbildung um Transparenz, Datenschutz und verantwortungsvolle Nutzung.