Die Druckversion wird nicht mehr unterstützt und kann Darstellungsfehler aufweisen. Bitte aktualisiere deine Browser-Lesezeichen und verwende stattdessen die Standard-Druckfunktion des Browsers.

Diesen aiMOOC als Battle spielen: Deutsch, Klasse 7-8, G-Niveau

KI und menschliche Werte vergleichen

Zielgruppe: Schule, Schwerpunkt Klasse 8 Zeitbedarf: etwa 1–2 Unterrichtsstunden Leitfrage: Wie können Menschen KI nutzen, ohne Verantwortung, Grundrechte und eigene Urteilskraft an ein technisches System abzugeben?

KI kann Texte erzeugen, Bilder analysieren, Muster erkennen, Empfehlungen berechnen oder Daten sortieren. Aber eine KI entscheidet nicht automatisch, was für Menschen gut, gerecht oder richtig ist. Ziele, Daten, Regeln und Einsatzbedingungen werden von Menschen und Organisationen festgelegt. Deshalb ist die entscheidende Frage nicht nur: Was kann KI? Ebenso wichtig ist: Was soll KI dürfen, wer kontrolliert sie und wer trägt Verantwortung?

In diesem Lernkurs lernst Du, menschliche Werte mit den Eigenschaften von KI-Systemen zu vergleichen. Du übst, geeignete Werkzeuge auszuwählen, KI und menschliche Arbeit sinnvoll aufzuteilen, Quellen kritisch zu prüfen, Interessenkonflikte zu erkennen und begründete Entscheidungen zu treffen.

Einleitung

Stell Dir vor, Deine Schule möchte 20 Plätze für ein Technikprojekt vergeben. 60 Schülerinnen und Schüler bewerben sich. Um Zeit zu sparen, soll ein KI-System die Bewerbungen vorsortieren. Das System berücksichtigt Motivationstexte, bisherige Technik-Erfahrungen, Anwesenheit und Entfernung zur Schule.

Klingt praktisch. Doch sofort entstehen Fragen: Haben alle Jugendlichen dieselben Chancen auf Vorerfahrungen? Darf die Wohngegend ein Kriterium sein? Kann ein Motivationstext zuverlässig zeigen, wer besonders geeignet ist? Wer prüft Fehler? Können Betroffene widersprechen? Soll eine KI nur unterstützen oder tatsächlich auswählen?

Genau solche Situationen zeigen, warum Künstliche Intelligenz, Ethik, Menschenrechte, Datenschutz, Algorithmen und Medienkompetenz zusammengehören.

Beobachtungsauftrag: Betrachte das Bild nicht als Symbol für „Mensch gegen Maschine“, sondern für Zusammenarbeit. Welche Aufgaben sollte die Technik übernehmen, welche Aufgaben sollten beim Menschen bleiben?

Lernziele

Nach dem Kurs kannst Du erklären, warum KI-Systeme menschliche Werte nicht einfach selbst festlegen sollten. Du kannst zwischen technischer Leistungsfähigkeit und moralischer Verantwortung unterscheiden, mehrere Stakeholder und Zielkonflikte erkennen, einfache Daten zur Fairness auswerten, eine angemessene Mensch-KI-Arbeitsteilung planen und eine Entscheidung so begründen, dass andere Deinen Weg nachvollziehen und kritisieren können.

Ablauf für 1–2 Unterrichtsstunden

Phase	Richtzeit	Ziel
Aktivierung und Diagnose	5–10 Minuten	Erste Urteile sichtbar machen
Einführung und Wertevergleich	15–20 Minuten	Begriffe, Rechte und Mensch-KI-Arbeitsteilung verstehen
PISA-nahe Fallentscheidung	25–35 Minuten	Daten deuten, Stakeholder abwägen, Werkzeugwahl begründen
Selbstkontrolle und Reflexion	10–15 Minuten	Eigene Entscheidung prüfen und verbessern
Transfer	15–20 Minuten	Vorgehen auf eine neue Situation übertragen

Aktivierung und Diagnose

Entscheide zunächst spontan, ob KI in den folgenden Situationen entscheiden, nur beraten oder gar nicht eingesetzt werden sollte:

Situation	Deine erste Position	Wichtigster Grund
Eine App schlägt den schnellsten Schulweg vor.
Ein System empfiehlt Musik.
Ein System empfiehlt eine Schulnote.
Ein System schlägt vor, wer einen Förderplatz bekommt.

Vergleiche anschließend mit einer anderen Person. Interessant ist nicht, ob Ihr sofort dieselbe Meinung habt. Entscheidend ist, welche Werte und Risiken Ihr als wichtig betrachtet.

Was sind menschliche Werte?

Werte sind Vorstellungen darüber, was Menschen für wichtig und erstrebenswert halten. Dazu gehören beispielsweise Menschenwürde, Freiheit, Gerechtigkeit, Solidarität, Sicherheit, Privatsphäre, Verantwortung und Transparenz.

Werte sind nicht immer konfliktfrei. Mehr Sicherheit kann zum Beispiel zusätzliche Datenerfassung nahelegen, während Datenschutz für möglichst wenige Daten spricht. Ein einheitliches Verfahren kann effizient sein, aber besondere Lebenslagen schlecht berücksichtigen. Eine verantwortliche Entscheidung erkennt solche Zielkonflikte und begründet, warum ein Wert in einer konkreten Situation stärker gewichtet wird.

Die Waage steht hier als Denkbild: Eine Werteabwägung ist kein automatisches Rechnen, sondern ein begründetes Abwägen von Gründen, Folgen, Rechten und Interessen.

Werte und Grundrechte unterscheiden

Ein Wert ist eine Orientierung für gutes und verantwortliches Handeln. Ein Grundrecht schützt zentrale Freiheiten und Ansprüche rechtlich. In Deutschland sind beispielsweise die Achtung der Menschenwürde, Freiheit und Gleichbehandlung grundlegend. Auch Datenschutz und der Schutz persönlicher Informationen spielen bei digitalen Systemen eine wichtige Rolle.

Die Allgemeine Erklärung der Menschenrechte wurde 1948 von der Generalversammlung der Vereinten Nationen angenommen. Sie ist ein historisch wichtiger Bezugspunkt dafür, dass Menschen nicht bloß als Mittel für fremde Ziele behandelt werden sollen, sondern Träger von Rechten sind.

Datei:Allgemeine Erklärung der Menschenrechte.pdf

Fächerbezug Geschichte und Gemeinschaftskunde: Menschenrechte entstanden nicht aus Technik, sondern aus politischen und gesellschaftlichen Auseinandersetzungen. Neue Technik muss sich an Menschenrechten messen lassen – nicht umgekehrt.

Menschenzentrierte KI-Ethik

Internationale Leitlinien zur KI-Ethik betonen unter anderem Menschenwürde, Fairness, Nichtdiskriminierung, Datenschutz, Transparenz, Verantwortlichkeit und menschliche Aufsicht. Die UNESCO empfiehlt ausdrücklich, dass KI-Systeme die letztliche menschliche Verantwortung nicht verdrängen sollen. Der Europarat verbindet KI-Governance mit Menschenrechten, Demokratie und Rechtsstaatlichkeit.

Für Dich als Lernregel bedeutet das: Je stärker eine KI-gestützte Entscheidung Menschen betrifft, desto wichtiger werden menschliche Kontrolle, nachvollziehbare Gründe, Schutzrechte und die Möglichkeit, eine Entscheidung anzufechten oder korrigieren zu lassen.

Medienauftrag: Das UNESCO-Video ist englischsprachig. Notiere beim Ansehen drei Begriffe, die mit Fairness, Teilhabe oder Kontrolle zu tun haben. Prüfe anschließend, ob diese Begriffe auch auf den Schulalltag passen.

Mensch und KI vergleichen

Frage	Mensch	KI-System
Wer setzt Ziele?	Menschen können Ziele bewusst diskutieren, verändern und moralisch begründen.	Ein KI-System arbeitet innerhalb von Zielen, Regeln, Daten und Vorgaben, die Menschen festgelegt haben.
Wer erlebt Folgen?	Menschen können betroffen sein, Bedürfnisse haben und Folgen körperlich, sozial oder emotional erleben.	Ein KI-System berechnet oder erzeugt Ergebnisse, erlebt die Folgen aber nicht wie ein Mensch.
Wer trägt Verantwortung?	Menschen und Organisationen können verantwortlich gemacht werden.	Das technische System selbst trägt keine menschliche oder rechtliche Verantwortung.
Wie wird entschieden?	Menschen können Erfahrung, Kontext, Empathie, Regeln und Werte verbinden, aber auch Vorurteile haben.	KI kann große Datenmengen schnell verarbeiten und Muster erkennen, kann jedoch Verzerrungen aus Daten, Modell und Einsatzkontext übernehmen.
Wie konstant ist das Verhalten?	Menschen können widersprüchlich oder müde sein.	Ein System kann gleichförmiger arbeiten, wenn Eingaben und Regeln ähnlich sind.
Wie gut ist die Begründung?	Menschen können Gründe nennen, aber ihre Begründungen können unvollständig oder nachträglich konstruiert sein.	Manche Systeme sind erklärbarer als andere; besonders komplexe Modelle können schwer nachvollziehbare Ergebnisse liefern.
Wer darf stoppen?	Verantwortliche Menschen sollten eingreifen können.	Ein System sollte so eingesetzt werden, dass geeignete menschliche Eingriffe technisch und organisatorisch möglich bleiben.

Der Vergleich zeigt: Menschen sind nicht automatisch fair und KI ist nicht automatisch unfair. Menschen können voreingenommen sein, und Technik kann Prozesse verbessern. Aber KI macht eine Entscheidung nicht allein dadurch gerecht, dass sie mathematisch berechnet wurde.

Human Agency: Du bleibst handlungsfähig

Human Agency bedeutet, dass Menschen ihre Ziele selbst setzen, Entscheidungen verstehen, Alternativen prüfen, widersprechen, korrigieren und Verantwortung übernehmen können.

Human Agency ist gefährdet, wenn Menschen nur noch auf einen KI-Wert schauen und sagen: „Der Computer wird schon recht haben.“ Eine echte menschliche Kontrolle besteht nicht darin, automatisch auf „Bestätigen“ zu klicken. Die kontrollierende Person braucht Zeit, Informationen, Fachkenntnis und die reale Möglichkeit, das System zu überstimmen.

Vier Fragen für menschliche Kontrolle

Kontrollfrage	Warum sie wichtig ist
Kann ein Mensch die Empfehlung verstehen oder sinnvoll prüfen?	Sonst wird Kontrolle zur Formalität.
Kann der Mensch die Empfehlung ablehnen oder ändern?	Ohne Eingriffsmöglichkeit gibt es keine echte Aufsicht.
Kann eine betroffene Person Fehler melden oder widersprechen?	Entscheidungen müssen korrigierbar sein.
Ist klar, wer am Ende verantwortlich ist?	Verantwortung darf nicht zwischen Mensch, Schule und Technik verschwinden.

Systematische Werkzeugwahl

Nicht jede Aufgabe braucht KI. Verantwortliche Nutzung beginnt damit, das kleinste geeignete Werkzeug zu wählen.

Aufgabe	Geeignetes Werkzeug	Warum?
Eine Prozentzahl ausrechnen	Taschenrechner oder Tabellenkalkulation	Das Ergebnis soll deterministisch und überprüfbar sein.
Eine aktuelle Regel oder Rechtsgrundlage prüfen	Verlässliche Primärquelle oder offizielle Website	Aktualität und Herkunft sind wichtiger als sprachliche Eleganz.
Gründe für und gegen eine Idee sammeln	Menschliches Brainstorming, optional KI als Ideengeber	KI kann Perspektiven ergänzen, aber keine Wertentscheidung abnehmen.
Einen langen unpersönlichen Text strukturieren	Textwerkzeug oder KI mit anschließender Prüfung	Automatisierung kann Zeit sparen.
Eine Entscheidung treffen, die Menschen stark betrifft	Menschlich geführtes Verfahren	KI darf höchstens begrenzt unterstützen; Verantwortung und Rechte bleiben menschlich.
Sensible personenbezogene Informationen verarbeiten	Nur datenschutzgerechte, freigegebene Verfahren oder gar kein externes KI-System	Datenminimierung und Schutz der Betroffenen gehen vor Bequemlichkeit.

Werkzeugregel: Je höher das Risiko für Menschen, desto weniger darfst Du Dich auf eine ungeprüfte KI-Ausgabe verlassen.

Quellenkritik vor KI-Komfort

Wenn eine KI eine Behauptung liefert, prüfe nicht nur, ob der Satz überzeugend klingt. Prüfe:

Prüffrage	Beispiel
Wer ist die ursprüngliche Quelle?	Behörde, Forschungseinrichtung, Zeitung, Unternehmen oder unbekannte Website?
Wie aktuell ist die Information?	Gilt die Regel oder Zahl noch?
Gibt es Belege?	Daten, Dokumente oder nachvollziehbare Quellen?
Gibt es Gegenpositionen?	Welche Stakeholder könnten dieselbe Lage anders bewerten?
Hat die Quelle eigene Interessen?	Möchte jemand verkaufen, überzeugen oder Kritik vermeiden?

Daten, Bias und Fairness

Bias bedeutet hier eine systematische Verzerrung. Sie kann in Daten, Kriterien, Messmethoden, Modellen oder im Einsatzkontext entstehen.

Ein Beispiel: Wenn ein System „bisherige Teilnahme an Technik-AGs“ stark bewertet, scheint das zunächst sachlich. Wenn aber nicht alle Jugendlichen gleich guten Zugang zu Technik-AGs hatten, kann ein scheinbar neutrales Kriterium bestehende Unterschiede verstärken.

Medienauftrag: Achte darauf, wie im Video zwischen technischem Können und gerechter Gestaltung unterschieden wird.

Vertiefung: Joy Buolamwini zeigt an Gesichtsanalyse, wie ungleiche Datengrundlagen zu ungleichen Ergebnissen beitragen können. Frage danach: Wo könnte etwas Ähnliches im Schulalltag passieren?

Unterschied ist nicht automatisch Ungerechtigkeit

Wenn zwei Gruppen unterschiedliche Ergebnisse erhalten, ist das ein Warnsignal, aber noch kein vollständiger Beweis für Diskriminierung. Du musst prüfen, welche Kriterien verwendet wurden, ob sie sachlich gerechtfertigt sind, wie gut die Daten sind, ob relevante Unterschiede berücksichtigt wurden und ob Menschen unfair benachteiligt werden.

Mathematik hilft also, Auffälligkeiten sichtbar zu machen. Die ethische Bewertung braucht zusätzlich Kontext und Gründe.

Datenschutz und Sicherheit

Personenbezogene Daten können Namen, Fotos, Leistungsdaten, Standortdaten oder andere Informationen über einzelne Menschen umfassen. Besonders bei Jugendlichen sollte gelten: Nur Daten verwenden, die für den Zweck wirklich nötig sind.

Ein verantwortlicher KI-Einsatz fragt deshalb nicht nur: „Können wir diese Daten verwenden?“, sondern auch: „Müssen wir sie überhaupt verwenden?“

Fächerbezug Wirtschaft: Automatisierung kann Arbeit verändern und effizienter machen. Gleichzeitig entstehen Fragen nach Privatsphäre, Qualifikation, Verantwortung und fairer Verteilung von Chancen.

Projektsteuerung für Mensch-KI-Teams

Wenn eine Klasse ein KI-gestütztes Projekt durchführt, hilft eine klare Rollenverteilung.

Rolle	Aufgabe
Auftragsklärung	Ziel, Grenzen und Erfolgskriterien festlegen
Quellenprüfung	Fakten, Herkunft und Aktualität kontrollieren
Daten- und Fairnessprüfung	Datenqualität, Gruppenunterschiede und mögliche Benachteiligungen prüfen
Datenschutz	Datenminimierung und sichere Verarbeitung beachten
KI-Bedienung	Geeignete Eingaben formulieren und Ergebnisse dokumentieren
Menschliche Entscheidung	Gründe abwägen, Verantwortung übernehmen und Entscheidung vertreten

Drei Kontrollpunkte im Projekt

Kontrollpunkt	Erst weitergehen, wenn...
Gate 1: Auftrag	klar ist, welches Problem gelöst werden soll und welche Entscheidung nicht an KI delegiert wird.
Gate 2: Daten und Werkzeug	Daten, Quellen, Datenschutz und Werkzeugwahl geprüft wurden.
Gate 3: Entscheidung	Ergebnis, Gegenargumente, Fairness, Folgen und menschliche Verantwortung geprüft wurden.

Visualisierung: Ein Entscheidungsbaum erinnert daran, dass eine verantwortliche Entscheidung aus mehreren Prüfschritten besteht und nicht aus einem einzigen KI-Klick.

PISA-nahe Anwendungssituation: Wer bekommt einen Platz im TechnikLab?

Die Schule „Am Stadtpark“ hat 20 Plätze für ein kostenloses TechnikLab. 60 Jugendliche aus Klasse 8 bewerben sich. Ein KI-System soll eine Rangliste erstellen. Die Schulleitung verspricht sich schnellere Bearbeitung. Lehrkräfte hoffen auf passende Teilnehmende. Eltern wünschen faire Chancen. Die Stadt finanziert das Angebot und erwartet einen verantwortlichen Umgang mit öffentlichen Mitteln.

Das System bewertet:

Motivationstext mit 40 Prozent
bisherige Technik-Erfahrungen mit 30 Prozent
Anwesenheit im Unterricht mit 20 Prozent
Entfernung zur Schule mit 10 Prozent

Nach der ersten Auswertung zeigt sich:

Gruppe	Bewerbungen	KI-Empfehlungen	Auswahlquote
Mit vorherigem kostenpflichtigem Technikkurs	12	9	75 Prozent
Ohne vorherigen kostenpflichtigen Technikkurs	48	11	etwa 23 Prozent

Zusätzlich berichtet die Schülervertretung, dass manche Familien kostenpflichtige Kurse nicht bezahlen konnten. Einige Jugendliche wohnen weiter entfernt, weil sie mit öffentlichen Verkehrsmitteln zur Schule kommen. Die KI bewertet große Entfernung leicht negativ.

Stakeholder und Zielkonflikte

Stakeholder	Interesse oder Wert	Möglicher Konflikt
Bewerbende Jugendliche	faire Chance, nachvollziehbare Entscheidung	Konkurrenz um begrenzte Plätze
Lehrkräfte	passende Gruppe, wenig Verwaltungsaufwand	Effizienz gegen Einzelfallgerechtigkeit
Eltern	Schutz ihrer Kinder und fairer Zugang	Datenschutz gegen Personalisierung
Schulleitung	planbarer und rechtssicherer Prozess	schnelle Entscheidung gegen sorgfältige Prüfung
Stadt	wirksamer Einsatz öffentlicher Mittel	messbarer Erfolg gegen Teilhabe
Technik-Anbieter	funktionierendes Produkt	Geschäftsinteresse gegen vollständige Transparenz

Aufgabe 1: Mathematik trifft Ethik

Berechne die Auswahlquote beider Gruppen selbst. Vergleiche die Quoten und bestimme den Unterschied in Prozentpunkten. Erkläre anschließend, warum die Rechnung allein noch nicht beweist, dass das System diskriminiert. Formuliere mindestens zwei zusätzliche Informationen, die Du für ein belastbares Urteil brauchst.

Aufgabe 2: Prüfe die Kriterien

Bewerte jedes der vier Kriterien mit den Fragen:

Ist das Kriterium wirklich wichtig für den Zweck des TechnikLabs?
Können alle Jugendlichen das Kriterium ähnlich gut beeinflussen?
Kann das Kriterium soziale Unterschiede verstärken?
Gibt es eine weniger eingreifende oder fairere Alternative?

Aufgabe 3: Mensch-KI-Arbeitsteilung planen

Entscheide für jede Tätigkeit, ob sie hauptsächlich von Menschen, von einem technischen Werkzeug oder gemeinsam erledigt werden sollte:

Tätigkeit	Deine Zuordnung	Begründung
Bewerbungen sortieren
Rechenfehler finden
Benachteiligende Kriterien erkennen
Grenzfälle besprechen
Endgültige Plätze vergeben
Widersprüche bearbeiten

Aufgabe 4: Triff eine Entscheidung

Die Schulleitung erwägt vier Möglichkeiten:

Option	Beschreibung
A	KI-Rangliste unverändert übernehmen
B	KI vollständig abschalten und alle Plätze zufällig vergeben
C	Kriterien überarbeiten, Daten minimieren, neu bewerten, Stichproben prüfen und die Endentscheidung durch Menschen treffen lassen
D	KI-Rangliste heimlich manuell verändern, damit die Zahlen ausgeglichener aussehen

Wähle eine Option oder entwickle eine bessere fünfte Option. Deine Begründung muss Effizienz, Fairness, Datenschutz, Transparenz, menschliche Kontrolle und die Interessen mehrerer Stakeholder berücksichtigen.

Der 8-Schritt-Wertecheck

Nutze diesen Ablauf bei schwierigen KI-Entscheidungen:

Schritt	Leitfrage
1. Problem	Welche konkrete Entscheidung steht an?
2. Fakten	Was wissen wir sicher, was nur vermutlich?
3. Stakeholder	Wer ist beteiligt oder betroffen?
4. Werte und Rechte	Welche Werte oder Rechte könnten berührt sein?
5. Optionen	Welche Handlungsalternativen gibt es?
6. Folgen	Wer profitiert, wer trägt Risiken oder Nachteile?
7. Kontrolle	Wer prüft, stoppt, korrigiert und bearbeitet Beschwerden?
8. Urteil	Welche Option ist insgesamt am besten begründet und warum?

Fächerübergreifende Bezüge

Fach	Beitrag zum Thema
Informatik	Daten, Algorithmen, Modelle, Bias, Erklärbarkeit und Mensch-Maschine-Schnittstellen
Deutsch	Argumentieren, Quellen prüfen, Begriffe präzisieren, Begründungen adressatengerecht formulieren
Mathematik	Prozentwerte, Gruppenvergleiche, Dateninterpretation und Grenzen statistischer Aussagen
Technik	Anforderungen, Sicherheitsdenken, Testen, Fehlerfolgen und technische Kontrollmöglichkeiten
Geschichte	Entwicklung von Menschenrechten und gesellschaftlichen Normen
Kunst	KI-Bilder, Urheberschaft, Stil, kreative Eigenleistung und stereotype Darstellungen
Ethik	Werte, Verantwortung, Gerechtigkeit, Autonomie und moralische Dilemmata
Gemeinschaftskunde	Grundrechte, Demokratie, Beteiligung, Macht und Rechenschaft
Wirtschaft	Automatisierung, Effizienz, Arbeitswelt, Geschäftsinteressen und Verteilung von Chancen

Selbstkontrolle: Ist mein Urteil wirklich nachvollziehbar?

Bewerte Deine eigene Fallentscheidung mit 0, 1 oder 2 Punkten.

Kriterium	0 Punkte	1 Punkt	2 Punkte
Fakten	Vermutung statt Prüfung	teilweise geprüft	Quellen und Unsicherheiten klar
Stakeholder	nur eine Sicht	mehrere genannt	Interessen und Konflikte abgewogen
Fairness	ignoriert	erwähnt	mit Daten und Kontext geprüft
Datenschutz	ignoriert	allgemein erwähnt	Datenminimierung konkret geplant
Human Agency	KI entscheidet faktisch allein	menschliche Prüfung unklar	echte Eingriffs- und Widerspruchsmöglichkeit
Begründung	reine Behauptung	einige Gründe	Gründe, Gegenargumente und Folgen nachvollziehbar verbunden

10–12 Punkte: Deine Entscheidung ist sehr gut strukturiert. 7–9 Punkte: Gute Grundlage, aber mindestens ein Bereich braucht mehr Tiefe. 0–6 Punkte: Überarbeite Deine Entscheidung mit dem 8-Schritt-Wertecheck.

Reflexion

Vervollständige für Dich drei Sätze:

Ich würde KI einsetzen, wenn ...

Ich würde den Einsatz stoppen oder verändern, wenn ...

Verantwortung bleibt beim Menschen, weil ...

Transfer: Neue Situation ohne Musterlösung

Eine Stadt möchte in einem öffentlichen Schwimmbad KI-gestützte Kameras einsetzen. Das System soll gefährliche Situationen im Wasser schneller erkennen. Der Anbieter möchte dieselben Kameradaten zusätzlich verwenden, um Besucherströme zu analysieren und das Personal effizienter einzusetzen.

Die Stakeholder sind Badegäste, Eltern, Rettungspersonal, Stadtverwaltung, Datenschutzbeauftragte und der Technik-Anbieter. Die Werte und Ziele umfassen Sicherheit, Privatsphäre, Effizienz, Transparenz, Gleichbehandlung und menschliche Kontrolle.

Deine Aufgabe: Entscheide, ob und unter welchen Bedingungen das System eingesetzt werden sollte. Nutze den 8-Schritt-Wertecheck. Bestimme außerdem, welche Daten wirklich nötig sind, welche Aufgaben KI übernehmen darf, wann Menschen eingreifen müssen und wie Betroffene über den Einsatz informiert werden sollten.

Transferziel: Du sollst nicht dieselbe Antwort wie beim TechnikLab wiederholen, sondern das Verfahren selbstständig auf eine neue Situation übertragen.

Interaktive Aufgaben

Quiz: Teste Dein Wissen

Warum reicht eine hohe technische Genauigkeit nicht aus, um eine KI-Entscheidung automatisch gerecht zu machen? (Weil zusätzlich Werte Rechte Folgen und Betroffene berücksichtigt werden müssen) (!Weil genaue Systeme grundsätzlich verboten sind) (!Weil Mathematik bei KI keine Rolle spielt) (!Weil Menschen niemals Fehler machen)

Was beschreibt Human Agency am besten? (Menschen setzen Ziele prüfen Ergebnisse und können KI überstimmen) (!KI trifft Entscheidungen schneller als Menschen) (!Menschen übernehmen jede KI-Ausgabe ungeprüft) (!KI ersetzt Verantwortung durch Berechnung)

Welche Werkzeugwahl ist für eine einfache Prozentrechnung am sinnvollsten? (Ein Taschenrechner oder eine Tabellenkalkulation) (!Ein komplexes generatives KI-System) (!Eine Bildanalyse) (!Eine zufällige Internetseite)

Was ist bei einer stark folgenreichen KI-Empfehlung besonders wichtig? (Echte menschliche Prüfung und Eingriffsmöglichkeit) (!Automatische Bestätigung) (!Möglichst viele personenbezogene Daten) (!Geheime Entscheidungskriterien)

Was bedeutet Datenminimierung? (Nur Daten verwenden die für den Zweck wirklich nötig sind) (!Möglichst viele Daten sammeln) (!Daten ohne Zweck speichern) (!Daten immer veröffentlichen)

Was zeigt ein großer Unterschied zwischen Auswahlquoten zweier Gruppen zunächst? (Ein Warnsignal das genauer untersucht werden sollte) (!Einen sicheren Beweis für Betrug) (!Dass die kleinere Gruppe immer bevorzugt wurde) (!Dass Statistik nutzlos ist)

Wer trägt bei schulischen KI-Entscheidungen letztlich Verantwortung? (Verantwortliche Menschen und Organisationen) (!Das Rechenmodell allein) (!Die Trainingsdaten) (!Der Computerbildschirm)

Welche Frage gehört zur Quellenkritik? (Wer ist die ursprüngliche Quelle und welche Belege gibt es) (!Wie überzeugend klingt der Text) (!Wie lang ist die Antwort) (!Wie modern sieht die Website aus)

Was ist ein Stakeholder? (Eine Person oder Gruppe die beteiligt oder betroffen ist) (!Nur die Person die ein Programm geschrieben hat) (!Nur die Schulleitung) (!Ein technisches Bauteil)

Was macht eine gute Werteabwägung aus? (Sie vergleicht Gründe Folgen Rechte Interessen und Alternativen) (!Sie folgt immer der schnellsten Lösung) (!Sie übernimmt immer die Mehrheitsmeinung) (!Sie vermeidet jede Unsicherheit durch Automatisierung)

Memory

Human Agency	Eigene Ziele setzen und KI überstimmen können
Fairness	Faire Chancen und keine sachlich unbegründete Benachteiligung
Transparenz	Nachvollziehbar machen wie und wo KI beteiligt war
Datenschutz	Persönliche Daten sparsam und geschützt behandeln
Bias	Systematische Verzerrung in Daten Modell oder Anwendung
Human Oversight	Menschliche Prüfung mit echter Eingriffsmöglichkeit
Stakeholder	Betroffene oder beteiligte Personengruppe
Rechenschaft	Entscheidung begründen und Verantwortung zuordnen

Drag and Drop

Ordne die richtigen Begriffe zu.	Thema
Ziel klären	Entscheiden welches Problem wirklich gelöst werden soll
Werkzeug wählen	Das kleinste geeignete Verfahren auswählen
Daten prüfen	Qualität Fairness und Datenschutz untersuchen
KI-Beitrag kontrollieren	Ausgabe auf Fehler Quellen und Verzerrungen prüfen
Menschlich entscheiden	Werte abwägen Verantwortung übernehmen und Urteil begründen

Kreuzworträtsel

Autonomie	Wie heißt die Fähigkeit selbstbestimmt zu handeln?
Fairness	Welcher Wert fragt nach gerechten Chancen?
Transparenz	Welches Prinzip fordert nachvollziehbare Verfahren?
Datenschutz	Welcher Begriff schützt persönliche Informationen?
Verantwortung	Wer muss für Folgen eines Einsatzes einstehen?
Stakeholder	Wie heißt eine betroffene oder beteiligte Gruppe?

LearningApps

Lückentext

Eine KI kann Muster in Daten erkennen, aber menschliche

nicht automatisch verbindlich festlegen. Bei Entscheidungen mit großen Folgen ist echte menschliche

besonders wichtig. Systematische Verzerrungen werden häufig als

bezeichnet. Persönliche Daten sollten nach dem Prinzip der

nur so weit wie nötig verarbeitet werden. Eine Person oder Gruppe, die von einer Entscheidung betroffen ist, heißt

. Bei der Werkzeugwahl sollte immer das

geeignete Werkzeug bevorzugt werden. Unterschiedliche Auswahlquoten sind zunächst ein

und müssen im Kontext untersucht werden. Am Ende muss ein verantwortlicher Mensch sein

nachvollziehbar begründen können.

Offene Aufgaben

Leicht

Werteampel: Erstelle eine Ampel mit mindestens sechs Werten. Grün bedeutet bei einem KI-Einsatz gut geschützt, Gelb bedeutet unklar und Rot bedeutet gefährdet. Begründe jede Farbe.
Mediencheck: Wähle eines der eingebetteten Videos und notiere eine Behauptung, einen Beleg und eine offene Frage. Prüfe die offene Frage mit einer zweiten Quelle.
Datenminimalismus: Entwirf für eine schulische Lern-App eine Liste notwendiger und unnötiger Daten. Begründe bei drei Datenarten, warum Du sie weglassen würdest.
Mini-Argumentation: Schreibe einen kurzen Absatz zur Aussage „KI sollte Menschen beraten, aber bei wichtigen Entscheidungen nicht allein entscheiden“. Formuliere ein Argument und ein Gegenargument.

Standard

Werkzeugvergleich: Löse dieselbe kleine Aufgabe einmal ohne KI und einmal mit KI-Unterstützung. Vergleiche Zeit, Fehler, Nachvollziehbarkeit und Lerngewinn.
Fairnessanalyse: Erfinde ein Beispiel mit zwei Gruppen, berechne Auswahlquoten und erkläre, welche zusätzlichen Informationen nötig wären, bevor Du von unfairer Behandlung sprichst.
Stakeholder-Mapping: Zeichne zu einem KI-Einsatz in Schule oder Freizeit mindestens fünf Stakeholder ein. Verbinde Gruppen, deren Interessen miteinander in Konflikt stehen.
KI-Audit: Lass Dir optional von einem schulisch erlaubten KI-Werkzeug drei Lösungsvorschläge für ein harmloses Problem geben. Markiere Fakten, Vermutungen, fehlende Perspektiven und Stellen, die menschliche Entscheidung erfordern.

Schwer

Schulregel für KI: Entwickle in einer Gruppe fünf Regeln für verantwortlichen KI-Einsatz an der Schule. Jede Regel muss ein Ziel, ein Risiko und eine Kontrollmöglichkeit enthalten.
Fairness-Red-Team: Versuche bewusst, eine geplante KI-Entscheidung zu kritisieren. Suche nach unfairen Kriterien, fehlenden Stakeholdern, Datenschutzproblemen und Situationen, in denen Menschen die KI zu leicht bestätigen könnten.
Interview zu Verantwortung: Befrage eine Lehrkraft, einen Elternteil, eine Person aus Technik oder Verwaltung dazu, wann KI nur beraten und wann sie entscheiden darf. Vergleiche die Positionen.
Transferprojekt: Entwickle für eine neue reale oder erfundene Anwendung einen vollständigen 8-Schritt-Wertecheck, visualisiere die Mensch-KI-Arbeitsteilung und verteidige Deine Entscheidung in einer kurzen Diskussion.

Lernkontrolle

Neue Entscheidungssituation: Eine Schule möchte mit KI vorhersagen, welche Bücher Schülerinnen und Schüler gern lesen würden. Entwickle Regeln, damit Personalisierung nicht zu einem engen „Filter“ wird und die Privatsphäre gewahrt bleibt.
Gegenargument prüfen: Jemand sagt: „Wenn die Trefferquote 95 Prozent beträgt, brauchen wir keine menschliche Kontrolle mehr.“ Widerlege oder verteidige die Aussage mit mindestens drei unterschiedlichen Gesichtspunkten.
Wertekonflikt Kunst: Bei einem Kunstwettbewerb sind KI-generierte Bilder erlaubt. Entwirf faire Teilnahmebedingungen, die kreative Eigenleistung, Transparenz und Zugänglichkeit berücksichtigen.
Wertekonflikt Wirtschaft: Ein Betrieb nutzt KI zur Vorauswahl für Schülerpraktika. Formuliere ein Verfahren, das Effizienz nutzt, aber ungerechtfertigte Benachteiligung und blinde Automatisierung vermeidet.
Grundrechte und Technik: Beschreibe eine Situation, in der mehr Sicherheit durch KI mit Privatsphäre in Konflikt gerät. Entwickle eine Lösung, die das mildeste geeignete Mittel verwendet.
Transferurteil: Übertrage den 8-Schritt-Wertecheck auf einen KI-Einsatz, der im Kurs noch nicht vorkam. Begründe Deine endgültige Entscheidung und nenne ein Kriterium, bei dessen Veränderung Du Dein Urteil ändern würdest.

Lernnachweis

Für einen überzeugenden Lernnachweis solltest Du zeigen, dass Du:

zwischen technischer Leistung und moralischer Verantwortung unterscheiden kannst.
mindestens mehrere Stakeholder und ihre Interessen erkennst.
Daten oder Auswahlquoten korrekt interpretierst, ohne vorschnell Kausalität zu behaupten.
Fairness, Datenschutz, Transparenz, Sicherheit und menschliche Kontrolle in Beziehung setzen kannst.
eine begründete Werkzeugwahl triffst und KI nicht automatisch als Standardwerkzeug verwendest.
eine sinnvolle Mensch-KI-Arbeitsteilung planst.
Quellen prüfst und Unsicherheiten offen benennst.
Deine Entscheidung mit Gründen, Gegenargumenten und möglichen Folgen verteidigen kannst.
den Wertecheck selbstständig auf eine neue Situation überträgst.

OERs zum Thema

Weiterführende frei zugängliche Orientierung:

Medien zur Vertiefung

Datei:Ethics of AI in Digital Medicine – Explanation why transparent explainable AI is important.webm

Vertiefungsfrage: Warum wird Erklärbarkeit besonders wichtig, wenn Entscheidungen große Folgen für Menschen haben?

Datei:Humans define Wikipedia's values and ethics.webm

Vertiefungsfrage: Wer sollte gesellschaftliche Regeln für KI mitbestimmen – Fachleute, Politik, Unternehmen, Betroffene oder alle gemeinsam?

Verknüpfte Lernbereiche

KI und menschliche Werte vergleichen

aiMOOC-Projekte

Frag mich zum aktuellen Lerninhalt oder wähle eine kurze Hilfe.

Textmodus bereit

Sprache