Diesen aiMOOC als Battle spielen: Deutsch, Klasse 9-10, G-Niveau

KI für gesellschaftlichen Nutzen gestalten

Einleitung

KI für gesellschaftlichen Nutzen gestalten bedeutet, Künstliche Intelligenz nicht einfach einzusetzen, weil sie verfügbar ist, sondern zuerst zu fragen: Welches echte Problem soll gelöst werden? Wer profitiert? Wer trägt Risiken? Wie lässt sich die Wirkung prüfen? Und wer bleibt verantwortlich?

In diesem Lernkurs entwickelst Du eine zentrale KI-Kompetenz: sozio-technische Urteilskraft. Damit ist gemeint, dass Du ein KI-System gleichzeitig als technische Lösung und als Teil einer gesellschaftlichen Situation beurteilst. Du prüfst also nicht nur Daten, Modell und Ergebnis, sondern auch Ziele, Betroffene, Regeln, Verantwortung, mögliche Nebenwirkungen und Alternativen.

Der Kurs richtet sich besonders an die Klasse 10 und verbindet Informatik, Mathematik, Technik, Deutsch, Wirtschaft, Geschichte, Ethik und Gemeinschaftskunde. Du arbeitest an einer realistischen Situation aus dem Schulalltag und entwickelst am Ende eine eigene, begründete und überprüfbare Lösung.

Leitfrage: Wie können wir KI so gestalten, dass sie einen nachvollziehbaren gesellschaftlichen Nutzen stiftet, ohne menschliche Verantwortung, Sicherheit, Fairness und Selbstbestimmung aus dem Blick zu verlieren?

Lernziele

Nach dem Lernkurs kannst Du

ein gesellschaftliches Problem präzise beschreiben und prüfen, ob KI dafür überhaupt sinnvoll ist.
ein einfaches KI-System als Zusammenspiel von Ziel, Daten, Modell, Ausgabe, menschlicher Entscheidung und Rückkopplung entwerfen.
technische Qualität und gesellschaftliche Wirkung mit passenden Kriterien prüfen.
Verantwortung, Kontrolle, Dokumentation und Eingriffsmöglichkeiten festlegen.
mögliche positive und negative Folgen für verschiedene Gruppen abschätzen.
Fairness, Transparenz, Datenschutz, Sicherheit und menschliche Handlungsfähigkeit in Entscheidungen einbeziehen.
Deine Entscheidung auf neue Fälle übertragen und begründen, warum eine Lösung verbessert, begrenzt oder verworfen werden sollte.

Zeitplan für 1–2 Unterrichtsstunden

Für etwa 90 Minuten bietet sich folgende Abfolge an:

10 Minuten – Aktivierung und Diagnose: Alltagssituationen bewerten und erste Kriterien sammeln.
15 Minuten – Einführung: gesellschaftlicher Nutzen, Human Agency, Systemdesign und Folgenabschätzung verstehen.
25 Minuten – Anwendungssituation: ein KI-System für die Schulmensa analysieren und gestalten.
20 Minuten – Evaluation und Governance: Messgrößen, Fairness, Kontrolle und Verantwortung festlegen.
10 Minuten – Verbesserung: eigene Lösung anhand von Testfällen überarbeiten.
10 Minuten – Reflexion und Transfer: neue Fälle beurteilen und Entscheidung transparent begründen.

Für eine 45-Minuten-Stunde können Einführung, Anwendungssituation und eine kurze Evaluation bearbeitet werden. Die Entwicklung einer eigenen Lösung wird dann als Vertiefung oder Hausaufgabe fortgeführt.

Aktivierung und Diagnose

Stell Dir vor, Deine Schule möchte KI einsetzen. Entscheide bei jeder Idee zunächst ohne lange Diskussion: sinnvoll, nur unter Bedingungen oder eher nicht.

Eine KI schätzt, wie viele Mittagessen am nächsten Tag gebraucht werden, um Lebensmittelabfälle zu verringern.
Eine KI entscheidet allein, welche Schülerinnen und Schüler zusätzliche Förderangebote erhalten.
Eine KI fasst lange Protokolle der Schülervertretung zusammen, bevor Menschen die Zusammenfassung prüfen.
Eine KI erkennt über Kameras die Stimmung von Schülerinnen und Schülern während des Unterrichts.
Eine KI schlägt energiesparende Heizzeiten für Schulgebäude vor.

Notiere anschließend zu zwei Fällen:

Welches Problem soll gelöst werden?
Welche Menschen sind betroffen?
Welche Daten wären nötig?
Was könnte schiefgehen?
Wer sollte die letzte Entscheidung treffen?

Diagnoseidee: Wenn Du bei einer KI-Anwendung zuerst nach Nutzen, Daten, Betroffenen, Risiken und Verantwortung fragst, denkst Du bereits wie eine verantwortliche Systemgestalterin oder ein verantwortlicher Systemgestalter.

Zentrale KI-Kompetenz: gesellschaftlichen Nutzen gestalten

Gesellschaftlich nützliche KI entsteht nicht automatisch durch ein leistungsfähiges Modell. Ein System kann technisch sehr genau sein und trotzdem ein ungeeignetes Ziel verfolgen, bestimmte Gruppen benachteiligen oder Entscheidungen so undurchsichtig machen, dass niemand wirksam widersprechen kann.

Die zentrale Kompetenz dieses Kurses lautet deshalb:

Gestalte und beurteile KI als sozio-technisches System.

Das heißt: Du verbindest technische Fragen mit gesellschaftlichen Fragen.

Technische Perspektive	Gesellschaftliche Perspektive
Welche Daten werden verwendet?	Wer wird durch diese Datenauswahl sichtbar oder unsichtbar?
Wie genau ist die Vorhersage?	Welche Fehler sind für wen besonders problematisch?
Welche Ausgabe erzeugt das Modell?	Welche Entscheidung wird daraus gemacht?
Wie wird das System getestet?	Wer darf Kriterien für einen guten Test festlegen?
Wie wird das Modell verbessert?	Wer beobachtet Nebenwirkungen und kann das System stoppen?

Das Diagramm zeigt einen typischen Workflow des maschinellen Lernens mit Datenaufbereitung, Modellierung und Evaluation. Für gesellschaftlichen Nutzen reicht dieser technische Ablauf jedoch nicht. Er muss durch Zielklärung, Folgenabschätzung, Governance und menschliche Verantwortung ergänzt werden.

Das Video zu überwachtem Lernen kann Dir helfen zu verstehen, wie Trainingsdaten und Bewertung zusammenhängen. Beim Anschauen solltest Du besonders darauf achten, dass eine mathematisch gute Vorhersage noch keine vollständige gesellschaftliche Bewertung darstellt.

Human Agency: Der Mensch bleibt handlungsfähig

Human Agency bedeutet, dass Menschen Ziele setzen, Alternativen abwägen, Entscheidungen verstehen, Ergebnisse prüfen und bei Bedarf eingreifen können. KI kann dabei unterstützen, aber menschliche Verantwortung sollte nicht einfach an ein System ausgelagert werden.

Eine hilfreiche Prüffrage lautet:

Kann eine betroffene Person verstehen, was passiert, eine Entscheidung hinterfragen und eine zuständige Person erreichen?

Human Agency ist besonders wichtig, wenn Entscheidungen erhebliche Auswirkungen auf Bildungschancen, Rechte, Gesundheit, Sicherheit oder Teilhabe haben.

Gesellschaftlicher Nutzen ist mehr als Effizienz

Ein KI-System kann schneller oder billiger arbeiten und trotzdem keinen überzeugenden gesellschaftlichen Nutzen erzeugen. Deshalb solltest Du mehrere Perspektiven unterscheiden:

Wirksamkeit: Wird das eigentliche Problem tatsächlich verbessert?
Fairness: Werden Vorteile und Risiken angemessen verteilt?
Sicherheit: Können Fehler, Missbrauch oder unerwartete Situationen beherrscht werden?
Selbstbestimmung: Bleiben Menschen informiert und handlungsfähig?
Nachhaltigkeit: Sind Ressourcenverbrauch und langfristige Wirkungen vertretbar?
Teilhabe: Können relevante Gruppen ihre Erfahrungen und Interessen einbringen?
Rechenschaft: Ist klar, wer Entscheidungen verantwortet?

Die Ziele für nachhaltige Entwicklung zeigen, dass gesellschaftlicher Nutzen viele Dimensionen haben kann: Bildung, Gesundheit, weniger Ungleichheit, nachhaltige Städte, verantwortlicher Konsum oder Klimaschutz. Eine KI-Anwendung sollte deshalb immer mit einem klaren gesellschaftlichen Ziel verknüpft werden.

Vom Problem zum verantwortbaren KI-System

Schritt 1: Problem klären, bevor KI gewählt wird

Beginne nicht mit der Frage: Welche KI können wir einsetzen? Beginne mit der Frage: Welches Problem haben wir genau?

Eine gute Problemdefinition beschreibt:

den gewünschten Zustand,
den heutigen Zustand,
die betroffenen Gruppen,
die wichtigsten Ursachen,
bestehende Lösungen,
Grenzen und nicht verhandelbare Werte.

Beispiel: „In unserer Schulmensa werden an manchen Tagen viele Portionen weggeworfen, an anderen Tagen reicht das Essen nicht für alle.“

Das ist besser als: „Wir brauchen eine KI für die Mensa.“

Erst danach wird geprüft, ob eine einfache Regel, bessere Kommunikation, organisatorische Veränderung oder tatsächlich ein KI-System die geeignetste Lösung ist.

Schritt 2: Systemgrenze festlegen

Ein KI-System ist mehr als ein Modell. Es besteht aus mehreren Teilen:

Eingaben und Datenquellen,
Datenaufbereitung,
Modell oder Regel,
Ausgabe,
menschlicher Interpretation,
Entscheidung,
Handlung,
Rückmeldung aus der realen Welt.

Bei der Gestaltung solltest Du außerdem festlegen, was nicht Teil des Systems sein darf. Ein System zur Vorhersage von Essensmengen braucht zum Beispiel normalerweise keine privaten Chatnachrichten, keine Gesichtserkennung und keine Bewertung einzelner Schülerinnen und Schüler.

Schritt 3: Daten kritisch prüfen

Daten sind keine neutrale Kopie der Wirklichkeit. Sie entstehen durch Auswahl, Messung und Kategorisierung.

Prüfe deshalb:

Sind die Daten für das Problem relevant?
Sind sie aktuell genug?
Fehlen wichtige Situationen oder Gruppen?
Enthalten sie Fehler?
Werden unnötige personenbezogene Daten gesammelt?
Können historische Daten bestehende Ungleichheiten widerspiegeln?
Ist nachvollziehbar, woher die Daten stammen?

Datenminimierung ist ein wichtiges Gestaltungsprinzip: Verwende nur Daten, die für den legitimen Zweck wirklich benötigt werden.

Schritt 4: Bewertungskriterien vor dem Test festlegen

Ein System sollte nicht erst nach der Entwicklung daran gemessen werden, was zufällig gut aussieht. Lege möglichst vorher fest, woran Erfolg erkannt wird.

Bei einer Vorhersage für die Mensa könnten Kriterien sein:

durchschnittliche Abweichung zwischen Prognose und tatsächlichem Bedarf,
Zahl der Tage mit zu wenig Essen,
Menge vermeidbarer Lebensmittelreste,
Aufwand für Beschäftigte,
Verständlichkeit der Empfehlung,
Möglichkeit zur manuellen Korrektur.

In der Mathematik kann für eine Prognose zum Beispiel der mittlere absolute Fehler betrachtet werden:

MAE = Durchschnitt der absoluten Abweichungen zwischen Prognose und tatsächlichem Wert.

Ein niedriger MAE kann hilfreich sein. Trotzdem muss zusätzlich geprüft werden, ob einzelne besonders problematische Fehler auftreten.

Schritt 5: Folgen abschätzen

Eine Folgenabschätzung fragt nicht nur: Funktioniert das System? Sie fragt auch: Was verändert sich, wenn es benutzt wird?

Betrachte mindestens:

beabsichtigte Vorteile,
vorhersehbare Nebenwirkungen,
betroffene Gruppen,
besonders verletzliche Gruppen,
mögliche Fehlanreize,
Missbrauchsmöglichkeiten,
Folgen bei Ausfall,
langfristige Veränderungen.

Ein nützliches Denkmuster ist:

Nutzen – Risiko – Betroffene – Schutzmaßnahme – Nachweis

Beispiel:

Mögliche Wirkung	Betroffene	Risiko	Schutzmaßnahme	Nachweis
weniger Lebensmittelabfälle	Mensa und Umwelt	Prognose ist ungenau	Vergleich mit einfacher Basisregel	dokumentierte Testdaten
bessere Planung	Küchenpersonal	blinde Abhängigkeit von Empfehlung	menschliche Freigabe	dokumentierte Änderungen
weniger Engpässe	Schülerinnen und Schüler	einzelne Tage werden unterschätzt	Sicherheitsreserve	Zahl der Engpasstermine

Schritt 6: Governance festlegen

Governance bezeichnet die Regeln, Rollen und Verfahren, mit denen ein System verantwortet, überwacht und verändert wird.

Wichtige Fragen sind:

Wer darf den Zweck des Systems ändern?
Wer prüft Datenqualität und Testergebnisse?
Wer entscheidet über den Einsatz?
Wer beobachtet die Wirkung im Alltag?
Wer dokumentiert Fehler?
Wer darf das System stoppen?
Wie können Betroffene Rückmeldung geben?
Wann muss neu geprüft werden?

Eine gute Governance verhindert, dass Verantwortung zwischen Technik, Verwaltung und Nutzung „verschwindet“. Auch wenn viele Personen beteiligt sind, muss klar sein, wer welche Entscheidung trifft und wer dafür rechenschaftspflichtig ist.

Schritt 7: Iterativ verbessern

Verantwortliches Systemdesign ist kein einmaliger Vorgang. Ein System wird geplant, getestet, eingesetzt, beobachtet, verändert oder beendet.

Wichtig ist die Rückkopplung: Neue Erfahrungen müssen wieder in die Bewertung einfließen. Wenn sich Daten, Nutzungssituation oder Folgen verändern, kann eine frühere Freigabe ihre Grundlage verlieren.

Realistische Anwendungssituation: Die KI-Mensa

Die Schule möchte Lebensmittelabfälle reduzieren und gleichzeitig vermeiden, dass Essen ausgeht. Eine Arbeitsgruppe schlägt ein KI-System vor, das für jeden Schultag die benötigte Zahl von Portionen vorhersagt.

Mögliche Eingaben sind:

Zahl der ausgegebenen Portionen vergangener Tage,
Wochentag,
Ferien- und Prüfungstermine,
angekündigte Ausflüge,
freiwillige Vorbestellungen,
Wetterdaten, falls ein Zusammenhang belegt werden kann.

Die Ausgabe lautet zum Beispiel:

„Für Mittwoch werden 286 Portionen empfohlen.“

Diese Ausgabe ist noch keine Entscheidung. Die Küchenleitung könnte die Empfehlung prüfen, Besonderheiten berücksichtigen und schließlich 295 Portionen planen.

Aufgabe A: Brauchen wir dafür überhaupt KI?

Vergleiche drei Lösungswege:

Lösung	Vorteil	möglicher Nachteil
Feste Durchschnittsmenge	sehr einfach und transparent	reagiert schlecht auf besondere Tage
Regelbasierte Planung	gut nachvollziehbar	Regeln können komplex werden
Lernendes Vorhersagemodell	kann viele Zusammenhänge berücksichtigen	benötigt Daten, Tests und Überwachung

Entscheide: Welche Lösung würdest Du zuerst testen? Begründe Deine Entscheidung mit mindestens drei Kriterien.

Eine verantwortliche Antwort kann auch lauten: Noch keine KI einsetzen, bevor eine einfachere Lösung getestet wurde.

Aufgabe B: Baue ein Systemdesign

Erstelle für die KI-Mensa ein Systemdiagramm mit sechs Elementen:

Ziel: Was soll verbessert werden?
Daten: Welche Eingaben sind wirklich nötig?
Modell: Welche Art von Vorhersage wird erzeugt?
Ausgabe: Was sieht die Küchenleitung?
Menschliche Entscheidung: Wo kann geprüft und korrigiert werden?
Feedback: Welche Daten zeigen später, ob die Entscheidung gut war?

Kennzeichne zusätzlich einen Stopp-Punkt: Unter welcher Bedingung sollte das System vorläufig nicht weiter verwendet werden?

Aufgabe C: Teste mit Beispieldaten

Angenommen, das System liefert folgende Werte:

Tag	Tatsächlicher Bedarf	KI-Prognose	Absolute Abweichung
Montag	250	240	10
Dienstag	280	300	20
Mittwoch	310	305	5
Donnerstag	260	290	30
Freitag	220	225	5

Die Summe der absoluten Abweichungen beträgt 70. Der mittlere absolute Fehler beträgt also 14 Portionen.

Nun folgt die wichtigere Frage: Reicht diese Zahl, um das System freizugeben?

Prüfe zusätzlich:

Wie oft war die Prognose zu niedrig?
Welche Folge hat eine Unterschätzung?
Welche Sicherheitsreserve wäre vertretbar?
Mit welcher einfachen Basisregel sollte das Modell verglichen werden?
Wie viele Wochen Testdaten wären sinnvoller als nur fünf Tage?

Aufgabe D: Prüfe gesellschaftliche Folgen

Betrachte die Perspektiven von:

Schülerinnen und Schülern,
Küchenpersonal,
Schulleitung,
Eltern,
Umwelt,
Datenschutzbeauftragten.

Formuliere für mindestens drei Perspektiven jeweils:

möglicher Nutzen – mögliches Risiko – geeignete Schutzmaßnahme

Aufgabe E: Lege Governance fest

Entwirf eine einfache Verantwortungsmatrix.

Entscheidung	Verantwortliche Rolle	Nachweis
Welche Daten dürfen genutzt werden?	Schulleitung mit Datenschutzprüfung	dokumentierte Datenliste
Ist das System genau genug?	Projektteam und Küchenleitung	Testbericht
Wird die Empfehlung übernommen?	Küchenleitung	tägliche Freigabe
Werden Fehler untersucht?	Projektteam	Fehlerprotokoll
Wird das System gestoppt?	benannte verantwortliche Stelle	begründete Entscheidung

Ergänze mindestens zwei weitere Zeilen.

Fairness und Verzerrungen

Fairness bedeutet nicht immer, dass alle exakt gleich behandelt werden. Entscheidend ist, ob Unterschiede sachlich begründet sind und ob Menschen nicht aufgrund irrelevanter oder geschützter Merkmale benachteiligt werden.

Algorithmische Verzerrungen können entstehen, wenn:

Trainingsdaten frühere Ungleichheiten enthalten,
bestimmte Gruppen in Daten zu selten vorkommen,
ein ungeeignetes Ziel optimiert wird,
ein Messwert nur ein schlechter Ersatz für das eigentlich Gemeinte ist,
Rückkopplungen bestehende Muster verstärken.

Achte beim Video besonders auf den Gedanken, dass Verzerrungen nicht nur „im Algorithmus“ entstehen. Sie können schon durch Datenauswahl, Kategorien, Messmethoden und spätere Nutzung entstehen.

Fairness prüfen, ohne Menschen auf Kennzahlen zu reduzieren

Für eine faire Evaluation kannst Du Ergebnisse nach relevanten Gruppen getrennt betrachten, sofern dies rechtlich und ethisch zulässig ist. Dabei geht es nicht darum, unnötig sensible Daten zu sammeln. Vielmehr soll geprüft werden, ob eine scheinbar gute Gesamtleistung Nachteile verdeckt.

Ein Beispiel aus einer fiktiven Lernplattform:

Gesamtgenauigkeit: 90 Prozent

Das klingt gut. Wenn aber die Fehlerquote für eine bestimmte Gruppe deutlich höher liegt, reicht die Gesamtzahl nicht aus.

Die wichtige Frage lautet:

Welche Fehler treffen wen, wie stark und mit welchen Möglichkeiten zur Korrektur?

Transparenz und Erklärbarkeit

Transparenz heißt nicht, dass jede Person den gesamten Quellcode lesen muss. Sinnvoll ist vielmehr, dass die für eine Situation wichtigen Informationen zugänglich sind.

Dazu gehören zum Beispiel:

Zweck des Systems,
verwendete Datenarten,
Rolle der KI bei einer Entscheidung,
wichtige Grenzen und bekannte Fehler,
verantwortliche Stelle,
Möglichkeiten für Rückfragen und Korrektur.

Erklärbarkeit bedeutet, dass relevante Gründe und Zusammenhänge verständlich gemacht werden können.

Gute Transparenz ist adressatengerecht. Eine Schülerin braucht möglicherweise eine andere Erklärung als ein Entwickler oder eine Aufsichtsbehörde.

Governance und Regeln in der Europäischen Union

Der AI Act der Europäischen Union verfolgt einen risikobasierten Ansatz. Nicht jede KI-Anwendung wird gleich behandelt. Je nach Zweck und möglichem Risiko gelten unterschiedliche Anforderungen oder Verbote.

Für diesen Lernkurs ist vor allem die Denkweise wichtig:

Je größer mögliche Auswirkungen auf Sicherheit, Rechte und Chancen von Menschen sind, desto stärker müssen Prüfung, Dokumentation, Aufsicht und Schutzmaßnahmen sein.

Im Bildungsbereich ist deshalb besondere Vorsicht angebracht, wenn KI über Zugänge, Bewertungen, Auswahl oder andere folgenreiche Entscheidungen mitbestimmt. Für konkrete rechtliche Fragen muss immer der genaue Einsatzzweck geprüft werden.

Nutze das Video nicht als einzige Quelle. Vergleiche wichtige Aussagen mit aktuellen offiziellen Informationen der Europäischen Union, da sich Rechtslage und Anwendungshinweise weiterentwickeln können.

Fächerübergreifende Bezüge

Informatik

In Informatik stehen Daten, Modelle, Trainingsprozesse, Testdaten, Systemgrenzen, Schnittstellen, Sicherheit und Rückkopplung im Mittelpunkt. Besonders wichtig ist die Unterscheidung zwischen Modellleistung und Systemwirkung.

Mathematik

In Mathematik kannst Du Fehlermaße, Durchschnittswerte, Häufigkeiten, Streuung, Stichproben und Unsicherheit untersuchen. Wichtig ist auch die Frage, welche Kennzahl ein Problem angemessen beschreibt.

Technik

In Technik wird KI als Teil eines größeren Systems betrachtet. Dazu gehören Sensoren, Software, Bedienoberflächen, Prozesse, Wartung, Fehlertoleranz und sichere Abschaltung.

Deutsch

In Deutsch geht es um verständliche Begründungen, Quellenkritik, Argumentation, adressatengerechte Erklärungen und die sprachliche Kennzeichnung von Unsicherheit. Du trainierst, eine Entscheidung transparent und nachvollziehbar zu dokumentieren.

Wirtschaft

In Wirtschaft kannst Du untersuchen, wer Kosten trägt, wer Nutzen erhält, welche Anreize entstehen und wie Effizienz mit Qualität, Fairness und langfristigen Folgen abgewogen wird.

Geschichte

In Geschichte lässt sich untersuchen, wie frühere technische Systeme gesellschaftliche Strukturen verändert haben. Der Vergleich mit Industrialisierung, Automatisierung oder statistischer Verwaltung zeigt, dass Technik immer in bestehende Macht- und Entscheidungsstrukturen eingebettet ist.

Ethik

In Ethik stehen Werte, Verantwortung, Menschenwürde, Gerechtigkeit, Schadensvermeidung, Autonomie und Nachhaltigkeit im Mittelpunkt. Ein KI-System muss daher nicht nur funktionieren, sondern begründbar sein.

Gemeinschaftskunde

In Gemeinschaftskunde geht es um demokratische Kontrolle, Grundrechte, Beteiligung, Regulierung, Institutionen und die Frage, wie gesellschaftliche Regeln für neue Technologien entstehen.

Ein Gestaltungsrahmen für gesellschaftlich nützliche KI

Merke Dir die sieben Fragen:

Problem: Welches konkrete Problem soll verbessert werden?
Zweck: Warum wäre KI dafür angemessen?
Daten: Welche Daten sind nötig und vertretbar?
Entscheidung: Was entscheidet die KI, was entscheidet der Mensch?
Evaluation: Woran erkennen wir technische Qualität und gesellschaftliche Wirkung?
Governance: Wer trägt Verantwortung, prüft, dokumentiert und stoppt?
Folgen: Welche beabsichtigten und unbeabsichtigten Wirkungen entstehen?

Diese sieben Fragen bilden einen einfachen KI-Gesellschaftsnutzen-Check.

Vergleich: Zwei Schulprojekte

Projekt 1: Energiesparende Heizungssteuerung

Eine Schule möchte Energie sparen. Ein System schlägt Heizzeiten auf Basis von Raumbelegung, Wetterprognosen und Gebäudedaten vor.

Mögliche Vorteile:

geringerer Energieverbrauch,
geringere Kosten,
Beitrag zum Klimaschutz.

Mögliche Risiken:

falsche Prognosen führen zu kalten Räumen,
besondere Bedürfnisse werden nicht berücksichtigt,
unklare Verantwortung bei Beschwerden.

Sinnvolle Schutzmaßnahmen:

Mindesttemperaturen,
manuelle Übersteuerung,
Messung von Komfort und Energieverbrauch,
Rückmeldemöglichkeit für Nutzerinnen und Nutzer.

Projekt 2: Automatische Auswahl für Förderplätze

Eine Schule hat nur wenige Plätze in einem Förderprogramm. Eine KI soll anhand von Noten, Fehlzeiten und Lernplattformdaten entscheiden, wer aufgenommen wird.

Mögliche Vorteile:

große Datenmenge kann schnell ausgewertet werden.

Mögliche Risiken:

historisch benachteiligte Gruppen könnten erneut benachteiligt werden,
Fehlzeiten können sehr unterschiedliche Ursachen haben,
Lernplattformdaten bilden nicht alle Leistungen ab,
eine automatische Entscheidung kann schwer anfechtbar sein.

Bewertung: Je stärker eine KI über Bildungschancen entscheidet, desto wichtiger sind menschliche Verantwortung, nachvollziehbare Kriterien, rechtliche Prüfung, Widerspruchsmöglichkeiten und eine strenge Folgenabschätzung.

Quellenkritik bei Aussagen über KI

Wenn Du eine Behauptung über Nutzen oder Risiko von KI prüfst, frage:

Wer macht die Aussage?
Welche Daten oder Studien werden genannt?
Ist der konkrete Anwendungsfall beschrieben?
Werden Vergleichswerte oder Alternativen genannt?
Sind Unsicherheiten sichtbar?
Gibt es wirtschaftliche oder politische Interessen?
Ist die Quelle aktuell?
Werden Gegenbeispiele oder Grenzen genannt?

Eine Werbeaussage wie „Unsere KI ist fair“ ist kein ausreichender Nachweis. Ein überprüfbarer Nachweis müsste erklären, wie Fairness definiert, gemessen und getestet wurde.

Selbstkontrolle: Der Entscheidungssatz

Formuliere am Ende einer Prüfung einen Satz nach diesem Muster:

Wir empfehlen / empfehlen nicht / empfehlen nur unter Bedingungen den Einsatz von KI für ..., weil ..., gemessen an ..., unter den Schutzmaßnahmen ..., mit Verantwortung bei ..., und wir prüfen die Entscheidung erneut, wenn ... .

Damit wird Deine Entscheidung transparent und überprüfbar.

Interaktive Aufgaben

Quiz: Teste Dein Wissen

Was ist der beste Ausgangspunkt für ein gesellschaftlich nützliches KI-Projekt? (Ein klar beschriebenes Problem mit betroffenen Gruppen und Zielen) (!Die Auswahl eines möglichst großen KI-Modells) (!Die Suche nach möglichst vielen personenbezogenen Daten) (!Die automatische Übernahme einer bestehenden KI-Anwendung)

Was beschreibt Human Agency im Zusammenhang mit KI am besten? (Menschen bleiben informiert, entscheidungsfähig und können eingreifen) (!Menschen überlassen jede Entscheidung vollständig dem Modell) (!KI darf nur ohne menschliche Rückmeldung arbeiten) (!Nur Programmierende dürfen ein KI-System hinterfragen)

Warum reicht eine hohe technische Genauigkeit allein nicht für gesellschaftlichen Nutzen? (Weil auch Ziele, Betroffene, Risiken und Folgen geprüft werden müssen) (!Weil genaue Modelle grundsätzlich verboten sind) (!Weil technische Tests bei KI keine Rolle spielen) (!Weil nur die Kosten eines Systems entscheidend sind)

Welche Maßnahme unterstützt Datenminimierung? (Nur Daten verwenden, die für den legitimen Zweck wirklich nötig sind) (!Möglichst viele Daten auf Vorrat sammeln) (!Private Daten unabhängig vom Zweck speichern) (!Jede verfügbare Datenquelle automatisch verbinden)

Was gehört zu guter KI-Governance? (Klare Rollen für Entscheidung, Prüfung, Dokumentation und Stopp) (!Eine einzige unbekannte Person entscheidet alles) (!Fehler werden nicht dokumentiert) (!Ein System darf nach der Einführung nicht mehr verändert werden)

Was ist eine sinnvolle Folgenabschätzung? (Nutzen und Risiken für verschiedene Betroffene systematisch prüfen) (!Nur die Rechengeschwindigkeit des Modells messen) (!Nur Vorteile dokumentieren) (!Nur die Meinung der Entwicklerinnen und Entwickler berücksichtigen)

Warum sollte ein KI-Modell mit einer einfachen Basislösung verglichen werden? (Um zu prüfen, ob die zusätzliche Komplexität tatsächlich einen Mehrwert bringt) (!Weil einfache Lösungen immer besser sind) (!Weil KI nicht getestet werden kann) (!Weil Daten bei Basislösungen unnötig sind)

Welche Aussage über Fairness ist am sinnvollsten? (Fehler und Auswirkungen müssen für relevante Gruppen und Situationen geprüft werden) (!Eine gute Gesamtdurchschnittszahl beweist automatisch Fairness) (!Fairness bedeutet immer identische Ergebnisse für alle) (!Fairness kann ausschließlich durch Geschwindigkeit gemessen werden)

Was bedeutet adressatengerechte Transparenz? (Relevante Informationen werden so erklärt, dass die betroffene Zielgruppe sie verstehen und nutzen kann) (!Jede Person muss den gesamten Quellcode lesen) (!Nur technische Fachbegriffe dürfen verwendet werden) (!Informationen über Grenzen eines Systems werden weggelassen)

Wann sollte ein KI-System neu bewertet werden? (Wenn sich Daten, Zweck, Nutzungssituation oder beobachtete Folgen wesentlich verändern) (!Nur wenn das Logo des Systems geändert wird) (!Nie nach der ersten Freigabe) (!Nur wenn das System schneller wird)

Memory

Human Agency	menschliche Handlungs- und Entscheidungsfähigkeit
Governance	Regeln, Rollen und Verantwortung
Evaluation	systematische Prüfung von Leistung und Wirkung
Datenminimierung	nur notwendige Daten verwenden
Folgenabschätzung	mögliche Wirkungen und Risiken untersuchen
Transparenz	relevante Informationen nachvollziehbar machen
Fairness	Benachteiligungen und Verteilungen prüfen
Feedbackschleife	Erfahrungen für Verbesserung zurückführen

Drag and Drop

Ordne die richtigen Begriffe zu.	Thema
Problemdefinition	Welches konkrete gesellschaftliche Problem soll verbessert werden?
Datenprüfung	Sind die verwendeten Daten relevant, notwendig und ausreichend?
Evaluation	Wie werden technische Qualität und reale Wirkung gemessen?
Governance	Wer entscheidet, prüft, dokumentiert und kann stoppen?
Folgenabschätzung	Welche positiven und negativen Auswirkungen sind zu erwarten?
Iteration	Wie wird die Lösung anhand von Rückmeldungen verbessert?

...

Kreuzworträtsel

Fairness	Wie heißt das Prinzip, bei dem Benachteiligungen und gerechte Verteilungen geprüft werden?
Governance	Wie nennt man Regeln, Rollen und Verfahren zur verantwortlichen Steuerung eines Systems?
Transparenz	Welcher Begriff bezeichnet nachvollziehbare Informationen über Zweck, Grenzen und Einsatz?
Evaluation	Wie heißt die systematische Prüfung von Leistung und Wirkung?
Feedback	Wie heißt eine Rückmeldung, die zur Verbesserung eines Systems genutzt wird?
Datenschutz	Welcher Begriff bezeichnet den Schutz personenbezogener Daten?

LearningApps

Lückentext

Ein verantwortliches KI-Projekt beginnt mit einer klaren

. Eine KI sollte nur eingesetzt werden, wenn sie gegenüber einfacheren Alternativen einen begründbaren

bietet. Für ein System sollten nur Daten verwendet werden, die für den legitimen Zweck tatsächlich

sind. Technische Leistung und reale Wirkung werden durch eine geplante

überprüft. Regeln, Rollen und Zuständigkeiten gehören zur

. Menschen sollen auch bei KI-Unterstützung entscheidungs- und handlungsfähig bleiben; dieses Prinzip wird als

bezeichnet. Eine

untersucht mögliche Vorteile, Schäden und Nebenwirkungen für verschiedene Gruppen. Durch

können Erfahrungen aus dem Einsatz wieder in die Verbesserung des Systems einfließen. Gute

macht Zweck, Grenzen und Verantwortung für Betroffene verständlich. Eine begründete Entscheidung nennt nicht nur Vorteile, sondern auch Bedingungen, Schutzmaßnahmen und verbleibende

.

Offene Aufgaben

Leicht

KI-Gesellschaftsnutzen-Check: Wähle eine KI-Anwendung aus Deinem Schulalltag oder Deiner Freizeit und beantworte die sieben Fragen Problem, Zweck, Daten, Entscheidung, Evaluation, Governance und Folgen.
Stakeholder-Mapping: Zeichne für die KI-Mensa mindestens fünf betroffene Gruppen ein und notiere für jede Gruppe einen möglichen Nutzen und ein mögliches Risiko.
Quellenkritik: Suche zwei unterschiedliche Aussagen über den Nutzen von KI in der Bildung. Prüfe Autor, Belege, Aktualität, Interessen und Unsicherheiten.
Transparenztext: Schreibe eine verständliche Information für Schülerinnen und Schüler, in der Zweck, Daten, Grenzen und verantwortliche Stelle eines fiktiven Schul-KI-Systems erklärt werden.

Standard

Systemdesign: Entwirf ein vollständiges Systemdiagramm für eine KI, die den Energieverbrauch der Schule senken soll. Markiere Datenquellen, Modell, Ausgabe, menschliche Entscheidung und Feedbackschleife.
Evaluation: Lege für Dein System mindestens zwei technische und drei gesellschaftliche Erfolgskriterien fest. Erkläre, warum gerade diese Kriterien geeignet sind.
Fairness-Test: Entwickle fünf Testfälle, mit denen Du prüfen kannst, ob ein fiktives KI-System bestimmte Situationen oder Gruppen systematisch schlechter behandelt.
Governance-Plan: Erstelle eine Verantwortungsmatrix mit mindestens sechs Entscheidungen. Lege fest, wer entscheiden, prüfen, dokumentieren, widersprechen und stoppen darf.

Schwer

Technikfolgenabschätzung: Vergleiche für ein selbst gewähltes KI-Projekt mindestens zwei Lösungsalternativen einschließlich einer Nicht-KI-Lösung. Begründe, welche Variante gesellschaftlich am sinnvollsten ist.
Red Team: Versuche Dein eigenes Systemdesign gezielt zu „brechen“. Erfinde mindestens acht schwierige oder missbräuchliche Situationen und verbessere danach Schutzmaßnahmen.
Pilotprojekt: Entwickle einen kleinen Testplan für eine schulische KI-Anwendung. Formuliere Hypothesen, Erfolgskriterien, Abbruchkriterien, Feedbackwege und einen Plan zur erneuten Prüfung.
Transferfall: Übertrage Deinen Gestaltungsrahmen auf einen neuen Bereich wie Verkehr, Gesundheit, Verwaltung oder Bewerbungsverfahren. Zeige, welche Kriterien gleich bleiben und welche neu gewichtet werden müssen.

Lernkontrolle

Systementscheidung: Eine Schule möchte eine KI einführen, die automatisch erkennt, wer zusätzliche Lernförderung erhalten soll. Entwickle eine Entscheidungsvorlage, in der Du Nutzen, Alternativen, Daten, Risiken, Fairness, menschliche Kontrolle und Widerspruchsmöglichkeiten gegeneinander abwägst.
Fehlerfolgen: Zwei Systeme haben denselben durchschnittlichen Fehler. System A macht viele kleine Fehler, System B wenige sehr große Fehler. Erkläre, warum die gleiche Durchschnittskennzahl zu unterschiedlichen Entscheidungen führen kann.
Governance-Konflikt: Ein KI-System funktioniert technisch gut, aber niemand fühlt sich für Fehlentscheidungen zuständig. Erkläre, warum dies ein Systemfehler ist und entwirf eine bessere Verantwortungsstruktur.
Quellenvergleich: Ein Hersteller wirbt mit „95 Prozent Genauigkeit“, eine Schülervertretung berichtet gleichzeitig von unfairen Ergebnissen. Beschreibe, welche zusätzlichen Informationen Du brauchst, bevor Du eine Entscheidung triffst.
Transfer: Übertrage den KI-Gesellschaftsnutzen-Check auf ein KI-System zur Verkehrssteuerung. Erkläre, welche Betroffenen, Risiken und Erfolgskriterien neu hinzukommen.
Verbesserungsschleife: Nach drei Monaten zeigt sich, dass ein KI-System zwar sein Hauptziel erreicht, aber unerwartete Nebenwirkungen erzeugt. Entwickle einen Ablauf aus Beobachtung, Analyse, Entscheidung, Änderung, Test und erneuter Freigabe.

Lernnachweis

Für einen Lernnachweis zu KI für gesellschaftlichen Nutzen gestalten ist wichtig, dass Du nicht nur Begriffe nennen kannst, sondern begründete Gestaltungsentscheidungen triffst.

Ein überzeugender Lernnachweis zeigt:

eine präzise Problemdefinition,
eine nachvollziehbare Begründung, ob KI überhaupt geeignet ist,
ein verständliches Systemdesign mit Daten, Modell, Ausgabe, menschlicher Entscheidung und Feedback,
passende technische und gesellschaftliche Bewertungskriterien,
eine Folgenabschätzung für mehrere betroffene Gruppen,
konkrete Maßnahmen zu Fairness, Datenschutz, Sicherheit und Transparenz,
eine klare Governance mit Verantwortlichkeiten und Eingriffsmöglichkeiten,
mindestens einen Test oder Vergleich mit einer Alternative,
dokumentierte Verbesserungen nach Rückmeldung,
eine abschließende Entscheidung mit Bedingungen, Unsicherheiten und Begründung,
einen Transfer auf einen neuen Anwendungsfall.

Reflexion

Beantworte zum Abschluss schriftlich:

Welche Entscheidung im Gestaltungsprozess sollte niemals allein von einem KI-System getroffen werden?
Wo hast Du Deine erste Meinung nach einer Prüfung verändert?
Welche Kennzahl war hilfreich, welche hätte allein in die Irre führen können?
Wie kann man vermeiden, dass „gesellschaftlicher Nutzen“ nur aus Sicht einer mächtigen Gruppe definiert wird?
Was müsste passieren, damit Du einen bereits gestarteten KI-Einsatz wieder stoppst?
Woran erkennt man, dass Human Agency wirklich vorhanden ist und nicht nur behauptet wird?

Transfer: Neue Fälle selbstständig beurteilen

Nutze den KI-Gesellschaftsnutzen-Check für einen neuen Fall.

Fall: Eine Stadt möchte eine KI einsetzen, um zu entscheiden, in welchen Stadtteilen zuerst neue Bäume gepflanzt werden.

Prüfe:

Welches gesellschaftliche Ziel wird verfolgt?
Welche Daten könnten sinnvoll sein?
Welche Gruppen sollten beteiligt werden?
Wie könnte historische Ungleichheit in den Daten sichtbar werden?
Welche Kriterien bestimmen „Bedarf“?
Wie wird erklärt, warum ein Stadtteil priorisiert wird?
Wer entscheidet endgültig?
Wie kann nach einigen Jahren geprüft werden, ob die Maßnahme tatsächlich gerecht und wirksam war?

Transferfrage: Welche Teile Deines Vorgehens aus der KI-Mensa kannst Du unverändert übernehmen, und welche musst Du an den neuen Kontext anpassen?

Eigene Lösung entwickeln, testen und verbessern

Entwickle nun eine eigene KI-gestützte Lösung für ein gesellschaftlich relevantes Problem in Schule oder Alltag.

Dein Projekt durchläuft fünf Phasen:

Entwerfen: Beschreibe Problem, Ziel, Betroffene, Alternativen und Systemgrenze.
Testen: Formuliere mindestens fünf Testfälle und mindestens ein messbares Erfolgskriterium.
Prüfen: Untersuche Fairness, Sicherheit, Datenschutz, Transparenz und mögliche Nebenwirkungen.
Verbessern: Verändere Dein Design nach den Testergebnissen und dokumentiere die Änderung.
Begründen: Erstelle einen Entscheidungssatz mit Nutzen, Bedingungen, Schutzmaßnahmen, Verantwortung und verbleibender Unsicherheit.

Eine gute Lösung ist nicht diejenige mit der meisten KI. Eine gute Lösung ist diejenige, deren Nutzen, Grenzen und Verantwortung am besten begründet und überprüft werden können.

Vertiefung: Systemdesign, Evaluation und Governance zusammendenken

Auch klassische Systementwicklung arbeitet in Phasen. Für gesellschaftlich verantwortliche KI muss jedoch in jeder Phase zusätzlich geprüft werden, welche Folgen eine technische Entscheidung für Menschen und Institutionen hat.

Ein hilfreicher Zusammenhang lautet:

Ziel → Daten → Modell → Entscheidung → Handlung → Wirkung → Feedback

An jeder Verbindung können Fehler oder Fehlanreize entstehen.

Beispiel:

Ein falsches Ziel führt zu falscher Optimierung.
Schlechte Daten führen zu verzerrten Modellen.
Eine gute Vorhersage kann durch eine schlechte Entscheidungsregel falsch genutzt werden.
Eine sinnvolle Empfehlung kann ohne menschliche Kontrolle problematisch umgesetzt werden.
Eine zunächst gute Lösung kann sich durch veränderte Bedingungen verschlechtern.

Darum muss Evaluation über die gesamte Kette hinweg erfolgen.

Mediengestützte Vertiefung

Die folgenden Medien können je nach Unterrichtszeit ganz oder ausschnittsweise genutzt werden.

Vergleiche die dargestellten technischen Schritte mit dem in diesem Kurs verwendeten KI-Gesellschaftsnutzen-Check. Markiere, welche gesellschaftlichen Fragen in einer rein technischen Darstellung fehlen.

Beobachtungsauftrag: Notiere zwei Ursachen algorithmischer Verzerrung und formuliere jeweils eine passende Schutzmaßnahme.

Beobachtungsauftrag: Erkläre nach dem Video in eigenen Worten, warum ein risikobasierter Ansatz sinnvoller sein kann als identische Regeln für jede KI-Anwendung.

OERs zum Thema

Weitere frei zugängliche Vertiefungen:

Verknüpfte Lernbereiche

KI für gesellschaftlichen Nutzen gestalten

aiMOOC-Projekte

Inhalte werden geladen ...

Mediathek wird aus dem Wiki geladen ...

Frag mich zum aktuellen Lerninhalt oder wähle eine kurze Hilfe.

Textmodus bereit

Sprache