Diesen aiMOOC als Battle spielen: Deutsch, Klasse 9-10, G-Niveau

KI und Demokratie untersuchen

Einleitung

Künstliche Intelligenz kann demokratische Prozesse unterstützen, aber auch neue Risiken erzeugen. Sie kann große Textmengen zusammenfassen, politische Informationen zugänglicher machen, Beteiligung erleichtern oder Behörden bei Routineaufgaben unterstützen. Gleichzeitig können Algorithmen Sichtbarkeit steuern, generative Systeme täuschend echte Inhalte erzeugen und automatisierte Entscheidungen Menschen ungleich behandeln. Für eine Demokratie ist deshalb nicht nur wichtig, was KI kann, sondern wer sie mit welchen Daten, Zielen und Regeln einsetzt, wer betroffen ist und wer am Ende Verantwortung trägt.

Dieser Lernkurs richtet sich vor allem an die Klasse 9 und ist für etwa 1–2 Unterrichtsstunden angelegt. Du untersuchst KI nicht als neutrale „Blackbox“, sondern als soziotechnisches System: Menschen wählen Daten, Ziele, Regeln und Einsatzorte; Technik verarbeitet Informationen; Institutionen legen Verfahren fest; Betroffene erleben die Folgen. Am Ende sollst Du eine neue KI-Situation selbstständig prüfen, Zielkonflikte erkennen und eine begründete Entscheidung treffen können.

Leitfrage: Wie kann KI so eingesetzt werden, dass menschliche Selbstbestimmung, faire Teilhabe, Grundrechte und demokratische Kontrolle erhalten bleiben?

Lernziele

Nach dem Kurs kannst Du erklären, warum KI-Systeme demokratische Prozesse nicht nur technisch, sondern auch gesellschaftlich beeinflussen. Du kannst Daten, Zielgrößen, Fehler und Anreize eines Systems untersuchen, Auswirkungen auf verschiedene Gruppen vergleichen, Grundrechte und Werte gegeneinander abwägen, menschliche Kontrolle einfordern und Deine Entscheidung nachvollziehbar begründen.

Fächerübergreifende Bezüge

Fach	Beitrag zum Thema
Informatik	Daten, Modelle, Trainings- und Einsatzdaten, Empfehlungsalgorithmen, automatisierte Entscheidungen, Transparenz und menschliche Kontrolle
Deutsch	Quellenkritik, Argumentation, sprachliches Framing, Tatsachenbehauptung, Meinung, Desinformation und begründete Urteile
Mathematik	Prozentwerte, Fehlerraten, Verhältnisse, Dateninterpretation und die Frage, was Kennzahlen aussagen oder verschleiern
Technik	Systemgestaltung, Sicherheitsmechanismen, Protokollierung, Eingriffsmöglichkeiten und verantwortliche Mensch-Technik-Schnittstellen
Wirtschaft	Geschäftsmodelle, Aufmerksamkeit als Ressource, Anreize von Plattformen und Machtkonzentration
Geschichte	Wandel politischer Öffentlichkeit, Wahlkommunikation, Propaganda, Medienumbrüche und demokratische Schutzmechanismen
Ethik	Fairness, Verantwortung, Autonomie, Menschenwürde, Schaden, Gerechtigkeit und Werteabwägung
Gemeinschaftskunde	Demokratie, Grundrechte, Wahlen, politische Öffentlichkeit, Beteiligung, Regulierung und Kontrolle politischer Macht

Aktivierung und Diagnose

Fallimpuls: 24 Stunden vor der Wahl

Stell Dir vor: Einen Tag vor einer fiktiven Jugendgemeinderatswahl taucht ein Video auf. Darin scheint eine Kandidatin zu sagen, sie wolle Jugendangebote streichen. Das Video verbreitet sich schnell. Einige finden die Aussage empörend, andere vermuten eine KI-Manipulation. Noch ist unklar, ob das Video echt ist.

Entscheide zunächst ohne lange Recherche: Würdest Du das Video teilen, kommentieren, melden, ignorieren oder erst prüfen? Notiere anschließend, welche Information Dir für eine verantwortliche Entscheidung noch fehlt. Genau diese Lücke ist wichtig: Demokratisches Urteilen bedeutet nicht, besonders schnell zu reagieren, sondern Unsicherheit zu erkennen und begründet mit ihr umzugehen.

Diagnosefragen

Quellenkritik: Woran würdest Du prüfen, ob das Video authentisch ist?
Verantwortung: Wer könnte durch eine falsche Weitergabe geschädigt werden?
Human Agency: Welche Entscheidung sollte ein Mensch treffen und nicht automatisch ein System?
Grundrechte: Welche Rechte könnten betroffen sein, wenn ein Plattform-System das Video automatisch löscht oder besonders stark verbreitet?

Was hat KI mit Demokratie zu tun?

Demokratie braucht mehr als Wahlen

Demokratie bedeutet nicht nur, dass Menschen wählen dürfen. Sie braucht freie Meinungsbildung, Zugang zu unterschiedlichen Informationen, faire Beteiligungsmöglichkeiten, überprüfbare Verfahren, Schutz von Minderheiten, Grundrechte und verantwortliche Institutionen. Wenn KI beeinflusst, welche Informationen Menschen sehen, welche Beiträge sichtbar werden oder welche Personen genauer geprüft werden, kann sie diese Bedingungen verändern.

Das historische Bild erinnert daran, dass demokratische Verfahren sichtbare Regeln, Zuständigkeiten und Kontrollen brauchen. Bei digitalen Systemen sind solche Regeln oft weniger sichtbar. Deshalb lautet eine zentrale Frage: Wie wird aus technischer Funktionsweise demokratisch kontrollierbare Macht?

Chancen von KI für demokratische Gesellschaften

KI kann demokratische Teilhabe unterstützen, wenn sie verantwortlich gestaltet wird. Sie kann zum Beispiel lange Dokumente barriereärmer zusammenfassen, Übersetzungen erleichtern, große Mengen an Bürgerhinweisen vorsortieren oder Menschen dabei helfen, unterschiedliche Positionen zu vergleichen. Auch bei der Erkennung koordinierter Manipulationsmuster oder bei der Unterstützung journalistischer Recherche kann KI nützlich sein.

Doch eine Chance wird nicht automatisch zu einem guten demokratischen Ergebnis. Eine Zusammenfassung kann wichtige Minderheitenpositionen verlieren. Ein Moderationssystem kann Beleidigungen reduzieren, aber zugleich legitime Kritik fälschlich ausblenden. Ein Beteiligungssystem kann mehr Menschen erreichen, aber gleichzeitig personenbezogene Daten sammeln. Deshalb musst Du immer Nutzen und Risiken gemeinsam betrachten.

Risiken für Demokratie

Zu den wichtigen Risikofeldern gehören Desinformation, Deepfakes, verzerrte oder diskriminierende Entscheidungen, intransparente Empfehlungslogiken, Überwachung, ungleiche Zugänge, Machtkonzentration bei wenigen Anbietern und die Gefahr, Verantwortung an ein System abzuschieben. Besonders kritisch wird es, wenn KI nicht nur Informationen bereitstellt, sondern faktisch bestimmt, welche Stimmen sichtbar sind oder welche Menschen Nachteile erfahren.

Wie ein KI-System betrachtet werden sollte

Vom Datensatz zur gesellschaftlichen Wirkung

Ein KI-System lässt sich als Kette untersuchen:

Schritt	Leitfrage
Daten	Welche Daten werden gesammelt, ausgewählt oder ausgeschlossen?
Modell	Welche Muster lernt oder berechnet das System?
Zielgröße	Was wird optimiert: Genauigkeit, Klicks, Sicherheit, Kosten, Geschwindigkeit oder etwas anderes?
Ausgabe	Welche Empfehlung, Einstufung oder Priorisierung entsteht?
Entscheidung	Wer handelt auf Grundlage dieser Ausgabe?
Folgen	Wer profitiert, wer trägt Risiken und wer kann sich beschweren?
Rückkopplung	Verändert die Ausgabe spätere Daten oder das Verhalten von Menschen?

Das Bild zeigt vereinfacht ein künstliches neuronales Netz. Für demokratische Fragen reicht es aber nicht, nur die technische Struktur zu verstehen. Entscheidend ist auch der Kontext. Ein mathematisch gutes Modell kann gesellschaftlich problematisch eingesetzt werden. Umgekehrt kann ein technisch unvollkommenes System vertretbar sein, wenn es nur beratend eingesetzt wird, Fehler sichtbar bleiben und Menschen korrigieren können.

Human Agency: Menschen müssen handlungsfähig bleiben

Human Agency bedeutet hier: Menschen sollen nicht bloß Empfänger automatischer Entscheidungen sein. Sie müssen verstehen können, dass KI beteiligt ist, wichtige Entscheidungen hinterfragen dürfen, Alternativen haben, widersprechen können und bei bedeutsamen Folgen Zugang zu menschlicher Prüfung erhalten.

Ein sinnvoller Kontrollsatz lautet: KI darf unterstützen, aber Verantwortung darf nicht verschwinden.

Menschliche Kontrolle ist nur dann wirksam, wenn sie real ist. Ein „Mensch im Prozess“ reicht nicht, wenn die Person keine Zeit, keine Informationen oder keine Befugnis hat, die KI-Empfehlung zu ändern.

Empfehlungsalgorithmen und politische Öffentlichkeit

Warum Rankings politisch relevant sein können

In sozialen Medien sehen Nutzerinnen und Nutzer nicht alle verfügbaren Inhalte gleich häufig. Empfehlungs- und Rankingsysteme entscheiden, was weiter oben erscheint oder vorgeschlagen wird. Dabei können Ziele wie Interaktion, Verweildauer oder angenommene Relevanz eine Rolle spielen. Solche Systeme können hilfreich sein, weil sie Informationsfluten ordnen. Sie können aber auch bestimmte Inhalte stärker sichtbar machen als andere.

Eine Filterblase und eine Echokammer sind nicht dasselbe. Bei einer Filterblase beeinflusst algorithmische Auswahl, welche Inhalte eine Person erreicht. In einer Echokammer verstärken sich ähnliche Ansichten zusätzlich durch soziale Gruppenprozesse. Beide Konzepte helfen beim Nachdenken, sollten aber nicht als einfache Erklärung für jedes Online-Verhalten benutzt werden.

Datenbeispiel: Sichtbarkeit ist nicht gleich Wirkung

Eine Studie zur Bundestagswahl 2025 untersuchte mit zahlreichen künstlich angelegten Nutzerprofilen, welche politischen Videos in Social-Media-Feeds empfohlen wurden. In einem veröffentlichten Beispiel machte eine Partei 24,1 Prozent der hochgeladenen Videos aus, erschien aber nur in 14,1 Prozent der untersuchten Empfehlungen. Solche Unterschiede zeigen, dass Upload-Menge und algorithmische Sichtbarkeit nicht identisch sein müssen.

Wichtig ist die saubere Interpretation: Daraus folgt nicht automatisch, dass ein Algorithmus eine Wahlentscheidung verursacht hat. Beobachtete Sichtbarkeit, individuelle Überzeugung und tatsächliches Wahlverhalten sind verschiedene Größen.

Mathematik-Auftrag: Berechne das Verhältnis 14,1 zu 24,1. Formuliere anschließend in einem Satz, was diese Zahl aussagt und in einem zweiten Satz, was sie nicht beweist.

Desinformation, Deepfakes und Quellenkritik

Nicht alles Falsche ist Desinformation

Eine falsche Aussage kann aus Versehen entstehen. Von Desinformation spricht man dagegen typischerweise, wenn falsche oder irreführende Informationen gezielt verbreitet werden, um Menschen zu täuschen oder zu beeinflussen. KI kann die Herstellung von Texten, Bildern, Audio und Videos beschleunigen. Dadurch wird Quellenkritik wichtiger, nicht überflüssig.

Ein Deepfake ist ein KI-generierter oder KI-manipulierter Medieninhalt, der reale Personen, Orte, Objekte oder Ereignisse so nachahmt, dass er fälschlich authentisch wirken kann.

Quellenprüfung in fünf Schritten

Absender: Wer veröffentlicht die Information und ist die Identität überprüfbar?
Originalquelle: Gibt es das vollständige Original statt nur einen Ausschnitt oder Screenshot?
Kontext: Stimmen Datum, Ort, Anlass und Reihenfolge der Ereignisse?
Gegenprüfung: Berichten voneinander unabhängige, verlässliche Quellen dasselbe?
Unsicherheit: Was weißt Du noch nicht und wie kennzeichnest Du diese Unsicherheit?

Vorsicht vor dem Erkennungs-Mythos

Bei manipulierten Medien gibt es nicht immer ein einzelnes sichtbares Merkmal, das sicher beweist, ob etwas echt oder falsch ist. Technische Erkennungswerkzeuge können helfen, aber auch irren. Besonders wichtig bleiben Provenienz, Originalquelle, Kontext, unabhängige Bestätigung und die Frage, wer ein Interesse an der Verbreitung hat.

Daten- und Systembewertung

Fehler sind nicht alle gleich

Stell Dir ein fiktives KI-System vor, das Kommentare auf einer kommunalen Jugendplattform als „problematisch“ markiert. In einem Test mit 100 Kommentaren gelten 20 Kommentare nach menschlicher Prüfung tatsächlich als beleidigend oder bedrohend. Das System markiert 18 Kommentare. Davon sind 16 tatsächlich problematisch und 2 harmlos. Vier problematische Kommentare werden nicht erkannt.

Ergebnis	Anzahl
Problematisch und korrekt markiert	16
Harmlos, aber fälschlich markiert	2
Problematisch, aber übersehen	4
Harmlos und korrekt nicht markiert	78

Analyseauftrag: Berechne, welcher Anteil der markierten Kommentare tatsächlich problematisch ist. Berechne außerdem, welcher Anteil aller problematischen Kommentare erkannt wurde. Diskutiere anschließend: Welcher Fehler ist in einer demokratischen Debatte schwerwiegender – ein fälschlich ausgeblendeter legitimer Beitrag oder eine übersehene Beleidigung? Es gibt keine allgemeingültige Antwort; Deine Begründung muss den Nutzungskontext berücksichtigen.

Fairness ist mehr als Gesamtgenauigkeit

Ein System kann insgesamt gute Werte erreichen und trotzdem einzelne Gruppen häufiger falsch behandeln. Mögliche Gründe sind unausgewogene Trainingsdaten, unterschiedliche Sprachstile, unpassende Kategorien oder Entscheidungen über Schwellenwerte. Deshalb solltest Du nicht nur fragen: „Wie genau ist das System?“, sondern auch: Für wen funktioniert es wie gut?

Für eine faire Bewertung brauchst Du Vergleichsdaten, klar benannte Gruppen, nachvollziehbare Kriterien und Aufmerksamkeit für mögliche Nebenwirkungen. Dabei gilt: Auch eine scheinbar objektive Kennzahl enthält Entscheidungen darüber, was gezählt und wie Erfolg definiert wird.

Grundrechte, Werte und Verantwortung

Rechte können in Spannung geraten

Bei KI und Demokratie können mehrere Rechte und Werte gleichzeitig wichtig sein. Meinungsfreiheit schützt politische Äußerungen, ist aber nicht grenzenlos. Gleichheit verlangt Schutz vor ungerechtfertigter Benachteiligung. Datenschutz und Privatsphäre begrenzen die Sammlung und Nutzung personenbezogener Informationen. Menschenwürde und persönliche Selbstbestimmung setzen Grenzen für entwürdigende oder manipulative Verfahren. Demokratische Teilhabe braucht außerdem Zugang zu Informationen und faire Verfahren.

Die Schwierigkeit liegt oft nicht darin, einen „richtigen Wert“ zu finden, sondern unterschiedliche Werte in einem konkreten Fall angemessen abzuwägen.

Verantwortungsnetz statt Verantwortungslücke

Bei einem KI-System können mehrere Akteure Verantwortung tragen: Entwicklerinnen und Entwickler, Betreiber, Plattformen, Behörden, Schulen, Redaktionen, Auftraggeber und Nutzerinnen und Nutzer. Verantwortung sollte deshalb nicht auf die Aussage „Das hat die KI entschieden“ reduziert werden.

Frage immer:

Zuständigkeit: Wer darf Regeln festlegen?
Kontrolle: Wer kann das System stoppen oder korrigieren?
Rechenschaft: Wer muss Entscheidungen erklären?
Beschwerde: Wohin können sich Betroffene wenden?
Folgen: Wer trägt die Konsequenzen eines Fehlers?

Europäische Regeln als Schutzmechanismen

Stand September 2026 gelten in der Europäischen Union mehrere Regeln, die für das Thema wichtig sind. Nach Artikel 50 der EU-KI-Verordnung gelten seit dem 2. August 2026 Transparenzpflichten für bestimmte KI-Systeme und bestimmte professionelle Einsätze generativer KI. Dazu gehören unter anderem Hinweise bei direkter KI-Interaktion sowie Kennzeichnungs- beziehungsweise Markierungspflichten für bestimmte KI-generierte oder manipulierte Inhalte. Für Deepfakes und bestimmte KI-Texte zu Angelegenheiten von öffentlichem Interesse bestehen besondere Transparenzregeln.

Die EU-Regeln zu politischer Werbung gelten seit dem 10. Oktober 2025 vollständig. Politische Anzeigen müssen unter anderem als solche erkennbar sein und Informationen darüber liefern, wer sie finanziert und ob Zielgruppenverfahren eingesetzt wurden.

Der Digital Services Act verpflichtet sehr große Plattformen unter anderem zu Transparenz und Risikobewertungen; bei Empfehlungssystemen müssen bestimmte große Dienste auch eine Option anbieten, die nicht auf Profiling beruht.

Regeln allein lösen jedoch nicht jedes Problem. Demokratische Kontrolle braucht zusätzlich Medienkompetenz, Forschung, unabhängige Aufsicht, gute technische Gestaltung, verantwortliche Institutionen und handlungsfähige Bürgerinnen und Bürger.

Realistische Anwendungssituation

Fall: KI für eine Jugendbeteiligungsplattform

Eine Stadt möchte eine digitale Plattform einführen, auf der Jugendliche Vorschläge für Freizeitflächen, Verkehr und Klimaschutz einreichen können. Weil tausende Beiträge erwartet werden, soll KI drei Aufgaben übernehmen:

ähnliche Vorschläge zusammenfassen,
Beiträge nach vermuteter Relevanz sortieren,
möglicherweise beleidigende oder bedrohliche Kommentare automatisch zurückhalten.

Die Stadt verspricht schnellere Auswertung und weniger Belastung für Mitarbeitende. Die Softwarefirma verweist auf hohe Testwerte. Einige Jugendliche begrüßen die schnellere Beteiligung. Andere befürchten, dass ungewöhnliche oder sprachlich unperfekte Beiträge schlechter sichtbar werden. Eine Jugendredaktion fordert vollständige Transparenz. Der Datenschutzbeauftragte warnt davor, Verhaltensprofile zu bilden. Die Stadtverwaltung möchte niedrige Kosten. Eine Initiative gegen Hassrede fordert konsequenten Schutz vor Angriffen. Die Schülervertretung verlangt eine menschliche Beschwerdestelle.

Stakeholder und Zielkonflikte

Stakeholder	legitimes Interesse	mögliches Risiko
Jugendliche	gehört werden, einfache Beteiligung, faire Sichtbarkeit	Beiträge werden falsch priorisiert oder ausgeblendet
Stadtverwaltung	schnelle Bearbeitung, geringe Kosten, übersichtliche Verfahren	Effizienz verdrängt Beteiligungsqualität
Betroffene von Hassrede	Schutz vor Angriffen	zu schwache Moderation
Kritische Minderheiten	freie Meinungsäußerung und faire Sichtbarkeit	ungewöhnliche Positionen werden als „irrelevant“ eingestuft
Softwareanbieter	funktionierendes Produkt und wirtschaftlicher Erfolg	Geschäftsinteresse beeinflusst Transparenz
Datenschutzaufsicht	rechtmäßige, sparsame Datennutzung	unnötige Profilbildung
Öffentlichkeit und Medien	nachvollziehbare Regeln	Entscheidungen bleiben intransparent

Deine Entscheidung

Entscheide nicht einfach „KI ja“ oder „KI nein“. Entwickle Bedingungen, unter denen ein Einsatz vertretbar wäre, oder begründe, warum ein bestimmter Teil des Systems nicht eingesetzt werden sollte.

Nutze dafür dieses Prüfmodell:

Prüfkriterium	Leitfrage
Zweck	Welches konkrete Problem soll die KI lösen?
Notwendigkeit	Gibt es eine weniger eingriffsintensive Alternative?
Daten	Welche Daten werden benötigt und welche sollten nicht gesammelt werden?
Fairness	Welche Gruppen könnten häufiger falsch bewertet werden?
Transparenz	Können Betroffene erkennen, wann und wie KI beteiligt ist?
Menschliche Kontrolle	Wer kann eine Entscheidung prüfen und ändern?
Grundrechte	Welche Rechte werden geschützt und welche könnten eingeschränkt werden?
Sicherheit	Was passiert bei Manipulation, Fehlern oder Ausfall?
Beschwerde	Gibt es einen einfachen Weg zu menschlicher Überprüfung?
Evaluation	Wie wird später geprüft, ob das System tatsächlich nützt und keine Gruppen benachteiligt?

Formuliere anschließend ein begründetes Votum mit drei Teilen: Entscheidung, wichtigste Bedingungen, stärkstes Gegenargument gegen Deine eigene Position.

Selbstkontrolle und Reflexion

Urteil statt Bauchgefühl

Prüfe Deine Fallentscheidung mit diesen Fragen:

Hast Du zwischen technischer Leistungsfähigkeit und demokratischer Legitimität unterschieden?
Hast Du mindestens drei Stakeholder mit unterschiedlichen Interessen berücksichtigt?
Hast Du mindestens einen Grundrechtskonflikt benannt?
Hast Du erklärt, wie menschliche Kontrolle praktisch funktioniert?
Hast Du Datenqualität und Fehlerraten betrachtet?
Hast Du ein Gegenargument gegen Deine eigene Position ernst genommen?
Hast Du Unsicherheit kenntlich gemacht, statt sie zu verstecken?

Reflexion: Wo liegt die Verantwortung?

Schreibe drei Sätze: Was darf KI in einer Demokratie sinnvoll unterstützen? Welche Entscheidung sollte ein Mensch verantworten? Welche Information brauchst Du, bevor Du einem KI-System in einem politischen Kontext vertraust?

Transfer auf eine neue Situation

Neue Situation: KI fasst Bürgerbeiträge für den Gemeinderat zusammen

Ein Gemeinderat erhält 4.000 Stellungnahmen zu einem neuen Verkehrskonzept. Eine KI soll alle Beiträge zusammenfassen und dem Gemeinderat die „fünf wichtigsten Positionen“ präsentieren. Die Originalbeiträge bleiben zwar gespeichert, aber aus Zeitgründen lesen die meisten Ratsmitglieder nur die KI-Zusammenfassung.

Übertrage Dein Wissen selbstständig auf diese Situation. Prüfe Daten, Zielgröße, mögliche Verzerrungen, Stakeholder, Grundrechte, menschliche Kontrolle und Beschwerdemöglichkeiten. Entscheide dann, ob und unter welchen Bedingungen Du den Einsatz befürwortest. Begründe Dein Urteil so, dass eine Person mit anderer Meinung Deine Gründe nachvollziehen kann.

Transferziel: Du sollst keine fertige Regel wiederholen, sondern das Prüfmodell auf eine neue Lage anwenden.

Interaktive Aufgaben

Quiz: Teste Dein Wissen

Welche Frage gehört zu einer demokratischen Bewertung eines KI-Systems? (Wer kann die Entscheidung prüfen und korrigieren) (!Welche Schriftart verwendet die Oberfläche) (!Wie modern wirkt das Logo) (!Wie viele Animationen hat die Webseite)

Was beschreibt Human Agency am besten? (Menschen bleiben informiert entscheidungs- und widerspruchsfähig) (!Menschen geben jede Entscheidung an KI ab) (!KI darf politische Entscheidungen ohne Kontrolle treffen) (!Nur Entwickler dürfen Systemausgaben hinterfragen)

Warum reicht eine hohe Gesamtgenauigkeit für eine Fairnessbewertung nicht aus? (Fehler können verschiedene Gruppen unterschiedlich stark treffen) (!Genauigkeit ist nur bei gedruckten Texten wichtig) (!Eine hohe Genauigkeit verhindert jede Diskriminierung) (!Fairness kann nicht mit Daten untersucht werden)

Was ist bei einer politischen Information zuerst sinnvoll? (Quelle Kontext und unabhängige Bestätigung prüfen) (!Sofort weiterleiten wenn der Inhalt überraschend ist) (!Nur auf die Zahl der Likes achten) (!Ein einzelnes KI-Erkennungswerkzeug als endgültigen Beweis verwenden)

Was ist ein sinnvoller Unterschied zwischen Filterblase und Echokammer? (Filterblase betont algorithmische Auswahl Echokammer soziale Verstärkung) (!Beide Begriffe bedeuten ausschließlich staatliche Zensur) (!Filterblase bezeichnet nur Werbung Echokammer nur Musik) (!Beide Begriffe sind mathematische Fehlerraten)

Welche Aussage zu einer KI-Empfehlung ist am treffendsten? (Sie hängt von Daten Modell Zielgröße und Nutzungskontext ab) (!Sie ist automatisch objektiv weil ein Computer sie berechnet) (!Sie ist immer falsch wenn Menschen beteiligt waren) (!Sie braucht keine Kontrolle wenn sie schnell erzeugt wurde)

Was ist ein Beispiel für wirksame menschliche Kontrolle? (Eine zuständige Person kann eine KI-Einstufung begründet ändern) (!Ein Mensch sieht das Ergebnis darf aber nichts verändern) (!Die KI bestätigt ihre eigene Entscheidung) (!Nur die Softwarefirma kennt die Beschwerderegel)

Was lässt sich aus unterschiedlicher Sichtbarkeit politischer Beiträge in Feeds nicht automatisch folgern? (Dass dadurch eine bestimmte Wahlentscheidung verursacht wurde) (!Dass Sichtbarkeit gemessen werden kann) (!Dass Empfehlungen untersucht werden können) (!Dass Upload-Menge und Empfehlungshäufigkeit verschieden sein können)

Welche Maßnahme stärkt Transparenz bei KI-generierten politischen Inhalten? (Klare Kennzeichnung und nachvollziehbare Herkunftsinformationen) (!Entfernen aller Quellenangaben) (!Verbergen des verantwortlichen Absenders) (!Automatisches Teilen ohne Prüfung)

Was gehört zu einem nachvollziehbaren demokratischen Urteil? (Eine begründete Abwägung von Nutzen Risiken Rechten und Gegenargumenten) (!Nur die schnellste technische Lösung) (!Nur die Meinung der stärksten Gruppe) (!Eine Entscheidung ohne benannte Unsicherheiten)

Memory

Human Agency	Selbstbestimmtes Handeln
Deepfake	Täuschend manipuliertes Medienmaterial
Empfehlungsalgorithmus	Sortierung nach berechneter Relevanz
Bias	Systematische Verzerrung
Menschliche Aufsicht	Kontrollierende Eingriffsmöglichkeit
Transparenz	Nachvollziehbare Systeminformation

Drag and Drop

Ordne die richtigen Begriffe zu.	Thema
Quellenprüfung	Authentizität und Kontext untersuchen
Fairnessprüfung	Fehler zwischen Gruppen vergleichen
Menschenkontrolle	Automatische Entscheidung überprüfbar machen
Grundrechtsabwägung	Freiheit Schutz und Gleichheit zusammen betrachten
Systemanalyse	Daten Zielgröße Ausgabe und Folgen verbinden

Kreuzworträtsel

Transparenz	Wie heißt das Prinzip wenn Funktionsweise und Verantwortung nachvollziehbar sein sollen?
Deepfake	Wie heißt ein täuschend echt wirkender KI-manipulierter Medieninhalt?
Datenschutz	Welches Prinzip schützt personenbezogene Informationen vor unzulässiger Nutzung?
Mitbestimmung	Wie heißt aktive Beteiligung an gemeinsamen Entscheidungen?
Fairness	Welcher Begriff beschreibt eine gerechte Behandlung ohne sachlich unbegründete Benachteiligung?
Verantwortung	Welcher Begriff bezeichnet die Pflicht für Entscheidungen und Folgen einzustehen?

LearningApps

Lückentext

Demokratische KI-Nutzung braucht menschliche

. Ein KI-System verarbeitet nicht nur Daten, sondern verfolgt auch eine festgelegte

. Wenn ein System bestimmte Gruppen häufiger falsch bewertet, entsteht ein Problem der

. Täuschend echt wirkende KI-Manipulationen von Bild, Audio oder Video können als

auftreten. Vor dem Teilen einer überraschenden politischen Meldung solltest Du die

prüfen. Eine algorithmische Empfehlung beweist nicht automatisch eine bestimmte politische

. Menschen müssen bei wichtigen Entscheidungen widersprechen und eine menschliche Prüfung verlangen können; das stärkt ihre

. Demokratische Urteile berücksichtigen unterschiedliche

. Bei der Bewertung eines Systems müssen mögliche Vorteile und

gemeinsam betrachtet werden. Eine gute Entscheidung benennt auch ein starkes

. Bei personenbezogenen Informationen spielt der

eine zentrale Rolle. Am Ende soll eine Entscheidung nicht nur schnell, sondern nachvollziehbar

sein.

Offene Aufgaben

Leicht

Quellencheck: Wähle eine aktuelle politische Online-Meldung und notiere Absender, Originalquelle, Datum, Kontext und eine unabhängige Vergleichsquelle.
Systemskizze: Zeichne für einen Social-Media-Feed die Kette Daten – Zielgröße – Empfehlung – menschliche Reaktion – mögliche Rückkopplung.
Deepfake-Regel: Formuliere eine kurze Klassenregel dafür, wie Ihr mit einem verdächtigen politischen Video umgeht, ohne vorschnell Wahrheit oder Fälschung zu behaupten.
Stakeholder-Perspektive: Beschreibe die Jugendbeteiligungsplattform aus Sicht einer betroffenen Schülerin oder eines betroffenen Schülers und benenne zwei Chancen sowie zwei Risiken.

Standard

Fehlerraten: Berechne aus dem Moderationsbeispiel Präzision und Erkennungsquote und erkläre, warum beide Werte für die Entscheidung wichtig sind.
Wertekonflikt: Analysiere den Konflikt zwischen Schutz vor Hassrede und Meinungsfreiheit. Entwickle zwei Schutzmaßnahmen, die beide Seiten berücksichtigen.
Plattformanreiz: Untersuche, wie ein Geschäftsmodell mit Werbeeinnahmen die Gestaltung eines Empfehlungssystems beeinflussen könnte, ohne zu unterstellen, dass jeder Plattformanbieter identisch handelt.
Kontrollkonzept: Entwirf einen Beschwerdeweg für die Jugendplattform mit Zuständigkeit, Reaktionszeit, menschlicher Prüfung und Dokumentation.

Schwer

Auditplan: Entwickle einen Prüfplan, mit dem die Stadt vor und nach Einführung der KI untersucht, ob bestimmte Gruppen häufiger falsch moderiert oder schlechter sichtbar gemacht werden.
Bürgeranhörung: Plant in Rollen eine öffentliche Anhörung mit Jugendlichen, Verwaltung, Datenschutz, Anbieter, Journalismus und Zivilgesellschaft. Jede Rolle soll eine Forderung und ein Zugeständnis formulieren.
Regelentwurf: Verfasse fünf Mindestbedingungen für einen demokratieverträglichen KI-Einsatz in kommunaler Beteiligung und begründe jede Bedingung.
Transferurteil: Übertrage das Prüfmodell auf die KI-Zusammenfassung der 4.000 Bürgerbeiträge. Entscheide selbstständig, welche Nutzung vertretbar ist, und verteidige Deine Entscheidung gegen ein starkes Gegenargument.

Lernkontrolle

Systembewertung: Erkläre an einem neuen Beispiel, warum die technische Genauigkeit eines KI-Systems allein noch keine demokratische Legitimität erzeugt.
Dateninterpretation: Du erhältst zwei Gruppen mit unterschiedlichen Fehlerraten. Entscheide, welche Zusatzdaten Du brauchst, bevor Du von unfairer Benachteiligung sprichst.
Rechteabwägung: Beurteile einen Fall, in dem ein KI-System politische Kommentare vorsortiert. Zeige mindestens zwei Grundrechte oder demokratische Werte und begründe eine verhältnismäßige Lösung.
Verantwortungskette: Ordne bei einem fehlerhaften KI-Einsatz Verantwortungsanteile zwischen Anbieter, Betreiber, menschlicher Entscheidungsperson und Institution. Begründe, warum „die KI war schuld“ keine ausreichende Antwort ist.
Transferentscheidung: Eine Schule möchte KI verwenden, um Beiträge für eine Schülervertretungswahl automatisch zusammenzufassen. Entwickle Bedingungen für Transparenz, Fairness, menschliche Kontrolle und Beschwerde.
Gegenargument: Formuliere zu Deinem eigenen Urteil das stärkste vernünftige Gegenargument und erkläre, warum Du trotz dieses Einwands bei Deiner Entscheidung bleibst oder sie veränderst.

Lernnachweis

Für einen Lernnachweis zu diesem Thema solltest Du zeigen, dass Du nicht nur Begriffe kennst, sondern eine neue Situation selbstständig untersuchen kannst.

Du kannst ein KI-System als Zusammenspiel von Daten, Modell, Zielgröße, Nutzung und gesellschaftlichen Folgen darstellen.
Du kannst Kennzahlen und Fehlerraten korrekt interpretieren und ihre Grenzen benennen.
Du kannst Quellen und KI-generierte Inhalte methodisch prüfen, ohne Dich auf ein einzelnes Erkennungsmerkmal zu verlassen.
Du kannst mehrere Stakeholder und ihre legitimen Interessen berücksichtigen.
Du kannst Grundrechte und Werte gegeneinander abwägen.
Du kannst konkrete Maßnahmen für Transparenz, Sicherheit, Fairness, Beschwerde und menschliche Kontrolle formulieren.
Du kannst Unsicherheit offen benennen und Deine Entscheidung mit einem Gegenargument prüfen.
Du kannst das Prüfmodell auf eine neue KI-Anwendung übertragen und ein nachvollziehbares Urteil formulieren.

OERs zum Thema

Vertiefende frei zugängliche Quellen

Medienhinweise

Die eingebundenen Wikimedia-Commons-Dateien sind frei nutzbar oder unter freien Lizenzen verfügbar; maßgeblich ist jeweils die Lizenzangabe auf der Dateiseite. Verwendet werden unter anderem CC0-, CC-BY- und CC-BY-SA-Medien. Die Videos stammen aus frei zugänglichen Bildungsangeboten auf YouTube; für Weiterverwendung außerhalb des Einbettens sind die jeweiligen Lizenz- und Nutzungsbedingungen zu beachten.

Verknüpfte Lernbereiche

KI und Demokratie untersuchen

aiMOOC-Projekte

Inhalte werden geladen ...

Mediathek wird aus dem Wiki geladen ...

Frag mich zum aktuellen Lerninhalt oder wähle eine kurze Hilfe.

Textmodus bereit

Sprache