Diesen aiMOOC als Battle spielen: Deutsch, Klasse 9-10, G-Niveau

KI und Überwachung beurteilen

Einleitung

Kameras beobachten einen Bahnhofsvorplatz. Eine KI kann in den Bildern Bewegungsmuster erkennen, Personen zählen, auffällige Situationen markieren oder Gesichter mit einer Referenzliste vergleichen. Was zunächst nach einer technischen Frage klingt, ist zugleich eine Frage nach Datenschutz, Grundrechten, Sicherheit, Fairness, Verantwortung und Demokratie.

In diesem Lernkurs untersuchst Du deshalb nicht nur, ob KI-gestützte Überwachung technisch funktioniert. Du lernst vor allem zu beurteilen, wann ein Einsatz nützlich, riskant, unverhältnismäßig oder nicht vertretbar sein kann. Dazu analysierst Du Daten, Fehlerraten, Systemgrenzen, Interessen verschiedener Beteiligter und mögliche Folgen. Am Ende formulierst Du ein begründetes Urteil, das sich auf nachvollziehbare Kriterien und Belege stützt.

Der Kurs ist für die Klasse 9 ausgelegt und kann in etwa 60 bis 90 Minuten bearbeitet werden. Für eine Doppelstunde können die Fallentscheidung, die mathematische Fehleranalyse und die Urteilsdebatte vertieft werden.

Leitfrage: Unter welchen Bedingungen darf eine Gesellschaft KI zur Überwachung einsetzen, ohne menschliche Kontrolle, Grundrechte und faire Behandlung aus dem Blick zu verlieren?

Lernziele

Nach dem Kurs kannst Du erklären, wie ein KI-gestütztes Überwachungssystem von der Datenerfassung bis zu einer Entscheidung arbeitet. Du kannst zwischen Erkennen, Identifizieren, Vorhersagen und menschlicher Entscheidung unterscheiden. Du kannst Fehlalarme mathematisch beurteilen, Datenqualität und mögliche Benachteiligungen prüfen und technische Leistungswerte von gesellschaftlichen Folgen trennen. Außerdem kannst Du Interessen verschiedener Beteiligter vergleichen, Grundrechte und Sicherheitsziele abwägen und ein eigenes Urteil mit Kriterien, Belegen und Schutzmaßnahmen begründen.

Fächerübergreifende Bezüge

Fach	Bezug zum Thema
Informatik	Daten, Modelle, Klassifikation, Schwellenwerte, Trainings- und Referenzdaten, Mensch-Maschine-Systeme
Mathematik	Häufigkeiten, Prozentrechnung, Fehlerraten, bedingte Wahrscheinlichkeiten, Interpretation von Kennzahlen
Deutsch	Argumentieren, Belege prüfen, Positionen vergleichen, ein begründetes Sachurteil formulieren
Technik	Kameras, Sensoren, Beleuchtung, Bildqualität, Systemgrenzen und technische Schutzmaßnahmen
Wirtschaft	Kosten, Nutzen, Beschaffung, Folgekosten von Fehlalarmen und Interessen von Anbietern und Auftraggebern
Geschichte	Wandel von analoger Beobachtung zu digitaler, vernetzter und automatisierter Überwachung
Ethik	Menschenwürde, Autonomie, Fairness, Sicherheit, Verantwortung und Verhältnismäßigkeit
Gemeinschaftskunde	Grundrechte, staatliche Eingriffe, demokratische Kontrolle, Rechtsstaat und gesellschaftliche Zielkonflikte

Aktivierung und Diagnose

Stell Dir vor, Deine Stadt möchte auf einem Bahnhofsvorplatz, den viele Jugendliche auf dem Schulweg nutzen, Kameras mit KI-Auswertung einsetzen. Das System soll gefährliche Situationen schneller erkennen. Später wird vorgeschlagen, zusätzlich Gesichter mit einer Fahndungsliste abzugleichen.

Ordne Dich zunächst auf einer gedachten Linie zwischen den Polen „mehr Sicherheit rechtfertigt den Einsatz“ und „der Eingriff in Freiheitsrechte ist zu groß“ ein. Notiere anschließend zwei Gründe für Deine spontane Position.

Wichtig: Deine erste Meinung ist noch kein fertiges Urteil. Im Verlauf des Kurses sollst Du prüfen, welche Informationen Deine Position bestätigen, verändern oder differenzieren.

Diagnosefragen: Welche Daten braucht das System? Wer legt fest, was als auffällig gilt? Was passiert bei einem Fehlalarm? Wer darf eingreifen? Können Betroffene eine Entscheidung überprüfen lassen? Gibt es eine weniger eingriffsintensive Alternative?

Von der Kamera zur Entscheidung

Eine Kamera allein ist noch keine KI. Ein KI-gestütztes Überwachungssystem besteht aus mehreren technischen und organisatorischen Schritten. Diese Unterscheidung ist entscheidend, weil an jedem Schritt andere Fehler, Risiken und Verantwortlichkeiten entstehen.

Schritt	Was geschieht?	Kritische Frage
Datenerfassung	Kamera, Mikrofon oder Sensor erzeugt Daten.	Welche Personen werden überhaupt erfasst und ist die Erfassung notwendig?
Vorverarbeitung	Bilder werden zugeschnitten, aufgehellt oder in Merkmale umgewandelt.	Verändert schlechte Beleuchtung oder Kameraposition die Qualität?
Merkmalsextraktion	Ein Modell berechnet aus Daten charakteristische Muster.	Welche Merkmale sind tatsächlich für die Aufgabe geeignet?
Vergleich oder Klassifikation	Das System berechnet Ähnlichkeiten oder ordnet einen Fall einer Kategorie zu.	Wie zuverlässig sind die Daten und das Modell?
Schwellenwert	Ab einem festgelegten Wert wird ein Treffer oder Alarm ausgelöst.	Wer bestimmt, wie empfindlich das System reagiert?
Menschliche Entscheidung	Eine Person prüft den Hinweis und entscheidet über weitere Schritte.	Darf der Mensch widersprechen und hat er genug Informationen dafür?

Merke: Ein KI-Ergebnis ist nicht automatisch eine Tatsache. Häufig ist es ein statistischer Hinweis. Ein verantwortliches System muss deshalb nicht nur technisch leistungsfähig sein, sondern auch sinnvolle Regeln für menschliche Prüfung, Dokumentation, Widerspruch und Korrektur enthalten.

Erkennen ist nicht dasselbe wie Identifizieren

Bei der Analyse von Überwachungssystemen musst Du verschiedene Aufgaben auseinanderhalten.

Detektion bedeutet zum Beispiel: „Im Bild befindet sich eine Person.“ Klassifikation bedeutet: „Dieses Muster gehört wahrscheinlich zu einer bestimmten Kategorie.“ Verifikation fragt: „Ist diese Person dieselbe wie die behauptete Person?“ Identifikation fragt: „Welche Person aus einer Datenbank könnte das sein?“ Eine Verhaltensanalyse versucht dagegen, Bewegungen oder Situationen zu kategorisieren.

Je weiter ein System von einer einfachen Objekterkennung zu einer Identifikation oder Bewertung von Personen geht, desto genauer müssen Zweck, Rechtsgrundlage, Datenqualität, Folgen und Schutzmaßnahmen geprüft werden.

Wie KI Muster lernt

Viele moderne Bildanalysesysteme verwenden Verfahren des maschinellen Lernens. Ein Modell wird anhand vieler Beispiele so angepasst, dass es statistische Muster erkennt. Die Qualität des Ergebnisses hängt nicht nur vom Modell ab. Sie hängt auch von den Trainingsdaten, der Kameratechnik, der Umgebung, den Schwellenwerten und dem konkreten Einsatzzweck ab.

Ein Modell kann auf einem Testdatensatz sehr gute Werte erreichen und trotzdem in einer anderen Umgebung schlechter funktionieren. Ein Bahnhof bei Nacht, eine schlecht ausgerichtete Kamera oder eine andere Zusammensetzung der beobachteten Gruppe kann zu anderen Ergebnissen führen. Deshalb ist die Frage „Wie genau ist die KI?“ zu ungenau. Besser sind Fragen wie: Für welche Aufgabe? Unter welchen Bedingungen? Für welche Personengruppen? Mit welcher Fehlerrate? Und welche Folgen hat ein Fehler?

Fehler verstehen statt Genauigkeit bewundern

Ein Überwachungssystem kann zwei grundlegende Fehler machen.

Ein False Positive liegt vor, wenn das System einen Treffer meldet, obwohl die Person oder Situation nicht zur gesuchten Kategorie gehört. Ein False Negative liegt vor, wenn ein tatsächlicher Treffer übersehen wird.

Für die Bewertung reicht es nicht, nur eine allgemeine Trefferquote zu kennen. Entscheidend ist, welche Fehler auftreten, wie oft sie vorkommen und welche Folgen sie haben.

Mathematisches Beispiel: Wenn seltene Ereignisse gesucht werden

Nimm ein rein didaktisches Beispiel. Auf einem Platz werden 1.000 Personen erfasst. Unter ihnen befinden sich 10 Personen, die zu einer gesuchten Gruppe gehören. Ein hypothetisches System erkennt 90 Prozent dieser 10 Personen richtig. Bei den 990 anderen Personen löst es in 1 Prozent der Fälle fälschlich Alarm aus.

Gruppe	Anzahl	Ergebnis
Tatsächlich gesuchte Personen	10	Etwa 9 richtige Treffer und 1 übersehener Treffer
Nicht gesuchte Personen	990	Etwa 10 Fehlalarme

Das System erzeugt also ungefähr 19 Alarme. Davon wären nur etwa 9 echte Treffer. Trotz scheinbar guter Einzelwerte wäre damit ungefähr jeder zweite Alarm falsch.

Mathematische Leitfrage: Warum kann schon eine kleine Falsch-Positiv-Rate problematisch werden, wenn sehr viele unbeteiligte Menschen überwacht werden?

Transfer: Überlege, welche Folgen zehn Fehlalarme haben könnten, wenn jeder Alarm eine Personenkontrolle auslöst. Berücksichtige Zeitaufwand, Stress, mögliche Stigmatisierung und die Belastung des Personals.

Datenqualität, Fairness und Benachteiligung

Die Leistung von Gesichtserkennung ist nicht für jedes System, jede Umgebung und jede Personengruppe identisch. Das US-amerikanische National Institute of Standards and Technology, kurz NIST, untersucht Gesichtserkennungsalgorithmen fortlaufend. Die Untersuchungen zeigen, dass sich Fehlerquoten je nach Algorithmus und demografischer Gruppe unterscheiden können. Außerdem können Bildqualität, Beleuchtung und Aufnahmebedingungen Fehler beeinflussen.^[1]

Wichtig ist eine differenzierte Aussage: Es wäre falsch zu behaupten, jede Gesichtserkennungssoftware benachteilige jede Gruppe gleich stark. Ebenso falsch wäre es, aus einem guten Durchschnittswert zu schließen, das System sei für alle Gruppen gleich zuverlässig. Verantwortliche Bewertung verlangt deshalb gruppenbezogene und einsatzbezogene Tests.

Fairnessfrage: Wenn eine Gruppe häufiger fälschlich kontrolliert wird als eine andere, ist das nicht nur ein technisches Problem. Es kann zu einer gesellschaftlichen Benachteiligung werden.

Daten-Check für Schülerinnen und Schüler

Prüfe ein KI-System mit fünf Fragen: Woher stammen die Daten? Repräsentieren sie die spätere Einsatzumgebung? Sind die Daten korrekt und aktuell? Werden Fehler getrennt für relevante Gruppen ausgewiesen? Werden Daten gelöscht, wenn sie für den Zweck nicht mehr benötigt werden?

Die letzte Frage verweist auf das Prinzip der Datenminimierung: Es sollen nicht mehr personenbezogene Daten verarbeitet werden, als für einen rechtmäßigen und klar bestimmten Zweck erforderlich sind.

Grundrechte und Werte

KI-gestützte Überwachung berührt mehrere Werte gleichzeitig. Genau deshalb gibt es selten eine gute Entscheidung, wenn man nur einen einzigen Wert betrachtet.

Wert oder Recht	Warum es betroffen sein kann	Prüffrage
Sicherheit	Gefährliche Situationen sollen schneller erkannt oder aufgeklärt werden.	Gibt es Belege, dass das System den Sicherheitsgewinn tatsächlich erreicht?
Privatsphäre	Menschen können beobachtet, gespeichert oder identifiziert werden.	Welche Daten werden wie lange und zu welchem Zweck verarbeitet?
Informationelle Selbstbestimmung	Menschen sollen grundsätzlich Einfluss darauf haben, wie personenbezogene Daten verwendet werden.	Wissen Betroffene, was geschieht und welche Rechte sie haben?
Gleichbehandlung	Fehler können Gruppen unterschiedlich stark treffen.	Sind Fehlerraten und Folgen fair verteilt?
Versammlungsfreiheit	Menschen könnten sich anders verhalten, wenn sie dauerhafte Identifikation befürchten.	Kann die Technik legitime demokratische Teilnahme abschrecken?
Menschenwürde	Menschen dürfen nicht auf ein Datenprofil oder einen Risikowert reduziert werden.	Bleibt eine echte menschliche Einzelfallprüfung erhalten?

In Deutschland ist das Recht auf informationelle Selbstbestimmung durch die Rechtsprechung des Bundesverfassungsgerichts geprägt worden. Es schützt die Möglichkeit, grundsätzlich selbst über Preisgabe und Verwendung personenbezogener Daten mitzubestimmen. Zusätzlich gelten die DSGVO und weitere Gesetze.

Biometrische Daten, die zur eindeutigen Identifizierung einer Person verarbeitet werden, sind besonders geschützt. Deshalb reicht die Aussage „Die Technik funktioniert“ niemals als alleinige Begründung für ihren Einsatz.

KI-Regulierung in der Europäischen Union

Der EU AI Act verfolgt einen risikobasierten Ansatz. Für Überwachung ist besonders wichtig, dass nicht alle biometrischen Systeme gleich behandelt werden.

Der AI Act verbietet unter anderem bestimmte Formen biometrischer Kategorisierung nach besonders sensiblen Merkmalen sowie die Erstellung oder Erweiterung von Gesichtserkennungsdatenbanken durch ungezieltes Auslesen von Gesichtern aus dem Internet oder aus Videoüberwachungsmaterial. Auch KI-Systeme zur Emotionserkennung in Schulen und am Arbeitsplatz sind grundsätzlich verboten; eng begrenzte Ausnahmen bestehen für medizinische oder sicherheitsbezogene Zwecke.^[2]

Die biometrische Echtzeit-Fernidentifizierung in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken ist grundsätzlich verboten und nur unter eng begrenzten Voraussetzungen für bestimmte Ziele vorgesehen. Dazu gehören zum Beispiel die gezielte Suche nach bestimmten vermissten oder entführten Personen, die Abwehr bestimmter schwerer Gefahren und eng eingegrenzte Fälle schwerer Straftaten. Zusätzlich sind rechtliche Genehmigungs- und Kontrollanforderungen relevant.^[3]

Erlaubte Systeme zur biometrischen Fernidentifizierung können als Hochrisiko-Systeme eingestuft sein. Dann spielen unter anderem Datenqualität, Dokumentation, Transparenz, menschliche Aufsicht, Robustheit, Genauigkeit und Sicherheit eine zentrale Rolle.^[4]

Wichtig für Dein Urteil: „Technisch möglich“ bedeutet nicht „rechtlich erlaubt“. „Rechtlich erlaubt“ bedeutet wiederum nicht automatisch „ethisch gut“. Für ein verantwortliches Urteil musst Du Technik, Recht und Ethik getrennt prüfen und anschließend zusammenführen.

Human Agency: Wer entscheidet wirklich?

Human Agency bedeutet menschliche Handlungsfähigkeit. Menschen sollen nicht nur formal „im Prozess“ sein, sondern tatsächlich verstehen, prüfen, widersprechen und Verantwortung übernehmen können.

Ein Mensch vor einem Bildschirm garantiert noch keine gute menschliche Kontrolle. Wenn eine Person jedes KI-Ergebnis ungeprüft übernimmt, entsteht lediglich eine scheinbare Kontrolle. Dieses Problem hängt mit dem Automatisierungsbias zusammen: Menschen können technischen Empfehlungen zu stark vertrauen.

Eine wirksame menschliche Aufsicht braucht deshalb mehrere Bedingungen.

Bedingung	Bedeutung
Verständlichkeit	Die prüfende Person kennt Zweck, Grenzen und Fehlertypen des Systems.
Eingriffsmöglichkeit	Sie kann einen Alarm zurückweisen, stoppen oder weiter prüfen.
Zeit	Sie muss genug Zeit haben, Belege zu kontrollieren.
Alternativinformationen	Sie sieht nicht nur den KI-Score, sondern auch weitere relevante Informationen.
Dokumentation	Es ist nachvollziehbar, wer wann warum entschieden hat.
Widerspruch	Betroffene können Entscheidungen prüfen oder anfechten lassen.
Verantwortlichkeit	Eine konkrete Stelle bleibt für Folgen zuständig.

Human-Agency-Test: Wenn niemand erklären kann, wer eine Entscheidung korrigieren darf, ist menschliche Kontrolle nicht ausreichend.

Historische Perspektive: Was ist an KI-Überwachung neu?

Überwachung ist älter als KI. Staaten, Unternehmen und Institutionen haben schon lange Menschen beobachtet, Akten geführt oder Kommunikationswege kontrolliert. Neu an digitalen Systemen sind vor allem Geschwindigkeit, Skalierbarkeit, Vernetzung und Automatisierung.

Ein analoger Beobachter kann nur begrenzt viele Personen gleichzeitig verfolgen. Digitale Systeme können große Datenmengen durchsuchen, Informationen aus verschiedenen Quellen verbinden und automatisch Treffer erzeugen. Dadurch verändert sich nicht nur die Menge der Überwachung, sondern auch ihre mögliche Wirkung.

Historische Vergleiche müssen sorgfältig erfolgen. Ein heutiges demokratisch kontrolliertes System ist nicht automatisch mit einem historischen Überwachungsstaat gleichzusetzen. Geschichte hilft aber, Fragen nach Macht, Kontrolle, Missbrauchsmöglichkeiten, Zweckänderung und Schutzrechten schärfer zu stellen.

Wirtschaftliche und technische Zielkonflikte

Ein System kann hohe Anschaffungskosten haben, aber Personalkosten sparen. Umgekehrt können viele Fehlalarme zusätzliche Kontrollen und damit neue Kosten verursachen. Auch nicht-monetäre Folgen zählen: Vertrauensverlust, Diskriminierung oder Grundrechtseingriffe lassen sich nicht einfach in Euro ausdrücken.

Bei einer Beschaffung sollten daher nicht nur der Kaufpreis und eine Werbeangabe zur „Genauigkeit“ verglichen werden. Wichtig sind auch Wartung, unabhängige Tests, Datensicherheit, Löschkonzepte, Kontrollaufwand, Möglichkeiten zum Anbieterwechsel und Kosten von Fehlentscheidungen.

Ökonomische Leitfrage: Wer erhält den Nutzen eines Systems, wer trägt die Kosten und wer trägt die Risiken?

Realistische Anwendungssituation: Der Bahnhofsvorplatz

Die fiktive Stadt Neustadt diskutiert ein neues Sicherheitskonzept für den Bahnhofsvorplatz. Täglich nutzen etwa 8.000 Menschen den Platz, darunter viele Schülerinnen und Schüler. In den vergangenen Monaten kam es zu mehreren Gewaltdelikten und vielen Beschwerden über Unsicherheit am Abend.

Die Stadtverwaltung prüft vier Optionen.

Option	Beschreibung
A	Bessere Beleuchtung, mehr Personal und soziale Präventionsarbeit ohne neue Kameras
B	Kameras mit automatischer Erkennung von Situationen wie Stürzen oder größeren Menschenansammlungen, ohne Identifizierung von Personen
C	Kameras mit zusätzlichem biometrischem Abgleich von Gesichtern gegen eine eng definierte Fahndungsliste
D	Möglichst umfassende KI-Auswertung mit Personenidentifikation, langfristiger Speicherung und Verknüpfung weiterer Daten

Die Polizei betont den möglichen Sicherheitsgewinn. Die Stadt muss Kosten und Rechtslage beachten. Jugendliche wollen sich sicher bewegen können, aber nicht ständig identifiziert werden. Geschäftsleute hoffen auf weniger Straftaten. Eine Datenschutzbeauftragte fordert Zweckbegrenzung und möglichst geringe Datenerfassung. Ein Anbieter verspricht hohe Genauigkeit. Eltern sind uneinig. Eine Bürgerrechtsgruppe warnt vor einer schleichenden Ausweitung des Systems.

Stakeholder-Analyse

Wähle vier Beteiligte und fülle für jede Gruppe gedanklich oder schriftlich die folgende Struktur aus.

Stakeholder	Ziel	möglicher Nutzen	mögliches Risiko	notwendige Schutzmaßnahme
Polizei	Sicherheit und Ermittlungsunterstützung	Schnellere Hinweise	Fehlalarme oder Übervertrauen	Menschliche Prüfung und klare Einsatzgrenzen
Jugendliche	Sicherer und freier Schulweg	Schutz vor Gewalt	Dauerhafte Erfassung und Verhaltensanpassung	Transparenz, Datenminimierung und Beschwerdeweg
Stadt	Funktionsfähiger öffentlicher Raum	Bessere Lageeinschätzung	Kosten und Haftungsrisiken	Evaluation und begrenzte Laufzeit
Datenschutzaufsicht	Schutz personenbezogener Daten	Frühzeitige Risikoprüfung	Unklare Zweckänderungen	Löschkonzept und nachprüfbare Rechtsgrundlage

Ergänze weitere Perspektiven: Geschäftsleute, Eltern, Reisende, Menschen mit Behinderung, Sicherheitsdienst, Anbieter oder zivilgesellschaftliche Gruppen.

Entscheidung mit Kriterien statt Bauchgefühl

Bewerte jede Option mit nachvollziehbaren Kriterien. Ein begründetes Urteil darf auch zu dem Ergebnis kommen, dass nur eine eingeschränkte Variante vertretbar ist oder dass zunächst weitere Belege fehlen.

Kriterium	Leitfrage	möglicher Beleg
Wirksamkeit	Erreicht die Maßnahme nachweisbar das Sicherheitsziel?	Pilotdaten, unabhängige Evaluation
Notwendigkeit	Gibt es eine weniger eingriffsintensive Alternative mit ähnlichem Nutzen?	Vergleich mit Beleuchtung, Personal oder Prävention
Verhältnismäßigkeit	Steht der erwartete Nutzen in einem angemessenen Verhältnis zum Eingriff?	Grundrechts- und Folgenabwägung
Datenqualität	Sind Daten für den Einsatz geeignet und repräsentativ?	Testberichte und Fehleranalysen
Fairness	Treffen Fehler bestimmte Gruppen häufiger oder schwerer?	gruppenbezogene Fehlerraten
Transparenz	Wissen Betroffene, wann und wozu das System eingesetzt wird?	Hinweiskonzept und öffentliche Dokumentation
Menschliche Kontrolle	Kann ein Mensch Ergebnisse verstehen, korrigieren und stoppen?	Prozessbeschreibung und Verantwortlichkeiten
Reversibilität	Kann eine falsche Entscheidung korrigiert werden?	Widerspruchs- und Löschverfahren
Datensicherheit	Wie werden Daten vor unbefugtem Zugriff geschützt?	Sicherheitskonzept
Zweckbindung	Verhindern Regeln eine spätere Nutzung für andere Ziele?	klare Einsatzordnung und Kontrolle

Urteilsformel: „Ich befürworte / lehne Option … ab / befürworte sie nur unter Bedingungen, weil … . Besonders wichtig sind die Belege … . Gegen meine Position spricht … . Dieses Gegenargument wiegt für mich …, weil … . Notwendige Schutzmaßnahmen sind … .“

Fallentscheidung in drei Runden

Runde 1 – Technik: Entscheide, welche Informationen Dir fehlen, bevor Du die technische Zuverlässigkeit bewerten kannst.

Runde 2 – Gesellschaft: Prüfe, welche Gruppen Nutzen oder Risiken tragen und ob sich die Verteilung rechtfertigen lässt.

Runde 3 – Verantwortung: Formuliere Bedingungen, unter denen ein Einsatz gestoppt, überprüft oder verändert werden müsste.

Danach triffst Du eine vorläufige Entscheidung für A, B, C oder eine begründete Kombination. Option D solltest Du nicht allein deshalb verwerfen, weil sie „viel KI“ enthält, sondern anhand derselben Kriterien prüfen. Genau dadurch wird Dein Urteil nachvollziehbar.

Quellenkritik

Nicht jede Quelle beantwortet dieselbe Frage. Ein Gesetzestext zeigt, was rechtlich geregelt ist. Eine technische Studie untersucht Leistungswerte. Ein journalistischer Beitrag ordnet Ereignisse ein. Ein Anbieter beschreibt sein eigenes Produkt und hat dabei wirtschaftliche Interessen. Eine Bürgerrechtsorganisation betrachtet besonders mögliche Grundrechtseingriffe.

Quellenkritik bedeutet deshalb nicht, eine Quelle sofort als „gut“ oder „schlecht“ abzustempeln. Prüfe vielmehr Autor, Zweck, Methode, Aktualität, Belege, mögliche Interessen und die Frage, ob die Quelle überhaupt zur Behauptung passt.

Belegwerkstatt

Ordne Aussagen passenden Belegarten zu.

Aussage	geeigneter Beleg
Ein bestimmter Einsatz ist rechtlich verboten.	Gesetzestext oder zuständige Behörde
Ein Algorithmus hat eine bestimmte Fehlerrate.	unabhängiger technischer Test mit nachvollziehbarer Methode
Jugendliche fühlen sich auf dem Platz unsicher.	lokal erhobene Befragung mit transparenter Stichprobe
Die Maßnahme senkt Straftaten.	Vergleichsdaten oder Evaluation über einen angemessenen Zeitraum
Eine Gruppe wird häufiger falsch markiert.	gruppenbezogene Fehlerdaten und methodisch saubere Tests

Regel: Je stärker eine Behauptung in Rechte anderer eingreift, desto belastbarer sollten die Belege sein.

Aktueller Medienimpuls

Der folgende Beitrag zeigt, dass die Debatte um KI-gestützte Videoüberwachung in Deutschland keine ferne Zukunftsfrage ist. Nutze ihn nicht als fertige Antwort, sondern als Quelle, deren Aussagen Du mit den Kriterien dieses Kurses prüfst.

Interaktive Aufgaben

Quiz: Teste Dein Wissen

Ein System meldet sehr viele Unbeteiligte als Treffer. Welche Kennzahl ist für diese Beobachtung besonders wichtig? (Falsch-Positiv-Rate) (!Falsch-Negativ-Rate) (!Bildauflösung) (!Speicherdauer)

Warum reicht eine hohe Gesamtgenauigkeit für die Bewertung eines Überwachungssystems nicht aus? (Weil Art und Verteilung der Fehler sowie ihre Folgen entscheidend sind) (!Weil Genauigkeit bei KI grundsätzlich bedeutungslos ist) (!Weil nur die Kameramarke wichtig ist) (!Weil mathematische Kennzahlen nicht überprüfbar sind)

Welche Maßnahme stärkt menschliche Kontrolle am deutlichsten? (Ein Mensch kann einen KI-Hinweis prüfen zurückweisen und begründen) (!Jeder Alarm wird automatisch ausgeführt) (!Die KI darf ihre Schwellenwerte selbst geheim ändern) (!Nur der Anbieter darf Entscheidungen nachvollziehen)

Welche Frage prüft am besten die Notwendigkeit einer Überwachungsmaßnahme? (Gibt es eine weniger eingriffsintensive Alternative mit ähnlichem Nutzen) (!Ist die Technik besonders neu) (!Ist das Kameragehäuse unauffällig) (!Kann das System möglichst viele Daten sammeln)

Was ist bei einem seltenen gesuchten Ereignis trotz kleiner Falsch-Positiv-Rate möglich? (Es können viele Fehlalarme unter Unbeteiligten entstehen) (!Es gibt automatisch keine Fehlalarme) (!Jeder Alarm ist dann ein echter Treffer) (!Die Anzahl der überwachten Personen spielt keine Rolle)

Welche Aussage beschreibt Fairness am besten? (Fehlerquoten und Folgen müssen auch zwischen betroffenen Gruppen geprüft werden) (!Ein Durchschnittswert beweist automatisch gleiche Behandlung) (!Fairness bedeutet dass alle Daten dauerhaft gespeichert werden) (!Fairness ist ausschließlich eine Frage des Kaufpreises)

Welche Aussage zu KI und Recht ist am sinnvollsten? (Technische Machbarkeit ersetzt keine Prüfung von Recht und Grundrechten) (!Was technisch möglich ist ist immer rechtlich erlaubt) (!Was rechtlich erlaubt ist ist automatisch ethisch richtig) (!Eine hohe Trefferquote hebt Grundrechte auf)

Welche Quelle ist am geeignetsten um eine konkrete gesetzliche Regel zu prüfen? (Der geltende Gesetzestext oder eine zuständige öffentliche Stelle) (!Eine anonyme Werbeanzeige) (!Ein unbelegter Kommentar) (!Ein Produktfoto)

Wann ist ein Mensch nur scheinbar in Kontrolle? (Wenn er KI-Ergebnisse praktisch ungeprüft übernehmen muss) (!Wenn er Alternativinformationen erhält) (!Wenn er einen Alarm verwerfen kann) (!Wenn seine Entscheidung dokumentiert wird)

Welches Urteil ist am besten nachvollziehbar? (Ein Urteil mit Kriterien Belegen Gegenargumenten und Bedingungen) (!Ein Urteil das nur auf einem ersten Gefühl beruht) (!Ein Urteil das nur den Nutzen einer Gruppe betrachtet) (!Ein Urteil das Unsicherheiten verschweigt)

Memory

False Positive	Unbeteiligte Person wird fälschlich als Treffer markiert
False Negative	Tatsächlicher Treffer wird übersehen
Datenminimierung	Nur notwendige personenbezogene Informationen verarbeiten
Human Oversight	Mensch kann Systemergebnis prüfen und korrigieren
Verhältnismäßigkeit	Nutzen und Grundrechtseingriff gegeneinander abwägen
Transparenz	Betroffene können Zweck und Funktionsweise nachvollziehen

Drag and Drop

Ordne die richtigen Begriffe zu.	Thema
Kamerabild	Eingabedaten
Merkmalsvektor	Merkmalsextraktion
Ähnlichkeitsscore	Modellvergleich
Schwellenwert	Alarmauslösung
Einzelfallprüfung	Menschliche Entscheidung

Kreuzworträtsel

Biometrie	Wie heißt die automatische Erkennung von Personen anhand körperlicher oder verhaltensbezogener Merkmale?
Fairness	Welches Prinzip fragt danach ob Fehler und Folgen gerecht verteilt sind?
Transparenz	Wie heißt das Prinzip nach dem Betroffene Zweck und Einsatz nachvollziehen können sollen?
Schwellenwert	Wie nennt man die festgelegte Grenze ab der ein Score als Treffer gilt?
Datenschutz	Welcher Begriff bezeichnet den Schutz personenbezogener Daten und damit verbundener Rechte?
Kontrolle	Welcher Begriff beschreibt die Möglichkeit eines Menschen ein KI-Ergebnis zu prüfen und zu korrigieren?

LearningApps

Lückentext

Ein KI-gestütztes Überwachungssystem verarbeitet zunächst

aus Kameras oder anderen Sensoren.

Ein falscher Alarm bei einer unbeteiligten Person heißt

.

Wenn ein tatsächlicher Treffer nicht erkannt wird liegt ein

vor.

Bei seltenen Zielereignissen können schon kleine Fehlerraten zu vielen

führen.

Die Beschränkung auf notwendige personenbezogene Informationen wird als

bezeichnet.

Die gerechte Verteilung von Fehlern und Folgen ist eine Frage der

.

Eine Entscheidung soll durch wirksame menschliche

überprüfbar bleiben.

Ein Eingriff muss hinsichtlich Zweck Nutzen und Belastung auf seine

geprüft werden.

Für ein begründetes Urteil müssen Behauptungen durch passende

gestützt werden.

Menschliche Handlungsfähigkeit im Umgang mit KI wird auch als

bezeichnet.

Offene Aufgaben

Leicht

Kameradetektiv: Suche in Deiner Schulumgebung oder auf einem fiktiven Lageplan nach Orten mit möglichen Kameras. Notiere jeweils Zweck, erfasste Personen und eine Datenschutzfrage, ohne reale Personen zu fotografieren.
Fehlerfolgen: Beschreibe je ein mögliches Alltagsbeispiel für einen False Positive und einen False Negative. Erkläre, welcher Fehler in Deinem Beispiel schwerer wiegt und warum.
Quellencheck: Vergleiche einen journalistischen Beitrag und eine öffentliche oder wissenschaftliche Quelle zum Thema Gesichtserkennung. Prüfe Autor, Zweck, Belege und Aktualität.
Wertekompass: Ordne Sicherheit, Privatsphäre, Gleichbehandlung, Transparenz und menschliche Kontrolle nach ihrer Bedeutung für den Bahnhofsfall. Begründe Deine Reihenfolge.

Standard

Fehlalarmrechnung: Verändere im mathematischen Beispiel die Zahl der gesuchten Personen oder die Falsch-Positiv-Rate. Berechne, wie sich die Zahl falscher Alarme verändert, und erkläre die Bedeutung für die Praxis.
Stakeholder-Rat: Übernimm die Rolle eines Stakeholders aus dem Bahnhofsfall. Formuliere drei Forderungen und eine Bedingung, unter der Du einer KI-Lösung zustimmen könntest.
Systemaudit: Entwirf eine Prüfliste mit mindestens acht Kriterien für ein KI-Überwachungssystem. Trenne technische, rechtliche und ethische Kriterien.
Argumentationsanalyse: Schreibe eine kurze Stellungnahme zu Option B oder C. Verwende Behauptung, Beleg, Begründung, Gegenargument und Abwägung.

Schwer

Grundrechte-Folgenabschätzung: Entwickle für Option C eine vereinfachte Folgenabschätzung. Benenne Betroffene, Nutzen, Risiken, Schutzmaßnahmen, verbleibende Unsicherheiten und ein Stop-Kriterium.
Fairness-Audit: Entwirf einen Testplan, mit dem geprüft werden könnte, ob ein Gesichtserkennungssystem verschiedene Gruppen ähnlich zuverlässig behandelt. Begründe, welche Daten benötigt werden und welche Daten aus Datenschutzgründen besonders vorsichtig behandelt werden müssen.
Bürgerausschuss: Simuliere eine öffentliche Anhörung mit Stadt, Polizei, Jugendlichen, Datenschutzaufsicht, Gewerbe und Zivilgesellschaft. Verhandle eine gemeinsame Empfehlung mit mindestens drei verbindlichen Schutzbedingungen.
Technikfolgenabschätzung: Vergleiche Option A, B und C nach Wirksamkeit, Kosten, Grundrechtseingriff, Fairness, Transparenz, menschlicher Kontrolle und Reversibilität. Formuliere anschließend eine Empfehlung mit Unsicherheitsangabe.

Lernkontrolle

Systemanalyse: Eine Stadt wirbt mit einer Trefferquote von 99 Prozent für ein neues Überwachungssystem. Erkläre, warum diese Zahl allein keine ausreichende Entscheidungsgrundlage ist, und nenne mindestens vier zusätzliche Informationen, die Du verlangen würdest.
Zielkonflikt: Ein System verhindert nachweislich einige Gewalttaten, führt aber zu häufigeren Fehlkontrollen einer bestimmten Bevölkerungsgruppe. Entwickle zwei mögliche Reaktionen und bewerte sie nach Sicherheit, Fairness und Grundrechten.
Human Agency: Ein Sicherheitsmitarbeiter muss jeden KI-Alarm innerhalb von fünf Sekunden bestätigen oder ablehnen. Beurteile, ob hier von wirksamer menschlicher Kontrolle gesprochen werden kann, und schlage Verbesserungen vor.
Alternativenprüfung: Eine Schule erwägt KI-Kameras gegen Vandalismus. Entwickle mindestens zwei weniger eingriffsintensive Alternativen und erkläre, wie ihre Wirksamkeit fair mit der Kameralösung verglichen werden könnte.
Quellenbewertung: Ein Anbieter behauptet, sein System sei „nahezu fehlerfrei“. Formuliere einen Plan, wie Du diese Aussage unabhängig überprüfen würdest.
Begründetes Urteil: Entscheide Dich im Bahnhofsfall für eine Option oder eine Kombination. Nutze mindestens fünf Kriterien, zwei Belege, ein ernsthaftes Gegenargument und mindestens zwei Schutzmaßnahmen.

Lernnachweis

Für einen guten Lernnachweis solltest Du zeigen, dass Du ein KI-Überwachungssystem als Zusammenspiel von Daten, Modell, Schwellenwert, Umgebung und menschlicher Entscheidung analysieren kannst. Du solltest False Positives und False Negatives unterscheiden und ihre Folgen anhand eines Zahlenbeispiels erklären können. Außerdem solltest Du Datenqualität, Fairness, Transparenz, Zweckbindung, Verhältnismäßigkeit und menschliche Kontrolle auf einen konkreten Fall anwenden.

Besonders wichtig ist, dass Dein Urteil nicht nur aus einer Meinung besteht. Es soll Kriterien nennen, passende Belege einbeziehen, Interessen mehrerer Stakeholder berücksichtigen, ein Gegenargument ernst nehmen und klar erklären, unter welchen Bedingungen Du einen Einsatz befürwortest, einschränkst oder ablehnst.

Reflexion und Transfer

Beantworte zum Abschluss drei Fragen.

Hat sich Deine Position aus der Einstiegsdiagnose verändert? Benenne die Information oder das Kriterium, das dafür am wichtigsten war.
Welche Entscheidung sollte niemals vollständig an ein KI-System delegiert werden? Begründe Deine Grenze.
Welche Schutzmaßnahme würdest Du als unverzichtbar ansehen, wenn KI im öffentlichen Raum eingesetzt wird?

Übertrage Deine Kriterien anschließend auf einen anderen Bereich, zum Beispiel Smart City, Schule, Arbeitswelt, Grenzkontrolle, Online-Plattform, Verkehr oder Gesundheitswesen. Prüfe, welche Kriterien gleich bleiben und welche sich durch den neuen Kontext verändern.

Selbstkontrolle: Urteils-Check

Vor Deiner endgültigen Entscheidung prüfst Du, ob Du alle folgenden Fragen beantworten kannst.

Habe ich Zweck und Funktionsweise des Systems verstanden?
Kenne ich die wichtigsten Datenquellen und Fehlerarten?
Habe ich absolute Zahlen und nicht nur Prozentwerte betrachtet?
Habe ich Folgen für verschiedene Gruppen geprüft?
Habe ich mindestens eine weniger eingriffsintensive Alternative betrachtet?
Habe ich Grundrechte und gesellschaftliche Werte berücksichtigt?
Ist menschliche Kontrolle tatsächlich wirksam?
Sind Verantwortlichkeiten und Widerspruchsmöglichkeiten klar?
Stützen passende Belege meine wichtigsten Aussagen?
Kann ich mein Urteil einschließlich Unsicherheiten nachvollziehbar begründen?

Quellen und weiterführende Orientierung

Die rechtlichen Hinweise in diesem Lernkurs dienen der schulischen Bildung und ersetzen keine Rechtsberatung. Für aktuelle Rechtsfragen sind jeweils geltende Gesetze und zuständige Behörden maßgeblich.

EU AI Act: Verordnung der Europäischen Union über Künstliche Intelligenz, insbesondere Regeln zu verbotenen Praktiken und Hochrisiko-Systemen.
DSGVO: Europäische Regeln für die Verarbeitung personenbezogener Daten.
Gesichtserkennung: Technische Grundlagen, Anwendungen und gesellschaftliche Debatten.
Videoüberwachung: Einsatz von Kameras, rechtliche Rahmenbedingungen und gesellschaftliche Fragen.
Informationelle Selbstbestimmung: Grundrechtliche Perspektive auf personenbezogene Daten.
NIST Face Recognition Technology Evaluation: Unabhängige technische Untersuchungen zu Leistungswerten und demografischen Unterschieden bei Gesichtserkennung.

OERs zum Thema

Verknüpfte Lernbereiche

KI und Überwachung beurteilen

aiMOOC-Projekte

Inhalte werden geladen ...

Mediathek wird aus dem Wiki geladen ...

Frag mich zum aktuellen Lerninhalt oder wähle eine kurze Hilfe.

Textmodus bereit

Sprache

[1] NIST: Face Recognition Technology Evaluation – Demographic Effects

[2] Europäische Kommission: AI Act, Artikel 5

[3] Verordnung EU 2024/1689 über Künstliche Intelligenz

[4] Europäische Kommission: AI Act, Anhang III

[1]

[2]

[3]

[4]