Diesen aiMOOC als Battle spielen: Deutsch, Klasse 9-10, G-Niveau

KI-Systeme als Systeme analysieren

Einleitung

Künstliche Intelligenz begegnet Dir nicht nur als Chatbot. Sie steckt auch in Empfehlungssystemen, Übersetzungen, Bilderkennung, Navigation, Spamfiltern oder automatisierten Entscheidungshilfen. Für eine gute Bewertung reicht deshalb die Frage „Wie gut ist die KI?“ nicht aus. Du musst untersuchen, welchen Zweck das System verfolgt, welche Daten es nutzt, wie ein Modell daraus Ergebnisse erzeugt, wie die Oberfläche Ergebnisse darstellt, welche Menschen entscheiden, welche Infrastruktur nötig ist und welche Folgen entstehen.

Ein KI-System ist damit ein sozio-technisches System: Technik und Gesellschaft wirken zusammen. Ein Modell kann rechnerisch gut sein und trotzdem im Einsatz Probleme erzeugen, etwa wenn ungeeignete Daten verwendet werden, Menschen einem Ergebnis blind vertrauen oder Betroffene keine Möglichkeit haben, eine Entscheidung anzufechten. Umgekehrt kann ein begrenztes Modell nützlich sein, wenn sein Zweck klar, die Daten passend, die Grenzen sichtbar und menschliche Kontrolle wirksam sind.

Das Ziel dieses Lernkurses ist deshalb nicht, KI pauschal gut oder schlecht zu finden. Du sollst am Ende nachvollziehbare Kriterien anwenden, Belege prüfen, Risiken und Nutzen abwägen und ein begründetes Urteil formulieren.

Lernziele

Nach dem Kurs kannst Du ein KI-System als Zusammenhang aus Zweck, Daten, Modell, Oberfläche, Menschen, Infrastruktur und Folgen beschreiben. Du kannst einfache Leistungsdaten auswerten, Qualitäts- und Fairnessfragen stellen, Quellen nach ihrer Aussagekraft unterscheiden und benennen, wer Verantwortung übernehmen muss. Vor allem kannst Du aus Belegen ein Urteil ableiten, statt Dich nur auf den Eindruck einer Oberfläche oder auf Werbeversprechen zu verlassen.

Unterrichtsrahmen: 60 bis 90 Minuten

Phase	Zeit	Tätigkeit	Ziel
Aktivierung und Diagnose	5–10 Minuten	Kurze Aussagen zu KI prüfen und fehlende Belege benennen	Vorwissen sichtbar machen
Einführung und Systemkarte	15–20 Minuten	Sieben Systemelemente kennenlernen und Verbindungen markieren	KI als sozio-technisches System verstehen
Fallanalyse	20–30 Minuten	Fiktives KI-System für Praktikumsbewerbungen anhand von Daten, Rollen und Risiken untersuchen	Daten- und Systembewertung üben
Urteil	10–15 Minuten	Kriterienraster ausfüllen und Entscheidung mit Belegen begründen	Verantwortung und Human Agency stärken
Vertiefung	optional 10–20 Minuten	Videoausschnitt, Systemkarte oder Transferaufgabe	Fächerübergreifende Vertiefung

Aktivierung und Diagnose

Lies die folgenden drei Aussagen. Entscheide zunächst für Dich, ob sie überzeugend klingen. Schreibe dann nicht nur Deine Meinung, sondern jeweils auf, welcher Beleg fehlen würde.

Aussage	Welche Prüfung wäre nötig?
„Das System liegt in 90 Prozent der Fälle richtig, also ist es fair.“	Prüfe, welche Fälle hinter den 90 Prozent stecken, welche Fehlerarten vorkommen und ob bestimmte Gruppen unterschiedlich betroffen sind.
„Die KI hat entschieden.“	Prüfe, wer das System entwickelt, ausgewählt, eingesetzt und beaufsichtigt hat und wer die Entscheidung übernehmen oder korrigieren kann.
„Viele Daten machen ein System automatisch besser.“	Prüfe Herkunft, Aktualität, Repräsentativität, Messfehler und Zusammenhang der Daten mit dem eigentlichen Zweck.

Diagnosefrage: Bei welcher Aussage warst Du zunächst am ehesten bereit zuzustimmen? Welche zusätzliche Information hat Dir für ein Urteil gefehlt?

KI als sozio-technisches System

Die sieben Analysebausteine

Baustein	Leitfrage	Typische Prüfspur
Zweck	Welches Problem soll gelöst werden, für wen und mit welchem Erfolgskriterium?	Ist der Zweck sinnvoll, eindeutig und verhältnismäßig?
Daten	Woher kommen Trainings-, Test- und Nutzungsdaten?	Sind sie passend, aktuell, vollständig, rechtmäßig erhoben und ausreichend vielfältig?
Modell	Welche Muster oder Zusammenhänge verarbeitet das System?	Wie gut funktioniert es, wo liegen Grenzen und welche Fehlerarten treten auf?
Oberfläche	Wie werden Eingaben, Unsicherheit, Empfehlungen und Warnungen dargestellt?	Verführt die Gestaltung zu blindem Vertrauen oder unterstützt sie kritische Entscheidungen?
Menschen	Wer entwickelt, betreibt, nutzt, kontrolliert oder ist betroffen?	Gibt es Verantwortung, Widerspruchsmöglichkeiten und echte menschliche Aufsicht?
Infrastruktur	Welche Geräte, Netze, Server, Energie und Dienste sind nötig?	Wie abhängig, sicher, verfügbar und ressourcenintensiv ist das System?
Folgen	Was verändert das System für einzelne Menschen, Gruppen, Organisationen und Gesellschaft?	Welche gewünschten und unerwünschten Wirkungen entstehen kurz- und langfristig?

Systemkarte: Nicht nur eine Kette

Ein KI-System ist selten eine einfache Gerade. Folgen können neue Daten erzeugen, neue Regeln auslösen oder das Verhalten von Menschen verändern. Ein Empfehlungssystem kann zum Beispiel beeinflussen, was Menschen anklicken. Diese Klicks werden anschließend wieder zu Daten. So entsteht eine Rückkopplung.

Zweck → Daten → Modell → Oberfläche → menschliche Handlung → Folgen
↑	Rückkopplung: Folgen verändern Nutzung, Regeln, Daten und manchmal sogar den Zweck.
Infrastruktur trägt den gesamten Prozess: Geräte, Rechenzentren, Netze, Energie, Software und Organisation.

Arbeitsauftrag: Zeichne dieselbe Karte auf Papier oder digital. Ergänze mindestens drei Pfeile, die keine lineare Kette bilden. Beschrifte jeden Pfeil mit einem Verb wie „beeinflusst“, „liefert“, „begrenzt“, „kontrolliert“ oder „verändert“.

Daten sind keine neutrale Rohmasse

Daten entstehen durch Auswahl, Messung, Kategorien und Entscheidungen. Wenn ein System aus historischen Daten lernt, können darin gesellschaftliche Ungleichheiten, alte Regeln oder systematische Lücken enthalten sein. Außerdem können Daten zwar korrekt gemessen sein, aber trotzdem nicht zum neuen Einsatz passen. Ein Modell für eine bestimmte Altersgruppe ist zum Beispiel nicht automatisch für alle Altersgruppen zuverlässig.

Prüfe Daten deshalb mit fünf Fragen: Woher? Für welchen Zweck? Wer fehlt? Wie wurden Merkmale gemessen? Was hat sich seit der Erhebung verändert? Große Datenmengen ersetzen diese Fragen nicht.

Das Modell: Muster statt Magie

Bei vielen modernen KI-Systemen wird ein Modell aus Daten angepasst. Es lernt statistische Muster, mit denen es für neue Eingaben Ausgaben erzeugt. Das kann eine Klassifikation, eine Vorhersage, eine Empfehlung, ein Text oder ein Bild sein. Ein Modell „weiß“ aber nicht automatisch, ob sein Ergebnis im konkreten sozialen Zusammenhang angemessen ist.

Das Bild eines neuronalen Netzes zeigt nur einen technischen Teil. Für eine Systemanalyse fehlen dort noch Zweck, Datenherkunft, Benutzeroberfläche, Menschen, Infrastruktur und Folgen. Genau diese Lücke ist wichtig: Eine Modellgrafik ist keine vollständige Systemgrafik.

Der Beitrag von Terra X Lesch & Co erklärt am Beispiel von Sprachmodellen, wie statistische Sprachverarbeitung funktioniert. Nutze ein Video dabei als Quelle mit Perspektive: Notiere, welche Aussagen erklärt oder belegt werden und welche Systemaspekte kaum vorkommen.

Oberfläche und Human Agency

Eine Oberfläche lenkt Aufmerksamkeit. Ein großer grüner Haken kann sicher wirken, obwohl das Modell nur eine Wahrscheinlichkeit ausgibt. Eine Rangliste kann wie eine objektive Reihenfolge erscheinen, obwohl Auswahlkriterien und Schwellenwerte festgelegt wurden.

Human Agency bedeutet hier menschliche Handlungsmacht: Menschen sollen ein KI-Ergebnis verstehen, hinterfragen, korrigieren oder ablehnen können. Wirksame Aufsicht ist mehr als ein Mensch, der am Ende nur noch auf „Bestätigen“ klickt. Sie braucht Zeit, Informationen, Zuständigkeit und die tatsächliche Möglichkeit einzugreifen.

Infrastruktur: Die unsichtbare Ebene

KI läuft auf materieller Infrastruktur. Rechenzentren, Chips, Speicher, Netze und Stromversorgung ermöglichen Training und Nutzung. Deshalb gehören Zuverlässigkeit, Cybersicherheit, Energie- und Ressourcenverbrauch sowie Abhängigkeiten von Dienstleistern zur Systembewertung.

Die Serveraufnahme macht sichtbar, dass digitale Systeme physische Technik benötigen. Frage Dich bei jeder KI-Anwendung: Was muss im Hintergrund dauerhaft funktionieren, damit die Oberfläche vorne eine Antwort zeigt?

Folgen und Rückkopplungen

Folgen entstehen nicht nur durch falsche Ergebnisse. Auch richtige oder scheinbar hilfreiche Empfehlungen können Verhalten verändern. Ein Ranking kann Aufmerksamkeit konzentrieren. Ein Bewertungssystem kann Menschen dazu bringen, sich an messbare Kriterien anzupassen. Ein automatisierter Filter kann Arbeitsabläufe beschleunigen, aber zugleich Verantwortung unklarer machen.

Bei Empfehlungssystemen sieht man besonders gut, dass Daten über Nutzung, Modellbewertung und neue Nutzungsdaten zusammenwirken. Damit wird die Frage wichtig, welches Verhalten das System langfristig verstärkt.

Leistung messen: Was bedeutet „gut“?

Fehlerarten statt nur Trefferquote

Stell Dir ein System vor, das Bewerbungen für Schülerpraktika vorsortiert. Es soll geeignete Bewerbungen zur menschlichen Prüfung empfehlen. In einem Test mit 20 fiktiven Fällen ergibt sich:

	Tatsächlich geeignet	Tatsächlich nicht geeignet
System empfiehlt	6 richtige Empfehlungen	2 falsche Empfehlungen
System empfiehlt nicht	3 übersehene geeignete Bewerbungen	9 richtige Ablehnungen

Die Trefferquote beträgt 15 von 20 Fällen, also 75 Prozent. Diese Zahl allein reicht aber nicht. Drei geeignete Personen werden übersehen. Für die Betroffenen kann genau diese Fehlerart besonders wichtig sein. Eine Systembewertung muss deshalb fragen, welcher Fehler für wen welche Folge hat.

Mathematikbezug: Berechne zusätzlich, welcher Anteil der tatsächlich geeigneten Bewerbungen erkannt wurde. Das sind 6 von 9, also rund 67 Prozent. Vergleiche diese Zahl mit der Trefferquote. Welche Kennzahl passt besser zu der Frage, ob geeignete Bewerberinnen und Bewerber übersehen werden?

Fairness ist mehr als eine Zahl

Fairness kann unterschiedliche Bedeutungen haben. Gleiche Regeln, ähnliche Fehlerraten, gleiche Chancen oder der Schutz besonders betroffener Gruppen können zu unterschiedlichen Bewertungen führen. Deshalb musst Du zuerst begründen, welche Fairnessfrage zum Zweck und zur Situation passt.

Ein Unterschied zwischen Gruppen ist ein Warnsignal, aber noch keine vollständige Erklärung. Prüfe, ob Daten unterschiedlich verteilt sind, ob ein Merkmal nur als Stellvertreter für etwas anderes wirkt, ob das Modell in verschiedenen Gruppen unterschiedlich zuverlässig ist oder ob der gesamte Einsatzkontext unfair gestaltet ist.

Die Grafik stammt aus der Untersuchung eines realen Klassifikationssystems im Wikipedia-Kontext. Sie eignet sich nicht als Beweis für „KI ist fair“ oder „KI ist unfair“. Sie zeigt vielmehr, wie Modellverhalten für verschiedene Gruppen getrennt untersucht werden kann.

Das Video der Antidiskriminierungsstelle des Bundes eignet sich als Ausgangspunkt für die Frage, wie automatisierte Entscheidungen Menschen benachteiligen können. Prüfe danach: Geht es um Daten, Modell, Einsatzregeln, menschliche Entscheidungen oder mehrere Ebenen zugleich?

Realistische Anwendungssituation: KI sortiert Praktikumsbewerbungen

Das Szenario

Ein mittelständischer Betrieb erhält viele Bewerbungen für Schülerpraktika. Ein KI-System soll Bewerbungen vorsortieren. Es liest Texte, Schulnoten, angegebene Interessen und freiwillige Angaben zu Projekten. Die Oberfläche zeigt für jede Bewerbung einen Eignungswert von 0 bis 100 und markiert ab 70 Punkten „zur Einladung empfohlen“. Personalverantwortliche können die Empfehlung überstimmen.

Der Anbieter wirbt mit „schnellerer Auswahl“ und „objektiver Bewertung“. Der Betrieb hat aber noch nicht dokumentiert, wie die Trainingsdaten zusammengesetzt sind. Außerdem ist unklar, ob Rechtschreibfehler den Wert beeinflussen und ob Menschen tatsächlich jede Ablehnung prüfen.

Systemanalyse des Szenarios

Systemelement	Beobachtung aus dem Fall	Offene Prüffrage
Zweck	Bewerbungen vorsortieren	Soll Zeit gespart, Eignung vorhergesagt oder eine endgültige Auswahl getroffen werden?
Daten	Texte, Noten, Interessen, Projektdaten	Sind diese Merkmale für Praktikumserfolg aussagekräftig und für alle ähnlich verfügbar?
Modell	Eignungswert und Schwellenwert 70	Wie häufig werden geeignete Bewerbungen übersehen und wie stabil ist der Wert?
Oberfläche	Zahl von 0 bis 100 und farbliche Empfehlung	Wirkt die Zahl präziser und sicherer, als sie tatsächlich ist?
Menschen	Personal kann überstimmen	Prüft jemand systematisch Grenzfälle und Ablehnungen?
Infrastruktur	Textanalyse und zentrale Verarbeitung	Wo werden Daten gespeichert, wie lange und wer hat Zugriff?
Folgen	Schnellere Auswahl, aber mögliche Benachteiligung	Wer trägt den Schaden, wenn systematisch bestimmte Bewerbungen schlechter bewertet werden?

Deine Entscheidung als Prüfungsteam

Du bist Teil eines schulischen Prüfungsteams, das entscheiden soll, ob die Schule diesen Betrieb weiterhin für Praktika empfiehlt. Du bekommst vier Belege:

Beleg	Inhalt	Quellenkritische Frage
A	Werbeflyer des Anbieters: „75 Prozent weniger Auswahlzeit“	Belegt Zeitersparnis auch Qualität oder Fairness?
B	Interner Test: 15 von 20 Fällen korrekt, aber 3 geeignete Bewerbungen übersehen	Ist die Stichprobe groß und passend genug, und welche Fehlerart ist besonders relevant?
C	Dokumentation: Herkunft der Trainingsdaten nicht vollständig angegeben	Welche Prüfung ist ohne Datenherkunft gar nicht möglich?
D	Personalrat berichtet, dass manche Beschäftigte Empfehlungen fast immer übernehmen	Ist menschliche Kontrolle real oder nur formal vorhanden?

Auftrag: Formuliere ein vorläufiges Urteil in drei Teilen: Behauptung – Beleg – Begründung. Beispielstruktur: „Das System sollte derzeit nur eingeschränkt eingesetzt werden, weil … Der wichtigste Beleg dafür ist … Dieser Beleg ist relevant, weil …“

Kriterienraster für ein begründetes Urteil

Bewerte jedes Kriterium mit 0 = nicht belegt/problematisch, 1 = teilweise belegt/unklar oder 2 = gut belegt/angemessen. Eine Punktzahl ersetzt Dein Urteil nicht. Entscheidend ist die Begründung.

Kriterium	Leitfrage	Beleg aus dem Fall	0–2
Zweckangemessenheit	Ist klar, welches Problem gelöst werden soll und ob KI dafür nötig ist?
Datenqualität	Passen Herkunft, Auswahl und Merkmale zum Zweck?
Modellgüte	Sind passende Fehlerarten, Grenzen und Unsicherheiten geprüft?
Transparenz	Können Nutzende und Betroffene Ergebnis und Grenzen nachvollziehen?
Fairness	Werden mögliche Benachteiligungen erkannt, gemessen und bearbeitet?
Sicherheit und Datenschutz	Sind Zugriffe, Speicherung, Missbrauch und Schutzmaßnahmen geklärt?
Menschliche Kontrolle	Können Menschen informiert, zuständig und wirksam eingreifen?
Infrastruktur und Nachhaltigkeit	Sind technische Abhängigkeiten, Verfügbarkeit und Ressourcen berücksichtigt?
Folgen und Verantwortung	Werden Auswirkungen beobachtet und Verantwortliche benannt?

Urteilsregel: Ein hoher Gesamtwert genügt nicht, wenn ein besonders schweres Risiko ungeklärt bleibt. Begründe deshalb zusätzlich, welche Kriterien Du in diesem Fall höher gewichtest und warum.

Verantwortung und Gesellschaft

Wer ist verantwortlich?

Verantwortung verteilt sich über Rollen. Entwicklerinnen und Entwickler beeinflussen Datenaufbereitung und Modellgestaltung. Anbieter entscheiden über Dokumentation und Produktgrenzen. Organisationen entscheiden, ob und wie ein System eingesetzt wird. Nutzende müssen Ergebnisse angemessen prüfen. Leitung und Politik setzen Regeln. Betroffene brauchen Informationen und Möglichkeiten, Entscheidungen anzufechten.

Die Aussage „Die KI war es“ verschleiert diese Rollen. Technik kann Handlungsmöglichkeiten eröffnen oder begrenzen, aber gesellschaftliche Verantwortung verschwindet nicht.

Risikoabwägung

Ein Risiko besteht nicht nur aus der Frage, ob etwas schiefgehen kann. Du solltest auch bewerten, wie wahrscheinlich ein Schaden ist, wie schwer er wäre, wie viele Menschen betroffen wären und wie gut ein Fehler erkannt oder rückgängig gemacht werden kann.

Risiko	Wahrscheinlichkeit	Schadensschwere	Erkennbarkeit	mögliche Schutzmaßnahme
Geeignete Bewerbung wird übersehen	zu prüfen	mittel bis hoch	nur mit Nachkontrolle	Ablehnungen stichprobenartig oder vollständig menschlich prüfen
Persönliche Daten werden unnötig gespeichert	zu prüfen	hoch	oft erst spät	Datensparsamkeit, Löschfristen und Zugriffsrechte
Beschäftigte vertrauen dem Score blind	realistisch	mittel bis hoch	durch Beobachtung prüfbar	Schulung, Unsicherheitsanzeige und Pflicht zur Begründung

Recht, Ethik und öffentliche Regeln

Internationale Leitlinien wie die UNESCO-Empfehlung zur Ethik der KI betonen unter anderem Menschenrechte, Fairness, Transparenz, menschliche Aufsicht, Sicherheit und Nachhaltigkeit. Der europäische AI Act verfolgt einen risikobasierten Ansatz und sieht je nach Art und Einsatz eines Systems unterschiedliche Pflichten vor. Für Deine schulische Analyse ist wichtig: Gesetzliche Zulässigkeit, technische Qualität und ethische Vertretbarkeit sind drei verschiedene Fragen. Etwas kann technisch möglich sein und trotzdem gesellschaftlich problematisch; etwas kann erlaubt sein und trotzdem schlecht begründet sein.

Der Beitrag mit AlgorithmWatch eignet sich für eine kontroverse Perspektive auf Intransparenz, Diskriminierung und Regulierung. Nutze ihn nicht als alleinige Wahrheit, sondern vergleiche seine Aussagen mit offiziellen Quellen und konkreten Daten.

Fächerübergreifende Bezüge

Fach	Leitfrage zur Systemanalyse	mögliche Leistung
Informatik	Wie hängen Daten, Modell, Schnittstelle und Rückkopplung zusammen?	Systemkarte und Fehleranalyse
Mathematik	Welche Kennzahl beantwortet welche Frage und was verschleiert ein Durchschnitt?	Trefferquote, Erkennungsrate und Vergleich von Fehlerarten
Deutsch	Wie überzeugend sind Werbeversprechen, Erklärtexte und Begründungen?	Quellenkritik und Argumentation mit Behauptung, Beleg, Begründung
Technik	Welche materielle Infrastruktur, Energie und Sicherheitsmaßnahmen sind nötig?	Infrastrukturdiagramm und Ausfallanalyse
Wirtschaft	Welche Interessen, Kosten, Effizienzgewinne und Abhängigkeiten entstehen?	Nutzen-Risiko-Abwägung für einen Betrieb
Geschichte	Wie verändert sich Automatisierung von mechanischen und regelbasierten Verfahren zu datengetriebenen Systemen?	Historischer Vergleich von Technik und Verantwortung
Ethik	Was bedeutet eine faire, menschenwürdige und verantwortbare Entscheidung?	Kriterien begründen und Zielkonflikte abwägen
Gemeinschaftskunde	Wer setzt Regeln, wer kontrolliert Systeme und welche Rechte haben Betroffene?	Akteurskarte und begründetes politisches Urteil

Quellenkritik: Belege statt Autoritätsgläubigkeit

Eine seriöse Systembewertung kombiniert unterschiedliche Quellentypen. Offizielle Regelwerke können Pflichten oder Leitprinzipien erklären, technische Dokumentationen beschreiben ein konkretes System, unabhängige Untersuchungen können Schwachstellen sichtbar machen und Erfahrungsberichte können neue Fragen aufwerfen. Keine einzelne Quelle beantwortet automatisch alle Fragen.

Quelle	Stärke	Grenze
NIST AI Risk Management Framework	systematische Risikoanalyse und sozio-technische Perspektive	US-amerikanischer Rahmen, kein Ersatz für deutsches oder europäisches Recht
UNESCO Recommendation on the Ethics of Artificial Intelligence	menschenrechtliche und ethische Prinzipien mit globaler Perspektive	Prinzipien müssen auf konkrete Fälle übertragen werden
Europäische Kommission: AI Act	offizielle Informationen zum europäischen Rechtsrahmen	rechtliche Regeln beantworten nicht allein die Frage nach pädagogischer oder ethischer Qualität
AlgorithmWatch: Algorithmische Diskriminierung	Beispiele und kritische Perspektive auf gesellschaftliche Folgen	zivilgesellschaftliche Perspektive sollte mit weiteren Quellen verglichen werden
Planet Schule: Künstliche Intelligenz	schulnah aufbereitete Beispiele und Filme	didaktische Vereinfachung ersetzt keine technische Dokumentation eines konkreten Systems

Quellenregel: Frage bei jedem Beleg: Wer sagt das? Worauf stützt sich die Aussage? Welche Interessen oder Auswahlentscheidungen können eine Rolle spielen? Passt die Quelle genau zu meiner Frage? Gibt es eine unabhängige Gegenprüfung?

Selbstkontrolle und Reflexion

Prüfe Dein eigenes Urteil mit vier Fragen: Habe ich das gesamte System oder nur das Modell betrachtet? Habe ich mindestens zwei konkrete Belege verwendet? Habe ich Nutzen und Risiken für unterschiedliche Beteiligte berücksichtigt? Habe ich erklärt, wer handeln, kontrollieren oder widersprechen kann?

Transfer: Systemblick auf andere KI-Anwendungen

Übertrage das Raster auf eine andere Anwendung. Ändert sich nur das Modell oder verschiebt sich das ganze System?

Anwendung	besonders wichtige Systemfrage	möglicher Zielkonflikt
Übersetzungs-KI	Welche Sprachen, Textsorten und Dialekte waren in den Daten vertreten?	Verständlichkeit gegen sprachliche Feinheiten
KI-Lernhilfe	Welche Lerndaten werden gespeichert und wie wird ein Fehler erkannt?	Personalisierung gegen Datenschutz und Abhängigkeit
Bilderkennung im öffentlichen Raum	Wer ist betroffen und wie hoch ist die Fehlerfolge?	Sicherheit gegen Privatsphäre und Fehlzuordnung
Empfehlungssystem	Welche Rückkopplung entsteht aus Klicks und Rankings?	Relevanz gegen Vielfalt und Selbstbestimmung

Reflexion: Nenne eine Situation, in der Du eine KI-Empfehlung bewusst nicht übernehmen würdest. Welche Information oder welches Recht zum Eingreifen brauchst Du dafür?

Interaktive Aufgaben

Quiz: Teste Dein Wissen

Warum reicht die Genauigkeit eines KI-Modells nicht für die Bewertung des gesamten Systems? (Weil auch Zweck Daten Oberfläche Menschen Infrastruktur und Folgen bewertet werden müssen) (!Weil Genauigkeit bei KI grundsätzlich nicht messbar ist) (!Weil nur die Benutzeroberfläche über Qualität entscheidet) (!Weil technische Daten für gesellschaftliche Fragen immer bedeutungslos sind)

Welche Frage gehört am direktesten zur Datenqualität? (Passen Herkunft Auswahl und Merkmale der Daten zum Zweck) (!Ist die Schaltfläche auf der Oberfläche blau) (!Wie schnell tippt eine Person ihre Eingabe) (!Wie teuer war die Werbung für das System)

Was zeigt ein übersehener tatsächlich geeigneter Fall in einer Klassifikation? (Das System hat einen relevanten Fall nicht erkannt) (!Das System hat jeden Fall korrekt erkannt) (!Die Datenmenge ist automatisch zu groß) (!Die Benutzeroberfläche ist vollständig transparent)

Was bedeutet Human Agency in diesem Kurs? (Menschen können KI Ergebnisse informiert hinterfragen korrigieren oder ablehnen) (!Menschen müssen jede KI Empfehlung automatisch bestätigen) (!Menschen dürfen nur Trainingsdaten eingeben) (!Menschen überlassen Verantwortung vollständig dem Modell)

Warum kann ein Schwellenwert von 70 Punkten gesellschaftliche Folgen haben? (Weil er mitentscheidet welche Personen weiter geprüft oder aussortiert werden) (!Weil jede Zahl über 50 mathematisch unfair ist) (!Weil Schwellenwerte nur die Servertemperatur steuern) (!Weil ein Schwellenwert keine Entscheidungen beeinflussen kann)

Was ist eine Rückkopplung in einem KI System? (Folgen oder Nutzung erzeugen neue Daten die das System oder Verhalten weiter beeinflussen) (!Ein Bildschirm zeigt dieselbe Farbe zweimal) (!Ein Modell wird ohne Daten dauerhaft unverändert richtig) (!Eine Person schaltet den Computer am Ende aus)

Welche Aussage beschreibt wirksame menschliche Aufsicht am besten? (Eine zuständige Person erhält verständliche Informationen und kann tatsächlich eingreifen) (!Eine Person sieht nur das Endergebnis und muss zustimmen) (!Die Verantwortung wird im Vertrag allein der KI zugewiesen) (!Die Oberfläche blendet Unsicherheit aus)

Welche Quelle eignet sich am besten um eine Anbieterwerbung kritisch zu prüfen? (Eine unabhängige Untersuchung mit nachvollziehbarer Methode und passenden Daten) (!Nur ein weiterer Werbetext desselben Anbieters) (!Ein einzelner Kommentar ohne Beleg) (!Eine anonyme Behauptung ohne überprüfbare Quelle)

Warum gehört Infrastruktur zur Analyse eines KI Systems? (Weil Betrieb von Hardware Netzen Energie Sicherheit und Dienstleistern abhängt) (!Weil Infrastruktur nur bei Straßen eine Rolle spielt) (!Weil KI Systeme ohne physische Computer laufen) (!Weil Infrastruktur ausschließlich die Schriftart bestimmt)

Was macht ein begründetes Urteil besonders nachvollziehbar? (Es verbindet Kriterien konkrete Belege Abwägung und eine begründete Schlussfolgerung) (!Es nennt möglichst viele Fachwörter ohne Belege) (!Es übernimmt die erste gefundene Meinung) (!Es vermeidet jede Aussage zu Unsicherheit)

Memory

Zweck	gewünschte Aufgabe und Erfolgskriterium
Datengrundlage	Herkunft Auswahl und Messung der Informationen
Modellgüte	Leistung Grenzen und Fehlerarten
Bedienoberfläche	Darstellung von Eingaben Ergebnissen und Unsicherheit
Human Agency	menschliche Möglichkeit zum Prüfen Eingreifen und Widersprechen
Recheninfrastruktur	Server Netze Energie Speicher und Dienste
Folgenabschätzung	Bewertung erwünschter und unerwünschter Wirkungen

Drag and Drop

Ordne die richtigen Begriffe zu.	Thema
Trainingsdaten	Daten
Eignungswert	Modell
Warnhinweis	Oberfläche
Widerspruchsmöglichkeit	Menschen
Rechenzentrum	Infrastruktur

Kreuzworträtsel

Zweck	Welcher Begriff bezeichnet das Problem oder Ziel das ein KI System bearbeiten soll?
Daten	Was liefert Beispiele oder Messwerte für Training Test und Nutzung?
Modell	Welcher technische Teil verarbeitet gelernte Muster für neue Eingaben?
Fairness	Welcher Begriff beschreibt die Frage nach gerechter Behandlung und Benachteiligung?
Aufsicht	Wie heißt die menschliche Kontrolle eines Systems mit einem einzigen Wort?
Infrastruktur	Welcher Begriff umfasst Server Netze Speicher Energie und technische Dienste?

LearningApps

Lückentext

Ein KI-System wird hier als

betrachtet, weil technische und gesellschaftliche Bestandteile zusammenwirken. Der

legt fest, welches Problem gelöst werden soll. Die Qualität der

hängt nicht nur von ihrer Menge, sondern auch von Herkunft, Auswahl und Passung ab. Das

verarbeitet gelernte Muster und kann dabei unterschiedliche Fehlerarten erzeugen. Eine Benutzeroberfläche sollte

nicht verstecken, wenn sie für Entscheidungen wichtig ist. Wirksame menschliche Kontrolle stärkt

, weil Menschen Ergebnisse prüfen und korrigieren können. Auch die

gehört zur Analyse, weil Server, Netze, Energie und Sicherheit den Betrieb ermöglichen. Ein begründetes Urteil verbindet schließlich Kriterien mit

und einer nachvollziehbaren Abwägung.

Offene Aufgaben

Leicht

KI-Systemkarte: Wähle eine alltägliche KI-Anwendung und zeichne die sieben Bausteine Zweck, Daten, Modell, Oberfläche, Menschen, Infrastruktur und Folgen mit mindestens drei Rückkopplungspfeilen.
Werbecheck KI: Finde eine Aussage, mit der ein KI-System beworben wird, und formuliere drei Belege, die Du für eine Überprüfung verlangen würdest.
Fehlerfolgen: Erfinde für das Praktikumsbeispiel je einen falsch positiven und einen falsch negativen Fall und beschreibe, wer jeweils betroffen ist.
Quellenampel: Ordne drei Quellen zum Thema KI nach ihrer Eignung für eine konkrete Frage und begründe Deine Reihenfolge ohne nur auf Bekanntheit zu verweisen.

Standard

Datenaudit: Entwickle für ein fiktives KI-System sechs Prüffragen zur Datenqualität und erkläre bei zwei Fragen, welche Fehlentscheidung durch mangelhafte Daten entstehen könnte.
Oberflächenkritik: Skizziere zwei Versionen derselben KI-Oberfläche, einmal mit übertriebener Sicherheit und einmal mit transparenter Unsicherheit, und vergleiche ihre Wirkung auf Entscheidungen.
Fairnessprüfung: Erstelle ein kleines fiktives Datenset mit mindestens zwölf Fällen, berechne zwei passende Leistungskennzahlen und erkläre, warum keine einzelne Kennzahl Fairness vollständig beweist.
Akteurskarte KI: Stelle Anbieter, Organisation, Nutzende, Betroffene, Aufsicht und Politik in einer Akteurskarte dar und markiere Zuständigkeiten, Interessenkonflikte und Widerspruchswege.

Schwer

Risikoportfolio KI: Entwickle für ein schulnahes KI-System ein Risikoportfolio aus Wahrscheinlichkeit, Schadensschwere, Erkennbarkeit und Gegenmaßnahme und begründe die zwei wichtigsten Risiken.
Systemvergleich KI: Vergleiche zwei KI-Anwendungen mit demselben Kriterienraster und zeige, warum ein Kriterium je nach Einsatz unterschiedlich gewichtet werden kann.
Historische Automatisierung: Vergleiche eine frühere Form automatisierter Auswahl oder Rationalisierung mit einem heutigen KI-System und untersuche, was sich bei Daten, Geschwindigkeit, Kontrolle und Verantwortung verändert hat.
Bürgergutachten KI: Verfasse ein kurzes Gutachten für eine Schulkonferenz oder Jugendvertretung, das eine KI-Anwendung anhand von mindestens vier Quellen und sechs Kriterien bewertet und mit einer begründeten Empfehlung endet.

Lernkontrolle

Systemdiagnose: Du erhältst die Beschreibung eines unbekannten KI-Systems. Erstelle zuerst eine Systemkarte und markiere zwei Stellen, an denen technische und soziale Faktoren ineinandergreifen.
Kennzahlen bewerten: Ein Anbieter nennt nur eine hohe Trefferquote. Entscheide, welche weiteren Kennzahlen oder Fallgruppen Du brauchst, um das System für einen konkreten Zweck zu bewerten, und begründe Deine Auswahl.
Zielkonflikt analysieren: Ein System wird transparenter, wenn mehr Informationen angezeigt werden, aber dadurch könnten sensible Daten offengelegt werden. Entwickle eine Lösung, die Transparenz und Datenschutz abwägt.
Verantwortung zuordnen: In einem Fall führt eine KI-Empfehlung zu einer unfairen Entscheidung. Ordne mögliche Verantwortungsanteile den beteiligten Rollen zu und begründe, welche Veränderung die Wiederholung am ehesten verhindert.
Quellenstreit: Zwei Quellen kommen zu gegensätzlichen Bewertungen desselben KI-Systems. Entwickle einen Prüfplan, mit dem Du Methoden, Daten, Interessen und Übertragbarkeit vergleichst.
Urteil mit Unsicherheit: Formuliere ein begründetes Urteil zu einem KI-System, obwohl eine wichtige Information fehlt. Zeige deutlich, was Du weißt, was unklar bleibt und welche Bedingung Deine Entscheidung ändern würde.

Lernnachweis

Für einen überzeugenden Lernnachweis ist wichtig, dass Du nicht nur Begriffe wiederholst, sondern eine vollständige Systemanalyse vorlegst.

Systemkarte: Alle sieben Elemente sind enthalten und ihre wichtigsten Wechselwirkungen sind mit Pfeilen erklärt.
Datenbelege: Mindestens zwei konkrete Daten- oder Leistungsangaben werden korrekt interpretiert und ihre Grenzen werden benannt.
Quellenkritik: Mehrere Quellen werden nach Herkunft, Belegen, Perspektive und Passung zur Fragestellung bewertet.
Risikoabwägung: Nutzen und Risiken werden für verschiedene Beteiligte sowie nach Wahrscheinlichkeit und Schadensschwere untersucht.
Verantwortung: Menschliche Handlungsmöglichkeiten, Aufsicht, Widerspruch und Zuständigkeiten werden sichtbar gemacht.
Begründetes Urteil: Das Endurteil nennt Kriterien, stützt sich auf Belege, macht Unsicherheiten transparent und erklärt, unter welchen Bedingungen das System eingesetzt, verändert oder abgelehnt werden sollte.

OERs zum Thema

Zusätzliche offene bzw. öffentlich zugängliche Lern- und Referenzmaterialien:

Wikimedia Commons: Artificial intelligence – frei lizenzierte Medien zum Themenfeld
Planet Schule: Künstliche Intelligenz – schulische Filme und Materialien
UNESCO: Ethics of Artificial Intelligence – internationale Leitprinzipien zu verantwortlicher KI

Verknüpfte Lernbereiche

KI-Systeme als Systeme analysieren

aiMOOC-Projekte

Inhalte werden geladen ...

Mediathek wird aus dem Wiki geladen ...

Frag mich zum aktuellen Lerninhalt oder wähle eine kurze Hilfe.

Textmodus bereit

Sprache