KI-Systeme als Systeme analysieren
KI-Systeme als Systeme analysieren
KI-Systeme als Systeme analysieren
Einleitung
Künstliche Intelligenz begegnet Dir nicht nur als Chatbot. Sie steckt auch in Empfehlungssystemen, Übersetzungen, Bilderkennung, Navigation, Spamfiltern oder automatisierten Entscheidungshilfen. Für eine gute Bewertung reicht deshalb die Frage „Wie gut ist die KI?“ nicht aus. Du musst untersuchen, welchen Zweck das System verfolgt, welche Daten es nutzt, wie ein Modell daraus Ergebnisse erzeugt, wie die Oberfläche Ergebnisse darstellt, welche Menschen entscheiden, welche Infrastruktur nötig ist und welche Folgen entstehen.
Ein KI-System ist damit ein sozio-technisches System: Technik und Gesellschaft wirken zusammen. Ein Modell kann rechnerisch gut sein und trotzdem im Einsatz Probleme erzeugen, etwa wenn ungeeignete Daten verwendet werden, Menschen einem Ergebnis blind vertrauen oder Betroffene keine Möglichkeit haben, eine Entscheidung anzufechten. Umgekehrt kann ein begrenztes Modell nützlich sein, wenn sein Zweck klar, die Daten passend, die Grenzen sichtbar und menschliche Kontrolle wirksam sind.
Das Ziel dieses Lernkurses ist deshalb nicht, KI pauschal gut oder schlecht zu finden. Du sollst am Ende nachvollziehbare Kriterien anwenden, Belege prüfen, Risiken und Nutzen abwägen und ein begründetes Urteil formulieren.
Lernziele
Nach dem Kurs kannst Du ein KI-System als Zusammenhang aus Zweck, Daten, Modell, Oberfläche, Menschen, Infrastruktur und Folgen beschreiben. Du kannst einfache Leistungsdaten auswerten, Qualitäts- und Fairnessfragen stellen, Quellen nach ihrer Aussagekraft unterscheiden und benennen, wer Verantwortung übernehmen muss. Vor allem kannst Du aus Belegen ein Urteil ableiten, statt Dich nur auf den Eindruck einer Oberfläche oder auf Werbeversprechen zu verlassen.
Unterrichtsrahmen: 60 bis 90 Minuten
| Phase | Zeit | Tätigkeit | Ziel |
|---|---|---|---|
| Aktivierung und Diagnose | 5–10 Minuten | Kurze Aussagen zu KI prüfen und fehlende Belege benennen | Vorwissen sichtbar machen |
| Einführung und Systemkarte | 15–20 Minuten | Sieben Systemelemente kennenlernen und Verbindungen markieren | KI als sozio-technisches System verstehen |
| Fallanalyse | 20–30 Minuten | Fiktives KI-System für Praktikumsbewerbungen anhand von Daten, Rollen und Risiken untersuchen | Daten- und Systembewertung üben |
| Urteil | 10–15 Minuten | Kriterienraster ausfüllen und Entscheidung mit Belegen begründen | Verantwortung und Human Agency stärken |
| Vertiefung | optional 10–20 Minuten | Videoausschnitt, Systemkarte oder Transferaufgabe | Fächerübergreifende Vertiefung |
Aktivierung und Diagnose
Lies die folgenden drei Aussagen. Entscheide zunächst für Dich, ob sie überzeugend klingen. Schreibe dann nicht nur Deine Meinung, sondern jeweils auf, welcher Beleg fehlen würde.
| Aussage | Welche Prüfung wäre nötig? |
|---|---|
| „Das System liegt in 90 Prozent der Fälle richtig, also ist es fair.“ | Prüfe, welche Fälle hinter den 90 Prozent stecken, welche Fehlerarten vorkommen und ob bestimmte Gruppen unterschiedlich betroffen sind. |
| „Die KI hat entschieden.“ | Prüfe, wer das System entwickelt, ausgewählt, eingesetzt und beaufsichtigt hat und wer die Entscheidung übernehmen oder korrigieren kann. |
| „Viele Daten machen ein System automatisch besser.“ | Prüfe Herkunft, Aktualität, Repräsentativität, Messfehler und Zusammenhang der Daten mit dem eigentlichen Zweck. |
Diagnosefrage: Bei welcher Aussage warst Du zunächst am ehesten bereit zuzustimmen? Welche zusätzliche Information hat Dir für ein Urteil gefehlt?
KI als sozio-technisches System
Die sieben Analysebausteine
| Baustein | Leitfrage | Typische Prüfspur |
|---|---|---|
| Zweck | Welches Problem soll gelöst werden, für wen und mit welchem Erfolgskriterium? | Ist der Zweck sinnvoll, eindeutig und verhältnismäßig? |
| Daten | Woher kommen Trainings-, Test- und Nutzungsdaten? | Sind sie passend, aktuell, vollständig, rechtmäßig erhoben und ausreichend vielfältig? |
| Modell | Welche Muster oder Zusammenhänge verarbeitet das System? | Wie gut funktioniert es, wo liegen Grenzen und welche Fehlerarten treten auf? |
| Oberfläche | Wie werden Eingaben, Unsicherheit, Empfehlungen und Warnungen dargestellt? | Verführt die Gestaltung zu blindem Vertrauen oder unterstützt sie kritische Entscheidungen? |
| Menschen | Wer entwickelt, betreibt, nutzt, kontrolliert oder ist betroffen? | Gibt es Verantwortung, Widerspruchsmöglichkeiten und echte menschliche Aufsicht? |
| Infrastruktur | Welche Geräte, Netze, Server, Energie und Dienste sind nötig? | Wie abhängig, sicher, verfügbar und ressourcenintensiv ist das System? |
| Folgen | Was verändert das System für einzelne Menschen, Gruppen, Organisationen und Gesellschaft? | Welche gewünschten und unerwünschten Wirkungen entstehen kurz- und langfristig? |
Systemkarte: Nicht nur eine Kette
Ein KI-System ist selten eine einfache Gerade. Folgen können neue Daten erzeugen, neue Regeln auslösen oder das Verhalten von Menschen verändern. Ein Empfehlungssystem kann zum Beispiel beeinflussen, was Menschen anklicken. Diese Klicks werden anschließend wieder zu Daten. So entsteht eine Rückkopplung.
| Zweck → Daten → Modell → Oberfläche → menschliche Handlung → Folgen | |||||
| ↑ | Rückkopplung: Folgen verändern Nutzung, Regeln, Daten und manchmal sogar den Zweck. | ||||
| Infrastruktur trägt den gesamten Prozess: Geräte, Rechenzentren, Netze, Energie, Software und Organisation. | |||||
Arbeitsauftrag: Zeichne dieselbe Karte auf Papier oder digital. Ergänze mindestens drei Pfeile, die keine lineare Kette bilden. Beschrifte jeden Pfeil mit einem Verb wie „beeinflusst“, „liefert“, „begrenzt“, „kontrolliert“ oder „verändert“.
Daten sind keine neutrale Rohmasse
Daten entstehen durch Auswahl, Messung, Kategorien und Entscheidungen. Wenn ein System aus historischen Daten lernt, können darin gesellschaftliche Ungleichheiten, alte Regeln oder systematische Lücken enthalten sein. Außerdem können Daten zwar korrekt gemessen sein, aber trotzdem nicht zum neuen Einsatz passen. Ein Modell für eine bestimmte Altersgruppe ist zum Beispiel nicht automatisch für alle Altersgruppen zuverlässig.
Prüfe Daten deshalb mit fünf Fragen: Woher? Für welchen Zweck? Wer fehlt? Wie wurden Merkmale gemessen? Was hat sich seit der Erhebung verändert? Große Datenmengen ersetzen diese Fragen nicht.
Das Modell: Muster statt Magie
Bei vielen modernen KI-Systemen wird ein Modell aus Daten angepasst. Es lernt statistische Muster, mit denen es für neue Eingaben Ausgaben erzeugt. Das kann eine Klassifikation, eine Vorhersage, eine Empfehlung, ein Text oder ein Bild sein. Ein Modell „weiß“ aber nicht automatisch, ob sein Ergebnis im konkreten sozialen Zusammenhang angemessen ist.
Das Bild eines neuronalen Netzes zeigt nur einen technischen Teil. Für eine Systemanalyse fehlen dort noch Zweck, Datenherkunft, Benutzeroberfläche, Menschen, Infrastruktur und Folgen. Genau diese Lücke ist wichtig: Eine Modellgrafik ist keine vollständige Systemgrafik.
Der Beitrag von Terra X Lesch & Co erklärt am Beispiel von Sprachmodellen, wie statistische Sprachverarbeitung funktioniert. Nutze ein Video dabei als Quelle mit Perspektive: Notiere, welche Aussagen erklärt oder belegt werden und welche Systemaspekte kaum vorkommen.
Oberfläche und Human Agency
Eine Oberfläche lenkt Aufmerksamkeit. Ein großer grüner Haken kann sicher wirken, obwohl das Modell nur eine Wahrscheinlichkeit ausgibt. Eine Rangliste kann wie eine objektive Reihenfolge erscheinen, obwohl Auswahlkriterien und Schwellenwerte festgelegt wurden.
Human Agency bedeutet hier menschliche Handlungsmacht: Menschen sollen ein KI-Ergebnis verstehen, hinterfragen, korrigieren oder ablehnen können. Wirksame Aufsicht ist mehr als ein Mensch, der am Ende nur noch auf „Bestätigen“ klickt. Sie braucht Zeit, Informationen, Zuständigkeit und die tatsächliche Möglichkeit einzugreifen.
Infrastruktur: Die unsichtbare Ebene
KI läuft auf materieller Infrastruktur. Rechenzentren, Chips, Speicher, Netze und Stromversorgung ermöglichen Training und Nutzung. Deshalb gehören Zuverlässigkeit, Cybersicherheit, Energie- und Ressourcenverbrauch sowie Abhängigkeiten von Dienstleistern zur Systembewertung.
Die Serveraufnahme macht sichtbar, dass digitale Systeme physische Technik benötigen. Frage Dich bei jeder KI-Anwendung: Was muss im Hintergrund dauerhaft funktionieren, damit die Oberfläche vorne eine Antwort zeigt?
Folgen und Rückkopplungen
Folgen entstehen nicht nur durch falsche Ergebnisse. Auch richtige oder scheinbar hilfreiche Empfehlungen können Verhalten verändern. Ein Ranking kann Aufmerksamkeit konzentrieren. Ein Bewertungssystem kann Menschen dazu bringen, sich an messbare Kriterien anzupassen. Ein automatisierter Filter kann Arbeitsabläufe beschleunigen, aber zugleich Verantwortung unklarer machen.
Bei Empfehlungssystemen sieht man besonders gut, dass Daten über Nutzung, Modellbewertung und neue Nutzungsdaten zusammenwirken. Damit wird die Frage wichtig, welches Verhalten das System langfristig verstärkt.
Leistung messen: Was bedeutet „gut“?
Fehlerarten statt nur Trefferquote
Stell Dir ein System vor, das Bewerbungen für Schülerpraktika vorsortiert. Es soll geeignete Bewerbungen zur menschlichen Prüfung empfehlen. In einem Test mit 20 fiktiven Fällen ergibt sich:
| Tatsächlich geeignet | Tatsächlich nicht geeignet | |
|---|---|---|
| System empfiehlt | 6 richtige Empfehlungen | 2 falsche Empfehlungen |
| System empfiehlt nicht | 3 übersehene geeignete Bewerbungen | 9 richtige Ablehnungen |
Die Trefferquote beträgt 15 von 20 Fällen, also 75 Prozent. Diese Zahl allein reicht aber nicht. Drei geeignete Personen werden übersehen. Für die Betroffenen kann genau diese Fehlerart besonders wichtig sein. Eine Systembewertung muss deshalb fragen, welcher Fehler für wen welche Folge hat.
Mathematikbezug: Berechne zusätzlich, welcher Anteil der tatsächlich geeigneten Bewerbungen erkannt wurde. Das sind 6 von 9, also rund 67 Prozent. Vergleiche diese Zahl mit der Trefferquote. Welche Kennzahl passt besser zu der Frage, ob geeignete Bewerberinnen und Bewerber übersehen werden?
Fairness ist mehr als eine Zahl
Fairness kann unterschiedliche Bedeutungen haben. Gleiche Regeln, ähnliche Fehlerraten, gleiche Chancen oder der Schutz besonders betroffener Gruppen können zu unterschiedlichen Bewertungen führen. Deshalb musst Du zuerst begründen, welche Fairnessfrage zum Zweck und zur Situation passt.
Ein Unterschied zwischen Gruppen ist ein Warnsignal, aber noch keine vollständige Erklärung. Prüfe, ob Daten unterschiedlich verteilt sind, ob ein Merkmal nur als Stellvertreter für etwas anderes wirkt, ob das Modell in verschiedenen Gruppen unterschiedlich zuverlässig ist oder ob der gesamte Einsatzkontext unfair gestaltet ist.
Die Grafik stammt aus der Untersuchung eines realen Klassifikationssystems im Wikipedia-Kontext. Sie eignet sich nicht als Beweis für „KI ist fair“ oder „KI ist unfair“. Sie zeigt vielmehr, wie Modellverhalten für verschiedene Gruppen getrennt untersucht werden kann.
Das Video der Antidiskriminierungsstelle des Bundes eignet sich als Ausgangspunkt für die Frage, wie automatisierte Entscheidungen Menschen benachteiligen können. Prüfe danach: Geht es um Daten, Modell, Einsatzregeln, menschliche Entscheidungen oder mehrere Ebenen zugleich?
Realistische Anwendungssituation: KI sortiert Praktikumsbewerbungen
Das Szenario
Ein mittelständischer Betrieb erhält viele Bewerbungen für Schülerpraktika. Ein KI-System soll Bewerbungen vorsortieren. Es liest Texte, Schulnoten, angegebene Interessen und freiwillige Angaben zu Projekten. Die Oberfläche zeigt für jede Bewerbung einen Eignungswert von 0 bis 100 und markiert ab 70 Punkten „zur Einladung empfohlen“. Personalverantwortliche können die Empfehlung überstimmen.
Der Anbieter wirbt mit „schnellerer Auswahl“ und „objektiver Bewertung“. Der Betrieb hat aber noch nicht dokumentiert, wie die Trainingsdaten zusammengesetzt sind. Außerdem ist unklar, ob Rechtschreibfehler den Wert beeinflussen und ob Menschen tatsächlich jede Ablehnung prüfen.
Systemanalyse des Szenarios
| Systemelement | Beobachtung aus dem Fall | Offene Prüffrage |
|---|---|---|
| Zweck | Bewerbungen vorsortieren | Soll Zeit gespart, Eignung vorhergesagt oder eine endgültige Auswahl getroffen werden? |
| Daten | Texte, Noten, Interessen, Projektdaten | Sind diese Merkmale für Praktikumserfolg aussagekräftig und für alle ähnlich verfügbar? |
| Modell | Eignungswert und Schwellenwert 70 | Wie häufig werden geeignete Bewerbungen übersehen und wie stabil ist der Wert? |
| Oberfläche | Zahl von 0 bis 100 und farbliche Empfehlung | Wirkt die Zahl präziser und sicherer, als sie tatsächlich ist? |
| Menschen | Personal kann überstimmen | Prüft jemand systematisch Grenzfälle und Ablehnungen? |
| Infrastruktur | Textanalyse und zentrale Verarbeitung | Wo werden Daten gespeichert, wie lange und wer hat Zugriff? |
| Folgen | Schnellere Auswahl, aber mögliche Benachteiligung | Wer trägt den Schaden, wenn systematisch bestimmte Bewerbungen schlechter bewertet werden? |
Deine Entscheidung als Prüfungsteam
Du bist Teil eines schulischen Prüfungsteams, das entscheiden soll, ob die Schule diesen Betrieb weiterhin für Praktika empfiehlt. Du bekommst vier Belege:
| Beleg | Inhalt | Quellenkritische Frage |
|---|---|---|
| A | Werbeflyer des Anbieters: „75 Prozent weniger Auswahlzeit“ | Belegt Zeitersparnis auch Qualität oder Fairness? |
| B | Interner Test: 15 von 20 Fällen korrekt, aber 3 geeignete Bewerbungen übersehen | Ist die Stichprobe groß und passend genug, und welche Fehlerart ist besonders relevant? |
| C | Dokumentation: Herkunft der Trainingsdaten nicht vollständig angegeben | Welche Prüfung ist ohne Datenherkunft gar nicht möglich? |
| D | Personalrat berichtet, dass manche Beschäftigte Empfehlungen fast immer übernehmen | Ist menschliche Kontrolle real oder nur formal vorhanden? |
Auftrag: Formuliere ein vorläufiges Urteil in drei Teilen: Behauptung – Beleg – Begründung. Beispielstruktur: „Das System sollte derzeit nur eingeschränkt eingesetzt werden, weil … Der wichtigste Beleg dafür ist … Dieser Beleg ist relevant, weil …“
Kriterienraster für ein begründetes Urteil
Bewerte jedes Kriterium mit 0 = nicht belegt/problematisch, 1 = teilweise belegt/unklar oder 2 = gut belegt/angemessen. Eine Punktzahl ersetzt Dein Urteil nicht. Entscheidend ist die Begründung.
| Kriterium | Leitfrage | Beleg aus dem Fall | 0–2 |
|---|---|---|---|
| Zweckangemessenheit | Ist klar, welches Problem gelöst werden soll und ob KI dafür nötig ist? | ||
| Datenqualität | Passen Herkunft, Auswahl und Merkmale zum Zweck? | ||
| Modellgüte | Sind passende Fehlerarten, Grenzen und Unsicherheiten geprüft? | ||
| Transparenz | Können Nutzende und Betroffene Ergebnis und Grenzen nachvollziehen? | ||
| Fairness | Werden mögliche Benachteiligungen erkannt, gemessen und bearbeitet? | ||
| Sicherheit und Datenschutz | Sind Zugriffe, Speicherung, Missbrauch und Schutzmaßnahmen geklärt? | ||
| Menschliche Kontrolle | Können Menschen informiert, zuständig und wirksam eingreifen? | ||
| Infrastruktur und Nachhaltigkeit | Sind technische Abhängigkeiten, Verfügbarkeit und Ressourcen berücksichtigt? | ||
| Folgen und Verantwortung | Werden Auswirkungen beobachtet und Verantwortliche benannt? |
Urteilsregel: Ein hoher Gesamtwert genügt nicht, wenn ein besonders schweres Risiko ungeklärt bleibt. Begründe deshalb zusätzlich, welche Kriterien Du in diesem Fall höher gewichtest und warum.
Verantwortung und Gesellschaft
Wer ist verantwortlich?
Verantwortung verteilt sich über Rollen. Entwicklerinnen und Entwickler beeinflussen Datenaufbereitung und Modellgestaltung. Anbieter entscheiden über Dokumentation und Produktgrenzen. Organisationen entscheiden, ob und wie ein System eingesetzt wird. Nutzende müssen Ergebnisse angemessen prüfen. Leitung und Politik setzen Regeln. Betroffene brauchen Informationen und Möglichkeiten, Entscheidungen anzufechten.
Die Aussage „Die KI war es“ verschleiert diese Rollen. Technik kann Handlungsmöglichkeiten eröffnen oder begrenzen, aber gesellschaftliche Verantwortung verschwindet nicht.
Risikoabwägung
Ein Risiko besteht nicht nur aus der Frage, ob etwas schiefgehen kann. Du solltest auch bewerten, wie wahrscheinlich ein Schaden ist, wie schwer er wäre, wie viele Menschen betroffen wären und wie gut ein Fehler erkannt oder rückgängig gemacht werden kann.
| Risiko | Wahrscheinlichkeit | Schadensschwere | Erkennbarkeit | mögliche Schutzmaßnahme |
|---|---|---|---|---|
| Geeignete Bewerbung wird übersehen | zu prüfen | mittel bis hoch | nur mit Nachkontrolle | Ablehnungen stichprobenartig oder vollständig menschlich prüfen |
| Persönliche Daten werden unnötig gespeichert | zu prüfen | hoch | oft erst spät | Datensparsamkeit, Löschfristen und Zugriffsrechte |
| Beschäftigte vertrauen dem Score blind | realistisch | mittel bis hoch | durch Beobachtung prüfbar | Schulung, Unsicherheitsanzeige und Pflicht zur Begründung |
Recht, Ethik und öffentliche Regeln
Internationale Leitlinien wie die UNESCO-Empfehlung zur Ethik der KI betonen unter anderem Menschenrechte, Fairness, Transparenz, menschliche Aufsicht, Sicherheit und Nachhaltigkeit. Der europäische AI Act verfolgt einen risikobasierten Ansatz und sieht je nach Art und Einsatz eines Systems unterschiedliche Pflichten vor. Für Deine schulische Analyse ist wichtig: Gesetzliche Zulässigkeit, technische Qualität und ethische Vertretbarkeit sind drei verschiedene Fragen. Etwas kann technisch möglich sein und trotzdem gesellschaftlich problematisch; etwas kann erlaubt sein und trotzdem schlecht begründet sein.
Der Beitrag mit AlgorithmWatch eignet sich für eine kontroverse Perspektive auf Intransparenz, Diskriminierung und Regulierung. Nutze ihn nicht als alleinige Wahrheit, sondern vergleiche seine Aussagen mit offiziellen Quellen und konkreten Daten.
Fächerübergreifende Bezüge
| Fach | Leitfrage zur Systemanalyse | mögliche Leistung |
|---|---|---|
| Informatik | Wie hängen Daten, Modell, Schnittstelle und Rückkopplung zusammen? | Systemkarte und Fehleranalyse |
| Mathematik | Welche Kennzahl beantwortet welche Frage und was verschleiert ein Durchschnitt? | Trefferquote, Erkennungsrate und Vergleich von Fehlerarten |
| Deutsch | Wie überzeugend sind Werbeversprechen, Erklärtexte und Begründungen? | Quellenkritik und Argumentation mit Behauptung, Beleg, Begründung |
| Technik | Welche materielle Infrastruktur, Energie und Sicherheitsmaßnahmen sind nötig? | Infrastrukturdiagramm und Ausfallanalyse |
| Wirtschaft | Welche Interessen, Kosten, Effizienzgewinne und Abhängigkeiten entstehen? | Nutzen-Risiko-Abwägung für einen Betrieb |
| Geschichte | Wie verändert sich Automatisierung von mechanischen und regelbasierten Verfahren zu datengetriebenen Systemen? | Historischer Vergleich von Technik und Verantwortung |
| Ethik | Was bedeutet eine faire, menschenwürdige und verantwortbare Entscheidung? | Kriterien begründen und Zielkonflikte abwägen |
| Gemeinschaftskunde | Wer setzt Regeln, wer kontrolliert Systeme und welche Rechte haben Betroffene? | Akteurskarte und begründetes politisches Urteil |
Quellenkritik: Belege statt Autoritätsgläubigkeit
Eine seriöse Systembewertung kombiniert unterschiedliche Quellentypen. Offizielle Regelwerke können Pflichten oder Leitprinzipien erklären, technische Dokumentationen beschreiben ein konkretes System, unabhängige Untersuchungen können Schwachstellen sichtbar machen und Erfahrungsberichte können neue Fragen aufwerfen. Keine einzelne Quelle beantwortet automatisch alle Fragen.
| Quelle | Stärke | Grenze |
|---|---|---|
| NIST AI Risk Management Framework | systematische Risikoanalyse und sozio-technische Perspektive | US-amerikanischer Rahmen, kein Ersatz für deutsches oder europäisches Recht |
| UNESCO Recommendation on the Ethics of Artificial Intelligence | menschenrechtliche und ethische Prinzipien mit globaler Perspektive | Prinzipien müssen auf konkrete Fälle übertragen werden |
| Europäische Kommission: AI Act | offizielle Informationen zum europäischen Rechtsrahmen | rechtliche Regeln beantworten nicht allein die Frage nach pädagogischer oder ethischer Qualität |
| AlgorithmWatch: Algorithmische Diskriminierung | Beispiele und kritische Perspektive auf gesellschaftliche Folgen | zivilgesellschaftliche Perspektive sollte mit weiteren Quellen verglichen werden |
| Planet Schule: Künstliche Intelligenz | schulnah aufbereitete Beispiele und Filme | didaktische Vereinfachung ersetzt keine technische Dokumentation eines konkreten Systems |
Quellenregel: Frage bei jedem Beleg: Wer sagt das? Worauf stützt sich die Aussage? Welche Interessen oder Auswahlentscheidungen können eine Rolle spielen? Passt die Quelle genau zu meiner Frage? Gibt es eine unabhängige Gegenprüfung?
Selbstkontrolle und Reflexion
Prüfe Dein eigenes Urteil mit vier Fragen: Habe ich das gesamte System oder nur das Modell betrachtet? Habe ich mindestens zwei konkrete Belege verwendet? Habe ich Nutzen und Risiken für unterschiedliche Beteiligte berücksichtigt? Habe ich erklärt, wer handeln, kontrollieren oder widersprechen kann?
Transfer: Systemblick auf andere KI-Anwendungen
Übertrage das Raster auf eine andere Anwendung. Ändert sich nur das Modell oder verschiebt sich das ganze System?
| Anwendung | besonders wichtige Systemfrage | möglicher Zielkonflikt |
|---|---|---|
| Übersetzungs-KI | Welche Sprachen, Textsorten und Dialekte waren in den Daten vertreten? | Verständlichkeit gegen sprachliche Feinheiten |
| KI-Lernhilfe | Welche Lerndaten werden gespeichert und wie wird ein Fehler erkannt? | Personalisierung gegen Datenschutz und Abhängigkeit |
| Bilderkennung im öffentlichen Raum | Wer ist betroffen und wie hoch ist die Fehlerfolge? | Sicherheit gegen Privatsphäre und Fehlzuordnung |
| Empfehlungssystem | Welche Rückkopplung entsteht aus Klicks und Rankings? | Relevanz gegen Vielfalt und Selbstbestimmung |
Reflexion: Nenne eine Situation, in der Du eine KI-Empfehlung bewusst nicht übernehmen würdest. Welche Information oder welches Recht zum Eingreifen brauchst Du dafür?
Interaktive Aufgaben
Quiz: Teste Dein Wissen
Warum reicht die Genauigkeit eines KI-Modells nicht für die Bewertung des gesamten Systems? (Weil auch Zweck Daten Oberfläche Menschen Infrastruktur und Folgen bewertet werden müssen) (!Weil Genauigkeit bei KI grundsätzlich nicht messbar ist) (!Weil nur die Benutzeroberfläche über Qualität entscheidet) (!Weil technische Daten für gesellschaftliche Fragen immer bedeutungslos sind)
Welche Frage gehört am direktesten zur Datenqualität? (Passen Herkunft Auswahl und Merkmale der Daten zum Zweck) (!Ist die Schaltfläche auf der Oberfläche blau) (!Wie schnell tippt eine Person ihre Eingabe) (!Wie teuer war die Werbung für das System)
Was zeigt ein übersehener tatsächlich geeigneter Fall in einer Klassifikation? (Das System hat einen relevanten Fall nicht erkannt) (!Das System hat jeden Fall korrekt erkannt) (!Die Datenmenge ist automatisch zu groß) (!Die Benutzeroberfläche ist vollständig transparent)
Was bedeutet Human Agency in diesem Kurs? (Menschen können KI Ergebnisse informiert hinterfragen korrigieren oder ablehnen) (!Menschen müssen jede KI Empfehlung automatisch bestätigen) (!Menschen dürfen nur Trainingsdaten eingeben) (!Menschen überlassen Verantwortung vollständig dem Modell)
Warum kann ein Schwellenwert von 70 Punkten gesellschaftliche Folgen haben? (Weil er mitentscheidet welche Personen weiter geprüft oder aussortiert werden) (!Weil jede Zahl über 50 mathematisch unfair ist) (!Weil Schwellenwerte nur die Servertemperatur steuern) (!Weil ein Schwellenwert keine Entscheidungen beeinflussen kann)
Was ist eine Rückkopplung in einem KI System? (Folgen oder Nutzung erzeugen neue Daten die das System oder Verhalten weiter beeinflussen) (!Ein Bildschirm zeigt dieselbe Farbe zweimal) (!Ein Modell wird ohne Daten dauerhaft unverändert richtig) (!Eine Person schaltet den Computer am Ende aus)
Welche Aussage beschreibt wirksame menschliche Aufsicht am besten? (Eine zuständige Person erhält verständliche Informationen und kann tatsächlich eingreifen) (!Eine Person sieht nur das Endergebnis und muss zustimmen) (!Die Verantwortung wird im Vertrag allein der KI zugewiesen) (!Die Oberfläche blendet Unsicherheit aus)
Welche Quelle eignet sich am besten um eine Anbieterwerbung kritisch zu prüfen? (Eine unabhängige Untersuchung mit nachvollziehbarer Methode und passenden Daten) (!Nur ein weiterer Werbetext desselben Anbieters) (!Ein einzelner Kommentar ohne Beleg) (!Eine anonyme Behauptung ohne überprüfbare Quelle)
Warum gehört Infrastruktur zur Analyse eines KI Systems? (Weil Betrieb von Hardware Netzen Energie Sicherheit und Dienstleistern abhängt) (!Weil Infrastruktur nur bei Straßen eine Rolle spielt) (!Weil KI Systeme ohne physische Computer laufen) (!Weil Infrastruktur ausschließlich die Schriftart bestimmt)
Was macht ein begründetes Urteil besonders nachvollziehbar? (Es verbindet Kriterien konkrete Belege Abwägung und eine begründete Schlussfolgerung) (!Es nennt möglichst viele Fachwörter ohne Belege) (!Es übernimmt die erste gefundene Meinung) (!Es vermeidet jede Aussage zu Unsicherheit)
Memory
| Zweck | gewünschte Aufgabe und Erfolgskriterium |
| Datengrundlage | Herkunft Auswahl und Messung der Informationen |
| Modellgüte | Leistung Grenzen und Fehlerarten |
| Bedienoberfläche | Darstellung von Eingaben Ergebnissen und Unsicherheit |
| Human Agency | menschliche Möglichkeit zum Prüfen Eingreifen und Widersprechen |
| Recheninfrastruktur | Server Netze Energie Speicher und Dienste |
| Folgenabschätzung | Bewertung erwünschter und unerwünschter Wirkungen |
Drag and Drop
| Ordne die richtigen Begriffe zu. | Thema |
|---|---|
| Trainingsdaten | Daten |
| Eignungswert | Modell |
| Warnhinweis | Oberfläche |
| Widerspruchsmöglichkeit | Menschen |
| Rechenzentrum | Infrastruktur |
Kreuzworträtsel
| Zweck | Welcher Begriff bezeichnet das Problem oder Ziel das ein KI System bearbeiten soll? |
| Daten | Was liefert Beispiele oder Messwerte für Training Test und Nutzung? |
| Modell | Welcher technische Teil verarbeitet gelernte Muster für neue Eingaben? |
| Fairness | Welcher Begriff beschreibt die Frage nach gerechter Behandlung und Benachteiligung? |
| Aufsicht | Wie heißt die menschliche Kontrolle eines Systems mit einem einzigen Wort? |
| Infrastruktur | Welcher Begriff umfasst Server Netze Speicher Energie und technische Dienste? |
LearningApps
Lückentext
Offene Aufgaben
Leicht
- KI-Systemkarte: Wähle eine alltägliche KI-Anwendung und zeichne die sieben Bausteine Zweck, Daten, Modell, Oberfläche, Menschen, Infrastruktur und Folgen mit mindestens drei Rückkopplungspfeilen.
- Werbecheck KI: Finde eine Aussage, mit der ein KI-System beworben wird, und formuliere drei Belege, die Du für eine Überprüfung verlangen würdest.
- Fehlerfolgen: Erfinde für das Praktikumsbeispiel je einen falsch positiven und einen falsch negativen Fall und beschreibe, wer jeweils betroffen ist.
- Quellenampel: Ordne drei Quellen zum Thema KI nach ihrer Eignung für eine konkrete Frage und begründe Deine Reihenfolge ohne nur auf Bekanntheit zu verweisen.
Standard
- Datenaudit: Entwickle für ein fiktives KI-System sechs Prüffragen zur Datenqualität und erkläre bei zwei Fragen, welche Fehlentscheidung durch mangelhafte Daten entstehen könnte.
- Oberflächenkritik: Skizziere zwei Versionen derselben KI-Oberfläche, einmal mit übertriebener Sicherheit und einmal mit transparenter Unsicherheit, und vergleiche ihre Wirkung auf Entscheidungen.
- Fairnessprüfung: Erstelle ein kleines fiktives Datenset mit mindestens zwölf Fällen, berechne zwei passende Leistungskennzahlen und erkläre, warum keine einzelne Kennzahl Fairness vollständig beweist.
- Akteurskarte KI: Stelle Anbieter, Organisation, Nutzende, Betroffene, Aufsicht und Politik in einer Akteurskarte dar und markiere Zuständigkeiten, Interessenkonflikte und Widerspruchswege.
Schwer
- Risikoportfolio KI: Entwickle für ein schulnahes KI-System ein Risikoportfolio aus Wahrscheinlichkeit, Schadensschwere, Erkennbarkeit und Gegenmaßnahme und begründe die zwei wichtigsten Risiken.
- Systemvergleich KI: Vergleiche zwei KI-Anwendungen mit demselben Kriterienraster und zeige, warum ein Kriterium je nach Einsatz unterschiedlich gewichtet werden kann.
- Historische Automatisierung: Vergleiche eine frühere Form automatisierter Auswahl oder Rationalisierung mit einem heutigen KI-System und untersuche, was sich bei Daten, Geschwindigkeit, Kontrolle und Verantwortung verändert hat.
- Bürgergutachten KI: Verfasse ein kurzes Gutachten für eine Schulkonferenz oder Jugendvertretung, das eine KI-Anwendung anhand von mindestens vier Quellen und sechs Kriterien bewertet und mit einer begründeten Empfehlung endet.
|
|
Lernkontrolle
- Systemdiagnose: Du erhältst die Beschreibung eines unbekannten KI-Systems. Erstelle zuerst eine Systemkarte und markiere zwei Stellen, an denen technische und soziale Faktoren ineinandergreifen.
- Kennzahlen bewerten: Ein Anbieter nennt nur eine hohe Trefferquote. Entscheide, welche weiteren Kennzahlen oder Fallgruppen Du brauchst, um das System für einen konkreten Zweck zu bewerten, und begründe Deine Auswahl.
- Zielkonflikt analysieren: Ein System wird transparenter, wenn mehr Informationen angezeigt werden, aber dadurch könnten sensible Daten offengelegt werden. Entwickle eine Lösung, die Transparenz und Datenschutz abwägt.
- Verantwortung zuordnen: In einem Fall führt eine KI-Empfehlung zu einer unfairen Entscheidung. Ordne mögliche Verantwortungsanteile den beteiligten Rollen zu und begründe, welche Veränderung die Wiederholung am ehesten verhindert.
- Quellenstreit: Zwei Quellen kommen zu gegensätzlichen Bewertungen desselben KI-Systems. Entwickle einen Prüfplan, mit dem Du Methoden, Daten, Interessen und Übertragbarkeit vergleichst.
- Urteil mit Unsicherheit: Formuliere ein begründetes Urteil zu einem KI-System, obwohl eine wichtige Information fehlt. Zeige deutlich, was Du weißt, was unklar bleibt und welche Bedingung Deine Entscheidung ändern würde.
Lernnachweis
Für einen überzeugenden Lernnachweis ist wichtig, dass Du nicht nur Begriffe wiederholst, sondern eine vollständige Systemanalyse vorlegst.
- Systemkarte: Alle sieben Elemente sind enthalten und ihre wichtigsten Wechselwirkungen sind mit Pfeilen erklärt.
- Datenbelege: Mindestens zwei konkrete Daten- oder Leistungsangaben werden korrekt interpretiert und ihre Grenzen werden benannt.
- Quellenkritik: Mehrere Quellen werden nach Herkunft, Belegen, Perspektive und Passung zur Fragestellung bewertet.
- Risikoabwägung: Nutzen und Risiken werden für verschiedene Beteiligte sowie nach Wahrscheinlichkeit und Schadensschwere untersucht.
- Verantwortung: Menschliche Handlungsmöglichkeiten, Aufsicht, Widerspruch und Zuständigkeiten werden sichtbar gemacht.
- Begründetes Urteil: Das Endurteil nennt Kriterien, stützt sich auf Belege, macht Unsicherheiten transparent und erklärt, unter welchen Bedingungen das System eingesetzt, verändert oder abgelehnt werden sollte.
OERs zum Thema
Zusätzliche offene bzw. öffentlich zugängliche Lern- und Referenzmaterialien:
- Wikimedia Commons: Artificial intelligence – frei lizenzierte Medien zum Themenfeld
- Planet Schule: Künstliche Intelligenz – schulische Filme und Materialien
- UNESCO: Ethics of Artificial Intelligence – internationale Leitprinzipien zu verantwortlicher KI
Verknüpfte Lernbereiche