KI-Systemarchitekturen verstehen
KI-Systemarchitekturen verstehen
Einleitung
KI-Systemarchitekturen verstehen bedeutet mehr, als ein einzelnes KI-Modell zu betrachten. Ein reales KI-System ist ein sozio-technisches System: Es verbindet technische Bausteine mit Zielen, Daten, Menschen, Regeln, Infrastruktur und gesellschaftlichen Folgen. Wenn Du nur auf das Modell schaust, übersiehst Du oft die wichtigsten Ursachen für Fehler, Ungerechtigkeit oder Sicherheitsprobleme.
In diesem Lernkurs für die Klasse 10 lernst Du, KI-Systeme als zusammenhängende Architektur zu untersuchen. Du sollst am Ende die Grundidee sicher erklären, neue Beispiele systematisch analysieren, typische Fehlvorstellungen korrigieren und begründete Verbesserungsvorschläge machen können. Der Kurs ist für etwa 1–2 Unterrichtsstunden angelegt und verbindet besonders Informatik, Mathematik, Technik, Deutsch, Wirtschaft, Geschichte, Ethik und Gemeinschaftskunde.
Die Abbildung zeigt einen vereinfachten technischen Ablauf aus Training, Modell und Nutzung. Für eine vollständige Systemarchitektur musst Du zusätzlich fragen: Wozu wird das System eingesetzt? Wer trifft Entscheidungen? Welche Daten fließen hinein? Welche Oberfläche sehen Nutzende? Welche Infrastruktur ist nötig? Welche Folgen entstehen?
Lernziele
Nach dem Kurs kannst Du eine KI-Anwendung als System aus Zweck, Daten, Modell, Oberfläche, Menschen, Infrastruktur und Folgen beschreiben. Du kannst erklären, warum Systemdesign, Evaluation und Governance zusammengehören, einfache Qualitätsmaße und Fehlerarten deuten, Risiken und Nutzen aus verschiedenen Fachperspektiven abwägen und eine Systemkarte für einen neuen Fall erstellen.
Unterrichtsrahmen für 90 Minuten
| Phase | Zeit | Ziel | Aktivität |
|---|---|---|---|
| Diagnose | 8 Minuten | Vorwissen sichtbar machen | Ein Alltagsbeispiel in Bausteine zerlegen und Vermutungen markieren |
| Einführung | 15 Minuten | Sozio-technische Sicht verstehen | Sieben Bausteine kennenlernen und erste Systemkarte lesen |
| Vertiefung | 20 Minuten | Zusammenhänge erkennen | Datenfluss, Modell, Oberfläche, Menschen und Infrastruktur untersuchen |
| Anwendung | 22 Minuten | Systemdesign und Folgenabschätzung verbinden | Fallbeispiel Lernunterstützungssystem analysieren |
| Evaluation und Governance | 15 Minuten | Qualität, Fairness, Sicherheit und Verantwortung prüfen | Fehlermatrix, Prüffragen und Regeln anwenden |
| Transfer und Reflexion | 10 Minuten | Wissen auf neuen Fall übertragen | Neue Systemkarte entwerfen und eine Fehlvorstellung korrigieren |
Aktivierung und Diagnose
Stell Dir ein System vor, das Schülerleistungen aus Übungsaufgaben auswertet und danach passende Aufgaben empfiehlt. Schreibe in zwei Minuten auf, was Deiner Meinung nach zu diesem System gehört. Markiere anschließend jeden Punkt mit T für technisch, M für menschlich oder G für gesellschaftlich. Wenn Du nur technische Teile notiert hast, ist das bereits eine wichtige Diagnose: KI-Systeme bestehen fast nie nur aus Software.
Eine Leitfrage für den ganzen Kurs lautet: Was verändert sich, wenn dasselbe Modell für einen anderen Zweck eingesetzt wird? Ein Modell, das freiwillige Übungsaufgaben empfiehlt, hat andere Folgen als ein Modell, dessen Score über Kurszuordnungen entscheidet.
KI als sozio-technisches System
Die sieben Bausteine
- Zweck: Welche Aufgabe soll das System erfüllen, für wen und mit welchem Erfolgskriterium?
- Daten: Welche Daten werden gesammelt, ausgewählt, bereinigt, gespeichert und eventuell gelöscht?
- Modell: Nach welcher mathematischen oder algorithmischen Struktur werden Muster erkannt oder Ausgaben erzeugt?
- Oberfläche: Wie gelangen Eingaben in das System und wie werden Ergebnisse, Unsicherheiten oder Warnungen dargestellt?
- Menschen: Wer entwickelt, betreibt, nutzt, kontrolliert oder ist von Entscheidungen betroffen?
- Infrastruktur: Welche Geräte, Netze, Server, Sensoren, Speicher und Energiequellen ermöglichen den Betrieb?
- Folgen: Welche beabsichtigten und unbeabsichtigten Wirkungen entstehen für Einzelne, Gruppen, Umwelt und Gesellschaft?
Systemkarte: Zusammenhänge statt Einzelteile
| Zweck | → | Daten | → | Modell | → | Oberfläche |
| ↑ beeinflusst durch Menschen, Regeln und Infrastruktur ↓ | ||||||
| Betroffene | ← | Nutzung | ← | Entscheidungen | ← | Folgen |
Diese Karte ist absichtlich nicht rein technisch. Änderungen an einem Baustein können andere Teile verändern. Ein neues Ziel kann andere Daten verlangen. Eine neue Oberfläche kann dazu führen, dass Menschen einem Ergebnis mehr oder weniger vertrauen. Ein neues Rechenzentrum kann Kosten, Latenz und Energiebedarf verändern. Eine Regel zur menschlichen Kontrolle kann verhindern, dass ein fehlerhafter Score automatisch eine folgenreiche Entscheidung auslöst.
Datenfluss und Lebenszyklus
Ein typischer Machine-Learning-Ablauf umfasst Datenaufbereitung, Training, Testen und Anwendung. Wichtig ist die Trennung zwischen Trainingsdaten und neuen Eingaben im Betrieb. Ein System kann im Test gut funktionieren und später schlechter werden, wenn sich die Realität verändert. Dieses Problem wird oft als Verteilungsverschiebung bezeichnet.
Daten entstehen außerdem nicht neutral. Menschen entscheiden, was gemessen wird, wer in einem Datensatz vorkommt, welche Kategorien verwendet werden und welche Fehler als akzeptabel gelten. Deshalb ist Quellenkritik auch Datenkritik: Woher kommen die Daten? Welche Gruppen fehlen? Welche Messfehler sind möglich? Welche Interessen beeinflussen die Auswahl?
Das Modell ist wichtig, aber nicht das ganze System
Ein neuronales Netz ist ein mögliches Modell. Andere KI-Systeme verwenden zum Beispiel Entscheidungsbäume, Wahrscheinlichkeitsmodelle oder Kombinationen mehrerer Verfahren. Das Modell verarbeitet Eingaben nach gelernten oder festgelegten Strukturen und liefert Ausgaben. Es besitzt dadurch aber nicht automatisch menschliches Verstehen, Absichten oder Verantwortung.
Eine typische Fehlvorstellung lautet: „Wenn das Modell sehr leistungsfähig ist, ist auch das Gesamtsystem gut.“ Das stimmt nicht. Ein leistungsfähiges Modell kann in einem schlecht gestalteten System zu falschen Entscheidungen führen, etwa wenn ungeeignete Daten verwendet werden, die Oberfläche Unsicherheit versteckt oder Menschen keine Möglichkeit haben, eine Entscheidung anzufechten.
Gestaltung: Oberfläche und Human Agency
Die Benutzerschnittstelle beeinflusst, wie Menschen ein KI-Ergebnis verstehen. Ein bloßer Wert wie „Risiko: 82 %“ kann autoritär wirken, obwohl das Modell unsicher ist. Eine bessere Oberfläche kann zusätzlich Datenquelle, Unsicherheit, Alternativen, Grenzen und eine Möglichkeit zur menschlichen Korrektur zeigen.
Human Agency bedeutet hier: Menschen sollen relevante Handlungsmöglichkeiten behalten. Dazu gehören das Recht oder die praktische Möglichkeit, Ergebnisse zu hinterfragen, zusätzliche Informationen einzubringen, Entscheidungen zu korrigieren und in wichtigen Situationen nicht vollständig von automatisierten Vorschlägen abhängig zu sein.
Infrastruktur: Unsichtbare Grundlage
KI-Anwendungen laufen nicht „in der Luft“. Sie benötigen Hardware, Speicher, Netzwerke, Rechenleistung, Softwarebibliotheken, Wartung und Strom. Manche Modelle werden auf leistungsfähigen Servern betrieben, andere direkt auf Geräten. Architekturentscheidungen beeinflussen Geschwindigkeit, Datenschutz, Kosten, Ausfallsicherheit und Energieverbrauch.
Aus Sicht von Technik und Wirtschaft lohnt es sich deshalb zu fragen: Muss jede Anfrage an einen entfernten Server gesendet werden? Welche Kosten entstehen pro Nutzung? Wer kontrolliert die Infrastruktur? Was passiert bei einem Ausfall? Welche Abhängigkeiten von einzelnen Anbietern entstehen?
Historischer Mini-Impuls: Architektur verändert sich
Die Geschichte der KI zeigt Phasen mit unterschiedlichen Schwerpunkten: regelbasierte Systeme, statistisches Lernen und heutige daten- und rechenintensive Verfahren. Für die Systemperspektive ist wichtig: Mit neuen technischen Möglichkeiten verändern sich auch Datenquellen, Infrastruktur, Kosten, menschliche Rollen und gesellschaftliche Erwartungen. Geschichte hilft deshalb, heutige KI nicht als plötzliche, völlig losgelöste Neuerung zu betrachten, sondern als Teil längerer Entwicklungen von Automatisierung, Messung und Entscheidungsunterstützung.
Systemdesign
Vom Problem zur Architektur
Gutes Systemdesign beginnt nicht mit der Frage „Welches Modell nehmen wir?“, sondern mit der Frage „Welches Problem soll für wen gelöst werden?“ Danach werden Anforderungen formuliert. Dazu gehören fachliche Qualität, Datenschutz, Sicherheit, Fairness, Verständlichkeit, Kosten, Wartbarkeit und menschliche Kontrolle.
Ein nützliches Designmuster für die Schule ist:
| Designfrage | Beispiel |
|---|---|
| Zweck | Lernende erhalten freiwillig passende Übungsaufgaben |
| Daten | Ergebnisse aus Übungsaufgaben, keine unnötigen privaten Zusatzdaten |
| Modell | Schätzt, welche Aufgabenschwierigkeit wahrscheinlich passt |
| Oberfläche | Zeigt Empfehlung, Begründung und alternative Aufgabe |
| Menschen | Lernende wählen selbst; Lehrkraft kann Empfehlungen prüfen |
| Infrastruktur | Schulgerät, Server, Zugriffsschutz und Protokollierung |
| Folgen | Mehr Unterstützung möglich, aber Gefahr von Etikettierung oder Abhängigkeit |
Realistische Anwendungssituation: Das Lernunterstützungssystem LUS
Eine Schule erwägt ein KI-gestütztes Lernunterstützungssystem. Es analysiert Ergebnisse freiwilliger Mathematikübungen und schlägt die nächste Aufgabe vor. Nach einigen Monaten entsteht eine neue Idee: Der erzeugte Score soll zusätzlich beeinflussen, wer in einen anspruchsvolleren Kurs aufgenommen wird.
Auftrag: Vergleiche beide Nutzungen. Das Modell könnte gleich bleiben, aber Zweck, Bedeutung der Fehler, betroffene Rechte, notwendige Transparenz und menschliche Verantwortung ändern sich stark. Genau daran erkennst Du, warum Systemarchitektur eine sozio-technische Aufgabe ist.
Systemkarte zum Fall LUS
| Baustein | Freiwillige Übungsempfehlung | Kurszuordnung |
|---|---|---|
| Zweck | Lernen unterstützen | Zugang zu Bildungsweg beeinflussen |
| Daten | Übungsergebnisse | Übungsergebnisse werden zu einem folgenreichen Score |
| Modell | Empfehlung einer passenden Schwierigkeit | Bewertung wird für Auswahlentscheidung verwendet |
| Oberfläche | Lernende sehen Vorschläge | Entscheidungsträger sehen Score und eventuell Rangfolge |
| Menschen | Lernende und Lehrkraft | Zusätzlich Schulleitung, Auswahlgremium und Betroffene |
| Infrastruktur | Lernplattform und Server | Zusätzlich Nachweis, Zugriffskontrolle und sichere Dokumentation |
| Folgen | Motivation oder Frustration | Chancen auf Bildung, mögliche Benachteiligung und Konflikte |
Evaluation: Woran erkennst Du ein gutes KI-System?
Nicht nur Genauigkeit messen
Evaluation bedeutet, ein System mit passenden Kriterien zu prüfen. Die Fehlerquote lässt sich einfach als Anteil falscher Ergebnisse an allen geprüften Fällen beschreiben. Doch eine einzige Zahl kann wichtige Unterschiede verdecken.
Eine Konfusionsmatrix unterscheidet verschiedene Fehlerarten. Bei einem System, das Unterstützungsbedarf erkennt, kann es einen Unterschied machen, ob ein Schüler fälschlich als unterstützungsbedürftig markiert wird oder ob tatsächlicher Unterstützungsbedarf übersehen wird. Welche Fehler schwerer wiegen, hängt vom Zweck und den Folgen ab.
Aus Mathematik-Sicht kannst Du Häufigkeiten, Anteile und bedingte Wahrscheinlichkeiten untersuchen. Aus Ethik-Sicht musst Du zusätzlich fragen, ob bestimmte Gruppen häufiger nachteilig betroffen sind. Aus Deutsch-Sicht kann bei sprachgenerierenden Systemen wichtig sein, ob Aussagen verständlich, belegt und frei von irreführender Sicherheit formuliert sind.
Sechs Prüfdimensionen
- Validität: Misst oder erzeugt das System wirklich das, was zum Zweck passt?
- Robustheit: Funktioniert es auch bei Tippfehlern, ungewöhnlichen Eingaben oder veränderten Bedingungen?
- Fairness: Sind Fehler und Chancen zwischen relevanten Gruppen vertretbar verteilt?
- Sicherheit: Können Missbrauch, Datenverlust oder Manipulation begrenzt werden?
- Transparenz: Können Betroffene Zweck, Grenzen und wichtige Entscheidungswege nachvollziehen?
- Menschliche Aufsicht: Können qualifizierte Menschen eingreifen, korrigieren und Verantwortung übernehmen?
Mini-Evaluation mit Zahlen
Ein Test umfasst 100 Fälle. Das System entscheidet in 84 Fällen richtig und in 16 Fällen falsch. Die Gesamtgenauigkeit beträgt damit 84 %. Nun stellst Du fest: In Gruppe A sind 95 % der Entscheidungen richtig, in Gruppe B nur 65 %. Die Gesamtzahl allein reicht also nicht. Du musst untersuchen, ob Datenmenge, Datenqualität, Messverfahren, Modell oder Einsatzbedingungen den Unterschied erklären.
Die entscheidende Frage lautet nicht nur „Wie hoch ist die Genauigkeit?“, sondern auch „Für wen, unter welchen Bedingungen und mit welchen Folgen funktioniert das System?“
Governance, Verantwortung und Regeln
Was bedeutet Governance?
Governance umfasst Regeln, Rollen und Verfahren, mit denen ein KI-System gesteuert und kontrolliert wird. Dazu gehören Zuständigkeiten, Dokumentation, Zugriffsrechte, Prüfungen, Beschwerdewege, Sicherheitsmaßnahmen, Änderungsprozesse und Kriterien dafür, wann ein System gestoppt werden muss.
Governance beantwortet deshalb Fragen wie: Wer darf das System einsetzen? Wer ist verantwortlich, wenn es schadet? Wer prüft Daten und Ergebnisse? Wie können Betroffene widersprechen? Welche Protokolle werden gespeichert? Wann wird ein Modell neu getestet? Welche Informationen müssen öffentlich oder intern dokumentiert werden?
Beispiel EU-KI-Verordnung
Die KI-Verordnung der Europäischen Union verfolgt einen risikobasierten Ansatz. Bestimmte KI-Systeme im Bildungsbereich können als Hochrisiko-Systeme eingeordnet werden, etwa wenn sie den Zugang zu Bildung, die Zuordnung zu Bildungsgängen oder die Bewertung von Lernergebnissen wesentlich beeinflussen. Die Verordnung verbietet außerdem grundsätzlich den Einsatz von KI zur Emotionserkennung in Bildungseinrichtungen, außer wenn dies aus medizinischen oder Sicherheitsgründen geschieht.
Für den Unterricht ist daran besonders wichtig: Regeln hängen nicht nur vom Modell ab, sondern vom Einsatzzweck und den möglichen Folgen. Ein und dasselbe technische Verfahren kann in unterschiedlichen Kontexten unterschiedlich riskant sein.
Europäische Union: Verordnung (EU) 2024/1689 über künstliche Intelligenz
Governance als Architekturbaustein
Eine gute Systemkarte zeigt Governance nicht erst am Ende. Regeln beeinflussen bereits die Datenerhebung, die Auswahl des Modells, die Oberfläche und die menschlichen Rollen. Beispielsweise kann eine Regel festlegen, dass eine folgenreiche Entscheidung nie allein durch einen Score getroffen werden darf. Dann muss die Oberfläche zusätzliche Belege anzeigen und einen menschlichen Prüfschritt ermöglichen.
Folgenabschätzung
Nutzen, Risiken und Nebenwirkungen
Technikfolgenabschätzung fragt vor dem Einsatz und während des Betriebs nach möglichen Wirkungen. Dabei solltest Du direkte und indirekte Folgen unterscheiden. Ein Lernsystem kann direkt schneller Aufgaben empfehlen. Indirekt könnte es dazu führen, dass Lernende sich zu stark an Vorschläge gewöhnen, Lehrkräfte ihre Aufmerksamkeit anders verteilen oder bestimmte Aufgabenformate bevorzugt werden, weil sie leichter messbar sind.
Für eine Folgenabschätzung helfen vier Perspektiven: Wer profitiert? Wer trägt Risiken? Wer entscheidet? Wer kann widersprechen? Ergänze außerdem die Zeitperspektive: Was passiert sofort, nach einem Schuljahr und nach mehreren Jahren?
Fächerübergreifende Perspektiven
| Fach | Leitfrage an die KI-Systemarchitektur |
|---|---|
| Informatik | Wie fließen Daten durch Komponenten, Schnittstellen und Modelle? |
| Mathematik | Wie werden Fehlerquoten, Wahrscheinlichkeiten und Gruppenunterschiede gemessen? |
| Technik | Welche Hardware, Netze, Energie und Sicherheitsmechanismen sind nötig? |
| Deutsch | Wie werden Ergebnisse sprachlich dargestellt, begründet und quellenkritisch geprüft? |
| Wirtschaft | Welche Kosten, Geschäftsmodelle, Arbeitsfolgen und Abhängigkeiten entstehen? |
| Geschichte | Welche Kontinuitäten und Veränderungen gibt es gegenüber früheren Formen von Automatisierung und Klassifikation? |
| Ethik | Welche Werte, Rechte, Pflichten und Gerechtigkeitsfragen sind berührt? |
| Gemeinschaftskunde | Welche Regeln, Institutionen, Beteiligungs- und Beschwerdewege braucht ein demokratisch verantwortbarer Einsatz? |
Medienimpuls: KI im gesellschaftlichen Kontext
Achte beim Video nicht nur auf technische Fähigkeiten. Notiere zu jedem Beispiel mindestens einen Bezug zu Daten, Menschen, Infrastruktur oder Folgen. So trainierst Du die Systemperspektive statt nur Produktwissen.
Typische Fehlvorstellungen korrigieren
| Fehlvorstellung | Korrektur |
|---|---|
| „Die KI ist das Modell.“ | Ein reales KI-System umfasst zusätzlich Zweck, Daten, Oberfläche, Menschen, Infrastruktur, Regeln und Folgen. |
| „Mehr Daten machen ein System automatisch besser.“ | Mehr Daten helfen nur, wenn sie geeignet, rechtmäßig nutzbar, ausreichend vielfältig und qualitativ brauchbar sind. |
| „Hohe Gesamtgenauigkeit bedeutet Fairness.“ | Unterschiede zwischen Gruppen und verschiedene Fehlerarten können trotz hoher Gesamtgenauigkeit problematisch sein. |
| „Ein Mensch in der Entscheidungskette macht das System automatisch sicher.“ | Menschliche Kontrolle hilft nur, wenn Menschen Informationen, Zeit, Kompetenz und echte Eingriffsmöglichkeiten haben. |
| „Automatisierte Entscheidungen sind neutral.“ | Ziele, Messgrößen, Daten, Schwellenwerte und Einsatzregeln beruhen auf menschlichen und institutionellen Entscheidungen. |
| „Wenn ein System einmal getestet wurde, bleibt es zuverlässig.“ | Daten, Nutzerverhalten, Software und Umweltbedingungen können sich ändern; Systeme müssen weiter überwacht und erneut evaluiert werden. |
Reflexion und Selbstkontrolle
Prüfe Dich ohne Nachschlagen: Kannst Du in höchstens 60 Sekunden erklären, warum ein KI-System mehr ist als ein Modell? Kannst Du an einem neuen Beispiel alle sieben Bausteine finden? Kannst Du eine Aussage wie „90 % Genauigkeit bedeutet 90 % faire Entscheidungen“ begründet korrigieren?
Reflektiere außerdem Deine eigene Rolle: Wann würdest Du einer KI-Empfehlung folgen, wann würdest Du nachfragen und wann würdest Du sie ablehnen? Welche Information müsste die Oberfläche zeigen, damit Du eine verantwortliche Entscheidung treffen kannst? Die beste Antwort ist nicht pauschales Vertrauen oder pauschale Ablehnung, sondern eine begründete Entscheidung anhand von Zweck, Evidenz, Risiken und Handlungsmöglichkeiten.
Transfer auf neue Fälle
Wähle eine neue Anwendung, zum Beispiel KI-gestützte Verkehrssteuerung, medizinische Bilderkennung, automatische Übersetzung, Bewerbungsunterstützung oder Erkennung von Wartungsbedarf an Maschinen. Zeichne zuerst die sieben Bausteine. Ergänze dann Pfeile für Datenflüsse und Entscheidungspunkte. Markiere schließlich mit N möglichen Nutzen, mit R Risiken und mit K Stellen, an denen menschliche Kontrolle oder Governance nötig ist.
Dein Transfer ist gelungen, wenn eine andere Person anhand Deiner Systemkarte erklären kann, welcher Zweck verfolgt wird, wie Daten und Modell zusammenwirken, wo Menschen eingreifen und welche Folgen entstehen können.
Interaktive Aufgaben
Quiz: Teste Dein Wissen
Welche Aussage beschreibt ein KI-System am vollständigsten? (Ein Zusammenspiel aus Zweck Daten Modell Oberfläche Menschen Infrastruktur und Folgen) (!Nur ein mathematisches Modell) (!Nur ein Programm mit Benutzeroberfläche) (!Nur ein Datensatz und ein Server)
Warum beginnt gutes Systemdesign mit dem Zweck? (Der Zweck bestimmt welche Anforderungen Daten und Folgen relevant sind) (!Der Zweck ersetzt die Evaluation) (!Der Zweck macht Datenqualität unwichtig) (!Der Zweck legt automatisch das beste Modell fest)
Warum kann dieselbe Modellleistung in zwei Anwendungen unterschiedlich bewertet werden? (Weil Zweck Betroffene und Folgen unterschiedlich sein können) (!Weil Modelle nur in Schulen getestet werden) (!Weil Genauigkeit keine Zahl ist) (!Weil Daten im Betrieb nie eine Rolle spielen)
Was zeigt eine Konfusionsmatrix besonders gut? (Unterschiedliche Arten richtiger und falscher Entscheidungen) (!Den Stromverbrauch eines Servers) (!Die Lizenz eines Datensatzes) (!Die Länge eines Quellcodes)
Welche Frage gehört zur Fairnessprüfung? (Sind Fehler zwischen relevanten Gruppen vertretbar verteilt) (!Ist die Oberfläche besonders bunt) (!Ist das Modell möglichst groß) (!Ist der Server im selben Raum)
Was bedeutet Human Agency in einem KI-System? (Menschen behalten sinnvolle Möglichkeiten zu prüfen zu entscheiden und einzugreifen) (!Menschen geben jede Entscheidung an Software ab) (!Menschen dürfen nur Trainingsdaten liefern) (!Menschen müssen jedes Ergebnis akzeptieren)
Was gehört zur Governance eines KI-Systems? (Zuständigkeiten Regeln Prüfungen und Beschwerdewege) (!Nur die Anzahl der Modellparameter) (!Nur die Bildschirmauflösung) (!Nur die Geschwindigkeit des Netzes)
Warum muss ein KI-System nach der Einführung weiter beobachtet werden? (Weil Daten Nutzung und Umweltbedingungen sich verändern können) (!Weil Modelle nach jedem Start verschwinden) (!Weil jede Vorhersage immer falsch wird) (!Weil Evaluation nur vor dem Training erlaubt ist)
Welche Aussage über Gesamtgenauigkeit ist richtig? (Sie kann wichtige Unterschiede zwischen Gruppen oder Fehlerarten verdecken) (!Sie beweist automatisch Fairness) (!Sie ersetzt jede Folgenabschätzung) (!Sie misst direkt den Energieverbrauch)
Was ist bei einer Systemkarte besonders wichtig? (Beziehungen und Rückwirkungen zwischen mehreren Bausteinen sichtbar zu machen) (!Nur den Namen des Modells aufzuschreiben) (!Nur Vorteile zu sammeln) (!Alle menschlichen Rollen wegzulassen)
Memory
| Zweck | gewünschte Aufgabe und Ziel |
| Daten | Grundlage für Training oder Eingaben |
| Modell | algorithmische Verarbeitung von Mustern |
| Oberfläche | sichtbare Interaktion mit Nutzenden |
| Infrastruktur | technische Betriebsgrundlage |
| Governance | Regeln Rollen und Kontrolle |
| Folgen | beabsichtigte und unbeabsichtigte Wirkungen |
Drag and Drop
| Ordne die richtigen Begriffe zu. | Thema |
|---|---|
| Zweck | Welche Aufgabe soll das System für wen erfüllen |
| Daten | Welche Informationen werden gesammelt und verarbeitet |
| Evaluation | Wie werden Qualität Fehler Fairness und Robustheit geprüft |
| Governance | Wer entscheidet kontrolliert dokumentiert und ermöglicht Beschwerden |
| Folgenabschätzung | Welche direkten und indirekten Wirkungen entstehen können |
...
Kreuzworträtsel
| Modell | Welcher Baustein verarbeitet Eingaben nach gelernten oder festgelegten Strukturen? |
| Daten | Welche Grundlage wird für Training Tests oder neue Eingaben verwendet? |
| Zweck | Welcher Begriff bezeichnet die Aufgabe die ein System erfüllen soll? |
| Governance | Wie heißt die Gesamtheit aus Regeln Rollen und Kontrollverfahren? |
| Infrastruktur | Welcher Baustein umfasst Server Netze Speicher und Hardware? |
| Fairness | Welcher Begriff fragt nach einer gerechten Verteilung von Chancen und Fehlern? |
LearningApps
Lückentext
Offene Aufgaben
Leicht
- Systemkarte: Zeichne für eine automatische Übersetzungsanwendung die sieben Bausteine Zweck, Daten, Modell, Oberfläche, Menschen, Infrastruktur und Folgen.
- Fehlvorstellung: Wähle eine typische Fehlvorstellung aus dem Kurs und gestalte eine kleine Vorher-Nachher-Grafik, die sie korrigiert.
- Quellenkritik: Untersuche die Beschreibung eines KI-Angebots und markiere Aussagen, die belegt, unklar oder werbend formuliert sind.
- Schnittstelle: Skizziere eine Oberfläche, die neben einem KI-Ergebnis auch Unsicherheit, Quelle und eine Korrekturmöglichkeit sichtbar macht.
Standard
- Evaluation: Entwickle für ein KI-System zur Erkennung von Unterstützungsbedarf drei Qualitätskriterien und begründe, warum eine einzige Genauigkeitszahl nicht genügt.
- Fairness: Erfinde zwei Nutzergruppen mit unterschiedlichen Fehlerquoten und erkläre, welche zusätzlichen Daten Du brauchst, bevor Du von unfairer Behandlung sprichst.
- Governance: Entwirf für das Lernunterstützungssystem fünf Regeln zu Zuständigkeit, Zugriff, Prüfung, Beschwerde und Abschaltung.
- Technikfolgenabschätzung: Erstelle eine Folgenmatrix mit kurzfristigen und langfristigen Chancen und Risiken für Lernende, Lehrkräfte, Schule und Gesellschaft.
Schwer
- Systemdesign: Entwirf eine KI-Systemarchitektur für eine kommunale Verkehrssteuerung und begründe jede Komponente mit mindestens einem Ziel und einem Risiko.
- Transfer: Vergleiche ein freiwilliges Empfehlungssystem mit einem System, das über Zugangschancen entscheidet, und zeige, warum sich Governance und Evaluation ändern müssen.
- Fächerübergreifendes Lernen: Untersuche einen KI-Fall gleichzeitig aus Informatik, Mathematik, Ethik, Wirtschaft und Gemeinschaftskunde und führe die Ergebnisse in einer gemeinsamen Systemkarte zusammen.
- Audit: Entwickle einen Prüfplan für ein bereits eingesetztes KI-System mit Testdaten, Gruppenvergleich, Sicherheitsprüfung, Nutzerfeedback, Dokumentation und Abbruchkriterien.
|
|
Lernkontrolle
- Architekturanalyse: Du erhältst die Beschreibung eines unbekannten KI-Systems. Erstelle eine Systemkarte, identifiziere mindestens zwei fehlende Informationen und begründe, warum diese für eine Bewertung wichtig sind.
- Zweckänderung: Zeige an einem selbst gewählten Beispiel, wie sich Risiken und Regeln verändern, wenn dasselbe Modell für einen folgenreicheren Zweck eingesetzt wird.
- Evaluationsdesign: Entwirf einen Test, der nicht nur Gesamtgenauigkeit, sondern auch Fehlerarten, Robustheit und Unterschiede zwischen Gruppen untersucht.
- Governance-Entscheidung: Formuliere eine Regel für menschliche Aufsicht und erkläre, welche Informationen, Kompetenzen und Eingriffsrechte nötig sind, damit diese Aufsicht tatsächlich wirksam ist.
- Folgenabschätzung: Beurteile eine KI-Einführung aus Sicht mindestens dreier betroffener Gruppen und unterscheide direkte, indirekte, kurzfristige und langfristige Folgen.
- Fehlvorstellungen: Korrigiere die Aussage „Wenn ein Mensch am Ende klickt, ist die Entscheidung automatisch menschlich“ mit einem Gegenbeispiel und einer verbesserten Systemgestaltung.
Lernnachweis
Für einen überzeugenden Lernnachweis solltest Du zeigen, dass Du nicht nur Begriffe wiedergeben kannst. Wichtig sind eine verständliche Erklärung der sozio-technischen Grundidee, eine vollständige Systemkarte, nachvollziehbare Daten- und Entscheidungsflüsse, passende Evaluationskriterien, eine begründete Betrachtung von Fairness, Sicherheit und Transparenz, konkrete Governance-Regeln, eine Folgenabschätzung aus mehreren Perspektiven und ein Transfer auf einen neuen Fall.
Besonders stark ist Dein Lernnachweis, wenn Du Zusammenhänge erklärst: Wie verändert ein anderer Zweck die Bedeutung von Fehlern? Wie beeinflusst die Oberfläche menschliches Vertrauen? Wie verändern Datenlücken die Modellleistung? Wie greifen rechtliche oder schulische Regeln in die technische Architektur ein?
OERs zum Thema
Wikimedia Commons: Machine learning workflow de.svg – freie Grafik Wikimedia Commons: Cloud Computing Stack.svg – CC0 Wikimedia Commons: Confusion Matrix.png – CC0 bpb: KI und Ethik mit Judith Simon – CC BY-SA 4.0
Verknüpfte Lernbereiche
aiMOOC-Projekte
MOOCwiki · Deutsch
Nach dem Lernen ist vor dem Lernen
Entdecke direkt den nächsten Lernkurs. Weitere Inhalte erscheinen, wenn Du weiter nach unten scrollst.
Zur MOOCwiki-HauptseiteMediathek wird aus dem Wiki geladen ...
Keine passenden Inhalte gefunden. Bitte ändere Suche oder Filter.