Diesen aiMOOC als Battle spielen: Deutsch, Klasse 9-10, E-Niveau

Lebenszyklus eines KI-Systems verstehen

Zielgruppe: Klasse 9, fächerübergreifend mit Schwerpunkten in Informatik, Deutsch, Mathematik, Technik, Wirtschaft, Geschichte, Ethik und Gemeinschaftskunde.

Zeitbedarf: etwa 45 bis 90 Minuten. In einer Einzelstunde bearbeitest Du Aktivierung, Grundidee, Systemkarte und eine Transferaufgabe. In einer Doppelstunde kommen Datenbewertung, Risikomatrix, Anwendungssituation, Selbstkontrolle und Reflexion hinzu.

Leitfrage: Wie entsteht aus einer Idee ein KI-System, wie verändert es sich im Betrieb und wer trägt an welcher Stelle Verantwortung?

Einleitung

Ein KI-System ist mehr als ein Modell. Es ist ein sozio-technisches System: Technik, Daten, Menschen, Regeln, Organisationen und gesellschaftliche Folgen wirken zusammen. Deshalb reicht es nicht, nur zu fragen, ob ein Modell „gut rechnet“. Du musst auch untersuchen, wozu es eingesetzt wird, welche Daten es verwendet, wie Menschen mit seinen Ergebnissen umgehen, welche Infrastruktur nötig ist und welche Folgen entstehen können.

Der Lebenszyklus eines KI-Systems beschreibt die Phasen von der ersten Idee über Datenwahl, Entwicklung, Prüfung und Einsatz bis zur laufenden Beobachtung, Veränderung und schließlich Abschaltung. Dabei ist der Lebenszyklus kein gerader Weg. Erkennt man im Betrieb Probleme, muss man zu früheren Phasen zurückkehren: Daten können ergänzt, Ziele verändert, Modelle neu trainiert, Oberflächen angepasst oder der Einsatz gestoppt werden.

Ein nützliches Denkmodell lautet:

Zweck und Kontext	Daten und Design	Modell und Prüfung	Freigabe und Oberfläche	Betrieb und Monitoring	Änderung und Vorfälle	Abschaltung und Lernen
Welches Problem soll gelöst werden?	Welche Daten und Regeln sind geeignet?	Was lernt das Modell und wie wird es getestet?	Wer darf es nutzen und wie werden Ergebnisse gezeigt?	Funktioniert es unter realen Bedingungen?	Was geschieht bei Fehlern oder neuen Anforderungen?	Wann wird es beendet und was wird dokumentiert?

Diese Sicht schützt vor einer typischen Fehlvorstellung: „Die KI“ handelt nicht unabhängig von ihrem Umfeld. Entscheidungen von Entwicklerinnen und Entwicklern, Betreibenden, Nutzenden und Institutionen prägen das System in jeder Phase.

Lernziele

Nach dem Kurs kannst Du die zugrunde liegende Idee eines KI-Lebenszyklus sicher erklären, an neuen Beispielen erkennen und typische Fehlvorstellungen korrigieren. Du kannst außerdem Daten- und Modellqualität unterscheiden, Risiken abwägen, Verantwortlichkeiten benennen und eine einfache Systemkarte erstellen.

Du sollst insbesondere begründen können, warum ein technisch gutes Modell trotzdem gesellschaftlich problematisch sein kann und warum ein KI-System auch nach der Veröffentlichung weiter geprüft werden muss.

Ablauf für 45 oder 90 Minuten

Phase	45 Minuten	90 Minuten
Aktivierung	5 Minuten Diagnose	8 Minuten Diagnose und Austausch
Einführung	10 Minuten Lebenszyklus und Systemkarte	15 Minuten Lebenszyklus und Systemkarte
Anwendung	15 Minuten Fallbeispiel	25 Minuten Fallbeispiel mit Datenbewertung
Bewertung	8 Minuten Risikoampel	20 Minuten Risikomatrix und Fairnessprüfung
Abschluss	7 Minuten Selbstkontrolle und Transfer	22 Minuten Selbstkontrolle, Reflexion und Transfer

Aktivierung und Diagnose

Stell Dir vor, eine Schule möchte ein KI-System einsetzen, das Bewerbungen für freiwillige Schulpraktika vorsortiert. Es soll Hinweise geben, welche Bewerbungen zu einer Praktikumsstelle passen könnten.

Beantworte zunächst ohne Nachschlagen:

Systemdenken: Welche Bestandteile außer dem KI-Modell brauchst Du, damit dieses System überhaupt funktionieren kann?
Datenqualität: Was könnte passieren, wenn fast alle Trainingsdaten aus nur einer Schulart stammen?
Verantwortung: Wer sollte entscheiden, ob eine Schülerin oder ein Schüler tatsächlich eingeladen wird?
Monitoring: Woran würdest Du nach drei Monaten erkennen, ob das System im Alltag Probleme verursacht?

Vergleiche Deine ersten Antworten später mit Deiner Systemkarte. Wenn Du am Ende mehr Bestandteile, Rückkopplungen und Verantwortliche benennen kannst, hast Du Dein Systemverständnis erweitert.

KI als sozio-technisches System

Eine gute Analyse zerlegt ein KI-System mindestens in Zweck, Daten, Modell, Oberfläche, Menschen, Infrastruktur und Folgen. Diese Teile hängen voneinander ab.

Bestandteil	Leitfrage	Beispiel beim Praktikums-System	Mögliche Risiken
Zweck	Was soll verbessert oder unterstützt werden?	passende Bewerbungen schneller finden	falsches Ziel, etwa nur Zeitersparnis statt fairer Auswahl
Daten	Welche Informationen werden gesammelt und wie entstanden sie?	frühere Bewerbungen, Anforderungen, Rückmeldungen	Lücken, Verzerrungen, veraltete Daten, Datenschutzprobleme
Modell	Welche Muster werden gelernt und welche Ausgabe entsteht?	Passungswert oder Rangfolge	Fehlklassifikationen, Überanpassung, unklare Grenzen
Oberfläche	Wie sehen Menschen Ergebnisse und Warnungen?	Liste mit Vorschlägen und Begründungshinweisen	scheinbare Sicherheit durch Prozentwerte, schlechte Erklärungen
Menschen	Wer entwickelt, bedient, überprüft oder ist betroffen?	Betrieb, Lehrkraft, Betriebspersonal, Bewerbende	blinder Technikglaube, unklare Verantwortung
Infrastruktur	Welche Geräte, Server, Netze und Energie werden benötigt?	Schulnetz, Server, Datenbank, Zugriffsrechte	Ausfälle, Sicherheitslücken, Ressourcenverbrauch
Folgen	Welche direkten und indirekten Wirkungen entstehen?	schnellere Sichtung, aber auch mögliche Benachteiligung	Ungleichbehandlung, Abhängigkeit, Vertrauensverlust

Merke: Wenn Du nur das Modell bewertest, bewertest Du nur einen Teil des Systems.

Systemkarte: Zusammenhänge sichtbar machen

Eine Systemkarte zeigt nicht nur Bestandteile, sondern auch Wirkungsrichtungen und Rückkopplungen.

Von	Wirkung	Nach
Zweck	bestimmt, welche Daten als relevant gelten	Daten
Daten	prägen gelernte Muster	Modell
Modell	erzeugt Vorschläge	Oberfläche
Oberfläche	beeinflusst menschliche Entscheidungen	Menschen
Menschen	erzeugen neue Rückmeldungen und Nutzungsdaten	Daten
Infrastruktur	begrenzt Geschwindigkeit, Sicherheit und Verfügbarkeit	Betrieb
Betrieb	erzeugt reale Folgen	Gesellschaft und Betroffene
Folgen	sollten Ziele und Regeln erneut prüfen lassen	Zweck

Systemdenken bedeutet deshalb: Eine Änderung an einer Stelle kann Folgen an mehreren anderen Stellen haben. Ein neues Datenfeld kann zum Beispiel die Modellleistung erhöhen, gleichzeitig aber den Datenschutz verschlechtern oder neue Benachteiligungen ermöglichen.

Die Phasen des Lebenszyklus

Phase 1: Zweck und Kontext klären

Am Anfang steht nicht das Modell, sondern die Frage: Welches Problem soll überhaupt gelöst werden? Ein sinnvoller Zweck beschreibt, wer einen Nutzen haben soll, wer betroffen ist, welche Entscheidungen unterstützt werden und welche Grenzen gelten.

Beim Praktikums-System wäre ein verantwortbarer Zweck etwa: „Bewerbungen thematisch vorsortieren, damit Menschen schneller passende Unterlagen prüfen können.“ Problematisch wäre: „Automatisch entscheiden, wer eine Chance verdient.“ Der zweite Zweck verschiebt zu viel Entscheidungsmacht auf das System.

Schon hier brauchst Du Kriterien für Erfolg. Schnelligkeit allein reicht nicht. Je nach Einsatz können Fairness, Sicherheit, Datenschutz, Nachvollziehbarkeit und menschliche Kontrolle wichtiger sein.

Phase 2: Daten sammeln, auswählen und prüfen

Daten entstehen nie „einfach so“. Sie wurden zu einem bestimmten Zeitpunkt, für einen bestimmten Zweck und mit bestimmten Kategorien erhoben. Deshalb müssen Herkunft, Aktualität, Vollständigkeit und Repräsentativität geprüft werden.

Frage bei jedem Datensatz:

Datenherkunft: Wer hat die Daten erzeugt und unter welchen Bedingungen?
Repräsentativität: Sind die relevanten Situationen und Gruppen ausreichend vertreten?
Datenqualität: Gibt es Fehler, fehlende Werte oder uneinheitliche Kategorien?
Datenschutz: Werden personenbezogene Daten wirklich benötigt?
Label: Wer hat festgelegt, was als „passend“, „erfolgreich“ oder „richtig“ gilt?

Ein historischer Datensatz kann frühere Ungleichheiten enthalten. Ein Modell kann solche Muster übernehmen, obwohl niemand ausdrücklich eine diskriminierende Regel programmiert hat. Deshalb gehört Quellenkritik auch zur Informatik.

Phase 3: Modell entwickeln und trainieren

Beim maschinellen Lernen werden Daten verwendet, um Parameter eines Modells so anzupassen, dass es bestimmte Muster erkennt. Training und spätere Nutzung sind unterschiedliche Vorgänge.

Während des Trainings sieht das System Trainingsbeispiele. Bei der späteren Inferenz verarbeitet das trainierte Modell neue Eingaben und erzeugt eine Ausgabe. Die Ausgabe ist keine Gewissheit, sondern das Ergebnis eines mathematischen Verfahrens unter bestimmten Annahmen.

Fehler beim Erstellen des Vorschaubildes:

Ein neuronales Netz ist nur eine mögliche Modellart. Für den Lebenszyklus ist wichtiger zu verstehen: Das Modell ist ein Baustein. Es braucht Daten, Prüfverfahren, eine Oberfläche, Infrastruktur und verantwortliche Menschen.

Phase 4: Testen, validieren und Freigabe entscheiden

Ein Modell darf nicht nur mit den Daten bewertet werden, aus denen es gelernt hat. Sonst kann es scheinbar sehr gut sein, aber bei neuen Fällen versagen. Deshalb werden Trainings-, Validierungs- und Testdaten getrennt.

Eine einfache Konfusionsmatrix zeigt bei einer Ja-Nein-Entscheidung vier Fälle:

	Tatsächlich passend	Tatsächlich nicht passend
Als passend vorgeschlagen	richtig positiv	falsch positiv
Als nicht passend vorgeschlagen	falsch negativ	richtig negativ

Angenommen, ein Test mit 100 Fällen ergibt 60 richtig positive, 25 richtig negative, 10 falsch positive und 5 falsch negative Ergebnisse. Dann sind 85 von 100 Vorhersagen richtig. Eine Gesamtquote von 85 Prozent beantwortet aber noch nicht die wichtigsten Fragen: Welche Fehler sind besonders schwerwiegend? Treten Fehler bei bestimmten Gruppen häufiger auf? Ist die Testmenge realistisch?

Für Mathematik kannst Du berechnen:

Genauigkeit = Anzahl richtiger Entscheidungen ÷ Anzahl aller getesteten Entscheidungen

Im Beispiel: 85 ÷ 100 = 0,85 = 85 Prozent.

Für eine verantwortliche Freigabe reicht diese Zahl allein nicht. Die Art der Fehler und der Nutzungskontext müssen mitbewertet werden.

Phase 5: Bereitstellen, erklären und nutzen

Bei der Bereitstellung wird das Modell Teil eines realen Systems. Jetzt entscheidet die Oberfläche mit darüber, wie Menschen seine Ausgaben verstehen.

Ein Warnhinweis wie „unsicher, bitte prüfen“ kann verantwortliches Handeln fördern. Eine Rangliste ohne Erklärung kann dagegen den Eindruck erwecken, Platz 1 sei objektiv „der beste Mensch“. Gestaltung ist deshalb keine Nebensache.

Human Agency bedeutet: Menschen sollen sinnvolle Entscheidungen treffen können, Informationen prüfen, widersprechen, eine Ausgabe verwerfen und bei Bedarf Unterstützung erhalten. Ein Mensch im Prozess genügt nicht automatisch. Er oder sie braucht Zeit, Kompetenz, Befugnisse und relevante Informationen.

Phase 6: Betrieb beobachten und auf Veränderungen reagieren

Nach der Einführung ist das System nicht „fertig“. Daten und Umwelt verändern sich. Neue Anforderungen, andere Nutzergruppen oder veränderte Sprache können dazu führen, dass das Modell schlechter passt. Das nennt man je nach Ursache unter anderem Drift.

Fehler beim Erstellen des Vorschaubildes:

Zum Monitoring gehören nicht nur technische Werte. Beobachtet werden sollten zum Beispiel Fehlerarten, Beschwerden, ungewöhnliche Nutzung, Sicherheitsvorfälle, Auswirkungen auf Betroffene und Änderungen der Datenverteilung.

Wenn ein Problem entdeckt wird, sind mehrere Reaktionen möglich: Schwellenwerte ändern, Daten verbessern, Oberfläche anpassen, neu trainieren, Einsatz begrenzen oder das System vorübergehend stoppen.

Phase 7: Abschalten, ersetzen und lernen

Auch die Abschaltung gehört zum Lebenszyklus. Ein System kann veraltet, zu riskant, zu teuer oder unnötig werden. Verantwortliche Planung klärt, was mit gespeicherten Daten, Modellen, Protokollen und offenen Fällen geschieht.

Wichtig ist das institutionelle Lernen: Welche Annahmen waren falsch? Welche Risiken wurden zu spät erkannt? Welche Rückmeldungen von Betroffenen waren besonders wertvoll? Diese Erkenntnisse sollten in zukünftige Projekte einfließen.

Infrastruktur, Ressourcen und Technikfolgen

KI wirkt oft „virtuell“, benötigt aber physische Infrastruktur: Rechenzentren, Chips, Netze, Speicher, Kühlung und Strom. Deshalb gehören Verfügbarkeit, Kosten, Sicherheit und Ressourcenverbrauch zur Systembewertung.

Datei:Brazil data center of the Wikimedia Foundation.png

Im Fach Technik kannst Du untersuchen, welche Hardware und Netze für Training und Betrieb nötig sind. In Wirtschaft stellt sich die Frage nach Investitionskosten, laufenden Kosten und Abhängigkeiten. In Ethik und Gemeinschaftskunde kommt hinzu, wer Nutzen erhält und wer mögliche Belastungen trägt.

Risikoabwägung und Verantwortung

Risiko ist nicht dasselbe wie „Gefahr ist sicher“. Für eine erste schulische Analyse kannst Du Risiko vereinfacht als Verbindung aus Eintrittswahrscheinlichkeit und Schadensausmaß betrachten.

Wahrscheinlichkeit \ Schaden	gering	mittel	hoch
gering	niedrig	niedrig bis mittel	mittel
mittel	niedrig bis mittel	mittel	hoch
hoch	mittel	hoch	sehr hoch

Diese Matrix ist ein Denkwerkzeug, keine vollständige professionelle Risikoprüfung. Ein seltenes Ereignis kann trotzdem sehr wichtig sein, wenn der mögliche Schaden groß ist.

Unterscheide außerdem mindestens vier Risikofelder:

Risikofeld	Beispiel	Mögliche Gegenmaßnahme
Datenrisiko	wichtige Fälle fehlen	Datensatz prüfen und gezielt ergänzen
Modellrisiko	hohe Fehlerquote bei neuen Fällen	unabhängige Tests und Grenzen definieren
Nutzungsrisiko	Menschen übernehmen Vorschläge ungeprüft	Schulung, Warnungen, echte Entscheidungskompetenz
Gesellschaftliches Risiko	Gruppen werden systematisch benachteiligt	Gruppenvergleich, Beschwerdeweg, Einsatzgrenzen

Professionelles KI-Risikomanagement betrachtet den gesamten Lebenszyklus. Rahmenwerke wie das NIST AI Risk Management Framework betonen, dass Governance, Kontextanalyse, Messung und Management zusammengehören. Auch der EU AI Act verfolgt einen risikobasierten Ansatz. Für den Unterricht ist besonders wichtig: Verantwortung verschwindet nicht, nur weil ein Algorithmus beteiligt ist.

Verantwortungsmatrix

Rolle	Typische Verantwortung	Frage zur Kontrolle
Entwicklung	Daten- und Modellentscheidungen dokumentieren	Welche Annahmen und Grenzen wurden festgehalten?
Betreiber	Einsatzbedingungen, Sicherheit und Monitoring organisieren	Wer reagiert auf Vorfälle?
Nutzende	Ergebnisse kritisch prüfen und richtig anwenden	Darf ein Vorschlag abgelehnt werden?
Betroffene	Rückmeldung geben und Rechte wahrnehmen können	Gibt es verständliche Informationen und Beschwerdewege?
Leitung oder Institution	Zweck, Ressourcen und Rechenschaft festlegen	Wer trägt die Entscheidung über Einführung oder Stopp?

Verantwortung kann verteilt sein, aber sie darf nicht unsichtbar werden.

Realistische Anwendungssituation: Praktikums-Matching

Eine regionale Praktikumsbörse möchte Schulen und Betriebe unterstützen. Ein KI-System liest freiwillig bereitgestellte Bewerbungsdaten und schlägt mögliche Praktikumsstellen vor. Es soll nicht automatisch auswählen oder ablehnen.

Bearbeite die Situation als Team:

Zweckanalyse: Formuliere den Zweck so, dass klar bleibt, welche Entscheidung beim Menschen liegt.
Datenprüfung: Nenne drei Datenarten, die hilfreich sein könnten, und zwei Datenarten, die Du aus Datenschutz- oder Fairnessgründen kritisch prüfen würdest.
Modellbewertung: Entscheide, welche Fehler schlimmer sein könnten: eine passende Stelle nicht vorzuschlagen oder eine unpassende Stelle vorzuschlagen. Begründe.
Oberfläche: Skizziere eine Anzeige, die Unsicherheit sichtbar macht und nicht nur einen scheinbar objektiven Rang ausgibt.
Monitoring: Lege drei Signale fest, bei denen das System überprüft oder gestoppt werden sollte.
Verantwortung: Bestimme, wer Daten, Modell, Freigabe, Beschwerden und Abschaltung verantwortet.

Transferfrage: Welche Teile Deiner Analyse würden sich ändern, wenn dieselbe Technik nicht für Praktika, sondern für medizinische Diagnosen oder Kreditentscheidungen eingesetzt würde?

Fächerübergreifende Bezüge

Fach	Verbindung zum Lebenszyklus	Beispielaufgabe
Informatik	Daten, Modell, Training, Test, Schnittstellen, Monitoring	Zeichne Datenflüsse und Rückkopplungen
Mathematik	Häufigkeiten, Prozentwerte, Fehlerquoten, Risikomatrix	Vergleiche Genauigkeit mit den einzelnen Fehlerarten
Deutsch	Quellenkritik, verständliche Erklärungen, Sprache in Daten	Prüfe, wie Formulierungen in Bewerbungen Modellurteile beeinflussen könnten
Technik	Hardware, Netze, Sensoren, Verfügbarkeit, Sicherheit	Analysiere die technische Infrastruktur
Wirtschaft	Kosten, Produktivität, Anreize, Arbeitsteilung	Vergleiche Nutzen und Folgekosten verschiedener Einsatzvarianten
Geschichte	Automatisierung und Wandel von Arbeit und Entscheidungen	Vergleiche KI mit früheren Automatisierungswellen
Ethik	Fairness, Verantwortung, Autonomie, Folgen	Begründe, welche Entscheidungen nicht vollständig automatisiert werden sollten
Gemeinschaftskunde	Regeln, Beteiligung, Transparenz, Grundrechte	Entwickle Regeln für Mitsprache und Beschwerden

Typische Fehlvorstellungen korrigieren

Fehlvorstellung	Korrektur
„Die KI ist das Modell.“	Ein KI-System umfasst auch Zweck, Daten, Oberfläche, Menschen, Infrastruktur, Regeln und Folgen.
„Mehr Daten sind immer besser.“	Entscheidend sind Relevanz, Qualität, Repräsentativität und rechtmäßige beziehungsweise verantwortbare Nutzung.
„85 Prozent Genauigkeit bedeutet 85 Prozent Fairness.“	Gesamtgenauigkeit sagt nichts darüber, wie sich Fehler auf unterschiedliche Gruppen verteilen.
„Nach der Veröffentlichung ist die Entwicklung beendet.“	Monitoring, Vorfälle, Drift und neue Anforderungen machen laufende Prüfung nötig.
„Wenn ein Mensch am Ende klickt, ist menschliche Kontrolle gesichert.“	Kontrolle braucht Wissen, Zeit, Befugnisse und echte Alternativen.
„Ein erklärender Text beweist, dass die Entscheidung richtig ist.“	Eine Erklärung kann hilfreich sein, ersetzt aber keine Prüfung von Daten, Modell, Kontext und Folgen.

Quellenkritik und Transparenz

Wenn Du Aussagen über ein KI-System bewertest, frage nach Belegen. Eine Werbeaussage wie „unser System ist objektiv“ ist kein Testbericht. Gute Nachweise beschreiben Daten, Testverfahren, Grenzen, bekannte Fehler, Einsatzbedingungen und Verantwortlichkeiten.

Verlässliche Ausgangspunkte zur Vertiefung sind unter anderem:

Interaktive Aufgaben

Quiz: Teste Dein Wissen

Warum beginnt der Lebenszyklus eines KI-Systems mit Zweck und Kontext? (Weil zuerst geklärt werden muss welches Problem für wen unter welchen Bedingungen gelöst werden soll) (!Weil jedes KI-System zuerst einen Server kaufen muss) (!Weil Daten erst nach der Veröffentlichung wichtig werden) (!Weil ein Modell immer ohne Ziel trainiert wird)

Welche Aussage beschreibt ein KI-System als sozio-technisches System am besten? (Technik Daten Menschen Organisation und Folgen wirken zusammen) (!Nur der Programmcode bestimmt alle Ergebnisse) (!Nur die Trainingsdaten gehören zum System) (!Nur die Benutzeroberfläche ist gesellschaftlich relevant)

Warum sollte ein Modell mit neuen Testdaten geprüft werden? (Damit untersucht wird ob es auch bei unbekannten Fällen funktioniert) (!Damit es die Testdaten auswendig lernt) (!Damit keine Trainingsdaten mehr benötigt werden) (!Damit jede Vorhersage automatisch richtig wird)

Was zeigt eine Konfusionsmatrix? (Sie unterscheidet richtige und falsche Entscheidungen verschiedener Arten) (!Sie zeigt nur die Geschwindigkeit eines Servers) (!Sie ersetzt jede Prüfung der Datenqualität) (!Sie beweist automatisch die Fairness eines Systems)

Warum reicht eine hohe Gesamtgenauigkeit nicht für eine verantwortliche Bewertung? (Weil Art Verteilung und Folgen der Fehler zusätzlich wichtig sind) (!Weil Genauigkeit bei KI grundsätzlich bedeutungslos ist) (!Weil nur die Dateigröße zählt) (!Weil jedes Modell exakt fünfzig Prozent Fehler machen muss)

Was bedeutet Monitoring im Betrieb eines KI-Systems? (Leistung Fehler Nutzung und Folgen fortlaufend beobachten) (!Das Modell nach der Freigabe nie wieder verändern) (!Nur die Bildschirmhelligkeit kontrollieren) (!Alle Beschwerden automatisch löschen)

Welche Bedingung gehört zu sinnvoller menschlicher Kontrolle? (Menschen müssen Ergebnisse prüfen ablehnen und begründet überstimmen können) (!Menschen dürfen nur auf Bestätigen klicken) (!Menschen sollen die Datenquelle nicht kennen) (!Menschen müssen jeder Modellentscheidung folgen)

Welche Aussage über Daten ist richtig? (Daten müssen auf Herkunft Qualität Repräsentativität und Zweck geprüft werden) (!Mehr Daten sind unabhängig von ihrer Qualität immer besser) (!Alte Daten enthalten niemals frühere Ungleichheiten) (!Personenbezogene Daten sind für jedes KI-System notwendig)

Was kann bei Drift passieren? (Die reale Umgebung verändert sich sodass frühere Modellannahmen schlechter passen) (!Das Modell wird automatisch gerechter) (!Die Infrastruktur braucht keine Wartung mehr) (!Die Daten bleiben für immer gleich verteilt)

Warum gehört die Abschaltung zum Lebenszyklus? (Weil veraltete riskante oder unnötige Systeme kontrolliert beendet und Erfahrungen gesichert werden müssen) (!Weil jedes KI-System nach einer Woche gelöscht werden muss) (!Weil beim Abschalten keine Datenregeln mehr gelten) (!Weil danach keine Dokumentation mehr gebraucht wird)

Memory

Zweck	zu lösendes Problem
Trainingsdaten	Grundlage für das Anpassen des Modells
Modell	gelernte mathematische Muster
Oberfläche	Schnittstelle zwischen System und Nutzenden
Monitoring	Beobachtung von Leistung und Folgen im Betrieb
Abschaltung	geplanter Rückzug eines Systems aus dem Einsatz

Drag and Drop

Ordne die richtigen Begriffe zu.	Thema
Zweck und Kontext	Problem Grenzen und Erfolgskriterien klären
Daten und Design	Daten auswählen Herkunft prüfen und Nutzung planen
Training und Modell	Muster lernen und Modellparameter anpassen
Validierung und Freigabe	Mit neuen Fällen testen und Einsatzentscheidung begründen
Betrieb und Monitoring	Leistung Nutzung und Folgen beobachten
Vorfall und Änderung	Probleme bearbeiten und System gezielt anpassen
Abschaltung und Lernen	Einsatz beenden und Erfahrungen dokumentieren

Kreuzworträtsel

Monitoring	Wie heißt die fortlaufende Beobachtung eines KI-Systems im Betrieb?
Validierung	Wie heißt die Prüfung ob ein Modell unter vorgesehenen Bedingungen geeignet funktioniert?
Infrastruktur	Welcher Begriff umfasst Server Netze Speicher und weitere technische Grundlagen?
Fairness	Welcher Begriff bezeichnet die gerechte Behandlung und die Prüfung auf systematische Benachteiligung?
Datensatz	Wie heißt eine strukturierte Sammlung von Daten für Analyse Training oder Test?
Verantwortung	Welcher Begriff beschreibt die Pflicht Entscheidungen und Folgen zu begründen und dafür einzustehen?

LearningApps

Lückentext

Ein KI-System sollte mit einem klaren

beginnen. Ein sozio-technisches System umfasst neben Technik auch

. Für maschinelles Lernen müssen Daten auf Qualität und

geprüft werden. Beim Training werden Parameter eines

angepasst. Neue Fälle sollten mit unabhängigen Testdaten

werden. Eine Konfusionsmatrix macht verschiedene Arten von

sichtbar. Nach der Bereitstellung hilft

dabei Veränderungen und Probleme zu erkennen. Menschliche Kontrolle braucht echte

. Risiken werden unter anderem nach Wahrscheinlichkeit und möglichem

beurteilt. Am Ende kann ein System kontrolliert

und aus den Erfahrungen gelernt werden.

Offene Aufgaben

Leicht

Lebenszyklus-Skizze: Zeichne für eine KI-Funktion aus Deinem Alltag sieben Lebenszyklus-Phasen und ergänze zu jeder Phase eine Frage.
Systemkarte: Wähle ein Beispiel wie Übersetzung, Bilderkennung oder Empfehlung und ordne Zweck, Daten, Modell, Oberfläche, Menschen, Infrastruktur und Folgen in einer Systemkarte an.
Fehlvorstellungen: Erfinde drei typische falsche Aussagen über KI-Systeme und korrigiere sie jeweils mit einer Begründung.
Medienkritik: Untersuche einen Werbesatz zu KI und notiere, welche Belege fehlen, um die Aussage überprüfen zu können.

Standard

Daten-Audit: Entwickle eine Checkliste mit zehn Fragen, mit denen eine Klasse einen Trainingsdatensatz auf Herkunft, Qualität, Repräsentativität und Datenschutz prüfen könnte.
Risikomatrix: Bewerte für das Praktikums-Matching mindestens sechs Risiken nach Wahrscheinlichkeit und Schadensausmaß und schlage zu jedem Risiko eine Gegenmaßnahme vor.
Oberflächenentwurf: Gestalte auf Papier eine Benutzeroberfläche, die Unsicherheit, Grenzen und eine Möglichkeit zum Widerspruch sichtbar macht.
Interview: Befrage eine Lehrkraft, einen Betrieb oder eine andere erwachsene Person dazu, wann sie einer KI-Empfehlung vertrauen würde und welche Informationen sie dafür bräuchte.

Schwer

Fairness-Analyse: Entwirf ein Testverfahren, mit dem Du untersuchen würdest, ob Fehlerquoten zwischen relevanten Gruppen oder Nutzungssituationen stark abweichen.
Systemvergleich: Vergleiche denselben KI-Lebenszyklus für eine Musikempfehlung und für eine medizinische Entscheidungshilfe. Begründe, welche Prüfungen und Freigaben sich ändern müssen.
Governance-Konzept: Erstelle für eine fiktive Schule Rollen, Eskalationswege, Beschwerdeverfahren und Stoppregeln für ein KI-System.
Technikfolgen-Projekt: Produziere ein kurzes Erklärvideo oder Poster, das technische Leistung, wirtschaftliche Anreize, gesellschaftliche Folgen und Verantwortung in einem gemeinsamen Wirkungsdiagramm darstellt.

Lernkontrolle

Transfer auf neues Beispiel: Eine Stadt möchte mit KI Straßenschäden priorisieren. Erstelle eine Systemkarte und erkläre, welche Lebenszyklus-Phasen besonders kritisch sind.
Fehlerfolgen vergleichen: Ein Modell hat in zwei Anwendungen dieselbe Genauigkeit von 90 Prozent. Anwendung A sortiert Urlaubsfotos, Anwendung B unterstützt medizinische Diagnosen. Erkläre, warum dieselbe Kennzahl zu unterschiedlichen Entscheidungen führen kann.
Daten und Gesellschaft: Ein Datensatz bildet fast nur vergangene erfolgreiche Fälle ab. Analysiere, welche blinden Flecken entstehen könnten und wie Du sie vor dem Training untersuchen würdest.
Verantwortungskette: Ein KI-System gibt einen schlechten Vorschlag, ein Mensch übernimmt ihn ungeprüft und eine Person wird benachteiligt. Zeige, warum Verantwortung nicht sinnvoll auf nur eine Stelle reduziert werden kann.
Monitoring-Plan: Entwirf fünf Indikatoren, mit denen nach der Einführung eines KI-Systems technische und gesellschaftliche Probleme erkannt werden können.
Abschaltentscheidung: Formuliere Kriterien dafür, wann ein KI-System pausiert, überarbeitet oder vollständig abgeschaltet werden sollte.

Lernnachweis

Für einen überzeugenden Lernnachweis zu diesem Thema solltest Du zeigen, dass Du nicht nur Begriffe kennst, sondern Zusammenhänge analysieren und auf neue Situationen übertragen kannst.

Lebenszyklus erklären: Du kannst die wichtigsten Phasen in eigenen Worten beschreiben und Rückkopplungen zwischen ihnen erklären.
Sozio-technisches System: Du kannst Zweck, Daten, Modell, Oberfläche, Menschen, Infrastruktur und Folgen in einer Systemkarte verbinden.
Datenbewertung: Du kannst Datenherkunft, Qualität, Repräsentativität und mögliche Verzerrungen begründet prüfen.
Systembewertung: Du kannst technische Kennzahlen von Fairness, Sicherheit, Transparenz und gesellschaftlichen Folgen unterscheiden.
Risikoabwägung: Du kannst Wahrscheinlichkeit, Schadensausmaß und Gegenmaßnahmen nachvollziehbar gegeneinander abwägen.
Verantwortung: Du kannst Rollen, menschliche Entscheidungsmöglichkeiten und Beschwerdewege benennen.
Transfer: Du kannst den Lebenszyklus auf ein neues KI-Beispiel anwenden und typische Fehlvorstellungen korrigieren.

OERs zum Thema

Freie Medien im Kurs

Die eingebundenen Wikimedia-Commons-Dateien sind frei lizenzierte oder gemeinfreie Medien. Prüfe bei einer Weiterverwendung jeweils die Lizenzangaben auf der Dateiseite.

Fehler beim Erstellen des Vorschaubildes: : Lebenszyklus als Rückkopplung
Fehler beim Erstellen des Vorschaubildes: : Training und Nutzung eines Modells
Fehler beim Erstellen des Vorschaubildes: : vereinfachte Darstellung eines neuronalen Netzes
Fehler beim Erstellen des Vorschaubildes: : Lebenszyklus von Daten
Fehler beim Erstellen des Vorschaubildes: : Fehlerarten bei Klassifikation
Fehler beim Erstellen des Vorschaubildes: : Beobachtung von Infrastruktur, Modell und Ausgabe
: Governance und Nachweise
Datei:Brazil data center of the Wikimedia Foundation.png: physische Infrastruktur eines Rechenzentrums

Verknüpfte Lernbereiche

Lebenszyklus eines KI-Systems verstehen

Zusammenfassung

Ein KI-System ist kein isoliertes Modell, sondern ein sozio-technisches Gefüge. Sein Lebenszyklus beginnt mit Zweck und Kontext, führt über Daten, Entwicklung, Test und Freigabe in den Betrieb und endet nicht mit der Veröffentlichung. Monitoring, Änderungen, Vorfälle und Abschaltung gehören dazu.

Verantwortliche KI-Nutzung verbindet technische Prüfung mit gesellschaftlicher Bewertung. Gute Entscheidungen entstehen, wenn Datenquellen kritisch geprüft, Fehlerarten verstanden, Betroffene berücksichtigt, Risiken abgewogen, Verantwortlichkeiten geklärt und menschliche Handlungsmöglichkeiten erhalten werden.

Die wichtigste Idee lautet: Bewerte nicht nur, was das Modell kann, sondern wie das gesamte System entsteht, eingesetzt wird, sich verändert und auf Menschen und Gesellschaft wirkt.

aiMOOC-Projekte

Inhalte werden geladen ...

Mediathek wird aus dem Wiki geladen ...

Frag mich zum aktuellen Lerninhalt oder wähle eine kurze Hilfe.

Textmodus bereit

Sprache