aiMOOC

KI im technischen Arbeitsalltag – Automatisierung von Verantwortung trennen

QR-Code

KI im technischen Arbeitsalltag – Automatisierung von Verantwortung trennen

Einleitung

Automatisierung ist nicht Verantwortung. Eine KI kann Messwerte auswerten, Auffälligkeiten markieren oder Handlungsoptionen vorschlagen. Bei sicherheitsrelevanten Entscheidungen braucht es jedoch eine klar benannte menschliche Rolle, die Kontext prüft, Widersprüche erkennt, bei Unsicherheit eskaliert und eine Freigabe bewusst erteilt oder verweigert.

Kurzbeschreibung: Menschliche Freigabe sicherheitsrelevanter Entscheidungen.

Zielgruppe: Auszubildende in technischen Berufen, besonders in Mechatronik, Elektronik, Industriemechanik, Fachinformatik, Produktionstechnik und verwandten Ausbildungsfeldern.

Lernprinzip: kurze Lerneinheiten, ein durchgehender Ausbildungsfall, ein einfaches Freigabemodell, gestufte Hilfen und Aufgaben auf Basis-, Anwendungs- und Transferniveau.

Sicherheitsgrenze dieses Kurses: Alle praktischen Übungen finden ausschließlich lokal oder in ausdrücklich autorisierten Testumgebungen mit fiktiven Daten statt. Du greifst keine fremden Netze, Produktivanlagen, Zugangsdaten oder Kundendaten an und überträgst solche Daten nicht ungefragt an KI-Dienste. Schutz- und Not-Halt-Einrichtungen werden niemals umgangen.

Stand der Quellenprüfung: 9. Oktober 2026.

Lernziele

Nach dem Kurs kannst Du Automatisierung und Verantwortung unterscheiden, eine menschliche Freigabestelle in einen technischen Ablauf einbauen, KI-Empfehlungen auf Plausibilität prüfen, Unsicherheit und Widersprüche eskalieren, Entscheidungen nachvollziehbar dokumentieren und fachliche Quellen nach Rechtsstatus, Aktualität und Interessenlage bewerten.

Lerneinheit 1: Was darf die KI – und was muss der Mensch entscheiden?

Eine KI liefert Ausgaben: etwa eine Prognose, Klassifikation oder Empfehlung. Verantwortung entsteht erst im organisatorischen Zusammenhang: Wer darf entscheiden? Welche Folgen sind möglich? Welche Schutzmaßnahmen gelten? Wer stoppt den Prozess bei Unsicherheit?

Merksatz: Eine hohe Modellwahrscheinlichkeit ist keine Freigabe.

Das IBM-Technology-Video von 2026 erklärt Human in the Loop anschaulich. Nutze es als technische Demonstration, nicht als neutrale Rechtsquelle: IBM ist ein Anbieter und setzt eigene Schwerpunkte.

Mini-Check

Aussage	Einordnung
KI markiert einen ungewöhnlichen Temperaturverlauf.	Automatisierbare Analyse
Eine befugte Fachkraft entscheidet über die Wiederfreigabe.	Menschliche Verantwortung
Das System speichert Messwert, Empfehlung und Entscheidung.	Nachvollziehbarkeit

Lerneinheit 2: Drei-Tore-Modell für die Freigabe

Das folgende Modell ist eine didaktische Prüfhilfe, keine Rechtsnorm. Eine sicherheitsrelevante Aktion geht nur weiter, wenn alle drei Tore bestehen.

Tor	Leitfrage	Wenn die Antwort Nein oder unklar ist
1 – Zulässiger Kontext	Ist der Einsatz autorisiert, lokal begrenzt und mit geeigneten Daten?	Stoppen und klären
2 – Tragfähige Evidenz	Sind Messwerte plausibel, Quellen nachvollziehbar und Widersprüche geprüft?	Nicht freigeben; prüfen oder eskalieren
3 – Menschliche Befugnis	Hat eine benannte, kompetente Person die Folgen verstanden und bewusst entschieden?	Keine Ausführung

Wichtig: Das Modell trennt die KI-Empfehlung von der Entscheidung. Auch wenn die KI sehr sicher wirkt, kann Tor 2 wegen widersprüchlicher Sensordaten oder Tor 3 wegen fehlender Befugnis geschlossen bleiben.

Lerneinheit 3: Ausbildungsfall – Prüfstand „Mira-1“

Du arbeitest an einem rein lokalen Schulungsprüfstand namens „Mira-1“. Alle Messwerte sind fiktiv. Es gibt keine Verbindung zu einer Produktivanlage.

Die KI schätzt aus Temperatur, Vibration und Stromaufnahme einen Anomaliehinweis und gibt eine Empfehlung aus. Sie kann den Prüfstand nicht selbst wieder freigeben. Die Freigabe bleibt bei einer ausbildungsseitig benannten Fachperson.

Fall	Fiktive Daten	KI-Ausgabe	Zusätzliche Beobachtung
A	Temperatur 62 °C, Vibration normal	78 % Anomalie; „prüfen“	Wartungsklappe laut Checkliste geschlossen
B	Temperatur 48 °C, Vibration normal	18 % Anomalie; „unauffällig“	Türkontakt meldet offen
C	Temperatur 59 °C, Vibration erhöht	91 % Anomalie; „stoppen“	Zweites Messgerät bestätigt erhöhte Vibration
D	Temperatur 45 °C, Vibration normal	7 % Anomalie; „unauffällig“	Messwertquelle ist nicht eindeutig dokumentiert

Deine Kernfrage: Welches Tor ist offen, welches geschlossen, und wer darf als Nächstes handeln?

Gestufte Hilfen

Hilfe 1: Markiere zuerst alles, was die KI nur behauptet oder empfiehlt. Das ist noch keine Freigabe.

Hilfe 2: Suche dann nach einer unabhängigen Information: Türkontakt, zweites Messgerät, Dokumentation oder betriebliche Prüfliste.

Hilfe 3: Nutze das Drei-Tore-Modell. Sobald ein Tor geschlossen oder unklar ist, wird nicht freigegeben. Begründe, welche Information fehlt und an wen Du eskalierst.

Lerneinheit 4: Sicherheitsfunktion ist nicht Freigabeprozess

Ein Not-Halt ist eine technische Sicherheitsfunktion. Die menschliche Freigabe eines KI-gestützten Arbeitsablaufs ist dagegen ein Entscheidungs- und Verantwortungsprozess. Beides darf nicht verwechselt werden.

Im Kurs gilt: Schutzfunktionen bleiben unabhängig von der KI. Eine KI-Empfehlung darf niemals dazu verwendet werden, Schutzvorrichtungen, Verriegelungen oder Not-Halt-Funktionen zu umgehen.

Lerneinheit 5: Plausibilitätsprüfung statt blindem Vertrauen

Eine Modellkonfidenz sagt etwas über das Modell aus, nicht automatisch über die Sicherheit der realen Situation. Prüfe deshalb mindestens Kontext, Datenherkunft, Widersprüche und die Folgen einer Fehlentscheidung.

Beispiel Fall B: 18 % Anomalie klingt beruhigend. Der offene Türkontakt ist aber ein unabhängiger sicherheitsrelevanter Hinweis. Die richtige Reaktion ist keine Freigabe.

Das Google-Cloud-Video zeigt Human Review in einem Dokumenten-Workflow. Übertrage nur das Prinzip: unsichere oder relevante Fälle werden an Menschen übergeben. Die konkrete Produktlösung ist kein allgemeiner Sicherheitsstandard.

Lerneinheit 6: Menschliche Aufsicht nach EU AI Act

Für Hochrisiko-KI verlangt Artikel 14 des EU AI Act, dass wirksame menschliche Aufsicht möglich ist. Ziel ist, Risiken für Gesundheit, Sicherheit und Grundrechte zu verhindern oder zu minimieren. Die konkrete rechtliche Einordnung hängt vom Einsatzfall ab.

Aktueller Zeitplan: Nach der 2026 geänderten Übergangsregelung gelten die Hochrisiko-Regeln für Anhang-III-Anwendungsfälle ab 2. Dezember 2027 und für in regulierte Produkte eingebettete Hochrisiko-KI ab 2. August 2028. Für einen industriellen Ausbildungsfall darfst Du daraus nicht automatisch schließen, dass Dein konkretes System rechtlich als Hochrisiko-KI eingestuft ist.

Primärquelle: Verordnung (EU) 2024/1689, insbesondere Artikel 14

Aktuelle Änderung 2026: Verordnung (EU) 2026/1744

EU-Kommission: aktueller Durchsetzungszeitplan

Das Video von DigitalEU ist institutionelle Kommunikation der Europäischen Kommission. Für die genaue Rechtslage ist trotzdem der Verordnungstext die stärkere Quelle.

Lerneinheit 7: NIST und BSI – zwei ergänzende Blickwinkel

Das NIST AI Risk Management Framework 1.0 ist freiwillig und strukturiert KI-Risikomanagement über die Funktionen Govern, Map, Measure und Manage. NIST weist 2026 darauf hin, dass Version 1.0 überarbeitet wird. Besonders passend für diesen Kurs ist die Forderung, Rollen und Verantwortlichkeiten für menschliche Aufsicht klar zu definieren.

Das BSI betont für die sichere Nutzung von KI unter anderem Interpretierbarkeit, Evaluierbarkeit, Datenflüsse und den Umgang mit Fehlinterpretationen. Das ist für den technischen Alltag nützlich, ersetzt aber keine konkrete Gefährdungsbeurteilung, Betriebsanweisung oder Rechtsprüfung.

NIST AI Risk Management Framework

NIST AI RMF Playbook

BSI: Künstliche Intelligenz sicher nutzen

Lerneinheit 8: Kritischer Quellenvergleich

Quelle	Status	Stärke	Grenze
EU AI Act und Änderungsverordnung	Rechtsquelle	Verbindlicher Wortlaut und Anwendungszeitplan	Erfordert genaue Einordnung des konkreten Systems
EU-Kommission DigitalEU	Institutionelle Erläuterung	Aktuelle Orientierung und Kommunikation	Ersetzt nicht den Verordnungstext
NIST AI RMF 1.0	Freiwilliges Risikomanagement-Framework	Klare Rollen, Governance und Risikoprozesse	US-Rahmen, 2026 in Überarbeitung
BSI	Deutsche Sicherheitsbehörde	Sicherheits- und Datenschutzperspektive	Kein Ersatz für Einzelfall-Rechtsprüfung
IBM- und Google-Videos	Anbieter-Demonstrationen	Anschauliche Workflows	Produkt- und Anbieterperspektive

Quellenregel: Für eine sicherheitsrelevante Entscheidung reicht ein Erklärvideo nie allein. Prüfe zuerst Primärquelle, betriebliche Vorgaben und den konkreten technischen Kontext.

Lerneinheit 9: Entscheidungsprotokoll

Ein kurzes Protokoll macht die Freigabe nachvollziehbar. Für die Übung genügen fiktive Angaben.

Feld	Beispiel
Prüfstand	Mira-1
KI-Empfehlung	„prüfen“, Anomaliehinweis 78 %
Unabhängiger Check	Temperatur mit zweitem lokalen Sensor bestätigt
Widerspruch	keiner / vorhanden
Menschliche Entscheidung	freigeben / nicht freigeben / eskalieren
Begründung	kurzer fachlicher Satz
Verantwortliche Rolle	benannte Ausbildungsfachkraft

Datenschutzregel: Keine echten Namen, Kundendaten, Zugangsdaten oder Produktionsdaten in externe KI-Dienste eingeben. Für diesen Kurs reichen Rollenbezeichnungen und fiktive Werte.

Lerneinheit 10: Interaktives Freigabemodell

Wende das Drei-Tore-Modell auf die vier Mira-1-Fälle an.

Fall	Tor 1 Kontext	Tor 2 Evidenz	Tor 3 Befugnis	Konsequenz
A	lokal und autorisiert	zu prüfen	Fachperson erforderlich	erst nach Prüfung entscheiden
B	lokal und autorisiert	Widerspruch durch Türkontakt	Fachperson erforderlich	nicht freigeben
C	lokal und autorisiert	unabhängige Bestätigung	Fachperson erforderlich	stoppen und Fachprüfung veranlassen
D	lokal und autorisiert	Datenherkunft unklar	Fachperson erforderlich	nicht freigeben; Quelle klären

Modellgrenze: Das Schema ist absichtlich einfach. Es ersetzt weder technische Sicherheitsnormen noch Herstellerangaben, betriebliche Verfahren oder fachkundige Prüfungen.

Basis-, Anwendungs- und Transferaufgaben mit Feedback

Basis

Aufgabe: Erkläre in zwei Sätzen, warum die KI-Ausgabe „unauffällig“ nicht automatisch eine Freigabe bedeutet.

Begründetes Feedback: Eine gute Antwort trennt Empfehlung und Entscheidung. Sie nennt außerdem mindestens eine unabhängige Prüfinformation, etwa einen Türkontakt oder eine Prüfliste.

Anwendung

Aufgabe: Beurteile Fall B mit dem Drei-Tore-Modell.

Begründetes Feedback: Tor 2 ist geschlossen, weil ein unabhängiger sicherheitsrelevanter Hinweis der beruhigenden KI-Ausgabe widerspricht. Deshalb darf die geringe Anomaliewahrscheinlichkeit nicht zur Freigabe führen.

Transfer

Aufgabe: Übertrage das Modell auf einen fiktiven Ausbildungsfall Deiner Fachrichtung, etwa eine Wartungsempfehlung, Qualitätsprüfung oder Energieoptimierung. Markiere eine Stelle, an der ein Mensch zwingend entscheiden muss.

Begründetes Feedback: Besonders tragfähig ist Deine Lösung, wenn sie nicht nur „Mensch prüft“ sagt, sondern Befugnis, Prüfkriterium, Eskalationsweg und Dokumentation konkret benennt.

Medien- und Rechtecheck

Die eingebundenen Commons-Dateien wurden über ihre Dateibeschreibungsseiten geprüft. YouTube-Videos werden nur über den von YouTube bereitgestellten Einbettungsmechanismus angezeigt; sie werden nicht kopiert und sind dadurch nicht automatisch OER.

Medium	Rechtehinweis	Lernfunktion
EU Basic AI Icon 2026	Von der Europäischen Kommission zur freien Nutzung bereitgestellt; Commons weist zusätzlich Public-Domain-/Reuse-Hinweise aus	Einstieg und aktuelle EU-KI-Kommunikation
Collaborative Robot Cobot	CC BY 4.0	Mensch-Roboter-Zusammenarbeit
Worker interacts with machine control panel	CC BY 2.0	Menschliche Bedien- und Prüfsituation
Emergency stop button on a control panel in a factory	CC BY 2.0	Abgrenzung Sicherheitsfunktion und Freigabe
Emergency stop button on a HAAS CNC	CC BY-SA 4.0	Technische Schutzfunktion im Maschinenkontext

Interaktive Aufgaben

Quiz: Teste Dein Wissen

Was beschreibt die wichtigste Trennung im Kurs? (KI darf analysieren oder empfehlen, die menschliche Verantwortung bleibt klar zugeordnet) (!KI trägt automatisch die Verantwortung, sobald sie genauer als ein Mensch ist) (!KI darf jede Entscheidung ausführen, wenn ihre Konfidenz hoch ist) (!Verantwortung entsteht erst nach einem technischen Fehler)

Was bedeutet eine hohe Modellkonfidenz für eine sicherheitsrelevante Freigabe? (Sie ist nur ein Hinweis und ersetzt keine unabhängige Prüfung) (!Sie ist bereits eine rechtsgültige Freigabe) (!Sie macht eine menschliche Rolle überflüssig) (!Sie erlaubt das Umgehen von Schutzvorrichtungen)

Was geschieht im Drei-Tore-Modell bei einem unklaren Tor? (Der Prozess wird nicht freigegeben und die Unklarheit wird geklärt) (!Die KI entscheidet selbst) (!Die Aktion wird vorsorglich schneller ausgeführt) (!Die Unklarheit wird ignoriert, wenn die Produktion sonst stoppt)

Welche Beobachtung ist im Fall B entscheidend? (Der Türkontakt meldet offen) (!Die KI meldet nur 18 Prozent Anomalie) (!Die Temperatur beträgt 48 Grad Celsius) (!Die Vibration ist normal)

Welche Aussage zum Not-Halt ist richtig? (Er ist eine technische Sicherheitsfunktion und kein Ersatz für den Freigabeprozess) (!Er ist eine KI-Empfehlung) (!Er darf durch eine hohe KI-Konfidenz übergangen werden) (!Er dokumentiert automatisch die menschliche Verantwortung)

Wofür steht menschliche Aufsicht im Kontext des EU AI Act? (Für wirksame menschliche Kontrolle zur Verringerung relevanter Risiken bei Hochrisiko-KI) (!Für die Pflicht, jede KI-Ausgabe unverändert zu übernehmen) (!Für die vollständige Abschaffung automatisierter Analyse) (!Für ein freiwilliges Werbeversprechen von Anbietern)

Welche Quelle ist für den genauen Wortlaut des EU AI Act am stärksten? (Der Verordnungstext auf EUR-Lex) (!Ein Anbieter-Video) (!Ein Social-Media-Kommentar) (!Eine Produktbroschüre)

Warum ist ein Entscheidungsprotokoll wichtig? (Es macht Prüfung, Entscheidung und Begründung nachvollziehbar) (!Es erhöht automatisch die Modellgenauigkeit) (!Es ersetzt die Fachkunde der freigebenden Person) (!Es erlaubt die Nutzung echter Kundendaten im Unterricht)

Welche Daten sollen in diesem Kurs für praktische Übungen genutzt werden? (Fiktive Daten in lokalen oder ausdrücklich autorisierten Testumgebungen) (!Echte Zugangsdaten aus dem Betrieb) (!Kundendaten ohne Rückfrage) (!Daten aus fremden Netzen)

Was ist bei einem Widerspruch zwischen KI-Ausgabe und unabhängiger Sicherheitsinformation richtig? (Nicht freigeben, Widerspruch prüfen und bei Bedarf eskalieren) (!Die KI-Ausgabe hat immer Vorrang) (!Die unabhängige Information wird gelöscht) (!Die Aktion wird ausgeführt und erst danach bewertet)

Memory

Freigabe	Bewusste Zustimmung einer befugten Person
Automatisierung	Ausführung definierter Aufgaben durch ein technisches System
Aufsicht	Aktive menschliche Beobachtung und Eingriffsmöglichkeit
Eskalation	Weitergabe eines unklaren oder widersprüchlichen Falls
Plausibilitätsprüfung	Abgleich mit unabhängigen Informationen
Entscheidungsprotokoll	Dokumentierte Begründung einer Entscheidung
Restunsicherheit	Unsicherheit, die nach Prüfungen bestehen bleibt

Drag and Drop

Ordne die richtigen Begriffe zu.	Thema
Modellhinweis	Empfehlung
Plausibilitätscheck	Evidenzprüfung
Sicherheitscheck	Schutzmaßnahmen
Menschliche Freigabe	Entscheidung
Protokollierung	Nachvollziehbarkeit

Die Zuordnung zeigt den Weg von der maschinellen Ausgabe zur verantworteten Entscheidung.

Kreuzworträtsel

Freigabe	Wie heißt die bewusste Zustimmung vor einer sicherheitsrelevanten Ausführung?
Aufsicht	Welcher Begriff bezeichnet die wirksame menschliche Überwachung eines KI-Systems?
Kontext	Was muss neben der reinen Modellausgabe verstanden werden?
Protokoll	Wo wird die Begründung einer Entscheidung nachvollziehbar festgehalten?
Eskalation	Wie heißt die Weitergabe eines unklaren Falls an eine zuständige Stelle?
Verantwortung	Was darf nicht einfach an die Automatisierung abgegeben werden?

LearningApps

Lückentext

Offene Aufgaben

Leicht

Automatisierung: Sammle drei Tätigkeiten aus Deinem Ausbildungsalltag, die sich gut automatisieren lassen, und trenne sie von einer Entscheidung, die beim Menschen bleiben sollte.
Human-in-the-loop: Zeichne das Drei-Tore-Modell als einfache Skizze und markiere die Stelle der menschlichen Freigabe.
Quellenkritik: Vergleiche das DigitalEU-Video mit dem EUR-Lex-Verordnungstext und notiere zwei Unterschiede zwischen Erklärung und Primärquelle.
Arbeitssicherheit: Fotografiere nur in einer ausdrücklich erlaubten Lernumgebung eine Bedien- oder Schutzkomponente und beschreibe, warum sie nicht mit einer KI-Freigabe verwechselt werden darf.

Standard

Plausibilitätsprüfung: Entwickle fünf fiktive Sensordatenzeilen und füge jeweils eine KI-Empfehlung sowie eine unabhängige Prüfinformation hinzu.
Entscheidungsprotokoll: Erstelle für Fall A und Fall D je ein kurzes Freigabeprotokoll mit Begründung und Eskalationsweg.
Risikomanagement: Ordne die Schritte des Drei-Tore-Modells den NIST-Funktionen Govern, Map, Measure und Manage begründet zu.
Rollenspiel: Spielt zu zweit Fachkraft und KI-Bedienperson. Eine Person liest die KI-Empfehlung vor, die andere fordert die fehlenden Prüfnachweise an.

Schwer

Prozessdesign: Entwirf für einen fiktiven lokalen Prüfstand einen Ablauf, in dem KI-Vorschlag, unabhängiger Sicherheitscheck, menschliche Freigabe und Protokollierung klar getrennt sind.
Fehlerkultur: Entwickle einen Fall, in dem die KI richtig liegt, der Mensch aber aufgrund unvollständiger Dokumentation trotzdem nicht freigeben darf. Begründe die Entscheidung.
Quellenbewertung: Erstelle eine Bewertungsmatrix für EU-Rechtsquelle, NIST, BSI und Anbieter-Video mit den Kriterien Verbindlichkeit, Aktualität, technische Tiefe und Interessenkonflikt.
Transfer: Produziere ein kurzes Erklärvideo oder Poster für andere Auszubildende mit der Botschaft „Automatisiere die Aufgabe, nicht die Verantwortung“. Nutze nur selbst erstellte oder korrekt lizenzierte Medien.

Lernkontrolle

Fehlentscheidung: In einem fiktiven Fall meldet die KI „unauffällig“, ein unabhängiger Sensor aber einen Grenzfall. Entwickle einen begründeten Entscheidungsweg ohne auf die KI-Konfidenz allein zu vertrauen.
Verantwortungskette: Entwirf eine Rollenverteilung für Azubi, Ausbilderin oder Ausbilder und befugte Fachkraft. Erkläre, wer beobachten, wer prüfen und wer freigeben darf.
Quellentransfer: Erkläre, warum NIST und BSI nützlich sind, obwohl sie für die genaue EU-Rechtslage nicht dieselbe Rolle wie EUR-Lex haben.
Systemgrenze: Zeige an einem selbst gewählten technischen Ausbildungsbeispiel, an welcher Stelle die Automatisierung endet und die menschliche Verantwortung beginnt.
Eskalationsentscheidung: Formuliere drei Gründe, bei denen ein Fall trotz scheinbar plausibler KI-Ausgabe eskaliert werden muss.
Verbesserung: Überarbeite einen schlecht entworfenen Freigabeprozess, in dem die KI direkt eine Aktion auslöst, so dass unabhängige Prüfung, menschliche Entscheidung und Dokumentation enthalten sind.

Lernnachweis

Für den Lernnachweis ist wichtig, dass Du nicht nur Begriffe wiedergibst, sondern einen sicheren Entscheidungsprozess begründen kannst. Zeige an einem fiktiven Fall, dass Du KI-Empfehlung, unabhängige Evidenz, menschliche Befugnis, Eskalation und Dokumentation trennst. Erkläre außerdem die Grenzen Deines Modells und begründe, welche Quelle Du für technische, organisatorische oder rechtliche Fragen heranziehst.