aiMOOC

KI im technischen Arbeitsalltag – KI-Antworten anhand von Quellen überprüfen

QR-Code

KI im technischen Arbeitsalltag – KI-Antworten anhand von Quellen überprüfen

Kurzbeschreibung: In diesem aiMOOC lernst Du, KI-Antworten im technischen Arbeitsalltag systematisch zu prüfen: Beleg, Aktualität und fachliche Plausibilität stehen im Mittelpunkt. Du arbeitest mit kurzen Lerneinheiten, einem fiktiven Ausbildungsfall, gestuften Hilfen und sicheren Demonstrationen. Reale Produktionsanlagen, fremde Netze, Zugangsdaten, Kunden- oder Betriebsdaten werden nicht verwendet.

Zielgruppe: Auszubildende in technischen Berufen, z. B. Mechatronik, Elektronik, Metalltechnik, IT und technische Produktberufe.

Aktualitätsstand des Kurses: 09.10.2026

Einleitung

Generative KI kann technische Informationen schnell formulieren. Eine flüssige Antwort ist aber noch kein Beweis für Richtigkeit. Besonders kritisch wird es, wenn eine Antwort Messwerte, Grenzwerte, Normen, Firmwarestände, Wartungsintervalle oder angebliche Quellen nennt.

Das BSI beschreibt bei generativen KI-Modellen das Risiko, dass plausible Ausgaben sachlich falsch sein oder sogar erfundene Referenzen enthalten können. Das NIST betont für vertrauenswürdige KI unter anderem Validität, Zuverlässigkeit, Transparenz und Nachvollziehbarkeit. Der AI Act Service Desk der Europäischen Kommission nennt KI-Kompetenz als wichtige Voraussetzung für sachkundige Nutzung von KI-Systemen.

Für diesen Kurs nutzen wir die Lernhilfe BAPK:

Beleg: Ist die Aussage durch eine auffindbare Quelle gestützt?
Aktualität: Passt Datum, Version und Gültigkeitsbereich?
Plausibilität: Passt die Aussage technisch zu Einheiten, Größenordnungen und Systemlogik?
Kontext: Gilt die Quelle wirklich für dieses Modell, diese Baugruppe und diesen Anwendungsfall?

BAPK ist eine Lernhilfe dieses Kurses und keine technische Norm.

Lernziele

Nach dem Kurs kannst Du eine KI-Antwort in einzelne prüfbare Behauptungen zerlegen, geeignete Primärquellen auswählen, Versionsstände vergleichen, Widersprüche dokumentieren und eine technische Aussage als belegt, teilweise belegt, widerlegt oder noch ungeklärt einstufen.

Du kannst außerdem begründen, warum fachliche Plausibilität zwar Fehler sichtbar machen kann, aber niemals einen fehlenden Beleg ersetzt.

Sicherheitsrahmen

Alle Übungen verwenden ausschließlich fiktive technische Daten, frei zugängliche Lernquellen oder ausdrücklich öffentliche Demonstrationsumgebungen.

Keine fremden Netze, Produktivsysteme oder realen Maschinen testen.
Keine Passwörter, Tokens, Zugangsdaten, Kundendaten oder vertraulichen Betriebsinformationen in KI-Dienste eingeben.
Keine KI-Anweisung ungeprüft an Steuerungen, Maschinen, Anlagen oder Sicherheitssysteme übertragen.
Externe Demonstrationen nur mit eingebauten Beispieldaten nutzen; keine eigenen Betriebsdaten hochladen.
Bei Unsicherheit gilt: stoppen, dokumentieren und eine fachlich verantwortliche Person einbeziehen.

Lernpfad in kurzen Einheiten

Einheit	Zeit	Kernfrage	Ergebnis
1	8 Minuten	Was ist eine prüfbare Behauptung?	Aussagen markieren
2	10 Minuten	Welche Quelle zählt?	Primär- und Sekundärquellen unterscheiden
3	10 Minuten	Ist die Quelle noch aktuell?	Version, Datum und Gültigkeit prüfen
4	10 Minuten	Ist die Antwort technisch plausibel?	Einheiten, Größenordnungen und Kontext prüfen
5	15 Minuten	Wie werden widersprüchliche Quellen bewertet?	Quellenvergleich dokumentieren
6	15 Minuten	Wie wird eine Entscheidung begründet?	Prüfprotokoll erstellen

Lerneinheit 1: Behauptungen statt Gesamtantwort prüfen

Eine KI-Antwort kann gleichzeitig richtige und falsche Teile enthalten. Prüfe deshalb nicht nur den Gesamteindruck.

Beispiel: „Das Bauteil LT-24 darf bis 70 °C betrieben werden, benötigt alle sechs Monate Wartung und Firmware 4.2 ist aktuell.“

Darin stecken mindestens drei getrennte Behauptungen:

zulässige Temperatur,
Wartungsintervall,
aktueller Firmwarestand.

Jede Behauptung braucht ihren eigenen Nachweis.

Mini-Aufgabe: Aussagen markieren

Markiere in einer KI-Antwort alle Zahlen, Versionsangaben, Normen, Produktbezeichnungen, Sicherheitsbehauptungen und Formulierungen wie „immer“, „muss“, „garantiert“ oder „aktuell“.

Begründetes Feedback: Je konkreter eine Behauptung ist, desto leichter lässt sie sich gegen eine Quelle prüfen. Eine überzeugende Formulierung ohne überprüfbare Fundstelle bleibt trotzdem unbelegt.

Lerneinheit 2: Quellenhierarchie

Nicht jede Quelle hat für jede Aussage denselben Wert.

Quelle	Typische Stärke	Typische Grenze
Aktuelles Herstellerhandbuch	Primärquelle für produktspezifische technische Daten	Kann durch neuere Revision ersetzt worden sein
Norm oder technische Regel	Definiert Anforderungen und Begriffe	Gilt nur im passenden Anwendungsbereich
Offizielle Behörde oder Fachinstitution	Hohe fachliche Einordnung	Oft nicht produktspezifisch
Fachbuch oder Fachartikel	Erklärt Zusammenhänge	Kann veralten
Forum oder Social-Media-Beitrag	Liefert Hinweise und Praxiserfahrungen	Kein ausreichender Beleg für sicherheitskritische Daten
KI-Antwort	Hilft beim Strukturieren und Suchen	Ist selbst keine Primärquelle

Merksatz: Eine KI-Antwort kann Dich zu einer Quelle führen. Sie ersetzt die Quelle nicht.

Lerneinheit 3: Aktualität prüfen

Prüfe bei technischen Quellen mindestens:

Veröffentlichungs- oder Änderungsdatum,
Dokumentversion oder Revisionsstand,
betroffene Produkt- oder Softwareversion,
Gültigkeitsbereich,
Hinweise auf Nachfolger, Rückrufe, Korrekturen oder Änderungslisten.

Eine ältere Quelle ist nicht automatisch falsch. Sie kann aber für einen neueren Versionsstand ungeeignet sein.

Aktuelles Beispiel: Das NIST weist 2026 darauf hin, dass der AI Risk Management Framework 1.0 überarbeitet wird. Genau solche Hinweise zeigen, warum „offizielle Quelle“ und „aktuelle Quelle“ zwei getrennte Prüfschritte sind.

Lerneinheit 4: Fachliche Plausibilität

Plausibilitätsprüfungen helfen, auffällige Fehler zu erkennen.

Prüffrage	Beispiel
Stimmen die Einheiten?	Volt, Ampere, Ohm, Newtonmeter oder Millimeter nicht verwechseln
Passt die Größenordnung?	Ein Wert darf nicht um Zehnerpotenzen unplausibel abweichen
Passt der Systemkontext?	Quelle muss zum richtigen Modell und Betriebszustand gehören
Ist die Aussage widerspruchsfrei?	Grenzwert und empfohlener Arbeitsbereich nicht vermischen
Gibt es eine nachvollziehbare Ursache?	Änderungen sollten durch Revision, Herstellerhinweis oder Messung erklärbar sein

Wichtig: Plausibilität ist kein Beweis. Eine Aussage kann plausibel klingen und trotzdem falsch sein.

Interaktives Modell: Vertrauen ist nicht Wahrheit

Öffne nur die öffentliche Demonstration mit den eingebauten künstlichen Datensätzen: TensorFlow Playground

Verändere Rauschen, Trainingsdauer und Netzstruktur. Beobachte, dass ein Modell auch bei scheinbar klaren Mustern Fehlklassifikationen erzeugen kann.

Sicherheitsregel: Keine eigenen Betriebs-, Kunden- oder Personendaten eingeben. Für diese Übung reichen die eingebauten synthetischen Daten vollständig aus.

Transferfrage: Warum darf eine hohe Modellkonfidenz nicht mit technischer Wahrheit gleichgesetzt werden?

Interaktive Demonstration: Modellverhalten vergleichen

Das öffentliche What-If Tool stellt vorgefertigte Demonstrationen mit öffentlichen Beispieldaten bereit. Nutze ausschließlich diese eingebauten Demos.

Beobachte, wie sich Vorhersagen verändern, wenn Eingabemerkmale geändert werden.

Lernziel: Modelle reagieren auf Daten und Modellannahmen. Auch deshalb muss eine konkrete technische Aussage außerhalb des Modells anhand geeigneter Fachquellen geprüft werden.

Lerneinheit 5: Konkreter Ausbildungsfall

Situation: Du arbeitest in einer fiktiven Ausbildungswerkstatt. Die Lernstation heißt LT-24. Sie ist nicht mit einer Produktionsanlage verbunden.

Eine KI liefert folgende Antwort:

„Für den Sensor ST-17 gilt eine maximale Umgebungstemperatur von 70 °C. Die Wartung erfolgt halbjährlich. Firmware 4.2 ist der aktuelle Stand.“

Für die Übung erhältst Du drei fiktive Dokumente:

Quelle	Inhalt	Stand
A: Herstellerhandbuch LT-24	ST-17: maximal 60 °C; Sichtprüfung jährlich; Firmware nicht genannt	Version 3.1, 20.08.2026
B: alter Werkstattausdruck	ST-17: maximal 55 °C; Sichtprüfung halbjährlich	Ausdruck 2024, genaue Revision fehlt
C: Forumseintrag	„70 °C funktioniert bei uns“	2025, keine Fundstelle

Arbeitsauftrag zum Ausbildungsfall

Prüfe jede der drei KI-Behauptungen getrennt.

KI-Behauptung	Prüfergebnis	Begründung
70 °C maximal	widerlegt	Aktuelles fiktives Herstellerhandbuch nennt 60 °C
halbjährliche Wartung	widerlegt	Aktuelles fiktives Herstellerhandbuch nennt jährliche Sichtprüfung
Firmware 4.2 aktuell	ungeklärt	Keine vorliegende Quelle nennt einen Firmwarestand; aktuelle Hersteller-Release-Notes wären erforderlich

Begründetes Feedback: Quelle A ist für produktspezifische Werte stärker als Quelle C. Quelle B kann historisch interessant sein, hat aber einen unklaren Revisionsstand. Beim Firmwarestand wäre es falsch, eine Zahl zu raten. Die korrekte Entscheidung lautet ungeklärt.

Gestufte Hilfen

Hilfe 1: Unterstreiche jede Zahl und jeden Versionsbegriff.

Hilfe 2: Frage zu jeder Aussage: „Welche Quelle könnte diese Information überhaupt verbindlich liefern?“

Hilfe 3: Vergleiche Datum, Version, Modellbezeichnung und Gültigkeitsbereich.

Hilfe 4: Wenn kein Beleg vorhanden ist, formuliere „ungeklärt“ statt eine Vermutung als Tatsache auszugeben.

Lerneinheit 6: Kritischer Quellenvergleich

Das Video „Künstliche Intelligenz | BSI“ stammt vom offiziellen Kanal des Bundesamts für Sicherheit in der Informationstechnik. Nutze es als Einstieg in Fragen zu Transparenz und sicherem KI-Einsatz.

Das Video „Mastering AI Risk: NIST’s Risk Management Framework Explained“ stammt von IBM Technology. Es ist eine verständliche Sekundärdarstellung. Prüfe zentrale Aussagen anschließend gegen die NIST-Primärquelle.

Auftrag: Notiere eine Aussage aus dem zweiten Video. Suche dieselbe Aussage im NIST AI RMF oder im NIST GenAI Profile. Bewerte anschließend:

direkt belegt,
sinngemäß belegt,
nicht gefunden,
durch neueren Stand relativiert.

Begründetes Feedback: Ein seriöser Kanal erhöht die Wahrscheinlichkeit guter Informationen, ersetzt aber nicht den Abgleich mit der zugrunde liegenden Primärquelle.

Aktuelle fachliche Referenzen

Quelle	Wofür geeignet?	Kritischer Aktualitätscheck
BSI: Generative KI-Modelle	Risiken, Ausgabequalität, Halluzinationen, Schutzmaßnahmen	Änderungsstand des Dokuments prüfen
NIST AI 600-1: Generative AI Profile	Risikomanagement, Validität, Transparenz, Provenienz	Veröffentlichungs- und Revisionshinweise prüfen
NIST AI RMF	Vertrauenswürdige KI und Risikomanagement	NIST weist 2026 auf laufende Revision von AI RMF 1.0 hin
EU AI Act Service Desk: Artikel 4 KI-Kompetenz	KI-Kompetenz im betrieblichen Kontext	Konsolidierungsstand und rechtlichen Status beachten
UNESCO Guidance for Generative AI	Datenschutz, menschliche Kontrolle, Bildung	Aktualisierungsdatum prüfen
KI-Campus Prompt-Labor – Grundlagen	Offenes Lernangebot zu GenAI, Risiken und Qualitätskontrolle	Kursstand und Zielgruppe beachten

Quellencheck in 90 Sekunden

Schritt	Frage	Entscheidung
1	Was genau behauptet die KI?	Behauptung einzeln notieren
2	Gibt es eine Primärquelle?	Fundstelle öffnen
3	Ist sie aktuell?	Datum und Version vergleichen
4	Gilt sie für den Kontext?	Modell und Geltungsbereich prüfen
5	Ist sie fachlich plausibel?	Einheiten und Größenordnung prüfen
6	Reicht der Nachweis?	belegt, teilweise belegt, widerlegt oder ungeklärt

Medienkompetenz und Medienrechte

Die im Kurs eingebundenen Commons-Medien wurden vor der Aufnahme auf vorhandene Dateiseiten und Lizenzangaben geprüft.

AI Source Verification.png: CC0 1.0.
Fact Checking.png: CC BY-SA 4.0.
Künstliche Intelligenz - Ansätze.svg: CC BY-SA 4.0.
LeNet-5 architecture.svg: CC BY-SA 4.0.
Online fact-checking session 12.png: CC BY-SA 4.0.
Fact-Checking by Jananie Kulandaivelu for the Wikimedia Foundation.webm: CC BY-SA 4.0.

YouTube-Videos werden nur eingebettet, nicht als OER neu lizenziert. Rechte und Verfügbarkeit verbleiben bei den jeweiligen Rechteinhabern und Plattformen.

Datei:Fact-Checking by Jananie Kulandaivelu for the Wikimedia Foundation.webm

Basis-, Anwendungs- und Transfertraining

Basis: Beleg erkennen

Aufgabe: Eine KI nennt einen Grenzwert und einen Link. Prüfe nur, ob der Link tatsächlich zur behaupteten Fundstelle führt und ob Autor oder Institution erkennbar sind.

Feedback: Ein funktionierender Link ist noch kein ausreichender Beleg. Entscheidend ist, ob die konkrete Aussage an der Fundstelle wirklich enthalten ist.

Anwendung: Aktualität bewerten

Aufgabe: Zwei Herstellerdokumente nennen unterschiedliche Werte. Dokument A ist von 2024, Dokument B von 2026 und nennt ausdrücklich dasselbe Modell.

Feedback: Der neuere Stand ist ein starkes Signal, aber prüfe zusätzlich Revisionshinweise und Gültigkeitsbereich. „Neuer“ allein entscheidet nicht automatisch.

Transfer: Plausibilität und Beleg trennen

Aufgabe: Eine KI nennt einen technisch plausiblen Wert, aber keine Quelle. Formuliere eine fachgerechte Reaktion.

Musterlösung: „Der Wert erscheint plausibel, ist aber nicht belegt. Vor der Verwendung wird eine aktuelle Primärquelle für das konkrete Modell benötigt.“

Feedback: Diese Formulierung trennt technische Einschätzung und Nachweis sauber und verhindert, dass Vermutungen als Fakten weitergegeben werden.

Interaktive Aufgaben

Quiz: Teste Dein Wissen

Was ist der beste erste Schritt bei einer konkreten technischen KI-Behauptung? (Die Behauptung in einzelne prüfbare Aussagen zerlegen) (!Die Antwort sofort in die Dokumentation übernehmen) (!Nur die Länge der Antwort bewerten) (!Die KI nach einer selbst erfundenen Bestätigung fragen)

Welche Quelle ist für einen produktspezifischen Grenzwert meist am stärksten? (Ein aktuelles Herstellerhandbuch für das konkrete Modell) (!Ein anonymer Forumseintrag) (!Eine KI-Zusammenfassung ohne Fundstelle) (!Ein Social-Media-Kommentar)

Was gehört zur Aktualitätsprüfung einer technischen Quelle? (Datum Version und Gültigkeitsbereich prüfen) (!Nur das Dateiformat prüfen) (!Nur die Schriftgröße prüfen) (!Nur den ersten Absatz lesen)

Was bedeutet fachliche Plausibilität? (Die Aussage passt zu Einheiten Größenordnung und Systemlogik) (!Die Aussage klingt besonders selbstbewusst) (!Die Antwort enthält viele Fachwörter) (!Die Antwort wurde sehr schnell erzeugt)

Warum reicht Plausibilität allein nicht aus? (Eine plausible Aussage kann trotzdem falsch sein) (!Plausibilität gilt nur bei Bildern) (!Plausibilität ersetzt immer eine Quelle) (!Plausibilität macht Versionsangaben unnötig)

Wie sollte ein nicht belegbarer Firmwarestand bewertet werden? (Als ungeklärt) (!Als automatisch richtig) (!Als automatisch aktuell) (!Als verbindliche Herstellerangabe)

Welche Aussage über eine KI-Antwort ist richtig? (Sie kann als Suchhilfe dienen ist aber selbst keine Primärquelle) (!Sie ist immer eine technische Norm) (!Sie ist automatisch aktueller als Herstellerunterlagen) (!Sie darf ohne Prüfung in eine Steuerung übernommen werden)

Was ist bei widersprüchlichen Quellen besonders wichtig? (Version Kontext und Quellenart vergleichen) (!Die längste Quelle auswählen) (!Immer die älteste Quelle verwenden) (!Immer die KI entscheiden lassen)

Welche Daten gehören nicht in eine öffentliche KI-Demonstration? (Echte Zugangsdaten und vertrauliche Betriebsdaten) (!Fiktive Lernwerte) (!Öffentliche Beispieldaten) (!Synthetische Trainingsdaten)

Welche Einstufung ist angemessen wenn eine Aussage durch eine aktuelle Primärquelle klar bestätigt wird? (Belegt) (!Widerlegt) (!Ungeklärt) (!Irrelevant)

Memory

Primärquelle	Herstellerhandbuch
Aktualität	Versionsdatum
Beleg	Nachweisbare Fundstelle
Plausibilität	Technischer Konsistenzcheck
Halluzination	Erfunden wirkende Ausgabe
Provenienz	Herkunftsnachweis

Drag and Drop

Ordne die richtigen Begriffe zu.	Quellenprüfung
Belegbarkeit	Autor Fundstelle und Quelle nachvollziehen
Aktualität	Datum Version und Gültigkeit prüfen
Plausibilität	Einheiten Größenordnung und Systemlogik prüfen
Kontextpassung	Modell Baugruppe und Betriebszustand abgleichen
Freigabe	Erst nach dokumentierter Prüfung weiterverwenden

Kreuzworträtsel

Primärquelle	Welche Quellenart stammt möglichst direkt vom Hersteller oder Urheber?
Provenienz	Wie heißt der nachvollziehbare Herkunftsnachweis von Informationen?
Plausibilität	Wie heißt die Prüfung auf technische Stimmigkeit?
Version	Welcher Begriff bezeichnet einen konkreten Revisionsstand?
Fundstelle	Wie heißt der genaue Ort an dem ein Beleg gefunden wird?
Kontext	Welcher Begriff beschreibt Modell Umgebung und Anwendungsfall einer Aussage?

LearningApps

Lückentext

Eine konkrete KI-Aussage braucht einen nachvollziehbaren

.

Bei technischen Dokumenten muss der aktuelle

geprüft werden.

Eine Primärquelle stammt möglichst nah vom

der technischen Information.

Die Prüfung von Einheiten und Größenordnungen gehört zur fachlichen

.

Eine überzeugend formulierte aber erfundene KI-Ausgabe wird häufig als

bezeichnet.

Passt eine Quelle nicht zum konkreten Modell fehlt die richtige

.

Ist eine Behauptung nicht ausreichend nachweisbar bleibt sie

.

Vertrauliche Betriebsdaten dürfen nicht ungefragt an externe KI-Dienste

werden.

Offene Aufgaben

Leicht – Basis

Behauptungen markieren: Nimm eine kurze fiktive KI-Antwort und markiere alle Zahlen, Versionen und Normverweise. Begründe bei drei Markierungen, warum sie überprüfbar sind.
Quellenarten sortieren: Ordne Herstellerhandbuch, Norm, Fachartikel, Forum und KI-Antwort nach ihrer Eignung für einen konkreten technischen Grenzwert und begründe Deine Reihenfolge.
Versionscheck: Vergleiche zwei fiktive Dokumentstände und notiere, welche Angaben Du zur Aktualitätsbewertung noch brauchst.
Plausibilitätscheck: Erfinde drei harmlose technische Aussagen mit fiktiven Größenwerten und kennzeichne, welche davon wegen Einheit oder Größenordnung auffällig wäre.

Standard – Anwendung

Prüfprotokoll: Erstelle für den Ausbildungsfall LT-24 ein Prüfprotokoll mit Behauptung, Quelle, Datum, Version, Ergebnis und Begründung.
Quellenvergleich: Vergleiche eine offizielle Fachquelle mit einer Sekundärquelle zum Thema KI-Risiken. Markiere Gemeinsamkeiten, Unterschiede und mögliche Aktualitätsprobleme.
Video-Quellencheck: Wähle eine Aussage aus dem eingebetteten NIST-Erklärvideo von IBM Technology und gleiche sie mit einer NIST-Primärquelle ab.
Sicherer Prompt: Formuliere einen Prompt, der ausschließlich mit fiktiven Daten arbeitet und die KI auffordert, Unsicherheiten sowie fehlende Belege ausdrücklich zu kennzeichnen.

Schwer – Transfer

Werkstattstandard: Entwickle eine einseitige Checkliste für Deinen Ausbildungsbetrieb, mit der KI-Antworten vor der Weiterverwendung geprüft werden können. Verwende keine realen Betriebsdaten.
Konfliktfall: Konstruiere einen fiktiven Fall, in dem Herstellerhandbuch, alte Arbeitsanweisung und Forum unterschiedliche Werte nennen. Entscheide begründet, welche Information weiterverwendet werden darf.
Fehleranalyse: Erstelle eine kurze Bildschirmpräsentation oder ein Erklärvideo darüber, warum eine fachlich plausible KI-Aussage trotzdem unbelegt sein kann.
Transfergespräch: Führe ein Interview mit einer ausbildenden Fachkraft über Quellenprüfung im technischen Alltag. Nutze keine vertraulichen Projektdaten und dokumentiere drei übertragbare Regeln.

Begründetes Feedbackraster

Niveau	Stark	Noch verbessern
Basis	Behauptung und Beleg werden getrennt	Gesamtantwort wird nur nach Eindruck bewertet
Anwendung	Datum Version Kontext und Fundstelle sind dokumentiert	Es wird nur eine Quelle ohne Versionsprüfung genannt
Transfer	Widersprüche werden begründet aufgelöst und Unsicherheit bleibt sichtbar	Fehlende Belege werden durch Vermutungen ersetzt

Lernkontrolle

Quellenkonflikt bewerten: Zwei aktuelle Quellen widersprechen sich. Entwickle ein Vorgehen, mit dem Du Geltungsbereich, Autorität und Revisionsstand vergleichst, bevor Du entscheidest.
Plausibilität ohne Beleg: Eine KI nennt einen technisch plausiblen Grenzwert. Erkläre, warum Du ihn trotzdem nicht für eine reale Anlage freigeben würdest.
Veraltete Primärquelle: Ein offizielles Handbuch ist älter als ein neuer Fachartikel. Beschreibe, welche zusätzlichen Informationen nötig sind, bevor Du eine Quelle bevorzugst.
Ungeklärte Aussage: Zeige an einem fiktiven Beispiel, wann „ungeklärt“ die fachlich bessere Entscheidung ist als „wahrscheinlich richtig“.
Rollenwechsel: Du bist für die Qualitätssicherung einer technischen Arbeitsanweisung verantwortlich. Entwickle drei Prüfschritte, die verhindern, dass unbelegte KI-Aussagen in die Arbeitsanweisung gelangen.
Datenschutztransfer: Ein Kollege möchte einen echten Fehlerbericht mit Kundendaten in einen öffentlichen KI-Dienst kopieren. Formuliere eine sichere Alternative mit anonymisierten oder vollständig fiktiven Testdaten.

Lernnachweis

Für einen Lernnachweis zu diesem Thema ist wichtig, dass Du:

konkrete KI-Behauptungen identifizieren kannst,
mindestens eine geeignete Primärquelle findest,
Datum Version und Gültigkeitsbereich vergleichst,
fachliche Plausibilität von tatsächlichem Beleg unterscheidest,
Widersprüche nachvollziehbar dokumentierst,
Ergebnisse als belegt teilweise belegt widerlegt oder ungeklärt einstufst,
Sicherheits- und Datenschutzgrenzen einhältst,
reale Betriebsentscheidungen nicht aus ungeprüften KI-Antworten ableitest.

Als Lernprodukt eignet sich ein Quellenprüfprotokoll zu einem vollständig fiktiven Ausbildungsfall mit mindestens drei Behauptungen und begründeten Entscheidungen.

OERs zum Thema

Wikipedia: KI-Halluzinationen

KI-Campus: Prompt-Labor – Grundlagen Offenes Lernangebot zu generativer KI, Qualitätskontrolle und Risiken

Google Machine Learning Crash Course Interaktive Visualisierungen und Übungen

Quellen für Lehrkräfte und Ausbildende

AI Act Service Desk – Artikel 4 KI-Kompetenz: konsolidierte Darstellung mit Stand 27.07.2026.
NIST AI Risk Management Framework: Rahmenwerk für vertrauenswürdige KI; Revisionshinweise beachten.
NIST AI 600-1: GenAI Profile mit Risiken und Maßnahmen.
BSI – Generative KI-Modelle: Risiken und Gegenmaßnahmen für generative KI.
UNESCO – Guidance for Generative AI in Education and Research: Datenschutz, menschliche Kontrolle und verantwortliche Nutzung.
KI-Campus Prompt-Labor: frei zugängliche Lernmaterialien und praxisorientierte GenAI-Übungen.