aiMOOC

KI-Fehler erkennen und Ergebnisse zuverlässig überprüfen

QR-Code

Einleitung

Künstliche Intelligenz kann technische Auskünfte flüssig formulieren, ohne dass diese sachlich richtig sein müssen. Du lernst Halluzinationen, erfundene Quellen, Rechenfehler und Scheingenauigkeit zu erkennen und Ergebnisse anhand von Originalbelegen zu prüfen. Dein Lernprodukt ist eine Fehlerkarte zu zehn absichtlich verfälschten Antworten mit einem begründeten Prüfbericht.

Zielgruppe: Auszubildende, empfohlen 1. Ausbildungsjahr. Voraussetzungen: Einheiten lesen, Tabellen nutzen und Quellen von Vermutungen unterscheiden. Umfang: etwa 4 bis 6 Lerneinheiten; alle Aufgaben sind mit Papier und Stift und bei Bedarf Taschenrechner offline ohne kostenpflichtiges KI-Konto möglich.

Vorwissen: Bestehende MOOCwiki-Grundlage. Wiederhole kurz: Was ist eine Behauptung? Was ist ein Beleg? Was ist eine Vermutung? Die verlinkte Seite konnte beim Erstellen nicht direkt geöffnet werden; deshalb sind alle benötigten Erklärungen hier enthalten.

Grenzen: Alle Aufträge und Unterlagen sind ausdrücklich fiktiv. Es geht nur um Papier-Simulation und keine reale Maschinensteuerung, Montageentscheidung oder Sicherheitsfreigabe. Keine realen vertraulichen Daten verwenden. Dieses unabhängige Bildungsangebot ist weder eine offizielle Liebherr- noch eine IHK-Zertifizierung.

Halluzinationen und Fehlertypen erkennen

Sicherer Sprachstil ist kein Wahrheitsbeweis

Ein großes Sprachmodell erzeugt passende Textfolgen. Sprachliche Flüssigkeit ist kein Ersatz für eine Messung oder ein Originaldokument. Halluzination oder Konfabulation bezeichnet eine überzeugend wirkende, aber falsche oder unbelegte Ausgabe. Eine Halluzination ist nicht die einzige Fehlerquelle: Auch alte Versionen, falsch zugeordnete Varianten und missverstandene Einheiten führen zu unzuverlässigen Antworten.

Unterscheide drei Urteile: belegt bedeutet mit gültiger Fundstelle gestützt; widerlegt bedeutet durch überprüfbaren Gegenbeleg entkräftet; offen bedeutet noch nicht ausreichend geprüft. Eine fehlende Quelle allein belegt nicht, dass jeder Inhalt der Antwort falsch ist. Fachsprache darf nicht dazu verleiten, auf die Quellenkontrolle zu verzichten.

Medienbeispiel: Der Screenshot zeigt eine erfundene Antwort auf Französisch. Auch ohne die Sprache zu verstehen kannst du fragen, ob es dafür einen Originalbeleg gibt. Lobepaq, CC BY-SA 4.0, Commons-Dateiseite. Alternative zum Bild: Eine KI formuliert eine Erfindung im gleichen Ton wie eine wahre Aussage.

Merkmale einer überprüfbaren Aussage

Kennzeichne in einem KI-Text jede Quelle, jede Zahl, jede Einheit und jeden Freigabeanspruch. Eine beobachtbare Textstelle ist etwas anderes als eine rechnerisch abgeleitete Größe. Beispiel: »Im Auftrag steht B mit acht Baugruppen« prüfst du im Auftrag; »acht mal sechs Schrauben« prüfst du mit der Rechnung. »Die Montage ist freigegeben« wäre eine weitere, eigenständig nachweispflichtige Behauptung.

NIST AI 600-1 bezeichnet das selbstsichere Erzeugen falscher Inhalte als Confabulation und empfiehlt unter anderem Quellen und Zitate zu prüfen. Diese Risikomanagementempfehlung ist keine technische Sicherheitsnorm für unser Lehrmodell.

Quellenprüfung und Dokumentversionen

Quelle wirklich öffnen und vergleichen

Eine Primärquelle ist ein für die Frage maßgebliches Ausgangsdokument, etwa die gültige Auftrags- oder Stückliste. Provenienz bezeichnet Ursprung und Bearbeitungsgeschichte eines Dokuments. Frage bei jeder Quellenangabe: Existiert sie? Ist der Herausgeber identifizierbar? Welche Version gilt? Wo steht der behauptete Satz genau? Ist die Fundstelle für die richtige Variante relevant?

Geführter Quellencheck: Eine manipulierte Antwort nennt »Standard F-99, Abschnitt 7« für eine fiktive Montage. Im vollständigen Lehrfall-Register gibt es nur K1 bis K5. Ergebnis: F-99 ist in diesem Modellfall nicht nachgewiesen. Die Zahl der Schrauben muss zusätzlich in der aktuellen Stückliste nachgesehen werden. Aus einem echten Dokument kann ebenfalls falsch oder aus einer nicht mehr gültigen Fassung zitiert werden.

Audio: Wort Quelle anhören (Jeuwre, CC BY-SA 4.0, Commons-Dateiseite). Textalternative: Eine Quelle ist die Herkunft eines Belegs; die Tondatei dient nur zur Worterklärung.

Versionskonflikte und Gegenbelege

Ein neueres Internetdatum ersetzt keine Gültigkeitsprüfung. Entscheidend ist die für Auftrag und Variante zuständige Dokumentfassung. Widerlegungsversuch heißt: Du suchst bewusst nach einer Beobachtung, die die Behauptung falsifizieren würde. Wenn keine solche Beobachtung gefunden wird, ist die Aussage nicht automatisch bewiesen. Eine zweite zustimmende KI-Antwort ist nicht unabhängig, wenn sie dieselbe unbestätigte Information übernimmt.

Die EU-Kommission erläutert in ihren FAQ zur KI-Kompetenz nach Artikel 4 des AI Act den kontextabhängigen Erwerb von Wissen und Fähigkeiten im Umgang mit KI-Systemen. Diese FAQ bescheinigen keine Person und keinen Kurs als zertifiziert.

Rechnungen und Scheingenauigkeit kontrollieren

Unabhängige Zweitrechnung

Eine unabhängige Kontrollrechnung beginnt erneut bei den Primärdaten und nicht bei der KI-Behauptung. Dokumentiere Eingaben, Formeln, Zwischenschritte, Einheiten und Rundungsregeln. Ein Plausibilitätstest fragt nach der Größenordnung und entdeckt manchmal Fehler schon vor der genauen Rechnung. Eine Rechnung ohne richtige Quellenbasis kann zwar formal korrekt sein, aber trotzdem die falsche Variante berechnen.

Bild: Für eine Gegenprobe hilft ein Taschenrechner, ist aber nicht zwingend. Kaviyadharshini Selvakumar, CC BY-SA 4.0, Commons-Dateiseite. Alternative: Rechne jede Variante schriftlich getrennt.

Richtige Rundung ist Teil des Belegs

Wenn der rechnerische Bedarf an Einzelteilen beispielsweise 100,8 Stück beträgt, sind mindestens 101 ganze Stück erforderlich. Das ist Aufrunden für ausreichende Stückzahlen, nicht die Rundung einer unsicheren Messung. Bei Masse unterscheide mathematischen Rechenwert und Messunsicherheit: Ausgangsmassen in Schritten von 0,1 kg belegen keine sechs verlässlichen Nachkommastellen des Ergebnisses. Dieses Vortäuschen höherer Genauigkeit heißt Scheingenauigkeit.

Animation: Visuelle Erinnerung an das Nachrechnen; sie selbst prüft nichts. Videoplasty.com, CC BY-SA 4.0, Commons-Dateiseite. Statische Alternative: Symbol eines Taschenrechners.

Modellfall: Montageauftrag M-27 geführte Prüfung

Synthetische Originalunterlagen K1 bis K5

Die folgende fiktive Montage ist ausschließlich ein Rechen- und Quellenmodell, kein echter technischer Standard. Alle hier dargestellten Dokumente existieren nur innerhalb dieser Lernaufgabe.

Kennung	Bezeichnung	Version und Datum	Verbindliche Angaben im Modell
K1	Auftrag M-27	V1, 01.10.2026	12 Baugruppen A und 8 Baugruppen B; zusammen 20
K2	Stückliste aktuell	R3, 02.10.2026	A benötigt 4 Schrauben und hat Masse 2,4 kg; B benötigt 6 Schrauben und hat Masse 3,1 kg
K3	Übungsprüfplan	P2, 03.10.2026	Ausschließlich Papierkontrolle; keine Realfreigabe
K4	Stückliste abgelöst	R2, 01.08.2026	Frühere Zahl für A: 5 Schrauben; nicht gültig für M-27
K5	Rechenregel für M-27	V1, 03.10.2026	Zu den Schrauben 5 Prozent Reserve hinzurechnen und nach oben auf ganze Stück aufrunden

Geführtes Musterbeispiel rechnen und begründen

Eine fiktive KI behauptet: »Für alle Baugruppen werden 108 Schrauben ohne Reserve benötigt.« Prüfe selbst: A: 12 × 4 = 48 Stück; B: 8 × 6 = 48 Stück. Summe: 96 Stück. Der Satz ist widerlegt. Nach K5 ergibt die Reserve 96 × 1,05 = 100,8, also 101 ganze Stück. Kontrollweg: 48 + 48 ist wiederum 96.

Für die Gesamtmasse ergibt sich aus K1 und K2: 12 × 2,4 kg = 28,8 kg; 8 × 3,1 kg = 24,8 kg; insgesamt 53,6 kg. Das ist ein Rechenwert ohne Verpackung und keine reale Wägung. Eine KI-Behauptung »56,3 kg« wird damit widerlegt; »53,600000 kg mit sechs zuverlässigen Nachkommastellen« übertreibt die Genauigkeit.

Beispielprüfbericht: ID F4; Aussage 108 Schrauben; Beleg K1 V1 und K2 R3; Rechnung 48 + 48 = 96; Befund widerlegt; Korrektur 96 Stück ohne Reserve; Widerlegungsfrage: Ergibt eine getrennte Berechnung nach Varianten denselben Bedarf? Keine reale Freigabe ableiten.

Medien und Offline-Alternative

Deutschsprachiges YouTube-Angebot: Lukas Hüttis: Was ist eine Halluzination bei KI? (laut Autorenseite veröffentlicht am 01.10.2026). Der Direktabruf bei YouTube war beim Prüfen gedrosselt; aktuelle Abspielbarkeit und Rechte zur Wiederverwendung wurden daher nicht als bestätigt eingestuft. Das Video ist optional, kein Bestandteil einer Pflichtaufgabe. ZDF-Video zum Thema ist eine weitere externe Vertiefung.

Medienfreie Alternative: Lies den Musterfall laut oder leise und formuliere den Satz selbst: »Auch eine überzeugend klingende Antwort muss mit einem Originalbeleg und einer unabhängigen Rechnung geprüft werden.« Alle Arbeitsblätter und Lösungen sind allein mit den Tabellen dieser Seite zugänglich.

Transfer: Fehlerkarte für zehn manipulierte Antworten

Zehn synthetische Fehlerfälle

Jeder der zehn folgenden Sätze ist absichtlich fehlerhaft und wurde nur für diesen Kurs erfunden. Es werden keine realen KI-Protokolle und keine betrieblichen Interna verwendet.

ID	Zu prüfende manipulierte Antwort
F1	»Standard F-99, Abschnitt 7, verlangt sechs Schrauben je A-Baugruppe.«
F2	»Die aktuelle Stückliste K2 R3 enthält sechs Schrauben pro A-Baugruppe.«
F3	»Für Auftrag M-27 gilt K4 R2 mit fünf Schrauben für A; der Versionsstand spielt keine Rolle.«
F4	»12 × 4 + 8 × 6 ergibt 108 Schrauben ohne Reserve.«
F5	»96 × 1,05 sind 100,8 Schrauben; 100 vorhandene Schrauben genügen.«
F6	»12 × 2,4 kg plus 8 × 3,1 kg sind 56,3 kg.«
F7	»Die Gesamtmasse ist exakt 53,600000 kg mit sechs gesicherten Nachkommastellen.«
F8	»K3 P2 berechtigt zur realen Montage und ersetzt jede weitere Sicherheitsfreigabe.«
F9	»K1 bestellt neun Baugruppen B und insgesamt 21 Baugruppen.«
F10	»Zwei gleichlautende KI-Antworten sind ein unabhängiger Beweis und ersetzen das Nachrechnen.«

Fehlerkarte und Prüfbericht als Lernprodukt

Lege eine Tabelle mit sechs Spalten an: ID – Behauptung – Fehlerart – Quelle und Version – eigenständige Prüfung – Befund mit Korrektur und Widerlegungsversuch. Untersuche alle F1 bis F10. Pro Zeile darfst du mehrere Fehlerarten nennen. Markiere Ungeklärtes ausdrücklich als offen.

Drei verpflichtende Prüfungen: Erkenne die erfundene Quelle F-99 anhand des vollständigen K1–K5-Registers und unterscheide Quellenfehler von Zahlenfehler. Prüfe F4 und F6 unabhängig mit schriftlichem Rechenweg und Einheiten. Erläutere bei F7, weshalb scheinbar exakte Nachkommastellen keine zusätzliche Datengenauigkeit schaffen. Entscheide jeweils selbst und begründe deine Wahl.

Geforderter Widerlegungsversuch: Suche bei F3, F5 oder F9 bewusst nach einem Gegenbeleg. Notiere die ursprüngliche Vermutung, den Test, das gefundene Material und das korrigierte Urteil. Ein erfolgloser Test ist kein absoluter Wahrheitsbeweis.

Hilfe: Vergleiche immer zuerst die Dokumentkennung und Version. Schreibe danach die Gleichung auf; prüfe zum Schluss Einheiten, Rundung und Aussagekraft. Vertiefung: Stelle F1, F7 und F8 in eine Risikoreihenfolge und erläutere, warum selbst eine numerisch richtige Aussage nicht automatisch als freigegeben gilt.

Abschlussbericht: Halbe bis ganze Seite mit Datenbasis, drei erläuterten Fehlerfällen, mindestens einem Widerlegungsversuch, Unsicherheiten und Schlussentscheidung. Zulässige Schlussentscheidung: Lernantwort korrigieren und gegebenenfalls fachlich klären; keine reale Maschinenentscheidung.

Interaktive Aufgaben

Die reguläre MOOCwiki-Quizfunktion gibt nach Eingaben Rückmeldung. Bei einem Fehlversuch kontrolliere die genannte Quellenkennung beziehungsweise deine Rechnung. Die folgenden Aufgaben stellen Lösungen nicht vor der Beantwortung als erklärende Absätze dar.

Multiple-Choice-Quiz

Welche Aussage beschreibt eine Halluzination? (Eine plausibel klingende aber unbelegte oder falsche KI-Ausgabe) (!Eine unabhängig gemessene Zahl) (!Ein dokumentierter Originalbeleg) (!Eine überprüfte Version einer Stückliste)

Was prüfst du bei einer verdächtigen Quellenangabe zuerst? (Ob die Originalquelle und die genannte Stelle existieren) (!Ob der Quellentitel besonders lang ist) (!Ob zwei Chatbots zustimmen) (!Ob der Quellenname international klingt)

Wie viele Baugruppen der Variante B enthält Auftrag M-27? (Acht) (!Neun) (!Zwölf) (!Zwanzig)

Wie viele Schrauben sind ohne Reserve nötig? (Sechsundneunzig) (!Hundertacht) (!Hundert) (!Vierundachtzig)

Wie viele ganze Schrauben sind mit fünf Prozent Reserve einzuplanen? (Hundertundeins) (!Hundert) (!Neunundneunzig) (!Hundertzehn)

Wie groß ist die berechnete Gesamtmasse? (Dreiundfünfzig Komma sechs Kilogramm) (!Sechsundfünfzig Komma drei Kilogramm) (!Achtundvierzig Kilogramm) (!Sechzig Kilogramm)

Was ist Scheingenauigkeit? (Mehr behauptete Genauigkeit als die Daten tragen) (!Eine Angabe mit Einheit) (!Ein nachvollziehbarer Rechenweg) (!Eine geprüfte Dokumentversion)

Welche Stückliste gilt im Lehrfall? (K2 Revision R3) (!K4 Revision R2) (!Die längste Antwort einer KI) (!Immer die älteste vorhandene Datei)

Welcher Schritt ist ein Widerlegungsversuch? (Gezielt nach einem widersprechenden Originalbeleg suchen) (!Eine Aussage unverändert wiederholen) (!Nur bestätigende Beispiele sammeln) (!Das KI-Ergebnis als Freigabe ausgeben)

Wie gehst du mit einem ungelösten technischen Widerspruch um? (Als offen dokumentieren und fachlich klären) (!Die KI entscheiden lassen) (!Die Quellenzeile streichen) (!Die größere Zahl ungeprüft wählen)

Memory

Ordne jedem Begriff die passende Definition zu.

Halluzination	Scheinbar überzeugender unbelegter oder falscher KI-Inhalt
Primärquelle	Maßgebliches Ausgangsdokument
Provenienz	Herkunft und Bearbeitungsgeschichte einer Quelle
Plausibilität	Prüfung der sinnvollen Größenordnung
Scheingenauigkeit	Unbegründet hoch angegebene Genauigkeit

Drag-and-Drop

Ordne je eine Prüfhandlung ihrem Ziel zu.

Prüfhandlung	Ziel
Quellenregister prüfen	Erfundenen Beleg erkennen
Versionsnummer vergleichen	Veraltete Fassung ausschließen
Getrennt nach Varianten rechnen	Rechenfehler finden
Nachkommastellen bewerten	Scheingenauigkeit erkennen
Gegenbeispiel suchen	Behauptung zu widerlegen versuchen

Kreuzworträtsel

Quelle	Herkunft eines überprüfbaren Belegs?
Version	Kennzeichnung eines Dokumentstands?
Reserve	Sicherheitszuschlag an ganzen Teilen im Lernfall?
Rundung	Umwandeln des Bedarfs in eine zulässige ganze Stückzahl?
Befund	Dokumentierte Bewertung eines Prüffalls?
Zweifel	Haltung, mit der man nach Gegenbelegen sucht?

LearningApps

Suche nach weiteren passenden Übungen. Externe Aufgaben sind optional, ihre Qualität ist einzeln zu beurteilen; die Offline-Fälle ersetzen sie vollständig.

Lückentext

Eine unbelegte, überzeugend klingende KI-Ausgabe heißt

.

Das Ausgangsdokument für einen überprüfbaren Beleg heißt

.

Die Herkunft einer Datei bezeichnet man als

.

Die gültige Stückliste trägt die Revision

.

Die Anzahl der Baugruppen in M-27 beträgt

.

Ohne Reserve sind

Schrauben nötig.

Mit Reserve sind mindestens

ganze Schrauben nötig.

Die Gesamtmasse beträgt rechnerisch

kg.

Zu viele verlässliche Nachkommastellen vorzutäuschen heißt

.

Ein gezielter Versuch der Entkräftung ist ein

.

Offene Aufgaben

Leicht

Fehlerarten erklären: Definiere Halluzination und unterscheide eine falsche Behauptung von einer noch offenen Behauptung.
Fundstellen markieren: Kennzeichne in F1 bis F3 alle Quellenkennungen; vergleiche sie mit K1 bis K5.
Schrauben zählen: Berechne die Schrauben pro Variante und trage die Mengen in eine selbst gezeichnete Tabelle.
Präzision unterscheiden: Erkläre an F7 den Unterschied zwischen Rechenwert und nachgewiesener Messgenauigkeit.

Standard

Fehlerkarte beginnen: Bearbeite F1 bis F5 vollständig und begründe jeden Befund mit Quelle oder Rechnung.
Zweitrechnung: Kontrolliere F4 bis F6 einschließlich Einheiten und Aufrundungsregel unabhängig.
Version beurteilen: Vergleiche K2 R3 mit K4 R2 und erläutere den Fehler in F3.
Prüfnotiz schreiben: Prüfe F8 und F9 in einem kurzen Bericht mit Quelle, Befund und nächstem Schritt.

Schwer

Gesamte Fehlerkarte: Untersuche F1 bis F10 und nenne, wo mehr als eine Fehlerart vorliegt.
Widerlegungsversuche: Entwirf und begründe drei verschiedene Gegenprüfungen, einschließlich eines Grenzfalls.
Fehlerfolgen abwägen: Priorisiere F1, F7 und F8 nach möglicher Schadenswirkung und begründe deine Kriterien.
Neuen Papierauftrag entwerfen: Erfinde eine zweite Variantentabelle samt zwei absichtlich falschen Antworten, die jemand anderes kontrolliert.

Lernkontrolle

Quellenbeleg: Warum ist die Behauptung zu F-99 nicht hinreichend belegt und welche weitere Kontrolle ist nötig?
Variantenrechnung: Berechne den Schraubenbedarf ohne Reserve aus K1 und K2 auf zwei unabhängigen Wegen.
Dispositionsentscheidung: Begründe, warum 100 ganze Schrauben trotz des Werts 100,8 nicht genügen.
Präzision: Begründe bei F7, welche Aussage aus den Modellangaben überhaupt zulässig ist.
Quellenversion: Weshalb darf die alte Stückliste K4 für M-27 nicht die aktuelle ersetzen?
Falsifikation: Beschreibe einen aktiven Widerlegungsversuch gegen F9 und seinen möglichen Befund.
Freigabegrenze: Weshalb ersetzt ein KI-generierter Prüfbericht keine reale Sicherheitsfreigabe?

Lernnachweis

Pflichtprodukt: Eine vollständige Fehlerkarte für alle zehn manipulierten Antworten F1 bis F10. Jede Zeile enthält ID, Behauptung, Quelle samt Version oder dokumentiertes Fehlen, selbstständige Kontrolle, begründeten Befund und Korrektur oder offenen Klärungsbedarf. F1 prüft konkret die erfundene Quelle; F4 und F6 die unabhängige Rechnung; F7 die Scheingenauigkeit. Ergänze mindestens einen Widerlegungsversuch.

Zusätzlicher Lernnachweis: Ein separater Prüfbericht auf einer halben bis ganzen Seite mit drei ausführlich begründeten Fällen, Rechenweg mit Einheiten, Datum und Schlussentscheidung. Bewertet werden Quellenkritik, rechnerische Korrektheit, Versionsbewusstsein, Unsicherheitskennzeichnung, klare Begründungen und Transfer. Austausch mit Partnern ist möglich; deine abschließende Entscheidung erklärst du selbst. Kein Abschluss ersetzt eine echte technische Berechtigung.

OER und Wikipedia

Stand der Quellenprüfung: 21.10.2026. Lernfall-Version: M-27/V1. Fachliche Regelwerke, Gesetzesinformationen und externe Medien können später geändert werden. Behauptungen und Quellen sind bei einer tatsächlichen Anwendung erneut auf Gültigkeit zu prüfen.

NIST AI 600-1, Generative AI Profile, Version Juli 2024, besonders Abschnitt 2.2 und MS-2.5-003: Konfabulation, Bewertung und Quellenkontrolle. Englischsprachige Primärquelle, keine verbindliche Montagevorschrift.
EU-Kommission, AI Literacy – Questions & Answers, fortlaufend gepflegte Informationsseite zu Artikel 4 AI Act, eingesehen 21.10.2026. Rechtliche Änderungen müssen am Original überprüft werden.
Wikipedia: Halluzination (Künstliche Intelligenz), deutschsprachiger Überblick; stets Quellen und Versionsgeschichte beachten.
bpb: Fake Checker, ergänzende Quellenprüfung.
Vorhandene MOOCwiki-Lerneinheit, Inhalt bei der Recherche nicht zugänglich; deshalb nur als weiterführende Verknüpfung angegeben.

Geprüfte Wikimedia-Commons-Mediendateien und Rechte (keine eigenen Medien):

Datei und Dateiseite	Urheber	Lizenz	Textalternative
Hallucination GPT.png	Lobepaq	CC BY-SA 4.0	Erfundenes Chatbot-Beispiel; Erklärung im ersten Kapitel
CALCULATOR.jpg	Kaviyadharshini Selvakumar	CC BY-SA 4.0	Taschenrechner; Rechnungen sind ausgeschrieben
Calculator Flat Icon GIF Animation.gif	Videoplasty.com	CC BY-SA 4.0	Rechner-Symbol; statische Beschreibung
De-Quelle.ogg	Jeuwre	CC BY-SA 4.0	Aussprache Quelle; Wortdefinition im Text

Ein externes YouTube-Video besitzt nicht automatisch eine freie Lizenz. Die Plattformverfügbarkeit kann wechseln. Vorschaubilder der Commons-Dateien entstehen durch die MediaWiki-Dateieinbindung; bei Ausfall sind die Beschreibungen und Offline-Aufgaben nutzbar.