aiMOOC

Digitale Grundkompetenzen im Betrieb – KI-Antworten fachlich überprüfen

QR-Code

Digitale Grundkompetenzen im Betrieb – KI-Antworten fachlich überprüfen

Zielgruppe: Ausbildung und berufliche Bildung

Kurzbeschreibung: Du lernst, KI-Antworten im Betrieb fachlich zu prüfen: Quellen kontrollieren, Rechnungen unabhängig nachrechnen und Unsicherheit sichtbar machen. Du arbeitest ausschließlich mit fiktiven Übungsdaten und lokalen oder ausdrücklich freigegebenen Testumgebungen.

Bildimpuls: Eine KI kann Vorschläge liefern. Die fachliche Freigabe bleibt eine menschliche Aufgabe.

Einleitung

Eine überzeugend formulierte KI-Antwort kann richtig, falsch, unvollständig oder nicht ausreichend belegt sein. Generative KI kann sogar scheinbar passende Quellen, Zahlen oder Begründungen erzeugen, die nicht stimmen. Deshalb gilt im Betrieb: Nicht nach Tonfall entscheiden, sondern nach prüfbaren Belegen.

Für diesen Kurs nutzt Du eine kurze Prüfroutine:

Quelle prüfen: Stimmt Autor, Version, Datum und Fundstelle?
Rechnung prüfen: Stimmen Eingabewerte, Rechenweg, Einheit und Rundung?
Unsicherheit prüfen: Was ist bestätigt, was widerlegt und was noch offen?

NIST beschreibt überzeugend präsentierte, aber falsche oder unbelegte Ausgaben generativer KI als „confabulation“. Das BSI weist ebenfalls auf Fehlinterpretationen und Halluzinationen hin und betont die Nachvollziehbarkeit von KI-Ausgaben. UNESCO hebt bei generativer KI zusätzlich die Bedeutung von Datenschutz und menschlicher Kontrolle hervor.

Merksatz: Eine KI-Antwort ist ein Arbeitsvorschlag, kein fachlicher Freigabevermerk.

Lernziele

Nach dem Kurs kannst Du:

Quellen fachlich prüfen: Originalquelle, Aktualität und Fundstelle kontrollieren.
Rechnungen nachprüfen: Zahlen unabhängig mit Taschenrechner oder Tabelle überprüfen.
Unsicherheit kennzeichnen: offene Annahmen und fehlende Belege sichtbar machen.
Begründet entscheiden: Aussagen als bestätigt, widerlegt oder offen einstufen.
Sicher arbeiten: nur fiktive Daten und freigegebene Testumgebungen verwenden.

Sicherheitsregel für alle Übungen

Dieser Kurs erfordert keine Angriffe, Scans oder Tests an fremden Systemen. Nutze ausschließlich lokale Übungsdateien, fiktive Datensätze oder ausdrücklich autorisierte Schulungsumgebungen.

Keine Produktivanlagen verändern.
Keine fremden Netze untersuchen.
Keine Zugangsdaten, Tokens oder Passwörter eingeben.
Keine Kunden-, Beschäftigten- oder Geschäftsgeheimnisse ungefragt an KI-Dienste übertragen.
Keine echten personenbezogenen Daten für Übungen verwenden.

Lerneinheit 1: Quellenkontrolle in 3 Schritten

Bildimpuls: Suche nicht nur nach einer Quelle, sondern nach der richtigen Fundstelle.

Prüfe bei jeder fachlich wichtigen Aussage drei Punkte:

Quelle: Ist sie für die konkrete Aufgabe maßgeblich?
Version: Ist sie aktuell und freigegeben?
Fundstelle: Steht die behauptete Aussage dort wirklich?

Für betriebliche Entscheidungen ist häufig die aktuelle Originalquelle entscheidend: zum Beispiel eine freigegebene Arbeitsanweisung, ein Herstellerhandbuch, ein offizieller Gesetzestext oder eine Normenfundstelle. Eine KI-Zusammenfassung ersetzt diese Quelle nicht.

Warnsignal: Eine genaue Quellenangabe klingt seriös, kann aber trotzdem erfunden oder falsch zugeordnet sein.

Videofall 1: Nachvollziehbarkeit von KI

Auftrag: Wähle einen kurzen Ausschnitt von höchstens 90 Sekunden. Notiere anschließend eine Prüffrage, die Du vor einer betrieblichen Freigabe stellen würdest.

Begründetes Feedback: Eine gute Prüffrage bezieht sich auf Datenherkunft, Nachvollziehbarkeit, Datenschutz oder die fachliche Grundlage einer Entscheidung.

Lerneinheit 2: Rechenprüfung

Bildimpuls: Rechne kritische Zahlen außerhalb der KI-Antwort noch einmal selbst.

Eine Rechnung prüfst Du unabhängig vom KI-Text:

Ausgangswerte übernehmen.
Rechenoperation selbst durchführen.
Einheit und Bezugsgröße kontrollieren.
Rundung erst am Ende prüfen.

Beispiel: 250 Baugruppen benötigen jeweils 4 Schrauben. Das sind 1.000 Schrauben. Bei 5 Prozent Reserve gilt 1.000 × 1,05 = 1.050 Schrauben.

Merksatz: Eine richtige Formel mit falschen Eingabewerten bleibt ein falsches Ergebnis.

Lerneinheit 3: Unsicherheit sichtbar machen

Bildimpuls: „Ich bin sicher“ ist kein Beleg.

Nutze drei Statusangaben:

Bestätigt: Quelle und unabhängige Prüfung stimmen überein.
Widerlegt: Mindestens ein überprüfter Punkt ist falsch.
Offen: Ein Beleg fehlt, eine Annahme ist ungeklärt oder die Prüfung ist noch nicht abgeschlossen.

Typische Warnsignale sind fehlende Fundstellen, nicht erreichbare Quellen, widersprüchliche Zahlen, unklare Annahmen oder sehr präzise Angaben ohne nachvollziehbare Herkunft.

Konkreter Ausbildungsfall: Materialplanung im fiktiven Metallbetrieb

Situation: Du bist in der Ausbildung im fiktiven Betrieb „Metallwerk Lernfeld GmbH“. Für einen reinen Schulungsauftrag sollen 250 Baugruppen geplant werden. Jede Baugruppe benötigt 4 Schrauben.

Fiktive lokale Testquelle BA-42, Version 2026-09, Abschnitt 4.2: „Für Schulungsauftrag A-17 wird bei Schrauben eine Reserve von 5 Prozent auf den rechnerischen Grundbedarf aufgeschlagen.“

KI-Antwort im Übungsfall: „Für 250 Baugruppen werden 1.020 Schrauben benötigt. Laut BA-42, Version 2026-09, Abschnitt 4.2 beträgt die Reserve 3 Prozent. Die Berechnung ist sicher.“

Deine Aufgabe ist nicht, die Formulierung zu bewerten, sondern die Aussage zu prüfen.

Quellencheck: Die KI behauptet 3 Prozent. Die bereitgestellte Übungsquelle nennt 5 Prozent. Die Aussage ist widerlegt.

Rechencheck: Grundbedarf: 250 × 4 = 1.000. Mit 5 Prozent Reserve: 1.000 × 1,05 = 1.050. Auch das Ergebnis 1.020 ist falsch.

Unsicherheitscheck: „Die Berechnung ist sicher“ liefert keinen Beleg. Der passende Status ist widerlegt – nicht freigeben.

Gestufte Hilfen zum Ausbildungsfall

Hilfe 1 – Markieren Markiere getrennt: Mengenangabe, Prozentangabe, Quellenbehauptung und Freigabeaussage.

Hilfe 2 – Quelle Vergleiche nur den Satz zur Reserve mit BA-42, Version 2026-09, Abschnitt 4.2.

Hilfe 3 – Rechnung Berechne zuerst den Grundbedarf und danach 5 Prozent Reserve. Nutze einen lokalen Taschenrechner oder eine lokale Tabellenkalkulation mit fiktiven Daten.

Basisaufgabe

Finde im Ausbildungsfall zwei überprüfbare Aussagen und ordne sie den Kategorien Quelle oder Rechnung zu.

Begründetes Feedback: Die Aussage zur Reserve gehört zur Quellenprüfung. Die Stückzahl gehört zur Rechenprüfung. Beide müssen getrennt kontrolliert werden.

Anwendungsaufgabe

Erstelle ein Mini-Prüfprotokoll mit den Feldern Behauptung – Beleg – Prüfung – Status. Trage den Ausbildungsfall vollständig ein.

Begründetes Feedback: Ein gutes Protokoll nennt die konkrete Fundstelle, zeigt den Rechenweg und endet mit einem nachvollziehbaren Status. „KI sagt das“ ist kein Beleg.

Transferaufgabe

Übertrage die Prüfroutine auf einen anderen Ausbildungsbereich, zum Beispiel Lager, Verkauf, Pflege, Elektrotechnik oder Verwaltung. Verwende ausschließlich erfundene Werte.

Begründetes Feedback: Der Fachkontext darf wechseln. Die Struktur bleibt gleich: maßgebliche Quelle bestimmen, Zahl unabhängig prüfen, Unsicherheit dokumentieren und erst dann entscheiden.

Audiofall: 30 Sekunden, lokal

Eine Person liest den folgenden fiktiven Satz vor oder nimmt ihn lokal auf:

„Die KI empfiehlt, den Auftrag sofort freizugeben. Eine Quelle ist nicht nötig, weil die Berechnung plausibel klingt.“

Entscheidung: Nenne nach dem Hören zwei Gründe, warum die Aussage für eine betriebliche Freigabe nicht ausreicht.

Begründetes Feedback: Plausibilität ersetzt weder Quellenkontrolle noch Rechenprüfung. Vor einer Freigabe muss geklärt werden, worauf die Aussage beruht.

Videofall 2: Fakten prüfen statt nur vertrauen

Auftrag: Nutze einen kurzen Ausschnitt von höchstens 90 Sekunden. Notiere: Wer steht hinter der Information? Welcher Beleg wird genannt? Wie würdest Du die Aussage unabhängig prüfen?

Hinweis: Das Video ist englischsprachig. Untertitel können beim Verständnis helfen.

Schnellroutine für den Arbeitsplatz

STOPP – QUELLE – RECHNEN – STATUS

Stopp: Ist die Aussage fachlich oder sicherheitsrelevant?
Quelle: Wo steht die Aussage im Original?
Rechnen: Kann ich die Zahl unabhängig bestätigen?
Status: Bestätigt, widerlegt oder offen?

Geprüfte Fachquellen

Medien- und Rechtecheck

Medium	Quelle	Rechte / Nutzung
KI-Symbol	Wikimedia Commons	CC BY 3.0; Urheber: saidatun
Lupe	Wikimedia Commons	CC BY-SA 3.0; Urheber: RRZEicons
Taschenrechner	Wikimedia Commons	LGPL 3 oder später; KDE Visual Design Group
Fragezeichen	Wikimedia Commons	Public Domain; Urheber: JaeSharp
Video „Künstliche Intelligenz“	BSI auf YouTube	Einbettung über YouTube; keine Weiterlizenzierung des Videos durch diesen Kurs
Video „The Facts about Fact Checking“	CrashCourse auf YouTube	Einbettung über YouTube; keine Weiterlizenzierung des Videos durch diesen Kurs

Rechtehinweis: Die Commons-Dateien werden entsprechend der auf ihrer Dateiseite ausgewiesenen freien Lizenz verwendet. Die YouTube-Videos werden ausschließlich über die von YouTube vorgesehene Einbettungsfunktion eingebunden. Rechte am Videoinhalt verbleiben bei den jeweiligen Rechteinhabern. Verfügbarkeit und Einbettungsfreigabe sollten vor einem dauerhaften Kurseinsatz erneut geprüft werden.

Interaktive Aufgaben

Quiz: Teste Dein Wissen

Was ist der erste sinnvolle Schritt bei einer fachlich wichtigen KI-Aussage? (Die maßgebliche Quelle und Fundstelle prüfen) (!Die Antwort wegen ihres professionellen Tons übernehmen) (!Die Antwort an Kundinnen und Kunden weiterleiten) (!Die längste Begründung auswählen)

Wann gilt eine Aussage als bestätigt? (Wenn Quelle und unabhängige Prüfung übereinstimmen) (!Wenn die KI sehr sicher formuliert) (!Wenn eine Quellenangabe besonders lang ist) (!Wenn das Ergebnis plausibel wirkt)

Wie prüfst Du eine Prozentrechnung der KI am besten? (Mit den Ausgangswerten unabhängig nachrechnen) (!Die Prozentzahl nur sprachlich bewerten) (!Die Rechnung unverändert kopieren) (!Die größte Zahl als Ergebnis verwenden)

Was bedeutet der Status offen? (Ein notwendiger Beleg oder Prüfschritt fehlt noch) (!Die Aussage ist sicher richtig) (!Die Aussage ist sicher falsch) (!Die Aussage darf automatisch freigegeben werden)

Welche Quelle ist für eine betriebliche Arbeitsanweisung besonders wichtig? (Die aktuelle freigegebene Originalfassung) (!Ein anonymer Kommentar ohne Fundstelle) (!Eine erfundene Zusammenfassung) (!Ein veralteter Screenshot ohne Versionsangabe)

Was zeigt der Ausbildungsfall mit 250 Baugruppen? (Quelle und Rechenweg müssen getrennt geprüft werden) (!Eine KI-Antwort ist bei Zahlen immer korrekt) (!Eine Quellenangabe ersetzt das Nachrechnen) (!Eine sichere Formulierung beweist die Richtigkeit)

Wie viele Schrauben werden im Ausbildungsfall bei 5 Prozent Reserve benötigt? (1050 Schrauben) (!1020 Schrauben) (!1005 Schrauben) (!1250 Schrauben)

Welches Verhalten schützt betriebliche Daten am besten? (Nur fiktive oder ausdrücklich freigegebene Daten verwenden) (!Kundendaten ungefragt in einen öffentlichen KI-Dienst kopieren) (!Zugangsdaten als Beispiel in einen Prompt schreiben) (!Produktivdaten für Übungen veröffentlichen)

Welche Aussage über Unsicherheit ist richtig? (Fehlende Belege müssen sichtbar als offen gekennzeichnet werden) (!Unsicherheit sollte aus Berichten entfernt werden) (!Eine genaue Zahl ist automatisch sicher) (!Eine KI kann ihre Richtigkeit allein durch Selbstbewertung beweisen)

Was ist bei einer widersprüchlichen Quellenangabe zu tun? (Nicht freigeben und die Originalquelle klären) (!Die KI-Aussage ohne Prüfung übernehmen) (!Die Quellenangabe löschen und trotzdem freigeben) (!Den Widerspruch ignorieren)

Memory

Quellenkontrolle	Autor Version und Fundstelle prüfen
Rechenprüfung	Ergebnis unabhängig nachrechnen
Unsicherheitsmarker	Fehlende Belege sichtbar kennzeichnen
Widerspruch	Quelle und Aussage passen nicht zusammen
Vieraugenprinzip	Zweite Person prüft kritische Entscheidung
Fiktive Daten	Ungefährliche Übungsdaten ohne Kundendaten

Drag and Drop

Ordne die richtigen Begriffe zu.	Thema
Originalquelle	Prüfen, was tatsächlich freigegeben oder veröffentlicht wurde
Rechenweg	Eingabewerte und Operation unabhängig kontrollieren
Fundstelle	Genaue Stelle im Dokument nachweisen
Offen	Noch nicht ausreichend belegt
Widerlegt	Durch überprüfte Quelle oder Rechnung als falsch erkannt

Kreuzworträtsel

Quellenkritik	Wie heißt die methodische Prüfung von Herkunft und Aussagekraft einer Quelle?
Rechenweg	Was muss neben dem Ergebnis einer Rechnung nachvollziehbar sein?
Unsicherheit	Was soll bei fehlenden Belegen sichtbar gekennzeichnet werden?
Fundstelle	Wie heißt die genaue Stelle in einem Dokument, die eine Aussage belegt?
Datenschutz	Welcher Schutzbereich ist beim Umgang mit personenbezogenen Daten besonders wichtig?
Plausibilität	Was kann ein erster Hinweis sein, ersetzt aber keinen Beleg?

LearningApps

Lückentext

Offene Aufgaben

Leicht

Quellenkontrolle: Markiere in drei vorbereiteten KI-Sätzen jeweils die Aussage, die eine Quelle benötigt.
Rechenprüfung: Erfinde zwei einfache betriebliche Rechenbeispiele und prüfe sie mit einem lokalen Taschenrechner.
Unsicherheit: Formuliere je einen Beispielsatz für bestätigt, widerlegt und offen.
Datenschutz: Erstelle eine kurze Liste mit Daten, die nicht ungefragt in öffentliche KI-Dienste gehören.

Standard

Prüfprotokoll: Baue für den Ausbildungsfall eine Tabelle mit Behauptung, Quelle, Rechenweg und Status.
Quellenvergleich: Vergleiche eine fiktive KI-Zusammenfassung mit einer bereitgestellten Originalanweisung und dokumentiere Abweichungen.
Videoreflexion: Wähle aus einem eingebetteten Video einen kurzen Abschnitt und entwickle dazu drei fachliche Prüffragen.
Rollenspiel: Spielt zu zweit eine Freigabesituation: Eine Person präsentiert die KI-Antwort, die andere verlangt Belege.

Schwer

Transfer: Entwickle einen neuen fiktiven Ausbildungsfall mit mindestens einer falschen Quellenbehauptung und einem Rechenfehler.
Qualitätssicherung: Entwirf eine betriebliche Checkliste, wann KI-Ausgaben zusätzlich durch eine zweite Person geprüft werden sollten.
Entscheidungsmatrix: Lege Kriterien fest, wann eine KI-Antwort bestätigt, offen oder widerlegt eingestuft wird, und begründe Grenzfälle.
Erklärvideo: Produziere lokal ein kurzes Lernvideo mit fiktiven Daten, das die Prüfroutine STOPP – QUELLE – RECHNEN – STATUS erklärt.

Lernkontrolle

Fehleranalyse: Eine KI nennt eine korrekte Rechnung, aber eine falsche Quelle. Begründe, warum die Gesamtaussage trotzdem nicht freigegeben werden sollte.
Quellenwahl: Entscheide für drei betriebliche Situationen, welche Originalquelle jeweils maßgeblich wäre, und begründe Deine Auswahl.
Rechentransfer: Entwickle einen Fall, in dem die Rechenoperation stimmt, aber ein falscher Ausgangswert das Ergebnis unbrauchbar macht.
Unsicherheitsmanagement: Formuliere einen Freigabevermerk für eine Situation, in der zwei Aussagen bestätigt sind, eine dritte aber noch offen ist.
Datenschutzentscheidung: Beurteile einen fiktiven Prompt, der personenbezogene Daten enthält, und entwickle eine datensparsame Alternative.
Qualitätsentscheidung: Entwirf eine Regel, ab welchem betrieblichen Risiko eine zweite fachkundige Person ein KI-Ergebnis prüfen sollte.

Lernnachweis

Für einen Lernnachweis zu diesem Thema ist wichtig, dass Du:

eine KI-Antwort in überprüfbare Einzelbehauptungen zerlegen kannst,
eine passende Originalquelle auswählst und eine Fundstelle dokumentierst,
eine Rechnung mit korrekten Ausgangswerten unabhängig prüfst,
bestätigte, widerlegte und offene Punkte klar unterscheidest,
Unsicherheit begründet formulierst,
Datenschutz- und Sicherheitsgrenzen einhältst,
eine betriebliche Entscheidung nachvollziehbar begründest.

OERs zum Thema

Verknüpfte Lernbereiche

Digitale Grundkompetenzen

aiMOOC-Projekte

Inhalte werden geladen ...

Mediathek wird aus dem Wiki geladen ...

Frag mich zum aktuellen Lerninhalt oder wähle eine kurze Hilfe.

Textmodus bereit

Sprache