KI-Halluzinationen beheben API Schnittstellen sinnvoll einsetzen - aiMOOC
KI-Halluzinationen beheben API Schnittstellen sinnvoll einsetzen - aiMOOC
KI-Halluzinationen beheben / API, Schnittstellen sinnvoll einsetzen
{{#ev:youtube| https://www.youtube.com/watch?v=4_I8pFottcM |500|center}}
Einleitung
Künstliche Intelligenz kann Texte, Bilder, Code und Entscheidungen erstaunlich schnell erzeugen. Gleichzeitig kann sie überzeugend klingende Aussagen produzieren, die sachlich falsch, unbelegt, veraltet oder frei erfunden sind. Solche Fehler werden als KI-Halluzinationen bezeichnet. Besonders problematisch sind sie in Bildung, Kultur, Wirtschaft, Verwaltung, Wissenschaft und Journalismus, weil dort Vertrauen, Nachprüfbarkeit, Datenschutz und Verantwortung eine große Rolle spielen.
Dieser aiMOOC zeigt Dir, wie KI-Halluzinationen entstehen, wie Du sie erkennst und wie Du sie durch sinnvollen Einsatz von APIs, Schnittstellen, Datenräumen, RAG, Validierung, Quellenkritik, Monitoring und menschlicher Kontrolle reduzieren kannst. Du lernst außerdem, warum APIs für Digitale Souveränität, offene Bildungsinfrastrukturen, Kulturportale, Unternehmensprozesse und zukünftige KI-Agenten eine zentrale Rolle spielen.
Eine Application Programming Interface ist eine definierte Schnittstelle, über die unterschiedliche Programme, Dienste oder Systeme miteinander kommunizieren können. Eine KI-Anwendung kann über APIs zum Beispiel Daten aus einer geprüften Wissensdatenbank abrufen, Termine in einem Kalender prüfen, Metadaten aus einem Museumskatalog lesen, Lernfortschritte in einer Lernplattform berücksichtigen oder strukturierte Antworten in einem festen Format ausgeben. Dadurch wird aus einem reinen Textgenerator ein kontrollierbares System, das mit nachvollziehbaren Daten, Regeln und Werkzeugen arbeitet.
Grundbegriffe
KI-Halluzination
Eine KI-Halluzination liegt vor, wenn ein KI-System eine Antwort erzeugt, die plausibel klingt, aber nicht ausreichend durch überprüfbare Daten, Quellen oder Berechnungen gestützt ist. Das kann bei Chatbots, Bildgeneratoren, Spracherkennung, Übersetzungssystemen oder KI-Agenten auftreten.
Typische Formen sind:
- Falschaussagen: Die KI behauptet etwas, das objektiv nicht stimmt.
- Fiktive Quellen: Die KI nennt Bücher, Studien, Links oder Personen, die nicht existieren.
- Veraltete Informationen: Die KI gibt frühere Daten als aktuell aus.
- Überkonfidenz: Die KI formuliert Unsicherheit nicht offen, sondern klingt sicher.
- Kontextfehler: Die KI missversteht die Aufgabe, den Fachkontext oder die Zielgruppe.
- Zahlenfehler: Die KI rechnet falsch oder übernimmt unpassende Statistiken.
- Rechtsfehler: Die KI gibt juristische Aussagen ohne aktuelle Rechtsgrundlage aus.
- Medizinische Fehlinformationen: Die KI liefert gesundheitsbezogene Aussagen ohne fachliche Prüfung.
API und Schnittstelle
Eine API ist eine technische Vereinbarung. Sie legt fest, welche Anfragen erlaubt sind, welche Daten zurückgegeben werden, welche Formate genutzt werden und welche Berechtigungen nötig sind. APIs sind damit nicht nur ein technisches Detail, sondern ein Baustein moderner Infrastruktur.
Eine Schnittstelle kann zum Beispiel folgende Fragen beantworten:
- Datenformat: Werden Daten als JSON, XML, CSV oder RDF übertragen?
- Authentifizierung: Wer darf die Schnittstelle nutzen?
- Autorisierung: Welche Rechte hat eine Anwendung?
- Rate Limit: Wie viele Anfragen sind erlaubt?
- Versionierung: Welche API-Version ist gültig?
- Fehlercode: Wie werden Fehler gemeldet?
- Dokumentation: Wie können Entwicklerinnen und Entwickler die API verstehen?
- Protokollierung: Welche Zugriffe werden nachvollziehbar gespeichert?
Datenräume und digitale Souveränität
Ein Datenraum ist eine organisatorisch und technisch geregelte Umgebung, in der Daten zwischen Akteuren ausgetauscht werden können. Dabei geht es nicht nur um Speicherorte, sondern um Regeln, Standards, Rechte, Nachweise, Verträge und Vertrauen. In Deutschland und Europa werden Datenräume besonders mit digitaler Souveränität, DSGVO, Interoperabilität, Open Data, Forschungsdatenmanagement und vertrauenswürdiger digitaler Infrastruktur verbunden.
Digitale Souveränität bedeutet, dass Menschen, Institutionen, Unternehmen und Staaten digitale Technologien selbstbestimmt, sicher und nachvollziehbar nutzen können. APIs sind dafür wichtig, weil sie Abhängigkeiten reduzieren, offene Standards fördern und kontrollierte Datenflüsse ermöglichen können.
KI-Agenten
Ein KI-Agent ist ein KI-System, das nicht nur antwortet, sondern Werkzeuge nutzen, Zwischenschritte planen und Aufgaben ausführen kann. Ein Agent kann zum Beispiel eine Datenbank abfragen, ein Dokument analysieren, eine E-Mail vorbereiten, ein Ticket anlegen oder einen Lernpfad empfehlen. Gerade bei KI-Agenten sind APIs besonders wichtig, weil jede Werkzeugnutzung kontrolliert, protokolliert und begrenzt werden muss.
.jpg)
Warum Halluzinationen entstehen
Statistische Textgenerierung
Viele große Sprachmodelle erzeugen Antworten, indem sie wahrscheinliche nächste Wörter berechnen. Sie besitzen dabei kein menschliches Verständnis und keine automatische Garantie für Wahrheit. Wenn ein Modell eine Lücke im Wissen hat, kann es dennoch eine sprachlich überzeugende Antwort erzeugen. Genau darin liegt die Gefahr: Ein gut formulierter Satz wirkt glaubwürdig, auch wenn seine Aussage falsch ist.
Fehlender Zugriff auf aktuelle oder geprüfte Daten
Ein Modell kann nur mit den Informationen arbeiten, die ihm im jeweiligen System zugänglich sind. Wenn es keine aktuelle Datenbank, keine geprüften Quellen oder keinen Webzugriff verwenden darf, kann es veraltete oder unvollständige Informationen ausgeben. APIs können hier helfen, weil sie geprüfte Datenquellen anbinden.
Unklare Prompts und mehrdeutige Aufgaben
Wenn eine Anfrage unpräzise ist, ergänzt die KI fehlende Informationen. Diese Ergänzungen können hilfreich sein, aber auch zu Fehlern führen. Ein Beispiel: Die Frage „Was kostet das?“ ist ohne Produkt, Ort, Zeitpunkt, Währung und Quelle unklar. Eine gute KI-Anwendung sollte dann Rückfragen stellen oder Unsicherheit markieren.
Zu lange Antwortketten
Je länger ein KI-System ohne Prüfung weitergeneriert, desto größer kann die Fehlerkette werden. Ein kleiner Fehler am Anfang kann spätere Schlussfolgerungen verfälschen. Deshalb sind Zwischenschritte, Quellenprüfung, strukturierte Ausgabe und Validierung wichtig.
Ungeeignete Trainingsdaten
Trainingsdaten können Fehler, Vorurteile, Lücken oder widersprüchliche Informationen enthalten. Ein Modell kann solche Muster übernehmen. Bei sensiblen Themen wie Medizin, Recht, Politik, Geschichte, Finanzen oder Bildung reicht ein allgemeines Modell deshalb nicht aus. Es braucht geprüfte Quellen, Fachaufsicht und klare Grenzen.
Strategien gegen KI-Halluzinationen
1. Quellenbasierte Antworten verlangen
Eine einfache Methode ist, Antworten an überprüfbare Quellen zu binden. Das bedeutet nicht nur, am Ende Links auszugeben, sondern die Aussage tatsächlich aus einer Quelle abzuleiten. Besonders geeignet sind geprüfte Datenbanken, wissenschaftliche Publikationen, amtliche Statistiken, offene Kulturdatenbanken, Schulcurricula oder institutionelle Wissensspeicher.
2. Retrieval Augmented Generation einsetzen
RAG verbindet ein Sprachmodell mit einer Such- oder Abruffunktion. Das System sucht zuerst passende Dokumente, Abschnitte oder Datensätze und erzeugt danach eine Antwort auf Grundlage dieser Informationen. RAG kann Halluzinationen reduzieren, wenn die Dokumente hochwertig sind, die Suche gut funktioniert und die Antwort strikt an den gefundenen Belegen ausgerichtet wird.
Ein RAG-System besteht typischerweise aus:
- Dokumentensammlung: geprüfte Inhalte, zum Beispiel Schulmaterialien, Museumsdaten, Produktdokumentation oder Gesetzestexte.
- Indexierung: technische Aufbereitung der Inhalte, oft mit Embeddings.
- Retrieval: Suche nach passenden Textstellen.
- Prompt Engineering: klare Anweisung, nur belegte Informationen zu verwenden.
- Antwortgenerierung: verständliche Ausgabe für die Zielgruppe.
- Quellenanzeige: Nachweis der verwendeten Textstellen.
- Evaluation: Prüfung, ob die Antwort korrekt und vollständig ist.
3. APIs als Werkzeuge nutzen
APIs ermöglichen es, aktuelle und strukturierte Informationen einzubinden. Statt eine KI nach dem Wetter, dem Kontostand, einem Museumsexponat oder einem Lernstand „raten“ zu lassen, kann die Anwendung die passende API abfragen. Das Ergebnis wird dann verarbeitet, erklärt oder in eine Entscheidung eingebettet.
Beispiele:
- Bildung: Eine Lernplattform stellt über eine API Kompetenzstände bereit.
- Kultur: Ein Museumskatalog liefert über eine API geprüfte Metadaten zu Objekten.
- Wirtschaft: Ein Warenwirtschaftssystem liefert Lagerbestände oder Lieferzeiten.
- Verwaltung: Ein Formularsystem prüft über eine Schnittstelle gültige Zuständigkeiten.
- Forschung: Eine Datenbank liefert zitierfähige Forschungsdaten.
- Journalismus: Eine Statistik-API liefert aktuelle Kennzahlen.
4. Strukturierte Ausgaben erzwingen
Wenn eine KI frei formulieren darf, kann sie leicht ausschweifen. Eine strukturierte Ausgabe, zum Beispiel in JSON, kann Felder, Datentypen und Pflichtangaben festlegen. Dadurch wird prüfbar, ob die Antwort vollständig ist. Eine Anwendung kann anschließend automatisch kontrollieren, ob ein Datum gültig ist, ob eine Quellenangabe vorhanden ist oder ob ein Feld leer bleiben muss.
5. Validierung und Plausibilitätsprüfung einbauen
Validierung bedeutet, dass Daten oder Aussagen nach Regeln geprüft werden. Beispiele sind Zahlenbereiche, Datumsformate, Pflichtfelder, Quellenpflicht, Widerspruchsprüfung oder Abgleich mit einer Datenbank. Für KI-Systeme ist Validierung besonders wichtig, weil Sprachmodelle nicht zuverlässig zwischen „sprachlich passend“ und „sachlich wahr“ unterscheiden.
6. Menschliche Kontrolle festlegen
Nicht jede Aufgabe darf vollautomatisch ausgeführt werden. Bei sensiblen Entscheidungen braucht es menschliche Kontrolle. Dazu gehören Benotung, medizinische Beratung, rechtliche Einschätzung, Kreditvergabe, Personalentscheidungen oder öffentliche Kommunikation. Eine gute KI-Infrastruktur legt fest, wann ein Mensch prüfen, freigeben oder korrigieren muss.
7. Unsicherheit sichtbar machen
Ein verantwortungsvolles KI-System sollte nicht so tun, als wisse es alles. Es sollte Unsicherheit anzeigen, Quellenlücken benennen und Rückfragen stellen. Sätze wie „Dazu liegen mir keine geprüften Daten vor“ sind besser als erfundene Antworten.
8. Logging und Monitoring nutzen
Logging dokumentiert, welche Anfrage gestellt wurde, welche Daten verwendet wurden, welche API aufgerufen wurde und welche Antwort entstand. Monitoring beobachtet Qualität, Fehler, Kosten, Latenz und Sicherheit. In professionellen Systemen sind diese Mechanismen unverzichtbar, um Halluzinationen zu erkennen und zu verbessern.
APIs sinnvoll einsetzen
API-Design für zuverlässige KI-Systeme
Eine gute API ist verständlich, stabil, sicher und gut dokumentiert. Für KI-Anwendungen ist besonders wichtig, dass die API eindeutige Daten liefert. Freitext allein ist oft schwer zu prüfen. Strukturierte Felder, eindeutige IDs, Zeitstempel, Versionsnummern und Quellenangaben erhöhen die Verlässlichkeit.
Wichtige Prinzipien:
- Eindeutigkeit: Jede Ressource sollte eine klare ID haben.
- Aktualität: Daten sollten mit Zeitstempel versehen sein.
- Nachvollziehbarkeit: Quellen und Herkunft müssen sichtbar sein.
- Minimalprinzip: Eine Anwendung erhält nur die Daten, die sie braucht.
- Fehlertoleranz: Fehlercodes müssen klar und maschinenlesbar sein.
- Versionierung: Änderungen dürfen bestehende Systeme nicht unbemerkt beschädigen.
- Dokumentation: Menschen und Maschinen müssen die Schnittstelle verstehen können.
- Sicherheit: Zugriff, Schlüssel und Rechte müssen geschützt werden.
API-Schlüssel und Sicherheit
Ein API-Schlüssel ist ein Zugangsnachweis. Er darf nicht öffentlich in Quellcode, Lernmaterialien, Screenshots oder Chatverläufen stehen. Professionelle Systeme nutzen zusätzlich Rollen, Rechte, Token, Verschlüsselung und Protokollierung. Besonders bei Bildungs- und Kulturdaten ist wichtig, dass personenbezogene Daten geschützt werden.
Rate Limits und Kostenkontrolle
APIs können Kosten verursachen oder durch zu viele Anfragen überlastet werden. Rate Limits begrenzen Anfragen pro Zeitraum. Für KI-Anwendungen ist das wichtig, weil Agenten sonst unbeabsichtigt sehr viele Aktionen auslösen können. Kostenkontrolle, Caching und klare Abbruchregeln gehören daher zur Systemgestaltung.
API-Orchestrierung und KI-Agenten
Wenn ein KI-Agent mehrere APIs nutzt, spricht man oft von Orchestrierung. Der Agent muss entscheiden, welches Werkzeug sinnvoll ist. Dabei dürfen keine gefährlichen Aktionen ohne Prüfung ausgeführt werden. Ein Beispiel: Eine KI darf Informationen aus einem Kalender lesen, aber Termine nur mit Freigabe ändern. Eine KI darf einen Warenbestand prüfen, aber keine Bestellung ohne Kontrolle auslösen.
Beispiele aus Bildung, Kultur und Wirtschaft
Bildung
In der Bildung können APIs Lernplattformen, Schulverwaltungssoftware, Kompetenzraster, Medienarchive und KI-Tutoren verbinden. Ein KI-Tutor kann Lernenden helfen, aber er sollte nicht frei über Noten, Diagnosen oder Förderbedarf spekulieren. Stattdessen sollte er geprüfte Lernziele, freigegebene Materialien und transparente Rückmeldungen verwenden.
Beispiel: Eine Schülerin fragt nach dem Unterschied zwischen Variablen und Parametern. Der KI-Tutor ruft über eine API das passende Lernmodul, das Kompetenzniveau und ein Beispiel aus dem Unterricht ab. Danach erklärt er die Begriffe und verweist auf die Quelle. Halluzinationen werden reduziert, weil die Antwort auf geprüften Inhalten basiert.
Kultur
In der Kultur können APIs Sammlungen, Archive, Bibliotheken und Museumsdaten zugänglich machen. Ein KI-System könnte ein Kunstwerk erklären, Provenienzinformationen anzeigen oder eine barrierearme Führung erstellen. Dabei muss klar sein, welche Informationen gesichert sind und wo Deutungen beginnen.
Beispiel: Ein Museum stellt Objektmetadaten über eine API bereit. Die KI darf Künstlername, Entstehungszeit und Inventarnummer nur aus der Datenbank übernehmen. Für Interpretation und historische Einordnung muss sie Quellen nennen und Unsicherheit markieren.
Wirtschaft
In der Wirtschaft können APIs Kundenservice, Logistik, Produktdaten, Rechnungen und Wissensdatenbanken verbinden. Eine KI kann Mitarbeitende entlasten, wenn sie Bestände prüft, Dokumentationen durchsucht oder Supportantworten vorbereitet. Sie darf jedoch keine verbindlichen Zusagen erfinden. Preise, Lieferzeiten, Vertragsdaten und rechtliche Angaben müssen aus autorisierten Systemen kommen.
Verwaltung und öffentliche Infrastruktur
In der Verwaltung sind Nachvollziehbarkeit und Rechtsbindung entscheidend. KI kann Formulare erklären, Zuständigkeiten finden oder einfache Anfragen sortieren. Entscheidungen mit Rechtswirkung müssen jedoch geprüft und dokumentiert werden. APIs können helfen, aktuelle Zuständigkeiten, Formulare und Rechtsgrundlagen kontrolliert bereitzustellen.
Praktischer Bauplan: Halluzinationsarme KI-Anwendung
Schritt 1: Aufgabe abgrenzen
Definiere genau, was die KI darf und was nicht. Eine KI für Lernfeedback braucht andere Regeln als eine KI für medizinische Beratung oder für Unternehmensdaten.
Schritt 2: Datenquellen auswählen
Nutze geprüfte, aktuelle und rechtlich zulässige Datenquellen. Dokumentiere Herkunft, Lizenz, Aktualität und Verantwortlichkeit.
Schritt 3: Schnittstellen planen
Lege fest, welche APIs genutzt werden, welche Rechte sie haben, welche Formate zurückgegeben werden und wie Fehler behandelt werden.
Schritt 4: Prompt und Systemregeln formulieren
Das System sollte klare Anweisungen erhalten: nur belegte Informationen verwenden, Unsicherheit nennen, keine Quellen erfinden, Rückfragen stellen und sensible Entscheidungen nicht automatisieren.
Schritt 5: Antwort prüfen
Baue automatische und menschliche Prüfungen ein. Dazu gehören Quellenabgleich, JSON-Schema-Prüfung, Faktencheck, Grenzwerte, Testfälle und Freigabeprozesse.
Schritt 6: Betrieb überwachen
Prüfe im laufenden Betrieb, ob die Anwendung korrekte Antworten liefert. Sammle Fehlermeldungen, verbessere Datenquellen und passe Regeln an.
Checkliste für zuverlässige KI mit APIs
- Zielklärung: Ist klar, welche Aufgabe die KI lösen soll?
- Datenherkunft: Sind Quellen, Lizenzen und Aktualität bekannt?
- Schnittstelle: Gibt es eine dokumentierte API statt unkontrollierter Freitexteingabe?
- Zugriffsrechte: Hat die KI nur die Rechte, die sie wirklich braucht?
- Quellenpflicht: Muss jede sachliche Aussage belegbar sein?
- Validierung: Werden Antwortfelder, Zahlen und Datumsangaben geprüft?
- Fehlermanagement: Gibt es klare Regeln für leere, widersprüchliche oder fehlerhafte API-Antworten?
- Menschliche Kontrolle: Sind sensible Entscheidungen freigabepflichtig?
- Protokollierung: Sind Anfragen, Werkzeuge und Ergebnisse nachvollziehbar?
- Evaluation: Wird regelmäßig getestet, ob die KI weniger halluziniert?
Grenzen und Verantwortung
Auch mit APIs, RAG und Validierung lassen sich Halluzinationen nicht vollständig ausschließen. Jede KI-Anwendung braucht deshalb eine Risikoanalyse. Je höher der mögliche Schaden, desto strenger müssen Kontrolle, Dokumentation und menschliche Verantwortung sein. Besonders in Schule, Berufliche Bildung, Hochschule, Kulturerbe, Gesundheitswesen, Recht und Finanzwesen darf KI nicht als unfehlbare Autorität erscheinen.
Gute KI-Kompetenz bedeutet daher nicht, einer KI blind zu vertrauen, sondern ihre Stärken und Grenzen zu verstehen. APIs, Schnittstellen und Datenräume sind Werkzeuge, um KI-Systeme überprüfbarer, sicherer und nützlicher zu machen. Sie ersetzen aber nicht kritisches Denken, fachliche Prüfung und gesellschaftliche Verantwortung.
Interaktive Aufgaben
Quiz: Teste Dein Wissen
Was ist eine KI-Halluzination? (Eine plausibel klingende, aber sachlich falsche oder unbelegte KI-Ausgabe) (!Eine besonders kreative und immer richtige KI-Antwort) (!Eine technische Bezeichnung für schnelle Datenübertragung) (!Ein gesetzlich vorgeschriebener Datenschutzbericht)
Wozu dient eine API in einer KI-Anwendung besonders häufig? (Zum kontrollierten Abruf oder Austausch von Daten zwischen Systemen) (!Zum vollständigen Ausschalten aller Fehler) (!Zum Ersetzen jeder menschlichen Entscheidung) (!Zum geheimen Speichern von Passwörtern im Prompt)
Welche Maßnahme kann Halluzinationen besonders wirksam reduzieren? (Die Antwort an geprüfte Quellen und Daten anzubinden) (!Die KI grundsätzlich längere Antworten schreiben zu lassen) (!Alle Quellenangaben aus der Antwort zu entfernen) (!Die Temperatur immer auf den höchsten Wert zu stellen)
Was bedeutet Retrieval Augmented Generation? (Ein Verfahren, bei dem eine KI vor der Antwort passende Informationen aus Quellen abruft) (!Ein Verfahren, bei dem eine KI ohne Quellen frei rät) (!Eine Methode zur Verschlüsselung von API-Schlüsseln) (!Ein Standard für Bildschirmauflösungen)
Warum sind strukturierte Ausgaben wie JSON hilfreich? (Sie machen Antworten maschinenlesbar und prüfbar) (!Sie verhindern automatisch jede falsche Aussage) (!Sie ersetzen Datenschutz und Zugriffsrechte) (!Sie machen Quellen grundsätzlich überflüssig)
Was ist ein wichtiger Sicherheitsgrundsatz beim Umgang mit API-Schlüsseln? (Sie dürfen nicht öffentlich in Code, Screenshots oder Chats erscheinen) (!Sie sollten in jeder Antwort vollständig angezeigt werden) (!Sie müssen immer mit Lernenden geteilt werden) (!Sie funktionieren nur, wenn sie in Überschriften stehen)
Was bedeutet Human in the Loop? (Ein Mensch prüft oder entscheidet an wichtigen Stellen mit) (!Ein Mensch wird vollständig aus dem Prozess entfernt) (!Eine KI darf ohne Kontrolle rechtsverbindlich handeln) (!Eine API wird ohne Dokumentation veröffentlicht)
Warum sind Datenräume für digitale Souveränität wichtig? (Sie ermöglichen geregelten, nachvollziehbaren und kontrollierten Datenaustausch) (!Sie verhindern jede Form von Datennutzung) (!Sie machen Datenschutz überflüssig) (!Sie bestehen ausschließlich aus privaten Chatverläufen)
Was sollte eine KI tun, wenn geprüfte Informationen fehlen? (Unsicherheit benennen oder eine Rückfrage stellen) (!Eine Quelle erfinden) (!Eine sichere Antwort vortäuschen) (!Eine beliebige Statistik erzeugen)
Welche Rolle spielt Monitoring im Betrieb einer KI-Anwendung? (Es beobachtet Qualität, Fehler, Kosten und Sicherheit) (!Es ersetzt die gesamte Systementwicklung) (!Es löscht automatisch alle Datenquellen) (!Es macht APIs unbrauchbar)
Memory
| API | Kontrollierte Schnittstelle zwischen Systemen |
| RAG | Antwortgenerierung mit vorherigem Quellenabruf |
| Validierung | Prüfung von Daten und Aussagen nach Regeln |
| Datenraum | Geregelte Umgebung für Datenaustausch |
| Human in the Loop | Menschliche Kontrolle an wichtigen Stellen |
| Rate Limit | Begrenzung von API-Anfragen |
| Logging | Nachvollziehbare Protokollierung von Vorgängen |
Drag and Drop
| Ordne die richtigen Begriffe zu. | Thema |
|---|---|
| Quellen abrufen | Retrieval |
| Antwort formulieren | Generierung |
| Felder prüfen | Validierung |
| Mensch entscheidet | Freigabe |
| Fehler beobachten | Monitoring |
Kreuzworträtsel
| Schnittstelle | Wie nennt man eine Verbindung, über die Systeme Daten austauschen? |
| Quellen | Was sollte eine KI für überprüfbare Aussagen angeben? |
| Validierung | Wie heißt die Prüfung von Daten nach festen Regeln? |
| Datenraum | Wie heißt eine geregelte Umgebung für Datenaustausch? |
| Agent | Wie nennt man ein KI-System, das Werkzeuge nutzen kann? |
| Logging | Wie heißt die Protokollierung von Anfragen und Ergebnissen? |
LearningApps
Lückentext
Offene Aufgaben
Leicht
- Begriffskarte: Erstelle eine Begriffskarte zu den Wörtern KI-Halluzination, API, Datenraum, Validierung und Quelle. Schreibe zu jedem Begriff eine kurze Erklärung in eigenen Worten.
- Fehlersuche: Suche in einer von Dir selbst formulierten KI-Antwort drei Stellen, die überprüft werden müssten. Markiere, welche Quelle Du jeweils nutzen würdest.
- API-Alltag: Finde drei Beispiele aus Deinem Alltag, bei denen wahrscheinlich APIs genutzt werden, zum Beispiel Wetter-App, Lernplattform oder Online-Shop.
- Unsicherheit formulieren: Schreibe fünf Beispielsätze, mit denen eine KI ehrlich ausdrücken kann, dass sie etwas nicht sicher weiß.
Standard
- Quellenvergleich: Vergleiche eine KI-Antwort mit zwei verlässlichen Quellen. Notiere Unterschiede und bewerte, welche Aussage besser belegt ist.
- RAG-Skizze: Zeichne ein einfaches Modell einer RAG-Anwendung für ein Schulfach. Zeige Datenquelle, Suche, KI-Antwort und Quellenanzeige.
- API-Konzept: Entwerfe eine kleine API für eine Schulbibliothek. Lege fest, welche Felder ein Buchdatensatz enthalten sollte.
- Prüfregeln: Entwickle fünf Validierungsregeln für eine KI, die Veranstaltungstermine ausgeben soll.
Schwer
- Risikoanalyse: Analysiere eine KI-Anwendung in Bildung, Kultur oder Wirtschaft. Beschreibe Risiken durch Halluzinationen und passende Gegenmaßnahmen.
- Agentenregelwerk: Entwickle Regeln für einen KI-Agenten, der APIs nutzen darf. Unterscheide zwischen Lesen, Vorschlagen und Ausführen.
- Digitale Souveränität: Schreibe einen Kommentar zur Frage, warum offene Standards und APIs für Deutschland und Europa wichtig sein können.
- Evaluationsplan: Plane einen Test, mit dem Du überprüfen kannst, ob eine KI-Anwendung weniger halluziniert als zuvor. Beschreibe Testfragen, Bewertungskriterien und Dokumentation.
| <inputbox>
type=create break=no preload=CHAT GPT TEXT HIER EINFÜGEN default= width=30 placeholder= Dein MOOC Titel buttonlabel=MOOC erstellen </inputbox> |
|
|
Lernkontrolle
- Transferaufgabe Bildung: Du sollst für eine Schule einen KI-Tutor planen. Erkläre, welche Datenquellen er nutzen darf, welche APIs sinnvoll wären und wo menschliche Kontrolle notwendig ist.
- Fallanalyse Wirtschaft: Ein KI-Kundenservice gibt falsche Lieferzeiten aus. Analysiere mögliche Ursachen und entwickle ein Maßnahmenpaket aus API-Abfrage, Validierung und Monitoring.
- Kulturprojekt: Ein Museum möchte KI für digitale Führungen einsetzen. Beschreibe, wie Objektmetadaten, Quellen, Unsicherheit und Interpretation sauber getrennt werden können.
- Souveränitätsfrage: Beurteile, warum digitale Souveränität nicht nur eine technische, sondern auch eine politische und pädagogische Aufgabe ist.
- Systemvergleich: Vergleiche eine reine Chatbot-Lösung mit einer KI-Anwendung, die RAG und APIs nutzt. Erkläre Vor- und Nachteile für Zuverlässigkeit, Datenschutz und Wartung.
- Ethikaufgabe: Entwickle Leitlinien für den verantwortungsvollen Einsatz von KI-Agenten in einer Organisation. Berücksichtige Rechte, Protokollierung, Freigabe und Fehlerkultur.
OERs zum Thema
Links
Zusammenfassung
KI-Halluzinationen entstehen, wenn KI-Systeme plausibel klingende, aber falsche oder unbelegte Ergebnisse erzeugen. Sie lassen sich nicht vollständig vermeiden, aber deutlich reduzieren. Besonders wirksam sind geprüfte Datenquellen, Retrieval Augmented Generation, gut dokumentierte APIs, strukturierte Ausgaben, Validierung, Monitoring, klare Rechte und menschliche Kontrolle. Für Bildung, Kultur und Wirtschaft sind APIs mehr als technische Hilfsmittel: Sie sind Bausteine einer verlässlichen digitalen Infrastruktur. Wer KI sinnvoll einsetzen will, muss deshalb nicht nur gute Prompts schreiben, sondern Datenflüsse, Schnittstellen, Verantwortung und Qualität systematisch gestalten.
aiMOOC-Projekte
Schulfach+
|
|
aiMOOCs
aiMOOC Projekte
|
|
THE MONKEY DANCE
{{#ev:youtube | https://youtu.be/rFhZlg38Zf8?si=9KdMNZYRkRD81YTo%7C 500 | center}}
|
{{#ev:youtube | https://youtu.be/Ob7etf9QuBo?si=t_NBA71bWg3Rq3LI%7C 500 | center}}
|
|
| <inputbox>
type=create break=no preload=MOOCit Vorlage default= width=30 placeholder= Dein MOOC Titel buttonlabel=MOOC erstellen </inputbox> |