KI-Systeme vergleichen
KI-Systeme vergleichen
KI-Systeme vergleichen
Einleitung
Künstliche Intelligenz begegnet Dir längst in Suchmaschinen, Empfehlungssystemen, Übersetzungen, Bild- und Texterkennung, Navigationssystemen und generativen Anwendungen. Doch zwei KI-Systeme können bei derselben Aufgabe sehr unterschiedlich abschneiden. Eines antwortet schnell, ein anderes nennt überprüfbare Quellen, ein drittes schützt Daten besser oder lässt sich leichter durch Menschen kontrollieren.
Die entscheidende Frage lautet deshalb nicht: Welche KI ist die beste? Sondern: Welches KI-System ist für einen bestimmten Zweck unter bestimmten Bedingungen verantwortbar und geeignet?
Genau diese Fähigkeit trainierst Du in diesem Lernkurs. Du lernst, KI-Systeme nicht nach Werbung, Bekanntheit oder einem einzelnen beeindruckenden Ergebnis zu beurteilen, sondern nach nachvollziehbaren Kriterien. Dazu gehören Daten, Leistungsfähigkeit, Fairness, Datenschutz, Transparenz, Sicherheit, Kosten, gesellschaftliche Folgen und die Frage, wer am Ende Verantwortung trägt.
Der Kurs ist für etwa 60 bis 90 Minuten ausgelegt und richtet sich besonders an Klasse 9. Er verbindet Informatik, Deutsch, Mathematik, Technik, Wirtschaft, Geschichte, Ethik und Gemeinschaftskunde.
Lernziele
Nach diesem Lernkurs kannst Du
- KI-Systeme nach ihrem Zweck, ihren Daten, ihrer Leistung und ihren Risiken vergleichen.
- Trainingsdaten und Testdaten unterscheiden und erklären, warum ein einzelnes Beispiel keine zuverlässige Bewertung liefert.
- einfache Leistungsdaten wie Treffer, Fehlalarme und übersehene Fälle interpretieren.
- erkennen, warum hohe Gesamtgenauigkeit nicht automatisch Fairness oder Sicherheit bedeutet.
- Quellenangaben von generativen KI-Systemen überprüfen.
- Datenschutz, Transparenz, Fairness, Kosten und menschliche Kontrolle in einer Entscheidung berücksichtigen.
- Zielkonflikte zwischen verschiedenen Kriterien erkennen.
- eine Entscheidung mit Daten und Argumenten begründen.
- eine Vergleichsmethode auf eine neue Situation übertragen.
- Verantwortung beim Einsatz von KI nicht an das System abgeben.
Zentrale KI-Kompetenz
Zentrale KI-Kompetenz dieses Kurses: Du kannst KI-Systeme zweckbezogen, datenbasiert, kritisch und verantwortungsvoll vergleichen und eine begründete menschliche Entscheidung treffen.
Das bedeutet: Du akzeptierst eine KI-Ausgabe nicht einfach. Du formulierst zuerst den Zweck, prüfst danach Daten und Ergebnisse, bewertest Risiken und entscheidest erst anschließend.
Ein nützlicher Merksatz lautet:
Zweck klären – Daten prüfen – Leistung testen – Folgen abwägen – Verantwortung behalten.
Diese Kompetenz passt zu einem menschenzentrierten Verständnis von KI. KI kann Dich unterstützen, aber sie soll Dein eigenes Denken, Urteilen und Entscheiden nicht ersetzen.
Ablauf für 1–2 Unterrichtsstunden
| Phase | Kernzeit | Ziel |
|---|---|---|
| Aktivierung | 5–10 Minuten | Vorwissen und spontane Bewertungsmaßstäbe sichtbar machen |
| Einführung | 15 Minuten | KI-System, Daten, Modell, Test und Fehler verstehen |
| Vergleich | 20–25 Minuten | Systeme mit Kriterien und Daten bewerten |
| Anwendung | 15–20 Minuten | realistische Schulentscheidung treffen und begründen |
| Selbstkontrolle | 10 Minuten | Quiz oder interaktive Aufgaben |
| Transfer | 5–10 Minuten | Methode auf einen neuen Fall übertragen |
Für eine 60-Minuten-Stunde können Videos und Vertiefungen ausgelassen oder als Hausaufgabe genutzt werden. Für 90 Minuten eignen sich zusätzlich die Fairness-Diskussion, die mathematische Auswertung und die Transferaufgabe.
Aktivierung und Diagnose
Stell Dir vor, drei KI-Systeme bearbeiten dieselbe Aufgabe. System A antwortet in zwei Sekunden. System B braucht zehn Sekunden, nennt aber überprüfbare Quellen. System C arbeitet ohne Internetzugang und speichert keine Eingaben dauerhaft.
Entscheide spontan: Welches System würdest Du wählen?
Notiere danach drei Gründe für Deine Entscheidung.
Prüfe anschließend diese vier Aussagen:
| Aussage | Deine Einschätzung vor dem Kurs |
|---|---|
| Das schnellste KI-System ist meistens das beste. | stimmt / kommt darauf an / stimmt nicht |
| Ein System mit 95 Prozent Genauigkeit ist sehr zuverlässig. | stimmt / kommt darauf an / stimmt nicht |
| Wenn eine KI Quellen nennt, sind ihre Aussagen überprüft. | stimmt / kommt darauf an / stimmt nicht |
| Wenn ein Mensch am Ende entscheidet, ist der KI-Einsatz automatisch fair. | stimmt / kommt darauf an / stimmt nicht |
Bewahre Deine Antworten auf. Am Ende des Kurses prüfst Du, ob sich Deine Begründungen verändert haben.
Was ist ein KI-System?
Im Alltag werden die Begriffe Künstliche Intelligenz, Algorithmus, Maschinelles Lernen und KI-Modell oft vermischt. Für diesen Kurs verwenden wir eine praktische Unterscheidung:
Ein Modell ist der mathematisch-technische Kern, der aus Eingaben Ausgaben erzeugt. Ein KI-System umfasst mehr: Modell, Daten, Benutzeroberfläche, Regeln, technische Umgebung und den menschlichen Einsatzkontext.
Ein System ist deshalb nicht allein durch sein Modell gut oder schlecht. Entscheidend ist auch, wofür es eingesetzt wird, welche Daten hineingegeben werden und welche Folgen seine Ausgabe hat.
Ein typischer Ablauf beim maschinellen Lernen besteht aus Daten, Verarbeitung, Modellbildung und Bewertung. Beim späteren Einsatz erhält das trainierte Modell neue Eingaben und erzeugt daraus Vorhersagen oder andere Ausgaben.
Neuronale Netze als Beispiel
Viele moderne KI-Anwendungen nutzen künstliche neuronale Netze. Vereinfacht gesprochen werden Eingaben durch mehrere Verarbeitungsschichten geleitet. Während des Trainings werden viele Parameter angepasst, damit das Modell bestimmte Muster besser erkennt.
Das Bild zeigt nur ein stark vereinfachtes Netz. Reale moderne Modelle können wesentlich komplexer sein. Wichtig für den Vergleich ist nicht, ob ein System technisch beeindruckend wirkt, sondern ob es bei Deiner konkreten Aufgabe zuverlässig, fair und verantwortbar arbeitet.
Für eine mathematische Vertiefung:
Das Video ist englischsprachig und als Vertiefung gedacht.
Warum ein einzelner Eindruck nicht reicht
Menschen lassen sich leicht von einer besonders guten Antwort beeindrucken. Genau das ist beim KI-Vergleich gefährlich.
Wenn zwei Systeme mit nur einer Frage getestet werden, weißt Du fast nichts über ihre allgemeine Qualität. Eine faire Bewertung braucht mehrere Aufgaben, möglichst klare Bewertungskriterien und Bedingungen, die für alle Systeme gleich sind.
Ein sinnvoller Test funktioniert ähnlich wie ein wissenschaftliches Experiment:
- Fragestellung: Was genau soll das System können?
- Testdatensatz: Welche Beispiele werden für den Vergleich verwendet?
- Kriterium: Woran erkennst Du eine gute oder schlechte Ausgabe?
- Messung: Wie werden Ergebnisse festgehalten?
- Auswertung: Welche Muster, Fehler und Unterschiede treten auf?
- Entscheidung: Welche Folgen haben die Unterschiede für den geplanten Einsatz?
Trainingsdaten, Validierungsdaten und Testdaten
Ein System darf nicht nur danach bewertet werden, wie gut es mit Daten funktioniert, die es bereits aus dem Training kennt.
Trainingsdaten dienen dazu, ein Modell anzupassen. Validierungsdaten können während der Entwicklung genutzt werden, um Einstellungen zu prüfen. Testdaten sollen möglichst unabhängig zeigen, wie gut das fertige System mit neuen Fällen umgeht.
Das Grundproblem kennst Du aus der Schule: Wer nur die Lösung eines bestimmten Übungsblatts auswendig gelernt hat, hat nicht automatisch das Thema verstanden. Ähnlich kann ein Modell auf bekannten Daten sehr gut wirken, aber bei neuen Daten schlechter abschneiden.
Überanpassung
Wenn ein Modell Trainingsdaten sehr genau nachbildet, aber auf neuen Fällen schlecht funktioniert, spricht man von Überanpassung oder Overfitting.
Für einen fairen Systemvergleich bedeutet das: Teste mit neuen, repräsentativen Aufgaben und nicht nur mit Beispielen, auf die ein System möglicherweise optimiert wurde.
Der 8-Felder-KI-Check
Für Klasse 9 eignet sich ein Vergleich mit acht Feldern. Nicht jedes Feld ist in jeder Situation gleich wichtig.
| Feld | Leitfrage | Fächerbezug |
|---|---|---|
| Zweck | Welches konkrete Problem soll gelöst werden? | Informatik, Technik |
| Daten | Welche Daten werden benötigt, gespeichert oder verarbeitet? | Informatik, Mathematik |
| Leistung | Wie oft liefert das System passende und überprüfbar richtige Ergebnisse? | Mathematik, Informatik |
| Transparenz | Kann ich nachvollziehen, wie eine Ausgabe zustande kommt oder worauf sie sich stützt? | Deutsch, Informatik |
| Fairness | Werden unterschiedliche Personen oder Gruppen vergleichbar behandelt? | Ethik, Gemeinschaftskunde |
| Sicherheit und Datenschutz | Welche Schäden können durch Fehlfunktionen, Missbrauch oder Datenverlust entstehen? | Informatik, Technik |
| Ressourcen und Kosten | Welche finanziellen, technischen oder ökologischen Ressourcen werden benötigt? | Wirtschaft, Technik |
| Verantwortung | Wer prüft die Ausgabe und wer entscheidet bei wichtigen Folgen? | Ethik, Gemeinschaftskunde |
Wichtig: Ein System kann in einem Feld sehr gut und in einem anderen schlecht sein. Deshalb ist ein Vergleich immer eine Abwägung.
Leistung mit Daten bewerten
Warum 95 Prozent Genauigkeit täuschen können
Stell Dir ein KI-System vor, das 100 Beiträge in einem Schulforum auf beleidigende Inhalte prüfen soll. Tatsächlich sind nur 5 Beiträge beleidigend.
Ein sehr schlechtes System könnte einfach jeden Beitrag als unproblematisch markieren. Dann wären 95 von 100 Entscheidungen formal richtig.
Gesamtgenauigkeit: 95 Prozent.
Trotzdem hätte das System keinen einzigen problematischen Beitrag erkannt.
Dieses Beispiel zeigt: Eine hohe Zahl allein sagt noch nicht, ob ein System für seinen Zweck geeignet ist.
Konfusionsmatrix
Eine Konfusionsmatrix unterscheidet verschiedene Arten von Treffern und Fehlern.
Für ein Moderationssystem könntest Du unterscheiden:
| Tatsächliche Situation | Systementscheidung | Bedeutung |
|---|---|---|
| problematisch | problematisch | richtiger Treffer |
| unproblematisch | unproblematisch | richtige Entwarnung |
| unproblematisch | problematisch | Fehlalarm |
| problematisch | unproblematisch | übersehener Fall |
Ob ein Fehlalarm oder ein übersehener Fall schlimmer ist, hängt vom Einsatz ab.
Bei einer unverbindlichen Empfehlung kann ein Fehler wenig Folgen haben. Bei medizinischen, schulischen, finanziellen oder rechtlichen Entscheidungen können Fehler dagegen sehr große Auswirkungen haben.
Mini-Mathematik: zwei Fehlerarten vergleichen
Ein System prüft 200 Beiträge. Davon sind 20 tatsächlich problematisch.
Es erkennt 16 problematische Beiträge richtig, übersieht 4 und blockiert zusätzlich 18 harmlose Beiträge.
Dann kannst Du mehrere Fragen stellen:
- Trefferquote: Wie viele problematische Beiträge wurden gefunden?
- Fehlalarmrate: Wie viele harmlose Beiträge wurden fälschlich blockiert?
- Verhältnis: Ist der Nutzen größer als der Schaden?
- Kontext: Sind die Folgen eines übersehenen Falls oder eines Fehlalarms schwerwiegender?
Die Mathematik liefert Messwerte. Die Entscheidung, welches Risiko vertretbar ist, enthält zusätzlich eine ethische und gesellschaftliche Bewertung.
Quellenkritik bei generativer KI
Generative KI-Systeme können flüssige und überzeugende Texte erzeugen. Sprachliche Sicherheit ist aber kein Beweis für sachliche Richtigkeit.
Wenn ein System eine Quelle nennt, prüfe mindestens drei Dinge:
- Existenzprüfung: Gibt es die Quelle wirklich?
- Belegprüfung: Stützt die Quelle tatsächlich die konkrete Aussage?
- Quellenbewertung: Ist die Quelle für diese Frage vertrauenswürdig, aktuell und passend?
Ein erfundener Literaturhinweis ist ein offensichtlicher Fehler. Schwieriger sind echte Quellen, die eine Aussage gar nicht belegen.
Für Deutsch und Geschichte ist deshalb wichtig: Quellenkritik gilt auch dann, wenn der Text sprachlich perfekt aussieht.
Vergleichstest für Quellen
Gib mehreren KI-Systemen dieselbe Aufgabe:
Erkläre eine Ursache der Industrialisierung in Deutschland und nenne zwei überprüfbare Quellen.
Prüfe danach nicht nur den Text, sondern öffne die Quellen und beantworte:
- Existiert die Quelle?
- Ist Autor oder Institution erkennbar?
- Ist das Veröffentlichungsdatum sinnvoll?
- Enthält die Quelle die behauptete Information?
- Ist die Quelle eine Primärquelle, Sekundärquelle oder nur eine Zusammenfassung?
So wird aus einer bloßen Textbewertung eine echte Quellenkritik.
Fairness und Verzerrung
Ein KI-System lernt häufig aus vorhandenen Daten. Diese Daten bilden die Welt aber nicht neutral ab. Sie können Lücken, historische Ungleichheiten oder einseitige Auswahl enthalten.
Eine mögliche Folge ist Bias: Bestimmte Fälle werden systematisch besser oder schlechter behandelt.
Ein gerechter Vergleich prüft deshalb nicht nur den Durchschnitt. Er fragt auch, ob die Leistung bei unterschiedlichen Sprachstilen, Altersgruppen, Nutzungssituationen oder anderen relevanten Gruppen ähnlich bleibt.
Beispiel: Ein System zur Moderation von Texten könnte Standardsprache gut erkennen, aber Ironie, Jugendsprache oder Dialekt häufiger falsch deuten. Dann kann dieselbe Gesamtgenauigkeit sehr unterschiedliche Auswirkungen haben.
Fairness ist mehr als gleiche Behandlung
Fairness kann verschiedene Bedeutungen haben.
| Fairnessidee | Leitfrage |
|---|---|
| gleiche Regeln | Gelten für alle dieselben Kriterien? |
| ähnliche Fehlerquoten | Treten Fehlalarme und übersehene Fälle bei Gruppen ähnlich häufig auf? |
| gleiche Chancen | Haben Betroffene vergleichbare Möglichkeiten, eine Entscheidung anzufechten? |
| nachvollziehbares Verfahren | Können Betroffene verstehen, welche Daten und Regeln wichtig waren? |
Diese Ziele können miteinander in Konflikt geraten. Deshalb gibt es nicht immer eine einzige mathematisch perfekte Fairnesslösung.
Transparenz, Kennzeichnung und Nachvollziehbarkeit
Transparenz bedeutet nicht, dass jede Person Millionen Modellparameter verstehen muss.
Für einen verantwortlichen Einsatz sind andere Fragen oft wichtiger:
- Ist erkennbar, dass KI beteiligt ist?
- Ist der Zweck des Systems beschrieben?
- Sind Grenzen und typische Fehler bekannt?
- Kann eine betroffene Person eine Entscheidung hinterfragen?
- Gibt es menschliche Ansprechpersonen?
- Können wichtige Ausgaben überprüft werden?
Seit 2026 spielen im europäischen KI-Recht Transparenzpflichten für bestimmte KI-Anwendungen und synthetische Inhalte eine wichtige Rolle. Die Europäische Kommission hat dazu auch Kennzeichnungsformen veröffentlicht.
Eine Kennzeichnung ist hilfreich, ersetzt aber keine Prüfung. Ein gekennzeichneter KI-Text kann falsch sein; ein menschlicher Text kann ebenfalls falsch sein.
Datenschutz und Sicherheit
Ein KI-System kann fachlich leistungsfähig sein und trotzdem für eine Schulaufgabe ungeeignet sein, wenn es unnötig persönliche Daten verarbeitet.
Vor dem Einsatz solltest Du fragen:
- Welche Daten werden eingegeben?
- Sind Namen, Noten, Gesundheitsdaten oder andere sensible Angaben enthalten?
- Werden Eingaben gespeichert?
- Wer kann auf die Daten zugreifen?
- Werden Daten für weitere Zwecke verwendet?
- Kann die Aufgabe mit weniger oder anonymisierten Daten gelöst werden?
Ein wichtiger Grundsatz lautet Datenminimierung: Verwende nur die Daten, die wirklich benötigt werden.
Für eine harmlose Formulierungshilfe kann es unnötig sein, echte Namen, Adressen oder Zeugnisdaten einzugeben.
Human Agency: Die Entscheidung bleibt menschlich
Human Agency bedeutet, dass Menschen Ziele setzen, Grenzen bestimmen, Ergebnisse prüfen und Verantwortung übernehmen.
Das heißt nicht, dass ein Mensch lediglich auf „Bestätigen“ klickt.
Menschliche Kontrolle funktioniert nur dann, wenn die Person
- ausreichend Zeit zur Prüfung hat,
- die Grenzen des Systems kennt,
- alternative Informationen nutzen kann,
- eine KI-Empfehlung auch ablehnen darf,
- für Betroffene erreichbar ist.
Ein Mensch in der Entscheidungskette macht ein System also nicht automatisch fair. Wenn die Kontrolle nur symbolisch ist, kann aus „human in the loop“ ein bloßes Durchwinken werden.
Gegenwartsbezug: KI in Bildung und EU AI Act
Der europäische AI Act arbeitet mit einem risikobasierten Ansatz. Nicht jede KI-Nutzung in der Schule ist automatisch hochriskant.
Bestimmte Einsatzformen im Bildungsbereich gelten jedoch als besonders sensibel, zum Beispiel wenn KI über Zugang zu Bildung mitentscheidet, Lernergebnisse bewertet, das passende Bildungsniveau wesentlich beeinflusst oder verbotenes Verhalten während Prüfungen überwacht.
Für Dich ist daraus eine einfache Regel ableitbar:
Je größer die möglichen Folgen für eine Person, desto strenger müssen Test, Transparenz, Fairness, Datenschutz und menschliche Kontrolle sein.
Eine KI, die Ideen für ein Plakat vorschlägt, braucht deshalb andere Schutzmaßnahmen als ein System, das über Noten, Zulassung oder Bildungswege mitentscheidet.
Historischer Blick: Vom Turing-Test zur Systembewertung
1950 veröffentlichte Alan Turing seinen berühmten Text „Computing Machinery and Intelligence“. Der später so genannte Turing-Test fragte vereinfacht, ob ein Mensch in einer textbasierten Kommunikation unterscheiden kann, ob er mit einem Menschen oder einer Maschine spricht.
Der historische Test ist interessant, reicht für moderne Systembewertung aber nicht aus.
Ein System kann sehr menschlich klingen und trotzdem falsche, diskriminierende oder unsichere Ergebnisse erzeugen.
Heute brauchen wir deshalb breitere Fragen:
- Ist die Ausgabe richtig?
- Ist sie überprüfbar?
- Ist das Verfahren fair?
- Welche Daten werden verarbeitet?
- Welche Folgen hat ein Fehler?
- Wer trägt Verantwortung?
Damit verbindet der Kurs KI-Geschichte mit heutiger Technik- und Gesellschaftsbewertung.
Fächerübergreifende Bezüge
| Fach | Leitfrage | Mögliche Aktivität |
|---|---|---|
| Informatik | Wie arbeiten Daten, Modell, Eingabe und Ausgabe zusammen? | Testplan für drei KI-Systeme entwickeln |
| Deutsch | Wie erkenne ich überzeugende Sprache ohne ausreichenden Beleg? | KI-Aussagen mit Originalquellen vergleichen |
| Mathematik | Welche Kennzahlen beschreiben Treffer und Fehler? | Konfusionsmatrix auswerten |
| Technik | Welche Zielkonflikte gibt es zwischen Leistung, Sicherheit und Ressourcen? | Entscheidungsmatrix erstellen |
| Wirtschaft | Wie wirken Kosten, Abhängigkeit, Wartung und Anbieterwechsel? | Gesamtbetriebskosten vergleichen |
| Geschichte | Wie haben sich Vorstellungen von maschineller Intelligenz verändert? | Turing-Test mit heutiger Systembewertung vergleichen |
| Ethik | Was bedeutet Fairness bei unterschiedlichen Folgen? | Dilemma diskutieren |
| Gemeinschaftskunde | Wer darf KI für folgenreiche Entscheidungen einsetzen und kontrollieren? | Schulkonferenz oder Anhörung simulieren |
Realistische Anwendungssituation: KI-Lernassistenz für die Schule
Eine Schule möchte für die Klassen 8 bis 10 eine KI-Lernassistenz testen. Sie soll Entwürfe von Übungstexten kommentieren, aber keine Noten vergeben.
Drei anbieterneutrale Systeme werden in einem fiktiven Schulversuch verglichen.
Alle Systeme bearbeiten dieselben 40 Testaufgaben aus Deutsch, Geschichte und Mathematik. Zusätzlich werden Datenschutzinformationen, Bedienbarkeit und Kontrollmöglichkeiten untersucht.
Die folgende Punktzahl ist ein fiktiver Datensatz für die Lernaufgabe. Sie beschreibt keine realen Produkte.
| Kriterium | Gewicht für diese Schulsituation | System A | System B | System C |
|---|---|---|---|---|
| fachliche Zuverlässigkeit | 3 | 3 | 4 | 3 |
| überprüfbare Quellen | 3 | 1 | 4 | 3 |
| Datenschutz | 3 | 2 | 4 | 3 |
| Fairness in unterschiedlichen Sprachstilen | 3 | 3 | 3 | 4 |
| Barrierearme Bedienung | 2 | 4 | 2 | 3 |
| menschliche Kontrollmöglichkeiten | 3 | 3 | 4 | 3 |
| Kosten und Ressourcen | 1 | 4 | 1 | 3 |
Die Skala reicht von 0 bis 4 Punkten. 4 bedeutet in diesem fiktiven Test eine sehr gute Bewertung.
Gewichtete Entscheidungsmatrix
Für jedes Kriterium gilt:
Teilwert = Punktzahl × Gewicht
Danach werden alle Teilwerte addiert.
Maximal sind hier 72 Punkte möglich.
System A erreicht 48 Punkte.
System B erreicht 62 Punkte.
System C erreicht 57 Punkte.
In dieser Schulsituation liegt System B vorn, weil Zuverlässigkeit, Quellenprüfung, Datenschutz und menschliche Kontrolle stark gewichtet wurden.
Aber damit ist die Aufgabe noch nicht beendet.
Ein hoher Gesamtwert darf kein einzelnes Ausschlusskriterium verdecken. Wenn ein System beispielsweise rechtswidrig Daten verarbeitet oder eine wichtige Sicherheitsanforderung nicht erfüllt, kann es trotz guter Gesamtpunktzahl ungeeignet sein.
Gleiche Systeme, andere Aufgabe
Nun sollen dieselben Systeme nur für ein unverbindliches Brainstorming zu Plakatideen genutzt werden.
In dieser Situation könnten Bedienbarkeit, Geschwindigkeit und Kosten stärker gewichtet werden, während eine falsche Idee meist weniger schwerwiegende Folgen hat.
Das Ergebnis kann sich verändern.
Wichtig: Die Qualität eines KI-Systems ist keine feste Zahl. Sie hängt vom Zweck, von den Risiken und von den gewählten Kriterien ab.
Entscheidung im Team
Bildet Gruppen und beantwortet:
- Welches System würdet Ihr für die Lernassistenz wählen?
- Welche zwei Kriterien sind für Euch am wichtigsten?
- Welches Risiko würdet Ihr nicht akzeptieren?
- Welche zusätzliche Information fehlt Euch noch?
- Unter welchen Bedingungen würdet Ihr den Einsatz nach vier Wochen wieder stoppen?
Eure Begründung muss mindestens eine Zahl, ein Risiko und eine Verantwortungsregel enthalten.
Ein eigenes Vergleichsexperiment planen
Wenn in der Schule mehrere KI-Systeme verfügbar sind, könnt Ihr einen kleinen Vergleich durchführen.
Verwendet keine privaten oder sensiblen Daten.
Ein fairer Test kann so aussehen:
| Schritt | Beispiel |
|---|---|
| gleiche Aufgabe | Alle Systeme erhalten exakt denselben Arbeitsauftrag. |
| gleiche Bedingungen | Sprache, Zusatzinformationen und Zeitfenster bleiben gleich. |
| mehrere Testfälle | Nicht eine, sondern zehn oder mehr Aufgaben werden geprüft. |
| vorher definierte Kriterien | Richtigkeit, Belegbarkeit, Verständlichkeit, Datenschutz und Fairness. |
| unabhängige Prüfung | Aussagen werden mit Schulbuch, Originalquelle oder seriöser Fachquelle kontrolliert. |
| Fehlerprotokoll | Fehler werden nach Typ und möglicher Folge dokumentiert. |
So wird aus einem spontanen „Gefällt mir besser“ eine nachvollziehbare Systembewertung.
Risikoabwägung
Risiko lässt sich vereinfacht als Verbindung aus Wahrscheinlichkeit und Schadenshöhe betrachten.
Ein Fehler, der häufig vorkommt, aber kaum Folgen hat, kann anders bewertet werden als ein seltener Fehler mit sehr schwerwiegenden Folgen.
Eine einfache Risikomatrix:
| Wahrscheinlichkeit | geringe Folge | mittlere Folge | schwere Folge |
|---|---|---|---|
| niedrig | beobachten | absichern | besonders prüfen |
| mittel | absichern | reduzieren | nur mit starken Schutzmaßnahmen |
| hoch | reduzieren | starke Schutzmaßnahmen | Einsatz überdenken |
Diese Matrix liefert keine automatische Entscheidung. Sie zwingt Dich aber dazu, Wahrscheinlichkeit und Folgen getrennt zu betrachten.
Wirtschaft und Technik: Nicht nur Anschaffungskosten zählen
Ein KI-System verursacht nicht nur einen Kaufpreis.
Zu einer vollständigen Bewertung können gehören:
- Betriebskosten für Rechenleistung oder Nutzung.
- Wartung und Aktualisierungen.
- Schulung von Lehrkräften und Lernenden.
- technische Abhängigkeit von einem Anbieter.
- Aufwand beim Wechsel zu einem anderen System.
- Sicherheits- und Datenschutzmaßnahmen.
- Ressourcenverbrauch der Infrastruktur.
Ein billiges System kann langfristig teuer werden, wenn Daten nicht exportierbar sind oder ein Anbieterwechsel sehr schwierig ist.
Umgekehrt ist ein teures System nicht automatisch besser.
Reflexion: Was eine Zahl nicht entscheiden kann
Vergleichstabellen wirken objektiv, enthalten aber menschliche Entscheidungen.
Jemand hat entschieden,
- welche Kriterien überhaupt auftauchen,
- welche Kriterien fehlen,
- wie stark sie gewichtet werden,
- welche Testfälle verwendet werden,
- ab wann ein Fehler als schwerwiegend gilt.
Deshalb sollte eine Entscheidungsmatrix nicht verstecken, sondern sichtbar machen, welche Werte und Prioritäten hinter einer Entscheidung stehen.
Selbstkontrolle vor dem Einsatz eines KI-Systems
Nutze diese fünf Fragen als Kurzcheck:
- Zweck: Weiß ich genau, wofür das System eingesetzt werden soll?
- Belege: Habe ich Ergebnisse mit geeigneten Quellen oder Testdaten geprüft?
- Risiko: Weiß ich, welche Fehler besonders schädlich wären?
- Schutz: Sind Datenschutz, Fairness und Sicherheit ausreichend berücksichtigt?
- Verantwortung: Ist klar, welcher Mensch am Ende prüft und entscheidet?
Wenn Du eine Frage nicht beantworten kannst, fehlen Dir wahrscheinlich Informationen für eine verantwortliche Entscheidung.
Interaktive Aufgaben
Quiz: Teste Dein Wissen
Zwei KI-Systeme sollen für dieselbe Schulaufgabe verglichen werden. Was ist der fairste erste Schritt? (Beide Systeme mit denselben klar definierten Testaufgaben prüfen) (!Das bekanntere System auswählen) (!Das schnellere System gewinnen lassen) (!Nur eine besonders schwierige Aufgabe testen)
Ein Moderationssystem erreicht 95 Prozent Gesamtgenauigkeit, erkennt aber keinen einzigen problematischen Beitrag. Welche Schlussfolgerung ist angemessen? (Die Gesamtgenauigkeit allein reicht zur Bewertung nicht aus) (!Das System ist wegen 95 Prozent automatisch sehr gut) (!Das System muss nur schneller werden) (!Die Fehler sind unwichtig, weil sie selten sind)
Eine generative KI nennt eine Quelle. Was solltest Du als Nächstes tun? (Prüfen, ob die Quelle existiert und die konkrete Aussage tatsächlich belegt) (!Die Aussage übernehmen, weil eine Quelle genannt wurde) (!Nur den Titel der Quelle lesen) (!Die Quelle ignorieren und nur auf den Schreibstil achten)
Warum kann ein Test mit nur einer einzigen Aufgabe problematisch sein? (Er kann zufällig gut oder schlecht ausfallen und ist kaum repräsentativ) (!Eine Aufgabe ist immer schwieriger als zehn) (!KI-Systeme dürfen nur mit hundert Aufgaben getestet werden) (!Einzelne Aufgaben können nie beantwortet werden)
Welche Aussage beschreibt Human Agency am besten? (Menschen setzen Ziele, prüfen Ausgaben und behalten die Verantwortung) (!Menschen bestätigen jede KI-Ausgabe automatisch) (!KI-Systeme entscheiden und Menschen dokumentieren nur) (!Menschen dürfen KI-Ergebnisse nicht verändern)
Ein System funktioniert auf Trainingsdaten hervorragend, bei neuen Daten aber deutlich schlechter. Welches Problem liegt nahe? (Überanpassung) (!Verschlüsselung) (!Datenminimierung) (!Barrierefreiheit)
Wann sollte ein Risiko besonders streng bewertet werden? (Wenn ein Fehler schwere Folgen für betroffene Personen haben kann) (!Wenn das System eine schöne Oberfläche besitzt) (!Wenn eine Antwort länger als eine Seite ist) (!Wenn das System schnell arbeitet)
Warum kann sich die Rangfolge von KI-Systemen bei einer anderen Aufgabe ändern? (Weil Zweck, Risiken und Gewichtung der Kriterien unterschiedlich sein können) (!Weil gute Systeme ihre Eigenschaften täglich komplett ändern) (!Weil Mathematik bei KI-Vergleichen nicht verwendet werden darf) (!Weil immer das zuletzt getestete System gewinnt)
Was zeigt eine Konfusionsmatrix besonders gut? (Unterschiedliche Arten richtiger und falscher Klassifikationen) (!Die Anzahl der Modellparameter) (!Die Stromkosten eines Rechenzentrums) (!Die Länge eines KI-Textes)
Welche Entscheidung ist bei einem folgenreichen KI-Einsatz am verantwortungsvollsten? (KI-Ausgaben als Unterstützung nutzen und wichtige Entscheidungen nachvollziehbar menschlich prüfen) (!Die KI allein entscheiden lassen, wenn sie oft richtig liegt) (!Nur die billigste Lösung einsetzen) (!Jede KI vermeiden, unabhängig vom Zweck)
Memory
| Trainingsdaten | Daten zum Anpassen eines Modells |
| Testdaten | unabhängige Daten zur Leistungsprüfung |
| Transparenz | Nachvollziehbarkeit von Zweck und Einsatz |
| Fairness | gerechte Behandlung und Prüfung von Verzerrungen |
| Datenminimierung | nur notwendige Daten verwenden |
| Human Agency | menschliche Entscheidungsmacht erhalten |
| Überanpassung | gute Trainingsleistung aber schwächere Leistung bei neuen Fällen |
| Konfusionsmatrix | Übersicht über Treffer und Fehlerarten |
Drag and Drop
| Ordne die richtigen Begriffe zu. | Thema |
|---|---|
| Zweck klären | Welches Problem soll das KI-System lösen? |
| Daten prüfen | Welche Informationen werden verarbeitet und wie repräsentativ sind sie? |
| Leistung testen | Wie zuverlässig arbeitet das System bei neuen Aufgaben? |
| Folgen abwägen | Welche Schäden können durch Fehler entstehen? |
| Verantwortung behalten | Wer prüft und entscheidet am Ende? |
Kreuzworträtsel
| Validierung | Wie heißt die Prüfung eines Modells mit gesonderten Daten während der Entwicklung? |
| Transparenz | Welcher Begriff beschreibt die Nachvollziehbarkeit eines KI-Einsatzes? |
| Datenschutz | Welcher Begriff betrifft den Schutz personenbezogener Informationen? |
| Fairness | Welcher Begriff beschreibt gerechte und nicht systematisch benachteiligende Behandlung? |
| Trainingsdaten | Wie heißen Daten, mit denen ein lernendes Modell angepasst wird? |
| Verantwortung | Welcher Begriff beschreibt die Pflicht, Folgen einer Entscheidung zu tragen und zu begründen? |
LearningApps
Lückentext
Offene Aufgaben
Leicht
- KI-Vergleich im Alltag: Wähle zwei KI-Anwendungen aus Deinem Alltag. Nenne für beide Zweck, mögliche Fehler und eine sinnvolle Kontrollfrage.
- Quellencheck: Lass ein KI-System eine überprüfbare Sachfrage beantworten. Kontrolliere mindestens zwei Aussagen mit unabhängigen Quellen und dokumentiere Unterschiede.
- Fehlerfolgen: Sammle drei Beispiele für KI-Fehler und ordne sie nach geringer, mittlerer oder schwerer möglicher Folge. Begründe Deine Einordnung.
- Human Agency: Zeichne einen einfachen Ablauf, in dem eine KI einen Vorschlag macht, ein Mensch ihn prüft und eine Entscheidung begründet.
Standard
- Systemtest: Entwickle fünf identische Testaufgaben für zwei verfügbare KI-Systeme. Definiere vor dem Test drei Bewertungskriterien und vergleiche die Ergebnisse.
- Konfusionsmatrix: Erfinde für ein Moderationssystem einen Datensatz mit mindestens 50 Fällen. Trage Treffer, Fehlalarme und übersehene Fälle ein und bewerte, welche Fehler problematischer sind.
- Entscheidungsmatrix: Vergleiche drei fiktive KI-Systeme mit mindestens sechs Kriterien und unterschiedlichen Gewichten. Erkläre, warum Deine Gewichtung zum Einsatz passt.
- Fairnessprüfung: Entwickle Testfälle mit unterschiedlichen Sprachstilen. Prüfe, ob ein System dieselbe Aussage je nach Formulierung unterschiedlich bewertet, und diskutiere mögliche Ursachen.
Schwer
- Schulkonferenz KI: Simuliere eine Schulkonferenz. Rollen sind Lernende, Lehrkräfte, Eltern, Schulleitung, Datenschutzbeauftragte und Anbieter. Entscheidet über einen KI-Einsatz und formuliert Bedingungen.
- Auditbericht: Verfasse einen kurzen Prüfbericht über ein KI-System mit den Bereichen Zweck, Daten, Leistung, Transparenz, Fairness, Sicherheit, Kosten und Verantwortung.
- Zielkonflikt: Entwickle einen Fall, in dem das genaueste System beim Datenschutz schlechter abschneidet als ein weniger genaues System. Begründe, welches Du wählen würdest.
- Transferprojekt: Eine Stadtbibliothek möchte KI für Buchempfehlungen einsetzen. Übertrage den 8-Felder-KI-Check auf diesen neuen Kontext und begründe eine Entscheidung mit mindestens vier Kriterien.
|
|
Lernkontrolle
- Transferfall Bewerbungsberatung: Eine Schule möchte eine KI nutzen, die Jugendlichen Ausbildungsberufe empfiehlt. Erstelle ein Vergleichskonzept für drei Systeme. Entscheide, welche Kriterien besonders schwer wiegen und warum.
- Bewertung trotz hoher Genauigkeit: Ein System erreicht 97 Prozent Genauigkeit, macht seine wenigen Fehler aber fast ausschließlich bei einer bestimmten Sprachvariante. Erkläre, warum die Gesamtzahl nicht genügt und welche zusätzlichen Tests nötig sind.
- Quellenkonflikt: Zwei KI-Systeme geben unterschiedliche Antworten auf eine historische Frage. System A nennt drei Quellen, System B nur eine. Entwickle ein Verfahren, mit dem Du entscheidest, welcher Antwort Du eher vertraust.
- Risikoabwägung: Vergleiche den KI-Einsatz für unverbindliche Lernhinweise mit dem Einsatz für automatische Notenvorschläge. Erkläre, warum sich Anforderungen an Kontrolle und Transparenz unterscheiden.
- Gewichtungswechsel: Zeige an einem eigenen Beispiel, wie dieselben drei Systeme bei einer anderen Gewichtung eine andere Rangfolge erhalten können. Begründe, welche Gewichtung sachlich sinnvoll ist.
- Verantwortungskette: Entwirf für einen schulischen KI-Einsatz eine Verantwortungskette von Dateneingabe bis Entscheidung. Markiere, an welcher Stelle Menschen eingreifen und warum.
Reflexion und Transfer
Vergleiche Deine Antworten aus der Einstiegsdiagnose mit Deinem heutigen Stand.
Beantworte schriftlich:
- Welche Aussage würdest Du jetzt anders beurteilen?
- Welches Kriterium hattest Du am Anfang unterschätzt?
- Wo kann eine Zahl objektiv wirken, obwohl Wertentscheidungen dahinterstehen?
- In welcher Situation würdest Du bewusst auf ein KI-System verzichten?
- Was bedeutet für Dich nach diesem Kurs „verantwortungsvoll vergleichen“?
Abschluss-Transfer
Neue Situation:
Eine Jugendorganisation möchte ein KI-System einsetzen, um eingereichte Projektideen automatisch zu sortieren. Die Sortierung entscheidet nicht direkt über Geld, beeinflusst aber, welche Projekte zuerst von Menschen gelesen werden.
Du erhältst drei Systeme mit unterschiedlichen Stärken bei Genauigkeit, Transparenz, Datenschutz, Fairness und Kosten.
Deine Aufgabe:
- Lege den Zweck genau fest.
- Wähle mindestens fünf Bewertungskriterien.
- Gewichte die Kriterien.
- Beschreibe mindestens zwei besonders problematische Fehlerarten.
- Lege fest, welche menschliche Kontrolle nötig ist.
- Entscheide Dich für ein System oder gegen den Einsatz.
- Begründe Deine Entscheidung mit Daten, Risiken und Verantwortung.
Wenn Du diese Aufgabe selbstständig lösen kannst, hast Du die zentrale Kompetenz des Kurses erreicht.
Lernnachweis
Für einen Lernnachweis zu diesem Thema ist wichtig:
- Du kannst erklären, warum KI-Systeme nur zweckbezogen sinnvoll verglichen werden können.
- Du kannst zwischen Trainings-, Validierungs- und Testdaten unterscheiden.
- Du kannst einfache Leistungsdaten einschließlich Fehlalarmen und übersehenen Fällen interpretieren.
- Du kannst zeigen, warum Gesamtgenauigkeit allein keine ausreichende Bewertung ist.
- Du kannst Quellen einer generativen KI-Ausgabe überprüfen.
- Du kannst Fairness, Datenschutz, Transparenz, Sicherheit und menschliche Kontrolle als eigenständige Kriterien anwenden.
- Du kannst eine gewichtete Entscheidungsmatrix lesen und erstellen.
- Du kannst Zielkonflikte benennen und begründet abwägen.
- Du kannst Folgen unterschiedlicher Fehlerarten analysieren.
- Du kannst erklären, warum Verantwortung nicht an ein KI-System abgegeben werden sollte.
- Du kannst den 8-Felder-KI-Check auf eine neue Situation übertragen.
- Du kannst eine begründete Entscheidung schriftlich oder mündlich verteidigen.
OERs zum Thema
Freie und seriöse Vertiefung
- UNESCO: AI Competency Framework for Students
- EUR-Lex: Verordnung über Künstliche Intelligenz
- Europäische Kommission: Transparenzpflichten für KI-Systeme
- Wikimedia Commons: Künstliche Intelligenz
- Wikipedia: Maschinelles Lernen
- Wikipedia: Konfusionsmatrix
Die eingebundenen Dateien von Wikimedia Commons stehen unter den jeweils auf ihrer Dateiseite angegebenen freien Lizenzen oder Gemeinfreiheitsregeln.
Verknüpfte Lernbereiche