Diesen aiMOOC als Battle spielen: Deutsch, Klasse 5-6, G-Niveau

Fairness bei KI erkennen

Worum geht es? KI kann aus vielen Beispielen Muster lernen und daraus Vorschläge, Sortierungen oder Vorhersagen erzeugen. Solche Ergebnisse wirken manchmal objektiv, weil sie von einem Computer kommen. Trotzdem können sie Menschen unterschiedlich gut berücksichtigen oder einzelne Gruppen benachteiligen. In diesem Lernkurs lernst Du, solche Situationen mit einer Fairness-Lupe zu untersuchen und Verbesserungen vorzuschlagen.

Zielgruppe: Klasse 5, keine technischen Vorkenntnisse nötig. Der Kernkurs passt in etwa eine Unterrichtsstunde; mit Anwendung, Vertiefung und Transfer lässt er sich auf zwei Unterrichtsstunden erweitern.

Am Ende kannst Du erklären, was Fairness bei KI bedeutet, unausgewogene Repräsentation in Beispieldaten erkennen, verschiedene Betroffenenperspektiven einnehmen, faire Verbesserungen entwickeln und typische Fehlvorstellungen über scheinbar „neutrale“ KI korrigieren.

Einleitung

Stell Dir vor, eine Schule nutzt ein digitales System, das Kindern passende Arbeitsgemeinschaften empfiehlt. Das System wurde mit alten Anmeldungen trainiert. Wenn in den alten Daten bestimmte Gruppen bei manchen AGs kaum vorkommen, könnte das System diese Muster übernehmen und immer wieder ähnliche Empfehlungen geben. Das wäre problematisch, wenn dadurch Interessen übersehen oder Möglichkeiten eingeschränkt werden.

Wichtig ist: KI hat keine eigene Vorstellung von Gerechtigkeit. Menschen wählen Daten aus, legen Ziele fest, entscheiden über den Einsatz und müssen Ergebnisse prüfen. Deshalb ist Fairness bei KI nicht nur eine technische Frage. Sie ist auch eine Frage von Ethik, Teilhabe, Inklusion, Diskriminierung, Regeln und gesellschaftlichen Werten.

Das Bild zeigt drei verwandte Ideen: Vielfalt bedeutet, dass unterschiedliche Menschen und Perspektiven vorkommen. Gerechte Teilhabe bedeutet, dass Zugang und Unterstützung so gestaltet werden, dass Menschen echte Chancen haben. Inklusion bedeutet, dass Menschen nicht nur dabei sind, sondern mitreden und mitentscheiden können.

Lernweg für 1–2 Unterrichtsstunden

Phase	Kernidee	Handlung	Zeit
Aktivierung	Fair oder unfair?	Du begründest spontan, warum gleiche Behandlung nicht immer faire Folgen hat.	etwa 5 Minuten
Einführung	Daten, Muster, Ergebnis	Du verfolgst einen einfachen KI-Lernweg und erkennst Stellen, an denen Verzerrungen entstehen können.	etwa 10 Minuten
Fairness-Lupe	Repräsentation, Wirkung, Teilhabe, Verbesserung	Du prüfst Beispiele aus Schule und Alltag.	etwa 15 Minuten
Anwendung	AG-Finder der Schule	Du untersuchst einen realistischen Fall aus mehreren Perspektiven und entwickelst Verbesserungen.	etwa 15 Minuten
Vertiefung	Testen, vergleichen, widersprechen	Du bearbeitest Aufgaben, Quiz und Transfer.	zusätzliche 30–45 Minuten

Aktivierung und Diagnose

Mini-Diagnose: Drei Ecken – fair, unfair, kommt darauf an. Entscheide bei jeder Situation zuerst allein. Tauscht Euch danach zu zweit über Eure Begründungen aus.

Gleiche Verteilung: Vier Kinder bekommen für eine Gruppenaufgabe genau dieselbe Unterstützung, obwohl eines den Text wegen einer Sehbeeinträchtigung nicht lesen kann. Ist das fair?
Empfehlung: Ein Programm empfiehlt Dir nur Themen, die Kinder mit ähnlichem bisherigen Verhalten gewählt haben. Hilft Dir das oder engt es Dich ein?
KI-Ergebnis: Ein Computerprogramm gibt eine Empfehlung. Bedeutet das automatisch, dass die Empfehlung neutral ist?

Merksatz: Bei Fairness zählt nicht nur, ob alle exakt dasselbe bekommen. Entscheidend ist auch, welche Voraussetzungen Menschen haben, welche Folgen entstehen und welche Rechte und Möglichkeiten sie besitzen.

Wie lernt eine KI aus Beispielen?

Eine einfache Vorstellung hilft: Ein KI-System erhält viele Beispiele. Daraus sucht es Muster. Mit diesen Mustern erzeugt es später ein Ergebnis, etwa eine Empfehlung oder Zuordnung. In der Fachsprache heißen die Beispiele oft Trainingsdaten.

Vereinfachtes Modell:

Schritt	Frage	Beispiel beim AG-Finder
Beispiele sammeln	Welche Fälle sieht das System?	Frühere AG-Anmeldungen
Muster finden	Welche Zusammenhänge kommen oft vor?	Bestimmte Gruppen meldeten sich bisher häufiger für bestimmte AGs an
Ergebnis erzeugen	Was schlägt das System für eine neue Person vor?	Eine Rangliste von AGs
Prüfen	Passt das Ergebnis wirklich zur Person und ist es fair?	Interessen abfragen, Alternativen zeigen, Benachteiligungen testen

Wichtig: Daten sind nicht einfach „die Wirklichkeit“. Sie wurden gesammelt, ausgewählt, beschriftet und in einen bestimmten Zusammenhang gebracht. Manche Menschen oder Situationen können darin zu selten vorkommen. Außerdem können frühere Ungleichheiten in Daten sichtbar sein.

Auch hinter Trainingsdaten steckt menschliche Arbeit. Menschen entscheiden zum Beispiel, welche Bilder oder Texte gesammelt werden und welche Bezeichnungen sie bekommen. Diese Entscheidungen können sinnvoll sein, aber auch Fehler, Lücken oder einseitige Sichtweisen enthalten.

Was bedeutet Fairness bei KI?

Fairness bei KI bedeutet hier: Ein KI-System soll Menschen nicht ohne guten Grund benachteiligen, unterschiedliche Lebenslagen angemessen berücksichtigen, überprüfbar eingesetzt werden und Möglichkeiten zur Korrektur bieten. Was genau als fair gilt, hängt jedoch vom Zweck und von gesellschaftlichen Wertentscheidungen ab.

Ein wichtiges Wort ist algorithmische Verzerrung. Damit sind systematische Verzerrungen in Ergebnissen gemeint, durch die bestimmte Personen oder Gruppen wiederholt benachteiligt oder bevorzugt werden können.

Die Fairness-Lupe: F-A-I-R

Buchstabe	Prüffrage	Woran Du denken kannst
F – Für wen?	Wer ist betroffen und wer könnte fehlen?	Kinder mit unterschiedlichen Sprachen, Interessen, Fähigkeiten, Lebenslagen oder Zugängen
A – Aus welchen Daten?	Welche Beispiele wurden genutzt und sind sie vielfältig genug?	alte Anmeldungen, Texte, Bilder, Stimmen, Bewertungen
I – Ist die Wirkung gerecht?	Funktioniert das System für verschiedene Menschen ähnlich gut und entstehen Nachteile?	Fehlerraten, einseitige Empfehlungen, Ausschlüsse, stereotype Zuordnungen
R – Rückfrage und Reparatur?	Können Menschen nachfragen, widersprechen und das System verbessern?	Erklärung, menschliche Prüfung, Korrektur, Beschwerdeweg, neue Daten

Human Agency bedeutet in diesem Kurs: Menschen bleiben handlungsfähig. Du darfst KI-Ergebnisse hinterfragen, Alternativen suchen, Quellen prüfen und eine menschliche Entscheidung verlangen, wenn viel auf dem Spiel steht.

Repräsentation: Wer kommt in den Daten vor?

Repräsentation beschreibt, wer oder was in Daten sichtbar wird. Wenn ein System Stimmen erkennen soll, aber fast nur mit Erwachsenenstimmen trainiert wurde, kann es bei Kinderstimmen schlechter funktionieren. Wenn ein Bildsystem nur wenige Beispiele aus bestimmten Lebenssituationen kennt, kann es dort häufiger Fehler machen.

Beispiel mit zehn Trainingsfällen:

Trainingsbeispiele für einen Sprachassistenten	Anzahl	Fairness-Frage
Erwachsene mit Standardsprache	acht von zehn	Lernt das System vor allem diese Stimmen gut kennen?
Kinderstimmen	eine von zehn	Reicht ein Beispiel für unterschiedliche Kinderstimmen?
Dialekt oder Akzent	eine von zehn	Werden andere Sprechweisen ausreichend berücksichtigt?

Die Tabelle beweist noch keine Benachteiligung. Sie ist aber ein Warnsignal: Das System sollte mit vielfältigen, getrennten Testfällen geprüft werden.

Mathematik trifft Fairness

In Mathematik kannst Du Repräsentation sichtbar machen, indem Du zählst, sortierst und vergleichst. Dabei ist wichtig: Eine große Datenmenge ist nicht automatisch vielfältig. Tausend sehr ähnliche Beispiele können weniger aussagekräftig sein als eine kleinere, gut ausgewählte Mischung.

Eine hilfreiche Frage lautet: „Wie viele unterschiedliche Fälle sind vertreten – und welche fehlen?“ Danach muss geprüft werden, ob die Ergebnisse für verschiedene Gruppen tatsächlich ähnlich zuverlässig und hilfreich sind.

Die Zielscheiben sind eine Anschauung für systematische Abweichungen. Wenn Treffer immer in eine ähnliche falsche Richtung liegen, ist das etwas anderes als zufälliges Streuen. Übertragen auf KI solltest Du deshalb nicht nur einzelne Fehler zählen, sondern nach Mustern in Fehlern suchen.

Vielfalt und Teilhabe

Vielfalt bedeutet mehr als eine bunte Mischung in einem Bild. Für faire KI sind unterschiedliche Perspektiven bei der Planung, Datenauswahl, Gestaltung, Prüfung und Nutzung wichtig. Teilhabe heißt außerdem, dass Betroffene ihre Erfahrungen einbringen und Entscheidungen beeinflussen können.

Perspektivwechsel: Dieselbe KI-Empfehlung kann für verschiedene Menschen unterschiedliche Folgen haben.

Perspektive	Mögliche Frage
Ein Kind, das neu an der Schule ist	Hat das System genug Informationen oder rät es nur aufgrund ähnlicher alter Fälle?
Ein Kind, das einen Dialekt spricht	Wird seine Sprache genauso gut verstanden?
Ein Kind mit Sehbeeinträchtigung	Ist das Ergebnis auch mit Vorlesefunktion oder Tastatur zugänglich?
Ein Kind mit ungewöhnlichem Hobby	Zeigt das System echte Auswahl oder nur das, was „typisch“ wirkt?
Lehrkraft oder Schulsozialarbeit	Gibt es einen Weg, offensichtlich unpassende oder benachteiligende Empfehlungen zu korrigieren?

Teilhabe heißt auch Barrierefreiheit. Ein System kann fachlich richtige Ergebnisse liefern und trotzdem unfair nutzbar sein, wenn die Bedienung Menschen ausschließt.

Fairness ist eine Wertfrage

Nicht jede Fairnessfrage hat genau eine rechnerisch richtige Lösung. Stell Dir vor, es gibt fünf Leih-Tablets für zehn Kinder.

Fairnessidee	Mögliche Regel	Offene Frage
Gleichheit	Los entscheidet	Werden unterschiedliche Bedürfnisse ausreichend berücksichtigt?
Bedarf	Kinder ohne eigenes Gerät erhalten zuerst ein Tablet	Wie wird Bedarf festgestellt, ohne unnötig private Daten zu sammeln?
Wechsel	Jede Woche wechselt die Nutzung	Reicht die Zeit für Kinder, die das Gerät häufiger benötigen?
Teilhabe	Die Klasse entwickelt gemeinsam transparente Regeln	Wie werden leise oder selten gehörte Stimmen einbezogen?

Ein Computer kann Regeln ausführen. Welche Regel gerecht ist, müssen Menschen begründen, aushandeln und verantworten. Deshalb lassen sich gesellschaftliche Wertfragen nicht allein durch bessere Technik lösen.

Typische Fehlvorstellungen erkennen

Fehlvorstellung	Bessere Erklärung
„Ein Computer ist neutral.“	Computer führen von Menschen entwickelte Verfahren mit ausgewählten Daten und Zielen aus. Ergebnisse können deshalb verzerrt sein.
„Viele Daten bedeuten automatisch Fairness.“	Daten können groß, aber trotzdem einseitig sein.
„Wenn alle gleich behandelt werden, ist es immer fair.“	Unterschiedliche Voraussetzungen oder Barrieren können dazu führen, dass gleiche Behandlung unterschiedliche Chancen erzeugt.
„Eine hohe Trefferquote beweist Fairness.“	Ein System kann insgesamt oft richtig liegen und bei einer bestimmten Gruppe trotzdem deutlich häufiger falsch sein.
„Wenn ein geschütztes Merkmal nicht gespeichert wird, kann es keine Benachteiligung geben.“	Andere Angaben können indirekt mit einem Merkmal zusammenhängen. Deshalb müssen Wirkungen getestet werden.
„Eine technische Reparatur löst das Problem vollständig.“	Technik kann helfen, aber Ziele, Regeln, Rechte, Beteiligung und Verantwortung bleiben gesellschaftliche Fragen.

Realistische Anwendungssituation: Der AG-Finder

Die Schule möchte einen KI-gestützten AG-Finder testen. Kinder geben drei Interessen an. Das System vergleicht sie mit früheren Anmeldungen und schlägt drei AGs vor. Die Empfehlung ist unverbindlich, soll aber bei der Orientierung helfen.

Nach einem Probetag fällt auf: Einigen Kindern werden immer wieder sehr ähnliche AGs vorgeschlagen. Neue Kinder erhalten oft allgemeine Vorschläge, weil zu ihnen wenig bekannt ist. Ein Kind mit Interesse an Technik bekommt trotzdem fast nur kreative Angebote. Außerdem ist die Ergebnisanzeige für eine Bildschirmvorlese-Software schwer nutzbar.

Auftrag: Prüft den AG-Finder mit der FAIR-Lupe.

Repräsentation: Untersucht, welche alten Daten genutzt werden und welche Gruppen oder Interessen darin zu selten vorkommen könnten.
Fairness: Vergleicht, ob verschiedene Kinder wirklich eine breite und passende Auswahl erhalten.
Teilhabe: Formuliert Fragen an Kinder, die vom System betroffen sind. Welche Erfahrungen sollten sie einbringen können?
Transparenz: Entwickelt einen kurzen Hinweis, der erklärt, wie die Empfehlungen ungefähr zustande kommen und dass sie nicht verbindlich sind.
Verbesserung: Plant mindestens drei Änderungen, zum Beispiel vielfältigere Testfälle, Interessen stärker gewichten, Alternativen anzeigen, Barrierefreiheit verbessern oder eine menschliche Rückfrage ermöglichen.
Datenschutz: Prüft, welche persönlichen Daten wirklich nötig sind. Verwendet im Unterricht nur erfundene Beispieldaten und ladet keine persönlichen Daten von Mitschülerinnen und Mitschülern in öffentliche KI-Dienste hoch.

Entscheidungsregel für die Schule: Je größer die möglichen Folgen eines KI-Ergebnisses sind, desto wichtiger sind menschliche Kontrolle, nachvollziehbare Regeln, sichere Datenverarbeitung und eine Möglichkeit zum Widerspruch.

Wie kann man ein KI-System fairer machen?

Es gibt nicht die eine Reparatur. Häufig braucht es mehrere Maßnahmen gleichzeitig.

Ansatz	Konkrete Verbesserung	Warum das hilft
Daten prüfen	Fehlende Fälle ergänzen und problematische Beschriftungen korrigieren	Mehr relevante Situationen werden berücksichtigt
Getrennt testen	Ergebnisse für unterschiedliche Nutzergruppen vergleichen	Durchschnittswerte verstecken Unterschiede weniger leicht
Betroffene beteiligen	Rückmeldungen von Menschen mit verschiedenen Erfahrungen einholen	Probleme werden sichtbar, die Entwicklerinnen und Entwickler übersehen können
Erklären	Zweck, Grenzen und wichtige Einflussfaktoren verständlich beschreiben	Nutzerinnen und Nutzer können Ergebnisse besser einschätzen
Wahlmöglichkeiten geben	Empfehlung ablehnen, ändern oder alternative Vorschläge anzeigen	Menschen behalten Handlungsspielraum
Menschlich prüfen	Bei wichtigen Entscheidungen keine automatische Letztentscheidung zulassen	Verantwortung bleibt bei Menschen
Wiederholt kontrollieren	System nach Änderungen und im laufenden Einsatz erneut testen	Fairness ist keine einmalige Prüfung

Medienimpuls

Der kurze Film der Antidiskriminierungsstelle des Bundes zeigt, dass algorithmische Systeme in Bereichen wie Wohnung, Arbeit oder Werbung benachteiligende Wirkungen haben können. Für Klasse 5 genügt es, auf die Grundidee zu achten: Auch automatisierte Entscheidungen müssen auf Benachteiligung geprüft werden.

Beobachtungsauftrag: Notiere während des Videos eine Stelle, an der Menschen betroffen sind, eine mögliche Ursache für Unfairness und eine mögliche Verbesserung.

Vertiefungsvideo

Das folgende deutschsprachige Video erklärt ausführlicher, wie Verzerrungen in KI entstehen können. Für Klasse 5 kann die Lehrkraft einzelne Ausschnitte auswählen, besonders die Abschnitte zu „Was ist Bias?“ und „Warum unsere Daten schlecht sind“.

Englisch-Vertiefung

Für fächerübergreifendes Lernen mit Englisch eignet sich dieser Crash-Course-Beitrag zu algorithmischer Verzerrung und Fairness. Er ist sprachlich anspruchsvoller und daher als Zusatzangebot gedacht.

Fächerübergreifende Bezüge

Fach	Verbindung zum Thema	Handlungsorientierte Idee
Informatik	Daten, Muster, Modell, Testen, Mensch-Maschine-Aufgabenteilung	Eine Papier-KI mit Beispielkarten trainieren und mit neuen Fällen testen
Deutsch	Wortwahl, Kategorien, Stereotype, Erklärtexte, Argumentieren	Eine verständliche Transparenz-Erklärung für den AG-Finder schreiben
Mathematik	Häufigkeiten, Tabellen, Vergleiche, systematische Fehler	Trainings- und Testfälle zählen und Verteilungen vergleichen
Naturwissenschaften	faire Tests, Stichproben, Beobachtung, Wiederholbarkeit	Einen Testplan entwickeln, bei dem nur eine Bedingung verändert wird
Kunst	Darstellung von Menschen, Bildsprache, Vielfalt, visuelle Stereotype	Bildauswahlen untersuchen und eine inklusivere Bildidee skizzieren
Ethik	Gerechtigkeit, Verantwortung, Rechte, Interessenkonflikte	Verschiedene Fairnessregeln begründen und gegeneinander abwägen
Medienbildung	Quellenkritik, Datenschutz, Transparenz, Überprüfung von KI-Ausgaben	Eine Checkliste für verantwortlichen KI-Einsatz in der Klasse gestalten

Sicher und verantwortlich mit KI arbeiten

Datenschutz: Gib keine privaten Daten, Fotos oder sensiblen Informationen anderer Personen ohne Erlaubnis in KI-Dienste ein.
Quellenkritik: Prüfe wichtige Aussagen mit verlässlichen Quellen. Eine überzeugend klingende KI-Antwort kann falsch sein.
Transparenz: Sage bei schulischen Aufgaben, wenn und wie Du KI genutzt hast, wenn Eure Regeln das verlangen.
Eigenständiges Denken: Nutze KI als Werkzeug, nicht als Ersatz für Deine Begründung. Entscheide selbst, was Du übernimmst.
Sicherheit: Bei wichtigen Entscheidungen über Menschen braucht es besonders sorgfältige Prüfung und menschliche Verantwortung.
Fairness: Frage nicht nur „Funktioniert es?“, sondern auch „Für wen funktioniert es – und wer könnte Nachteile haben?“

Interaktive Aufgaben

Quiz: Teste Dein Wissen

Woran erkennst Du ein mögliches Fairnessproblem bei KI? (Eine bestimmte Gruppe erhält wiederholt schlechtere oder einseitigere Ergebnisse) (!Ein Computer benötigt Strom) (!Eine Tabelle hat viele Zeilen) (!Ein Bildschirm ist besonders groß)

Was bedeutet Repräsentation in Trainingsdaten? (Wer oder was in den Beispielen vorkommt und wie vielfältig diese Beispiele sind) (!Wie schnell ein Computer startet) (!Wie bunt die Benutzeroberfläche gestaltet ist) (!Wie viele Kabel ein Gerät besitzt)

Warum sind viele Daten nicht automatisch faire Daten? (Auch eine große Datenmenge kann einseitig zusammengesetzt sein) (!Große Datenmengen enthalten grundsätzlich keine Muster) (!Viele Daten können nur von Erwachsenen genutzt werden) (!Fairness hängt ausschließlich von der Dateigröße ab)

Welche Frage gehört zur FAIR-Lupe? (Wer ist betroffen und wer könnte fehlen) (!Welche Tastatur ist am teuersten) (!Wie viele Lautsprecher hat der Computer) (!Welche Bildschirmfarbe ist am beliebtesten)

Was ist bei einer wichtigen KI-Empfehlung besonders sinnvoll? (Das Ergebnis prüfen und eine menschliche Korrekturmöglichkeit vorsehen) (!Die Empfehlung immer automatisch übernehmen) (!Kritische Rückfragen verbieten) (!Nur auf die Geschwindigkeit des Systems achten)

Warum kann gleiche Behandlung trotzdem unfair wirken? (Menschen können unterschiedliche Voraussetzungen und Barrieren haben) (!Gleiche Regeln sind immer technisch unmöglich) (!Computer können keine gleichen Zahlen anzeigen) (!Fairness bedeutet grundsätzlich Bevorzugung)

Was kann ein Hinweis auf unausgewogene Repräsentation sein? (Eine Gruppe kommt in den Trainingsbeispielen fast gar nicht vor) (!Alle Dateien haben denselben Dateityp) (!Der Computer steht in einem Klassenraum) (!Ein Test dauert fünf Minuten)

Welche Verbesserung stärkt Teilhabe? (Betroffene Personen an Tests und Entscheidungen beteiligen) (!Rückmeldungen von Nutzenden vermeiden) (!Nur eine Person über alle Fairnessfragen entscheiden lassen) (!Ergebnisse ohne Erklärung anzeigen)

Warum ist Fairness nicht nur technisch lösbar? (Menschen müssen Ziele Werte Rechte und gerechte Regeln begründen) (!Technik kann grundsätzlich keine Daten verarbeiten) (!Fairness hat nichts mit Entscheidungen zu tun) (!Computer dürfen niemals getestet werden)

Was ist ein verantwortlicher Umgang mit persönlichen Daten? (Nur nötige Daten verwenden und die Privatsphäre anderer schützen) (!Fotos von Mitschülern ohne Erlaubnis hochladen) (!Möglichst viele private Angaben sammeln) (!Sensible Daten öffentlich teilen)

Memory

Repräsentation	Wer oder was in Daten vorkommt
Fairness	Benachteiligung prüfen und gerechte Regeln begründen
Vielfalt	Unterschiedliche Menschen Perspektiven und Situationen
Teilhabe	Mitwirken mitreden und Zugang haben
Trainingsdaten	Beispiele aus denen ein KI-System Muster lernt
Transparenz	Zweck Grenzen und Einflussfaktoren verständlich erklären
Widerspruch	Möglichkeit ein Ergebnis prüfen und korrigieren zu lassen

Drag and Drop

Ordne die richtigen Begriffe zu.	Thema
Repräsentation	Wer kommt in den Beispieldaten vor
Teilhabe	Wer kann mitreden und mitentscheiden
Transparenz	Wie verständlich werden Zweck und Grenzen erklärt
Fairness	Wer erlebt Vorteile oder Nachteile
Verbesserung	Welche Änderungen verringern erkannte Probleme

Kreuzworträtsel

Fairness	Wie heißt die Idee gerechter und nicht ohne Grund benachteiligender Behandlung?
Vielfalt	Welches Wort beschreibt das Vorkommen unterschiedlicher Menschen und Perspektiven?
Teilhabe	Wie nennt man Mitwirkung und echten Zugang zu Möglichkeiten?
Trainingsdaten	Wie heißen Beispiele aus denen eine KI Muster lernt?
Transparenz	Wie heißt das verständliche Offenlegen von Zweck Grenzen und wichtigen Einflussfaktoren?
Perspektive	Wie heißt ein bestimmter Blickwinkel auf eine Situation?

LearningApps

Lückentext

Eine KI lernt Muster aus

und kann daraus Empfehlungen oder Zuordnungen erzeugen. Fairness bedeutet, dass Menschen nicht ohne guten Grund

werden. Die Frage, wer in Beispieldaten vorkommt, nennt man

. Eine große Datenmenge kann trotzdem

sein. Bei der FAIR-Lupe fragst Du zuerst, für wen ein System Folgen hat und wer vielleicht

. Gute Prüfungen vergleichen Ergebnisse für unterschiedliche

. Betroffene Menschen sollten an Tests und Entscheidungen

werden. Verständliche Informationen über Zweck und Grenzen erhöhen die

. Bei wichtigen Entscheidungen sollen Menschen Ergebnisse prüfen und bei Bedarf

können. Welche Regel gerecht ist, ist nicht nur technisch, sondern auch eine gesellschaftliche

.

Offene Aufgaben

Leicht

Fairness-Tagebuch: Finde in Schule oder Alltag eine Situation, in der ein automatisches System etwas sortiert, empfiehlt oder bewertet. Notiere, wer davon betroffen sein könnte und welche Fairnessfrage Du stellen würdest.
Daten-Detektiv: Erfinde einen Datensatz mit zwölf Karten für einen fiktiven Sprachassistenten. Baue absichtlich eine Lücke ein und erkläre, welche Personengruppe oder Situation dadurch schlechter berücksichtigt sein könnte.
Perspektivwechsel: Schreibe drei kurze Aussagen zum AG-Finder aus Sicht eines neuen Kindes, einer Lehrkraft und eines Kindes mit Sehbeeinträchtigung. Markiere, welche Bedürfnisse sich unterscheiden.
Fairness-Plakat: Gestalte ein Poster mit den vier FAIR-Fragen Für wen, Aus welchen Daten, Ist die Wirkung gerecht, Rückfrage und Reparatur. Ergänze zu jeder Frage ein eigenes Symbol.

Standard

Testplan: Entwickle fünf fiktive Testfälle für den AG-Finder, die bewusst unterschiedliche Interessen, Sprachen oder Zugangsbedürfnisse abdecken. Begründe, warum genau diese Mischung sinnvoll ist.
Transparenztext: Formuliere einen kurzen Hinweis für Schülerinnen und Schüler, der erklärt, dass der AG-Finder nur Empfehlungen gibt, welche Datenarten einfließen und wie man eine Empfehlung ändern lassen kann.
Datenvergleich: Vergleiche zwei erfundene Trainingsdatensätze mit jeweils zwanzig Fällen. Entscheide nicht nur nach Größe, sondern nach Vielfalt. Zeichne eine Tabelle und begründe, welcher Datensatz für einen bestimmten Zweck besser geeignet ist.
Kunst und Repräsentation: Analysiere eine Sammlung frei lizenzierter Bilder zu „Schule der Zukunft“. Prüfe, welche Menschen und Tätigkeiten sichtbar sind und welche fehlen könnten. Skizziere anschließend eine ausgewogenere Bildidee, ohne echte Personen nachzuahmen.

Schwer

Fairness-Rat: Führt eine Klassendiskussion zur Frage durch, ob fünf Leih-Tablets per Los, nach Bedarf oder im Wechsel vergeben werden sollen. Erstellt gemeinsame Kriterien und dokumentiert auch Minderheitspositionen.
Fehlerraten vergleichen: Erfinde Testergebnisse für zwei Gruppen mit jeweils zehn Fällen. Eine Gruppe erhält neun passende Empfehlungen, die andere sechs. Erkläre, warum die Gesamtzahl richtiger Ergebnisse allein das Fairnessproblem verdecken kann.
KI-Audit: Erstellt für ein fiktives Empfehlungssystem einen Mini-Prüfbericht mit Zweck, Betroffenen, möglichen Risiken, Testfällen, Verbesserungen, Datenschutzregeln und einem Widerspruchsweg.
Interview und Transfer: Befrage eine Lehrkraft, Schulsozialarbeit oder Medienpädagogik-Fachkraft dazu, wo automatische Empfehlungen in Schule hilfreich oder problematisch sein könnten. Vergleiche die Aussagen mit der FAIR-Lupe und formuliere zwei eigene Handlungsempfehlungen.

Lernkontrolle

Transferfall Sprachsystem: Ein Sprachsystem versteht Erwachsene gut, Kinder mit starkem Dialekt aber häufig falsch. Erkläre mindestens zwei mögliche Ursachen, nenne eine Betroffenenperspektive und entwickle zwei Verbesserungen.
Fairnesskonflikt: Eine Schule möchte Lernhilfen entweder gleichmäßig verteilen oder zuerst an Kinder mit besonderem Bedarf geben. Vergleiche beide Regeln und begründe, warum eine KI die Wertentscheidung nicht allein treffen sollte.
Prüfplan Repräsentation: Entwirf einen Plan, mit dem Du herausfinden würdest, ob ein Bilderkennungssystem unterschiedliche Alltagssituationen ausreichend berücksichtigt. Beschreibe, welche Testfälle Du brauchst und warum.
Fehlvorstellung korrigieren: Widerlege die Aussage „Wenn ein Computer entscheidet, kann niemand diskriminiert werden“ mit einer Ursache-Wirkungs-Kette aus Daten, Muster, Ergebnis und Folge.
Verbesserungspaket: Wähle den AG-Finder oder ein anderes Empfehlungssystem und entwickle ein Paket aus mindestens vier Maßnahmen aus Datenprüfung, Beteiligung, Transparenz, Barrierefreiheit, menschlicher Kontrolle und Widerspruch.
Quellenkritik: Eine KI behauptet, ihr eigenes Ergebnis sei „zu hundert Prozent fair“. Beschreibe, welche Nachweise und unabhängigen Informationen Du verlangen würdest, bevor Du diese Aussage glaubst.

Selbstkontrolle und Reflexion

Beantworte die folgenden Sätze ohne KI-Hilfe. Vergleiche danach mit Deinem Lernpartner oder Deiner Lernpartnerin und verbessert Eure Erklärungen gemeinsam.

Selbsterklärung: „Fairness bei KI bedeutet für mich ...“
Erkennungsregel: „Ein Warnsignal für mangelnde Repräsentation ist ...“
Fehlvorstellung: „Es stimmt nicht, dass ein Computer automatisch neutral ist, weil ...“
Handlung: „Wenn eine KI mich oder andere unfair behandelt, kann ich ...“
Transfer: „Bei einem neuen KI-System prüfe ich zuerst ...“

Ziel erreicht? Du solltest die Grundidee jetzt in eigenen Worten erklären, an einem neuen Beispiel erkennen und mindestens zwei typische Fehlvorstellungen korrigieren können.

Lernnachweis

Für einen Lernnachweis zu diesem Thema ist wichtig:

Du erklärst Fairness bei KI altersgerecht und unterscheidest sie von bloß identischer Behandlung.
Du erkennst, warum Repräsentation in Trainings- und Testdaten wichtig ist.
Du kannst mindestens drei verschiedene Betroffenenperspektiven berücksichtigen.
Du prüfst Ergebnisse nicht nur insgesamt, sondern suchst nach systematischen Unterschieden.
Du entwickelst konkrete Verbesserungen und begründest ihre Wirkung.
Du erklärst, warum gesellschaftliche Wertfragen nicht vollständig technisch gelöst werden können.
Du zeigst verantwortlichen Umgang mit Datenschutz, Quellenkritik, Transparenz und menschlicher Kontrolle.
Du korrigierst typische Fehlvorstellungen wie „KI ist automatisch neutral“ oder „mehr Daten lösen jedes Fairnessproblem“.

Quellen und freie Medien

Die in diesem Kurs verwendeten Bilder stammen aus Wikimedia Commons und sind dort mit ihren jeweiligen freien Lizenzen beziehungsweise Gemeinfreiheitsangaben dokumentiert. Besonders geeignet sind die Darstellungen zu Vielfalt und Inklusion, zu Trainingsdaten und menschlicher Datenannotation sowie das Symbol zu algorithmischer Verzerrung.

Als fachlicher Orientierungsrahmen eignet sich die Empfehlung der UNESCO zur Ethik Künstlicher Intelligenz. Sie betont unter anderem Fairness und Nichtdiskriminierung, Vielfalt und Inklusion, Transparenz, menschliche Aufsicht sowie KI- und Medienkompetenz.

UNESCO: Recommendation on the Ethics of Artificial Intelligence

Wikimedia Commons: Artificial intelligence training data

Wikimedia Commons: Human diversity