Diesen aiMOOC als Battle spielen: Mathematik, Klasse 7-8, G-Niveau

Algorithmen und Verantwortung - Ethik

Einleitung

Algorithmen entscheiden nicht wie Menschen. Sie führen Regeln aus, erkennen Muster oder berechnen Wahrscheinlichkeiten. Trotzdem beeinflussen sie, welche Nachrichten Du siehst, ob eine Bewerbung aussortiert wird oder wie ein Navigationssystem Dich führt. Deshalb fragt die Digitale Ethik: Wer trägt Verantwortung, wenn algorithmische Systeme Menschen betreffen?

Lernziele

Nach diesem aiMOOC kannst Du einen Algorithmus einfach erklären, ethische Risiken erkennen, Verantwortung zuordnen und begründete Regeln für einen fairen Einsatz entwickeln.

Grundlagen

Was ist ein Algorithmus?

Ein Algorithmus ist eine eindeutige Folge von Schritten zur Lösung einer Aufgabe. Vereinfacht gilt:

Eingabe → Verarbeitung nach Regeln → Ausgabe

Ein Kochrezept ähnelt einem Algorithmus. Digitale Systeme können jedoch sehr viele Daten auswerten. Beim maschinellen Lernen werden Regeln teilweise aus Beispieldaten gelernt.

Algorithmen sind nicht automatisch neutral

Menschen wählen das Ziel, die Daten, die Merkmale und die Bewertungskriterien. Enthalten Daten alte Ungleichheiten oder fehlen bestimmte Gruppen, können Ergebnisse systematisch verzerrt sein. Diese Verzerrung heißt algorithmischer Bias.

Merksatz: Ein mathematisch korrektes Ergebnis kann trotzdem ungerecht sein.

Die Blackbox-Frage

Manche Systeme sind schwer zu erklären. Betroffene sehen dann nur die Ausgabe, aber nicht den nachvollziehbaren Grund. Je stärker eine Entscheidung das Leben eines Menschen berührt, desto wichtiger sind Transparenz, Prüfung und Widerspruch.

Ethische Maßstäbe

Maßstab	Leitfrage
Fairness	Werden Menschen oder Gruppen ohne guten Grund benachteiligt?
Transparenz	Ist erkennbar, dass ein Algorithmus beteiligt ist und wie er wirkt?
Datenschutz	Werden nur notwendige Daten rechtmäßig und sicher verwendet?
Selbstbestimmung	Bleibt eine echte Wahl- und Widerspruchsmöglichkeit?
Sicherheit	Werden Fehler, Missbrauch und Schäden begrenzt?
Rechenschaft	Ist klar, wer Entscheidungen erklärt und Folgen verantwortet?
Nachhaltigkeit	Stehen Nutzen und Ressourcenverbrauch in einem vertretbaren Verhältnis?

Wer trägt Verantwortung?

Ein Algorithmus ist kein moralisches Wesen. Verantwortung verteilt sich auf Menschen und Institutionen.

Beteiligte	Verantwortung
Entwicklung	Ziele prüfen, geeignete Daten wählen und Risiken testen
Anbieter	Grenzen dokumentieren und sichere Nutzung ermöglichen
Organisation	Einsatz begründen, Personal schulen und Beschwerden bearbeiten
Aufsicht und Politik	Rechte schützen, Regeln setzen und Kontrollen ermöglichen
Nutzende	Ergebnisse kritisch prüfen und nicht blind übernehmen

Wichtig: Die Aussage „Der Computer war es“ entschuldigt keine verantwortliche Stelle.

Fälle aus dem Alltag

Soziale Medien und Filterblasen

Empfehlungssysteme wählen Inhalte nach Signalen wie Klicks, Verweildauer oder früheren Interessen aus. Das kann nützlich sein, aber auch einseitige Informationsräume verstärken. Du solltest deshalb Quellen vergleichen und bewusst andere Perspektiven suchen.

Gesichtserkennung und Überwachung

Gesichtserkennung kann Geräte entsperren oder Personen in Bildern suchen. Sie kann aber Privatsphäre, Gleichbehandlung und Versammlungsfreiheit gefährden. Fehlerraten können zwischen Gruppen unterschiedlich sein. Deshalb sind Zweck, Genauigkeit, Kontrolle und Folgen entscheidend.

Automatisierte Auswahl

Ein System sortiert Bewerbungen nach früher erfolgreichen Beschäftigten. Waren diese Daten einseitig, kann das System alte Benachteiligungen fortsetzen. Fairer wird der Einsatz durch vielfältige Daten, Prüfgruppen, dokumentierte Kriterien und eine menschliche Entscheidung mit Widerspruchsrecht.

Autonomes Fahren

Ein selbstfahrendes Fahrzeug muss seine Umgebung erkennen und in Sekunden reagieren. Ethische Verantwortung beginnt nicht erst beim Unfall. Sie betrifft Sicherheitsziele, Tests, Wartung, Zulassung und die Frage, wann ein Mensch eingreifen muss.

Wenn ein System irrt

Algorithmische Ausgaben sind keine Gewissheiten. Besonders bei Schule, Medizin, Polizei, Kredit oder Arbeit darf ein Ergebnis nicht ungeprüft über einen Menschen entscheiden.

Ethisch prüfen: Die VERANTWORTUNG-Fragen

Prüfschritt	Frage
Zweck	Welches Problem soll gelöst werden?
Betroffene	Wer erhält Vorteile und wer trägt Risiken?
Daten	Sind die Daten passend, vielfältig und notwendig?
Erklärung	Kann die Entscheidung verständlich begründet werden?
Kontrolle	Kann ein Mensch prüfen, eingreifen und widersprechen?
Folgen	Was passiert bei Fehlern und wer hilft Betroffenen?

Regeln und Orientierung

Menschenrechte und Menschenwürde bilden zentrale Grenzen. Die UNESCO betont unter anderem Fairness, Transparenz, Sicherheit und menschliche Aufsicht. Der EU AI Act ordnet Pflichten nach Risiken und verlangt für bestimmte Systeme besondere Schutzmaßnahmen. Gesetze ersetzen aber nicht das eigene ethische Urteil.

UNESCO: Empfehlung zur Ethik der Künstlichen Intelligenz

Verordnung der Europäischen Union über Künstliche Intelligenz

Interaktive Aufgaben

Quiz: Teste Dein Wissen

Was beschreibt einen Algorithmus am besten? (Eine eindeutige Folge von Schritten zur Lösung einer Aufgabe) (!Ein moralisches Gefühl eines Computers) (!Eine zufällige Sammlung von Bildern) (!Ein Gerät zur Datenspeicherung)

Warum sind algorithmische Ergebnisse nicht automatisch neutral? (Menschen bestimmen Ziele Daten und Kriterien) (!Computer besitzen immer politische Absichten) (!Jede Berechnung enthält absichtlich einen Fehler) (!Algorithmen verwenden grundsätzlich keine Daten)

Was bedeutet algorithmischer Bias? (Eine systematische Verzerrung von Ergebnissen) (!Eine besonders schnelle Rechenmethode) (!Ein vollständiger Schutz vor Diskriminierung) (!Eine zufällige Unterbrechung des Internets)

Welcher Maßstab verlangt nachvollziehbare Entscheidungen? (Transparenz) (!Unterhaltung) (!Geschwindigkeit) (!Gewinn)

Was ist bei einer wichtigen automatisierten Entscheidung besonders nötig? (Eine menschliche Prüfung und Widerspruchsmöglichkeit) (!Eine geheime Datenquelle) (!Eine möglichst lange Rechenzeit) (!Eine Entscheidung ohne zuständige Person)

Was kann eine Filterblase verstärken? (Eine einseitige Auswahl personalisierter Informationen) (!Den vollständigen Verzicht auf digitale Medien) (!Die zufällige Reparatur eines Computers) (!Die Verschlüsselung einer Festplatte)

Welche Verantwortung hat eine Organisation beim Einsatz eines Systems? (Den Einsatz begründen kontrollieren und Beschwerden bearbeiten) (!Alle Entscheidungen an den Computer abgeben) (!Fehler grundsätzlich verschweigen) (!Nur die Geschwindigkeit des Systems prüfen)

Warum können Trainingsdaten unfair wirken? (Sie können frühere Ungleichheiten widerspiegeln) (!Sie bestehen immer nur aus erfundenen Zahlen) (!Sie verhindern jede Form von Mustererkennung) (!Sie löschen automatisch alle Unterschiede)

Welche Frage gehört zum Datenschutz? (Werden nur notwendige Daten sicher verwendet) (!Ist das Logo des Systems modern) (!Arbeitet der Bildschirm besonders hell) (!Hat die Software viele Animationen)

Wer trägt moralische Verantwortung für einen Algorithmus? (Die beteiligten Menschen und Institutionen) (!Nur der Programmcode) (!Ausschließlich die betroffene Person) (!Niemand weil Technik neutral ist)

Memory

Algorithmus	eindeutige Handlungsanweisung
Datensatz	gesammelte Informationen
Bias	systematische Verzerrung
Transparenz	Nachvollziehbarkeit
Datenschutz	Schutz persönlicher Daten
Rechenschaft	begründete Zuständigkeit
Aufsicht	menschliche Kontrollmöglichkeit
Filterblase	einseitiger Informationsraum

Drag and Drop

Ordne die richtigen Begriffe zu.	Ethische Forderung
Transparenz	Entscheidung verständlich erklären
Fairness	Gruppen nicht systematisch benachteiligen
Datensparsamkeit	nur notwendige Informationen verwenden
Aufsicht	menschliches Eingreifen ermöglichen
Rechenschaft	klare Zuständigkeit festlegen

Kreuzworträtsel

Algorithmus	Wie heißt eine eindeutige Schrittfolge zur Lösung einer Aufgabe?
Fairness	Welcher Maßstab fordert gerechte Behandlung?
Transparenz	Wie heißt die Nachvollziehbarkeit einer Entscheidung?
Datenschutz	Was schützt persönliche Informationen?
Verantwortung	Wie heißt die Pflicht, Folgen des Handelns zu begründen und zu tragen?
Filterblase	Wie heißt ein einseitiger personalisierter Informationsraum?

LearningApps

Lückentext

Offene Aufgaben

Leicht

Algorithmus-Tagebuch: Notiere einen Tag lang, wo Dir algorithmische Empfehlungen oder Sortierungen begegnen.
Feed-Vergleich: Vergleiche mit einer anderen Person die Startseiten derselben Plattform und beschreibe Unterschiede.
Wertekarte: Gestalte eine Karte mit den Begriffen Fairness, Transparenz, Datenschutz und Verantwortung.
Datencheck: Prüfe bei einer App, welche Daten sie verlangt und welche davon wirklich nötig erscheinen.

Standard

Fallanalyse: Beurteile einen Bewerbungsalgorithmus aus Sicht von Bewerbenden, Unternehmen und Gesellschaft.
Klassenkodex: Formuliert Regeln für einen verantwortlichen Einsatz von KI und Lernplattformen in der Schule.
Experteninterview: Befrage eine Lehrkraft, eine Informatikerin oder einen Datenschutzbeauftragten zu algorithmischen Entscheidungen.
Erklärvideo: Produziere ein kurzes Video, das Bias an einem selbst erfundenen Beispiel verständlich erklärt.

Schwer

Algorithmus-Audit: Entwickle einen Prüfplan mit Kriterien, Belegen, Testgruppen und Beschwerdeweg für ein fiktives System.
Streitgespräch: Diskutiert, ob eine Schule Software zur automatischen Erkennung von Regelverstößen einsetzen darf.
Technikfolgenabschätzung: Untersuche Chancen, Risiken und Alternativen von Gesichtserkennung im öffentlichen Raum.
Schulkonzept: Entwirf ein Konzept, das Zuständigkeit, Datenschutz, menschliche Aufsicht und Widerspruch beim KI-Einsatz regelt.

Lernkontrolle

Perspektivwechsel: Erkläre, warum dieselbe algorithmische Entscheidung für eine Organisation nützlich und für eine betroffene Person ungerecht sein kann.
Verantwortungskette: Ordne bei einem fehlerhaften Bewerbungssystem mindestens vier Beteiligten konkrete Verantwortung zu und begründe Deine Zuordnung.
Zielkonflikt: Entwickle eine Lösung für den Konflikt zwischen Personalisierung und Datenschutz.
Fairnessprüfung: Beschreibe, wie Du prüfen würdest, ob ein System bestimmte Gruppen benachteiligt.
Widerspruchsverfahren: Entwirf einen fairen Ablauf, mit dem Betroffene eine automatisierte Entscheidung anfechten können.
Urteilsbildung: Entscheide begründet, ob Gesichtserkennung an Deiner Schule eingesetzt werden sollte, und nenne Bedingungen oder Grenzen.

Lernnachweis

Für einen Lernnachweis ist wichtig, dass Du:

Algorithmus und Bias verständlich erklärst.
einen konkreten Fall mit mehreren ethischen Maßstäben untersuchst.
Verantwortung nachvollziehbar auf Beteiligte verteilst.
Chancen, Risiken und Betroffenenperspektiven gegeneinander abwägst.
ein begründetes Urteil mit Schutzmaßnahmen und Widerspruchsmöglichkeit formulierst.
Quellen und eigene Annahmen klar voneinander trennst.

OERs zum Thema

Verknüpfte Lernbereiche

Algorithmen und Verantwortung - Ethik

aiMOOC-Projekte

Inhalte werden geladen ...

Mediathek wird aus dem Wiki geladen ...

Frag mich zum aktuellen Lerninhalt oder wähle eine kurze Hilfe.

Textmodus bereit

Sprache