Algorithmen und Verantwortung - Ethik
Algorithmen und Verantwortung - Ethik
Algorithmen und Verantwortung - Ethik
Einleitung
Algorithmen entscheiden nicht wie Menschen. Sie führen Regeln aus, erkennen Muster oder berechnen Wahrscheinlichkeiten. Trotzdem beeinflussen sie, welche Nachrichten Du siehst, ob eine Bewerbung aussortiert wird oder wie ein Navigationssystem Dich führt. Deshalb fragt die Digitale Ethik: Wer trägt Verantwortung, wenn algorithmische Systeme Menschen betreffen?
Lernziele
Nach diesem aiMOOC kannst Du einen Algorithmus einfach erklären, ethische Risiken erkennen, Verantwortung zuordnen und begründete Regeln für einen fairen Einsatz entwickeln.
Grundlagen
Was ist ein Algorithmus?
Ein Algorithmus ist eine eindeutige Folge von Schritten zur Lösung einer Aufgabe. Vereinfacht gilt:
Eingabe → Verarbeitung nach Regeln → Ausgabe
Ein Kochrezept ähnelt einem Algorithmus. Digitale Systeme können jedoch sehr viele Daten auswerten. Beim maschinellen Lernen werden Regeln teilweise aus Beispieldaten gelernt.
Algorithmen sind nicht automatisch neutral
Menschen wählen das Ziel, die Daten, die Merkmale und die Bewertungskriterien. Enthalten Daten alte Ungleichheiten oder fehlen bestimmte Gruppen, können Ergebnisse systematisch verzerrt sein. Diese Verzerrung heißt algorithmischer Bias.
Merksatz: Ein mathematisch korrektes Ergebnis kann trotzdem ungerecht sein.
Die Blackbox-Frage
Manche Systeme sind schwer zu erklären. Betroffene sehen dann nur die Ausgabe, aber nicht den nachvollziehbaren Grund. Je stärker eine Entscheidung das Leben eines Menschen berührt, desto wichtiger sind Transparenz, Prüfung und Widerspruch.
Ethische Maßstäbe
| Maßstab | Leitfrage |
|---|---|
| Fairness | Werden Menschen oder Gruppen ohne guten Grund benachteiligt? |
| Transparenz | Ist erkennbar, dass ein Algorithmus beteiligt ist und wie er wirkt? |
| Datenschutz | Werden nur notwendige Daten rechtmäßig und sicher verwendet? |
| Selbstbestimmung | Bleibt eine echte Wahl- und Widerspruchsmöglichkeit? |
| Sicherheit | Werden Fehler, Missbrauch und Schäden begrenzt? |
| Rechenschaft | Ist klar, wer Entscheidungen erklärt und Folgen verantwortet? |
| Nachhaltigkeit | Stehen Nutzen und Ressourcenverbrauch in einem vertretbaren Verhältnis? |
.jpg)
Wer trägt Verantwortung?
Ein Algorithmus ist kein moralisches Wesen. Verantwortung verteilt sich auf Menschen und Institutionen.
| Beteiligte | Verantwortung |
|---|---|
| Entwicklung | Ziele prüfen, geeignete Daten wählen und Risiken testen |
| Anbieter | Grenzen dokumentieren und sichere Nutzung ermöglichen |
| Organisation | Einsatz begründen, Personal schulen und Beschwerden bearbeiten |
| Aufsicht und Politik | Rechte schützen, Regeln setzen und Kontrollen ermöglichen |
| Nutzende | Ergebnisse kritisch prüfen und nicht blind übernehmen |
Wichtig: Die Aussage „Der Computer war es“ entschuldigt keine verantwortliche Stelle.
Fälle aus dem Alltag
Soziale Medien und Filterblasen
Empfehlungssysteme wählen Inhalte nach Signalen wie Klicks, Verweildauer oder früheren Interessen aus. Das kann nützlich sein, aber auch einseitige Informationsräume verstärken. Du solltest deshalb Quellen vergleichen und bewusst andere Perspektiven suchen.
.jpg)
Gesichtserkennung und Überwachung
Gesichtserkennung kann Geräte entsperren oder Personen in Bildern suchen. Sie kann aber Privatsphäre, Gleichbehandlung und Versammlungsfreiheit gefährden. Fehlerraten können zwischen Gruppen unterschiedlich sein. Deshalb sind Zweck, Genauigkeit, Kontrolle und Folgen entscheidend.
Automatisierte Auswahl
Ein System sortiert Bewerbungen nach früher erfolgreichen Beschäftigten. Waren diese Daten einseitig, kann das System alte Benachteiligungen fortsetzen. Fairer wird der Einsatz durch vielfältige Daten, Prüfgruppen, dokumentierte Kriterien und eine menschliche Entscheidung mit Widerspruchsrecht.
Autonomes Fahren
Ein selbstfahrendes Fahrzeug muss seine Umgebung erkennen und in Sekunden reagieren. Ethische Verantwortung beginnt nicht erst beim Unfall. Sie betrifft Sicherheitsziele, Tests, Wartung, Zulassung und die Frage, wann ein Mensch eingreifen muss.
Wenn ein System irrt
Algorithmische Ausgaben sind keine Gewissheiten. Besonders bei Schule, Medizin, Polizei, Kredit oder Arbeit darf ein Ergebnis nicht ungeprüft über einen Menschen entscheiden.
Ethisch prüfen: Die VERANTWORTUNG-Fragen
| Prüfschritt | Frage |
|---|---|
| Zweck | Welches Problem soll gelöst werden? |
| Betroffene | Wer erhält Vorteile und wer trägt Risiken? |
| Daten | Sind die Daten passend, vielfältig und notwendig? |
| Erklärung | Kann die Entscheidung verständlich begründet werden? |
| Kontrolle | Kann ein Mensch prüfen, eingreifen und widersprechen? |
| Folgen | Was passiert bei Fehlern und wer hilft Betroffenen? |
Regeln und Orientierung
Menschenrechte und Menschenwürde bilden zentrale Grenzen. Die UNESCO betont unter anderem Fairness, Transparenz, Sicherheit und menschliche Aufsicht. Der EU AI Act ordnet Pflichten nach Risiken und verlangt für bestimmte Systeme besondere Schutzmaßnahmen. Gesetze ersetzen aber nicht das eigene ethische Urteil.
UNESCO: Empfehlung zur Ethik der Künstlichen Intelligenz
Verordnung der Europäischen Union über Künstliche Intelligenz
Interaktive Aufgaben
Quiz: Teste Dein Wissen
Was beschreibt einen Algorithmus am besten? (Eine eindeutige Folge von Schritten zur Lösung einer Aufgabe) (!Ein moralisches Gefühl eines Computers) (!Eine zufällige Sammlung von Bildern) (!Ein Gerät zur Datenspeicherung)
Warum sind algorithmische Ergebnisse nicht automatisch neutral? (Menschen bestimmen Ziele Daten und Kriterien) (!Computer besitzen immer politische Absichten) (!Jede Berechnung enthält absichtlich einen Fehler) (!Algorithmen verwenden grundsätzlich keine Daten)
Was bedeutet algorithmischer Bias? (Eine systematische Verzerrung von Ergebnissen) (!Eine besonders schnelle Rechenmethode) (!Ein vollständiger Schutz vor Diskriminierung) (!Eine zufällige Unterbrechung des Internets)
Welcher Maßstab verlangt nachvollziehbare Entscheidungen? (Transparenz) (!Unterhaltung) (!Geschwindigkeit) (!Gewinn)
Was ist bei einer wichtigen automatisierten Entscheidung besonders nötig? (Eine menschliche Prüfung und Widerspruchsmöglichkeit) (!Eine geheime Datenquelle) (!Eine möglichst lange Rechenzeit) (!Eine Entscheidung ohne zuständige Person)
Was kann eine Filterblase verstärken? (Eine einseitige Auswahl personalisierter Informationen) (!Den vollständigen Verzicht auf digitale Medien) (!Die zufällige Reparatur eines Computers) (!Die Verschlüsselung einer Festplatte)
Welche Verantwortung hat eine Organisation beim Einsatz eines Systems? (Den Einsatz begründen kontrollieren und Beschwerden bearbeiten) (!Alle Entscheidungen an den Computer abgeben) (!Fehler grundsätzlich verschweigen) (!Nur die Geschwindigkeit des Systems prüfen)
Warum können Trainingsdaten unfair wirken? (Sie können frühere Ungleichheiten widerspiegeln) (!Sie bestehen immer nur aus erfundenen Zahlen) (!Sie verhindern jede Form von Mustererkennung) (!Sie löschen automatisch alle Unterschiede)
Welche Frage gehört zum Datenschutz? (Werden nur notwendige Daten sicher verwendet) (!Ist das Logo des Systems modern) (!Arbeitet der Bildschirm besonders hell) (!Hat die Software viele Animationen)
Wer trägt moralische Verantwortung für einen Algorithmus? (Die beteiligten Menschen und Institutionen) (!Nur der Programmcode) (!Ausschließlich die betroffene Person) (!Niemand weil Technik neutral ist)
Memory
| Algorithmus | eindeutige Handlungsanweisung |
| Datensatz | gesammelte Informationen |
| Bias | systematische Verzerrung |
| Transparenz | Nachvollziehbarkeit |
| Datenschutz | Schutz persönlicher Daten |
| Rechenschaft | begründete Zuständigkeit |
| Aufsicht | menschliche Kontrollmöglichkeit |
| Filterblase | einseitiger Informationsraum |
Drag and Drop
| Ordne die richtigen Begriffe zu. | Ethische Forderung |
|---|---|
| Transparenz | Entscheidung verständlich erklären |
| Fairness | Gruppen nicht systematisch benachteiligen |
| Datensparsamkeit | nur notwendige Informationen verwenden |
| Aufsicht | menschliches Eingreifen ermöglichen |
| Rechenschaft | klare Zuständigkeit festlegen |
Kreuzworträtsel
| Algorithmus | Wie heißt eine eindeutige Schrittfolge zur Lösung einer Aufgabe? |
| Fairness | Welcher Maßstab fordert gerechte Behandlung? |
| Transparenz | Wie heißt die Nachvollziehbarkeit einer Entscheidung? |
| Datenschutz | Was schützt persönliche Informationen? |
| Verantwortung | Wie heißt die Pflicht, Folgen des Handelns zu begründen und zu tragen? |
| Filterblase | Wie heißt ein einseitiger personalisierter Informationsraum? |
LearningApps
Lückentext
Offene Aufgaben
Leicht
- Algorithmus-Tagebuch: Notiere einen Tag lang, wo Dir algorithmische Empfehlungen oder Sortierungen begegnen.
- Feed-Vergleich: Vergleiche mit einer anderen Person die Startseiten derselben Plattform und beschreibe Unterschiede.
- Wertekarte: Gestalte eine Karte mit den Begriffen Fairness, Transparenz, Datenschutz und Verantwortung.
- Datencheck: Prüfe bei einer App, welche Daten sie verlangt und welche davon wirklich nötig erscheinen.
Standard
- Fallanalyse: Beurteile einen Bewerbungsalgorithmus aus Sicht von Bewerbenden, Unternehmen und Gesellschaft.
- Klassenkodex: Formuliert Regeln für einen verantwortlichen Einsatz von KI und Lernplattformen in der Schule.
- Experteninterview: Befrage eine Lehrkraft, eine Informatikerin oder einen Datenschutzbeauftragten zu algorithmischen Entscheidungen.
- Erklärvideo: Produziere ein kurzes Video, das Bias an einem selbst erfundenen Beispiel verständlich erklärt.
Schwer
- Algorithmus-Audit: Entwickle einen Prüfplan mit Kriterien, Belegen, Testgruppen und Beschwerdeweg für ein fiktives System.
- Streitgespräch: Diskutiert, ob eine Schule Software zur automatischen Erkennung von Regelverstößen einsetzen darf.
- Technikfolgenabschätzung: Untersuche Chancen, Risiken und Alternativen von Gesichtserkennung im öffentlichen Raum.
- Schulkonzept: Entwirf ein Konzept, das Zuständigkeit, Datenschutz, menschliche Aufsicht und Widerspruch beim KI-Einsatz regelt.
|
|
Lernkontrolle
- Perspektivwechsel: Erkläre, warum dieselbe algorithmische Entscheidung für eine Organisation nützlich und für eine betroffene Person ungerecht sein kann.
- Verantwortungskette: Ordne bei einem fehlerhaften Bewerbungssystem mindestens vier Beteiligten konkrete Verantwortung zu und begründe Deine Zuordnung.
- Zielkonflikt: Entwickle eine Lösung für den Konflikt zwischen Personalisierung und Datenschutz.
- Fairnessprüfung: Beschreibe, wie Du prüfen würdest, ob ein System bestimmte Gruppen benachteiligt.
- Widerspruchsverfahren: Entwirf einen fairen Ablauf, mit dem Betroffene eine automatisierte Entscheidung anfechten können.
- Urteilsbildung: Entscheide begründet, ob Gesichtserkennung an Deiner Schule eingesetzt werden sollte, und nenne Bedingungen oder Grenzen.
Lernnachweis
Für einen Lernnachweis ist wichtig, dass Du:
- Algorithmus und Bias verständlich erklärst.
- einen konkreten Fall mit mehreren ethischen Maßstäben untersuchst.
- Verantwortung nachvollziehbar auf Beteiligte verteilst.
- Chancen, Risiken und Betroffenenperspektiven gegeneinander abwägst.
- ein begründetes Urteil mit Schutzmaßnahmen und Widerspruchsmöglichkeit formulierst.
- Quellen und eigene Annahmen klar voneinander trennst.
OERs zum Thema
Verknüpfte Lernbereiche
aiMOOC-Projekte
Schulfach+
|
|
aiMOOCs
aiMOOC Projekte
|
|
THE MONKEY DANCE
|
|
|