Maschinenethik - Philosophie 1
Maschinenethik - Philosophie 1
Maschinenethik - Philosophie
Einleitung
Zielgruppe: Klasse 11–13 und Studium im Fach Philosophie.
Leitfrage: Können Maschinen moralisch handeln – oder führen sie nur Regeln aus, die Menschen festgelegt haben?
Die Maschinenethik liegt an der Schnittstelle von Ethik, Künstlicher Intelligenz, Informatik, Robotik und Technikphilosophie. Sie untersucht, wie teilautonome und autonome Systeme Handlungsoptionen nach moralischen Kriterien auswählen können. Davon zu unterscheiden ist die breitere Ethik der Künstlichen Intelligenz, die vor allem fragt, wie Menschen KI entwickeln, einsetzen und kontrollieren sollen.
Lernziele
Nach diesem aiMOOC kannst Du Maschinenethik von Technikethik unterscheiden, ethische Theorien auf technische Fälle anwenden, Risiken wie Bias, Intransparenz und Verantwortungsverschiebung analysieren und begründete Regeln für verantwortbare Systeme entwerfen.
Grundbegriffe
Moral bezeichnet Werte und Regeln des richtigen Handelns. Ethik prüft und begründet solche Regeln. Eine Maschine zeigt moralisch relevantes Verhalten, wenn ihre Entscheidungen Menschen, Tiere, Umwelt oder gesellschaftliche Güter betreffen.
Ob eine Maschine ein echter moralischer Akteur sein kann, ist umstritten. Regelkonformes Verhalten beweist weder Bewusstsein noch Willensfreiheit oder persönliche Verantwortung. Deshalb bleibt menschliche und institutionelle Verantwortung zentral.
Drei Arten maschineller Moral
| Ansatz | Grundidee | Grenze |
|---|---|---|
| Top-down | Regeln und Verbote werden ausdrücklich programmiert. | Regeln können kollidieren oder unvollständig sein. |
| Bottom-up | Das System lernt aus Beispielen und Rückmeldungen. | Trainingsdaten können Bias und fragwürdige Normen enthalten. |
| Hybrid | Regeln, Lernen und menschliche Kontrolle werden verbunden. | Auch Mischformen brauchen überprüfbare Ziele und Zuständigkeiten. |
Philosophische Modelle
| Theorie | Prüffrage an ein System | Typisches Problem |
|---|---|---|
| Utilitarismus | Welche Option erzeugt voraussichtlich den größten Gesamtnutzen? | Minderheitenrechte können übergangen werden. |
| Deontologische Ethik | Werden Pflichten, Verbote und Rechte eingehalten? | Starre Regeln können Ausnahmen schlecht erfassen. |
| Tugendethik | Welche Haltung würde eine kluge und gerechte Person zeigen? | Charakterbegriffe sind schwer zu formalisieren. |
| Gerechtigkeitstheorie | Sind Chancen, Risiken und Lasten fair verteilt? | Fairness besitzt mehrere, teils widersprüchliche Bedeutungen. |
| Care-Ethik | Werden Abhängigkeiten, Beziehungen und Verletzlichkeit berücksichtigt? | Kontext und Fürsorge lassen sich nur begrenzt in Kennzahlen übersetzen. |
Zentrale Konflikte
Wertepluralismus: Gesellschaften und Personen gewichten Freiheit, Sicherheit, Fürsorge, Gerechtigkeit und Nutzen unterschiedlich.
Ungewissheit: Reale Systeme kennen Folgen meist nur als Wahrscheinlichkeiten. Ein moralisches Urteil darf Unsicherheit nicht verschweigen.
Bias: Verzerrte Daten, ungeeignete Zielgrößen oder einseitige Tests können Menschen systematisch benachteiligen.
Erklärbarkeit: Betroffene müssen wichtige Entscheidungen verstehen, prüfen und anfechten können.
Verantwortungslücke: Je komplexer ein System, desto leichter wird Verantwortung zwischen Entwicklung, Betrieb, Organisation und Nutzung verschoben.
Anwendungsfelder
Beim autonomen Fahren geht es nicht nur um seltene Dilemmata, sondern auch um sichere Standards, Risikoverteilung, Fehlerwahrscheinlichkeiten und Haftung. In Medizin und Pflege müssen Systeme Selbstbestimmung, Datenschutz und Fürsorge beachten. In Schule, Verwaltung, Kreditvergabe oder Personalwahl stehen Fairness und Widerspruchsmöglichkeiten im Mittelpunkt. Bei autonomen Waffensystemen verschärft sich die Frage nach Menschenwürde, Kontrolle und Verantwortbarkeit.
Das Trolley-Problem richtig einordnen
Das Trolley-Problem macht Konflikte zwischen Folgen und Pflichten sichtbar. Für reale KI-Systeme ist es jedoch nur ein Gedankenexperiment: Wirkliche Entscheidungen enthalten Messfehler, Zeitdruck, unbekannte Folgen, rechtliche Grenzen und verteilte Verantwortung. Maschinenethik darf deshalb nicht auf die Frage reduziert werden, wen ein Fahrzeug in einer ausweglosen Situation opfern soll.
Verantwortung gestalten
Ein verantwortbares System benötigt klare Zwecke, geeignete Daten, Sicherheitsgrenzen, dokumentierte Tests, menschliche Aufsicht, unabhängige Prüfungen und wirksame Beschwerdewege. Menschliche Kontrolle bedeutet mehr als einen Not-Aus-Schalter: Menschen müssen informiert, befugt, erreichbar und rechenschaftspflichtig sein.
Methode zur Fallanalyse
- Kontextanalyse: Bestimme Zweck, Umgebung und Entscheidungsspielraum des Systems.
- Stakeholder: Ermittle Betroffene, Machtverhältnisse und besondere Verletzlichkeiten.
- Handlungsoption: Vergleiche Alternativen, Folgen, Rechte und Pflichten.
- Datenethik: Prüfe Datenqualität, Bias, Datenschutz und Messfehler.
- Verantwortung: Ordne Entwicklung, Freigabe, Betrieb, Aufsicht und Haftung zu.
- Urteilsbildung: Begründe eine Lösung, benenne Unsicherheit und formuliere Kontrollregeln.
Interaktive Aufgaben
Quiz: Teste Dein Wissen
Was untersucht die Maschinenethik im engeren Sinn? (Das moralisch relevante Entscheidungsverhalten teilautonomer und autonomer Systeme) (!Die Reparatur mechanischer Bauteile) (!Die Geschichte der Dampfmaschine) (!Die Ästhetik technischer Geräte)
Worin unterscheidet sich Maschinenethik von allgemeiner KI-Ethik? (Maschinenethik fokussiert moralische Entscheidungen von Systemen) (!Maschinenethik behandelt nur Stromverbrauch) (!KI-Ethik ist ausschließlich Programmierung) (!Beide Begriffe bezeichnen nur Roboterdesign)
Welche Prüffrage passt zum Utilitarismus? (Welche Option erzeugt voraussichtlich den größten Gesamtnutzen) (!Welche Farbe besitzt die Maschine) (!Welche Option ist technisch am teuersten) (!Welche Regel wurde zuletzt gespeichert)
Worauf achtet eine deontologische Bewertung besonders? (Auf Pflichten Rechte und Verbote) (!Auf die Geschwindigkeit des Prozessors) (!Auf den Marktanteil des Herstellers) (!Auf die Beliebtheit einer Benutzeroberfläche)
Was kennzeichnet einen Bottom-up-Ansatz? (Das System lernt moralische Muster aus Beispielen und Rückmeldungen) (!Das System besitzt keinerlei Daten) (!Alle Entscheidungen werden zufällig gewählt) (!Nur das Gehäuse wird verändert)
Was bedeutet Bias bei algorithmischen Entscheidungen? (Eine systematische Verzerrung mit möglichen Benachteiligungen) (!Eine vollständige Fehlerfreiheit) (!Eine besonders schnelle Rechenmethode) (!Eine rein ästhetische Eigenschaft)
Warum ist Erklärbarkeit ethisch wichtig? (Entscheidungen können geprüft verstanden und angefochten werden) (!Sie macht jede Entscheidung automatisch richtig) (!Sie ersetzt Verantwortung vollständig) (!Sie verhindert jede technische Störung)
Was beschreibt eine Verantwortungslücke? (Die unklare Zurechnung von Verantwortung bei komplexen Systemen) (!Eine fehlende Stromverbindung) (!Eine Pause zwischen zwei Rechenschritten) (!Ein Defekt im Bildschirm)
Was gehört zu wirksamer menschlicher Aufsicht? (Informierte und befugte Menschen können eingreifen und entscheiden) (!Menschen bestätigen jede Ausgabe ungeprüft) (!Das System überwacht ausschließlich sich selbst) (!Verantwortung wird vollständig an Software übertragen)
Warum reicht das Trolley-Problem für reale Maschinenethik nicht aus? (Reale Fälle enthalten Unsicherheit Strukturen und verteilte Verantwortung) (!Reale Systeme treffen niemals Entscheidungen) (!Gedankenexperimente sind immer technisch unmöglich) (!Ethik betrifft ausschließlich historische Fragen)
Memory
| Maschinenethik | Moralisch relevantes Systemverhalten |
| Utilitarismus | Bewertung erwartbarer Folgen |
| Deontologie | Orientierung an Pflichten |
| Bias | Systematische Verzerrung |
| Erklärbarkeit | Nachvollziehbare Entscheidung |
| Audit | Unabhängige Prüfung |
| Care-Ethik | Beachtung von Beziehungen |
| Verantwortung | Begründete Zurechnung |
Drag and Drop
| Ordne die richtigen Begriffe zu. | Thema |
|---|---|
| Folgenethik | Erwartete Auswirkungen und Gesamtnutzen |
| Pflichtenethik | Rechte Verbote und verbindliche Regeln |
| Gerechtigkeit | Faire Verteilung von Chancen und Risiken |
| Care-Ethik | Beziehungen Abhängigkeit und Verletzlichkeit |
| Transparenz | Prüfbarkeit einer Entscheidung |
| Verantwortung | Zuständigkeit für Folgen und Korrekturen |
Kreuzworträtsel
| Autonomie | Wie heißt ein begrenzter selbstständiger Handlungsspielraum? |
| Bias | Wie heißt eine systematische Verzerrung in Daten oder Modellen? |
| Audit | Wie heißt eine unabhängige Prüfung eines Systems? |
| Würde | Welcher unbedingte moralische Status des Menschen ist zu achten? |
| Haftung | Wie heißt die rechtliche Einstandspflicht für Schäden? |
| Transparenz | Wie heißt die Nachvollziehbarkeit von Verfahren und Entscheidungen? |
LearningApps
Lückentext
Offene Aufgaben
Leicht
- Begriffskarte: Gestalte eine Karte, die Maschinenethik, KI-Ethik, Moral und Verantwortung voneinander abgrenzt.
- Dilemma: Formuliere einen kurzen Fall, in dem ein Assistenzsystem zwischen zwei moralischen Gütern abwägen muss.
- Medienanalyse: Untersuche eine Nachricht über KI und markiere Tatsachen, Wertungen und offene ethische Fragen.
- Perspektivwechsel: Beschreibe denselben KI-Einsatz aus Sicht einer betroffenen Person, einer Entwicklerin und einer Behörde.
Standard
- Fallanalyse: Bewerte ein autonomes Fahrzeug mit Utilitarismus, Pflichtethik und Gerechtigkeitstheorie.
- Bias-Prüfung: Entwickle fünf Fragen, mit denen Du ein Auswahl- oder Bewertungssystem auf mögliche Benachteiligungen prüfst.
- Debatte: Diskutiere die These „Eine Maschine kann moralisch handeln, ohne moralisch verantwortlich zu sein“.
- Stakeholder-Mapping: Erstelle für einen Pflegeroboter eine Übersicht über Betroffene, Interessen, Risiken und Entscheidungsmacht.
Schwer
- Policy Brief: Verfasse Regeln für den Einsatz eines KI-Systems in Schule, Medizin oder Verwaltung.
- Ethik-by-Design: Entwirf ein Systemkonzept mit Sicherheitsgrenzen, Erklärungen, Aufsicht, Audit und Beschwerdeweg.
- Theorienvergleich: Zeige an einem Fall, wie Utilitarismus, Kantische Ethik, Care-Ethik und Rawls zu verschiedenen Urteilen gelangen.
- Forschungsprojekt: Führe eine kleine Befragung zu einem Maschinenethik-Fall durch, werte Begründungsmuster aus und reflektiere Grenzen Deiner Methode.
|
|
Lernkontrolle
- Pflegeroboter: Ein Roboter erinnert eine demenzkranke Person an Medikamente, obwohl sie widerspricht. Entwickle eine Lösung, die Autonomie, Fürsorge, Sicherheit und Verantwortung abwägt.
- Algorithmische Bewertung: Eine Schule nutzt ein System zur Prognose von Lernerfolg. Analysiere, welche Daten legitim sind, welche Verzerrungen drohen und wie ein Widerspruchsverfahren aussehen muss.
- Theorienkonflikt: Konstruiere einen Fall, in dem Folgenethik und Pflichtethik zu unterschiedlichen Empfehlungen führen, und begründe Dein eigenes Urteil.
- Verantwortungsnetz: Ordne bei einem fehlerhaften KI-System Verantwortung auf Entwicklung, Anbieter, Organisation, Aufsicht und Nutzung. Begründe jede Zuordnung.
- Entscheidung unter Unsicherheit: Entwickle eine Regel, wie ein System handeln soll, wenn Folgen nur mit unsicheren Wahrscheinlichkeiten bekannt sind.
- Transfer: Übertrage die Fallanalyse-Methode auf einen neuen Bereich und begründe, welche zusätzlichen Schutzmaßnahmen dort nötig sind.
Lernnachweis
Für einen überzeugenden Lernnachweis sind wichtig:
- eine klare Unterscheidung von Maschinenethik, KI-Ethik und Technikethik
- die begründete Anwendung mehrerer ethischer Theorien
- die Analyse von Bias, Ungewissheit, Macht und Betroffenheit
- eine nachvollziehbare Zuordnung von Verantwortung
- konkrete Vorschläge zu Aufsicht, Prüfung, Transparenz und Beschwerde
- ein reflektiertes eigenes Urteil mit benannten Gegenargumenten
OERs zum Thema
Verknüpfte Lernbereiche
aiMOOC-Projekte
Schulfach+
|
|
aiMOOCs
aiMOOC Projekte
|
|
THE MONKEY DANCE
|
|
|