Autonomes Fahren - Ethik
Autonomes Fahren - Ethik
Einleitung
Ein autonomes Fahrzeug kann seine Umgebung erfassen, Fahrwege planen, lenken und bremsen. Die Technik wirft jedoch eine zweite Frage auf: Nicht nur: Was kann das Fahrzeug? Sondern: Was soll es tun?
In diesem aiMOOC untersuchst Du Menschenwürde, Sicherheit, Gerechtigkeit, Verantwortung, Datenschutz und Autonomie. Du lernst, ethische Positionen zu vergleichen und begründete Regeln für den Einsatz autonomer Fahrzeuge zu entwickeln.
Lernziele
- Begriffe klären: Du unterscheidest Assistenz, automatisiertes und autonomes Fahren.
- Werte erkennen: Du benennst ethische Konflikte im Straßenverkehr.
- Positionen prüfen: Du wendest Folgenethik, Pflichtethik und Gerechtigkeitsethik an.
- Urteil bilden: Du begründest Regeln für Sicherheit, Daten und Verantwortung.
Technische Grundlage
Automatisierungsstufen
Die Stufen reichen von 0 bis 5. Ethisch besonders wichtig sind Stufe 4 und 5, weil das System die Fahraufgabe weitgehend oder vollständig übernimmt.
| Stufe | Rolle des Systems | Rolle des Menschen |
|---|---|---|
| 0 bis 2 | Das System unterstützt. | Der Mensch fährt und überwacht. |
| 3 | Das System fährt zeitweise selbst. | Der Mensch muss nach Aufforderung übernehmen. |
| 4 | Das System fährt in festgelegten Bereichen selbstständig. | Eine Übernahme ist dort nicht ständig nötig. |
| 5 | Das System bewältigt die gesamte vorgesehene Fahrt. | Ein Fahrer ist nicht erforderlich. |
Wahrnehmen, Entscheiden, Handeln
Kameras, Radar, Lidar, Satellitennavigation und digitale Karten liefern Daten. Software erkennt Objekte, schätzt Bewegungen ein und wählt ein Fahrmanöver. Bremsen, Lenkung und Antrieb setzen es um.
Eine Lidar-Punktwolke zeigt, wie ein Sensor die Umgebung räumlich abbildet. Messfehler, schlechtes Wetter oder unbekannte Situationen können die Wahrnehmung erschweren.
Wichtig: Ein Fahrsystem besitzt kein Gewissen. Menschen legen Ziele, Regeln, Trainingsdaten, Prüfverfahren und Grenzen fest.
Warum ist autonomes Fahren ein Thema der Ethik?
Ethik fragt, welches Handeln gut, richtig und gerecht ist. Beim autonomen Fahren werden Entscheidungen teilweise in Technik übersetzt. Dadurch entstehen Fragen, die Entwickler, Unternehmen, Politik und Gesellschaft gemeinsam beantworten müssen.
| Wert | Leitfrage |
|---|---|
| Menschenwürde | Werden alle Menschen als gleich wertvoll geachtet? |
| Sicherheit | Werden vorhersehbare Schäden möglichst verhindert? |
| Autonomie | Bleiben Wahlmöglichkeiten und menschliche Kontrolle erhalten? |
| Gerechtigkeit | Sind Chancen, Kosten und Risiken fair verteilt? |
| Datenschutz | Werden nur notwendige Daten zweckgebunden genutzt? |
| Verantwortung | Ist klar, wer Entscheidungen erklären und für Folgen einstehen muss? |
| Nachhaltigkeit | Verbessert das Verkehrssystem Umwelt und Lebensqualität insgesamt? |
Dilemma und Trolley-Problem
Ein Dilemma ist ein Konflikt, bei dem jede verfügbare Handlung einen wichtigen Wert verletzt. Das Trolley-Problem fragt, ob ein Schaden aktiv umgelenkt werden darf, um einen größeren Schaden zu vermeiden.
Für autonome Fahrzeuge ist das Gedankenexperiment hilfreich, aber begrenzt:
- Unsicherheit: Reale Sensoren kennen Folgen nie vollständig.
- Prävention: Gute Technik soll gefährliche Lagen früh vermeiden.
- Menschenwürde: Personen dürfen nicht nach Alter, Geschlecht, Gesundheit oder sozialem Wert sortiert werden.
- Verantwortung: Die Regel wird vorab von Menschen und Institutionen festgelegt.
Die wichtigste ethische Aufgabe ist daher nicht das perfekte Rechnen im letzten Augenblick, sondern ein Verkehrssystem, das Dilemmata möglichst selten entstehen lässt.
Ethische Perspektiven
| Perspektive | Kernidee | Frage an das autonome Fahrzeug |
|---|---|---|
| Folgenethik | Eine Regel soll insgesamt möglichst viel Schaden verhindern. | Welche Regel verringert erwartbare Verletzungen? |
| Pflichtethik | Rechte und Pflichten gelten auch bei nützlichen Folgen. | Wird ein Mensch bloß als Mittel benutzt? |
| Gerechtigkeitsethik | Vorteile und Risiken sollen fair verteilt sein. | Werden schwächere Verkehrsteilnehmende gleich geschützt? |
| Verantwortungsethik | Auch langfristige und schwer rückgängig zu machende Folgen zählen. | Wer prüft Sicherheit, Updates und gesellschaftliche Auswirkungen? |
Keine Perspektive löst alle Fälle allein. Ein gutes Urteil macht Werte, Regeln, Folgen und Betroffene sichtbar.
Menschenwürde und Lebensschutz
Der Schutz menschlichen Lebens hat Vorrang vor Sachschäden. In unvermeidbaren Unfallsituationen dürfen Menschen nicht aufgrund persönlicher Merkmale unterschiedlich bewertet werden. Eine allgemeine Regel zur Verringerung von Personenschäden kann vertretbar sein, eine Rangliste menschlichen Lebens nicht.
Ethische Grenze: Ein System darf nicht behaupten, ein junges, gesundes oder gesellschaftlich angesehenes Leben sei mehr wert als ein anderes.
Verantwortung und Haftung
Mit höherer Automatisierung verteilt sich Verantwortung auf mehrere Stellen: Fahrzeugnutzende, Hersteller, Softwareentwickler, Zulieferer, Betreiber, Prüfstellen und Staat.
| Akteur | Ethische Aufgabe |
|---|---|
| Hersteller und Entwicklung | Sicherheit planen, testen, dokumentieren und verbessern |
| Betreiber | Fahrzeuge warten, überwachen und korrekt einsetzen |
| Staat und Prüfstellen | Regeln setzen, Zulassungen prüfen und Unfälle untersuchen |
| Nutzende | Systemgrenzen beachten und Pflichten der jeweiligen Stufe erfüllen |
Verantwortung darf nicht in einer unübersichtlichen Kette verschwinden. Nach einem Fehler muss nachvollziehbar sein, ob Mensch, Software, Sensor, Wartung oder Infrastruktur versagt hat.
Daten, Überwachung und Cybersicherheit
Vernetzte Fahrzeuge können Standort-, Bewegungs-, Fahrzeug- und Umgebungsdaten verarbeiten. Diese Daten können Sicherheit erhöhen, aber auch Überwachung, Profilbildung oder Manipulation ermöglichen.
Ethisch wichtig sind Datensparsamkeit, klare Zwecke, Schutz vor Angriffen, verständliche Informationen und echte Wahlmöglichkeiten. Fahrzeughaltende und Nutzende sollen Kontrolle über nicht zwingend erforderliche Datennutzungen behalten.
Gerechtigkeit, Teilhabe und Barrierefreiheit
Autonome Mobilität kann Menschen unterstützen, die selbst nicht fahren können. Dieser Vorteil entsteht jedoch nur, wenn Angebote barrierefrei, bezahlbar und räumlich erreichbar sind.
Eine gerechte Einführung schützt außerdem Fußgänger, Radfahrende, Kinder und andere verletzliche Personen. Technik darf nicht nur für wohlhabende Regionen oder zahlungskräftige Gruppen optimiert werden.
Umwelt und Verkehr
Autonome Fahrzeuge können gleichmäßiger fahren, Fahrten bündeln und öffentlichen Verkehr ergänzen. Sie können aber auch Leerfahrten, zusätzlichen Verkehr und höheren Energieverbrauch auslösen.
Die ethische Bewertung betrachtet deshalb nicht nur das einzelne Fahrzeug, sondern das gesamte Verkehrssystem: Flächenverbrauch, Energie, Rohstoffe, Lärm, Erreichbarkeit und Alternativen wie Bus, Bahn, Fahrrad und Fußverkehr.
Leitlinien der Ethik-Kommission
Die deutsche Ethik-Kommission zum automatisierten und vernetzten Fahren formulierte 2017 zwanzig Regeln. Für den Unterricht sind besonders wichtig:
- Sicherheitsgewinn: Automatisierte Systeme sollen insgesamt weniger Schäden verursachen als menschliches Fahren.
- Lebensschutz: Menschliches Leben hat Vorrang vor Tieren und Sachen.
- Diskriminierungsverbot: Persönliche Merkmale dürfen Menschen nicht unterschiedlich gewichten.
- Transparenz: Einsatz, Grenzen und Programmierungsregeln müssen verständlich erklärt und unabhängig geprüft werden.
- Datensouveränität: Nutzende sollen über die Weitergabe nicht notwendiger Fahrzeugdaten entscheiden.
- Klare Zuständigkeit: Es muss erkennbar sein, ob Mensch oder System die Kontrolle trägt.
Ein Modell für ethische Urteile
Nutze für einen Fall sechs Schritte:
- Situation beschreiben: Was ist sicher bekannt und was ist unsicher?
- Betroffene bestimmen: Wer trägt Nutzen, Kosten und Risiken?
- Werte benennen: Welche Werte geraten in Konflikt?
- Handlungsoptionen prüfen: Welche Alternativen und Präventionsmaßnahmen gibt es?
- Perspektiven anwenden: Wie urteilen Folgenethik, Pflichtethik und Gerechtigkeitsethik?
- Urteil begründen: Welche Regel ist am besten begründet und welche Einwände bleiben?
Fallbeispiel: Autonomes Schulshuttle
Ein autonomes Schulshuttle fährt durch eine enge Straße. Ein Kind läuft zwischen parkenden Autos hervor. Eine Vollbremsung kann Fahrgäste leicht verletzen. Ein Ausweichmanöver gefährdet eine Radfahrerin. Gleichzeitig zeichnet eine Außenkamera Gesichter auf.
- Wertekonflikt: Welche Werte sind betroffen?
- Prävention: Welche technische oder städtebauliche Maßnahme hätte die Lage verhindern können?
- Verantwortungskette: Wer muss das Ereignis erklären?
- Datenschutzprüfung: Welche Bilddaten dürfen gespeichert werden?
Interaktive Aufgaben
Quiz: Teste Dein Wissen
Welche Aufgabe hat Ethik beim autonomen Fahren? (Sie prüft, welche technischen Regeln gut und gerecht sind) (!Sie ersetzt alle technischen Sicherheitstests) (!Sie bestimmt die Motorleistung eines Fahrzeugs) (!Sie berechnet ausschließlich den Kaufpreis)
Ab welcher Stufe fährt ein System in festgelegten Bereichen autonom? (Stufe 4) (!Stufe 1) (!Stufe 2) (!Stufe 0)
Was hat in einer unvermeidbaren Gefahrensituation höchste Priorität? (Der Schutz menschlichen Lebens) (!Der Schutz des teuersten Fahrzeugs) (!Die kürzeste Fahrzeit) (!Der Schutz von Werbedaten)
Welches Merkmal darf nicht zur Bewertung eines Menschen genutzt werden? (Das Alter) (!Der Bremsweg) (!Die Fahrbahnbreite) (!Die Sichtweite)
Was bedeutet Datensouveränität? (Nutzende behalten Kontrolle über die Verwendung ihrer Daten) (!Alle Daten werden unbegrenzt veröffentlicht) (!Nur Hersteller dürfen Daten verstehen) (!Fahrzeuge sammeln grundsätzlich keine Daten)
Worauf richtet die Folgenethik ihren Blick? (Auf die erwartbaren Folgen einer Regel) (!Nur auf den Namen des Herstellers) (!Nur auf die Farbe des Fahrzeugs) (!Auf zufällige Entscheidungen)
Welche Frage stellt die Pflichtethik besonders? (Werden Rechte und Pflichten geachtet) (!Ist das Fahrzeug besonders schnell) (!Ist die Strecke besonders kurz) (!Ist die Werbung besonders wirksam)
Warum reicht das Trolley-Problem nicht als Programmieranleitung? (Reale Situationen sind unsicher und sollen möglichst verhindert werden) (!Fahrzeuge besitzen keine Bremsen) (!Straßenverkehr hat keine Regeln) (!Sensoren liefern immer vollständige Gewissheit)
Warum muss die Verantwortungsübergabe dokumentiert werden? (Damit erkennbar ist, ob Mensch oder System kontrollierte) (!Damit das Fahrzeug lauter fährt) (!Damit Werbung personalisiert wird) (!Damit Verkehrszeichen überflüssig werden)
Wann fördert autonomes Fahren Gerechtigkeit? (Wenn Mobilität barrierefrei und bezahlbar zugänglich ist) (!Wenn nur wohlhabende Menschen es nutzen können) (!Wenn schwächere Verkehrsteilnehmende weniger Schutz erhalten) (!Wenn Daten ohne Zustimmung verkauft werden)
Memory
| Menschenwürde | Gleicher Wert jedes Menschen |
| Folgenethik | Bewertung erwartbarer Folgen |
| Pflichtethik | Achtung von Rechten und Pflichten |
| Datensouveränität | Kontrolle über eigene Fahrzeugdaten |
| Transparenz | Nachvollziehbare Regeln und Entscheidungen |
| Haftung | Einstehen für verursachte Schäden |
| Dilemma | Konflikt ohne vollständig gute Lösung |
Drag and Drop
| Ordne die richtigen Begriffe zu. | Ethische Bedeutung |
|---|---|
| Sicherheit | Schäden möglichst verhindern |
| Autonomie | Selbstbestimmung erhalten |
| Gerechtigkeit | Chancen und Risiken fair verteilen |
| Datenschutz | Personenbezogene Informationen schützen |
| Verantwortung | Zuständigkeit für Folgen klären |
...
Kreuzworträtsel
| Lidar | Welcher Lasersensor kann räumliche Punktwolken erzeugen? |
| Dilemma | Wie heißt ein Konflikt ohne vollständig gute Lösung? |
| Haftung | Wie heißt das rechtliche Einstehen für einen Schaden? |
| Autonomie | Welcher Begriff bezeichnet Selbstbestimmung? |
| Transparenz | Wie heißt die verständliche Offenlegung von Regeln? |
| Gerechtigkeit | Welcher Wert verlangt eine faire Verteilung von Chancen und Risiken? |
LearningApps
Lückentext
Offene Aufgaben
Leicht
- Werte-Ampel: Ordne Sicherheit, Freiheit, Gerechtigkeit, Datenschutz und Bequemlichkeit nach ihrer Bedeutung und begründe Deine Reihenfolge.
- Bildanalyse: Beschreibe, welche Sensoren Du an einem autonomen Fahrzeug erkennst und welche ethischen Fragen daraus entstehen.
- Begriffsplakat: Gestalte ein Plakat zu Menschenwürde, Autonomie, Verantwortung und Dilemma.
- Klassenumfrage: Befrage Deine Klasse, unter welchen Bedingungen sie ein autonomes Shuttle nutzen würde.
Standard
- Dilemma-Dialog: Schreibe ein Gespräch zwischen einer Entwicklerin, einem Fahrgast und einer Radfahrerin über einen schwierigen Unfallfall.
- Datenkarte: Zeichne, welche Daten ein autonomes Fahrzeug sammelt, wer sie benötigt und wann sie gelöscht werden sollten.
- Perspektivenvergleich: Beurteile denselben Fall aus Folgenethik, Pflichtethik und Gerechtigkeitsethik.
- Mediencheck: Prüfe einen Beitrag über autonomes Fahren auf Quellen, Interessen, Bildsprache und unbelegte Versprechen.
Schwer
- Ethikkodex: Formuliere acht Regeln für ein autonomes Schulshuttle und begründe jede Regel.
- Ethikrat-Rollenspiel: Organisiere eine Anhörung mit Rollen aus Politik, Technik, Behindertenverband, Datenschutz, Verkehr und Schülerschaft.
- Sicherheitsaudit: Entwickle eine Prüfliste für Wetter, Baustellen, Cyberangriffe, Notfälle und Verantwortung.
- Podcast oder Video: Produziere einen sachlichen Beitrag zur Frage, ob autonome Fahrzeuge moralische Entscheidungen treffen können.
|
|
Lernkontrolle
- Theorien anwenden: Vergleiche, wie Folgenethik und Pflichtethik einen unvermeidbaren Konflikt bewerten, und erkläre die Grenze beider Ansätze.
- System statt Einzelfall: Zeige an einem Beispiel, warum Prävention wichtiger sein kann als die Entscheidung im letzten Unfallmoment.
- Verantwortung analysieren: Entwickle für einen Softwarefehler eine begründete Verantwortungskette von Entwicklung bis Aufsicht.
- Datenschutz gestalten: Entwirf ein Datenkonzept, das Unfallaufklärung ermöglicht und unnötige Überwachung vermeidet.
- Gerechtigkeit prüfen: Bewerte ein autonomes Mobilitätsangebot für Stadt und Land hinsichtlich Preis, Barrierefreiheit und Sicherheit.
- Urteil formulieren: Nimm begründet Stellung zu einer Pflicht, ausschließlich autonome Fahrzeuge zu nutzen.
Lernnachweis
Für einen Lernnachweis solltest Du zeigen, dass Du:
- Fachbegriffe sicher und im passenden Zusammenhang verwendest.
- Wertekonflikte aus mehreren Perspektiven analysierst.
- Ethische Theorien auf konkrete Fälle anwendest.
- Betroffene und Verantwortung vollständig sichtbar machst.
- Argumente mit Gründen, Einwänden und Folgen entwickelst.
- Eigene Regeln transparent, gerecht und praktisch begründest.
OERs zum Thema
- Bericht der Ethik-Kommission Automatisiertes und Vernetztes Fahren
- Freie Medien zu autonomen Fahrzeugen auf Wikimedia Commons
- Wikipedia: Ethik der künstlichen Intelligenz
Verknüpfte Lernbereiche
aiMOOC-Projekte
Schulfach+
|
|
aiMOOCs
aiMOOC Projekte
|
|
THE MONKEY DANCE
|
|
|