Maschinenethik

Maschinenethik

Zielgruppe: Sekundarstufe II, Berufsschule und Einstieg ins Studium.

Maschinenethik untersucht, ob und wie technische Systeme in Situationen handeln sollen, die eine moralische Bedeutung haben. Gemeint sind zum Beispiel Systeme, die Menschen unterstützen, Risiken verteilen, Empfehlungen geben oder selbstständig Handlungen ausführen. Das Thema liegt an der Schnittstelle von Ethik, Künstlicher Intelligenz, Informatik, Robotik und Technikethik.

Eine Leitfrage lautet: Wie kann eine Maschine so gestaltet werden, dass ihr Verhalten mit moralischen Regeln oder Werten vereinbar ist? Ebenso wichtig ist die Frage, wer verantwortlich bleibt, wenn ein technisches System entscheidet oder handelt.

Video laden

YouTube

YouTube sammelt möglicherweise persönliche Daten. Datenschutzrichtlinie

Fortfahren Ausblenden

Was ist Maschinenethik?

Maschinenethik beschäftigt sich mit dem moralisch relevanten Verhalten künstlicher Systeme. Sie fragt nicht nur, was Menschen beim Bau einer Maschine tun dürfen. Sie untersucht auch, nach welchen Regeln ein System in einer konkreten Situation handeln soll.

Ein Beispiel: Ein Pflegeroboter soll eine Person an ihre Medikamente erinnern. Was geschieht, wenn die Person die Einnahme ablehnt? Soll der Roboter die Entscheidung respektieren, Angehörige informieren oder medizinisches Personal verständigen? Schon an diesem einfachen Fall treffen Werte wie Autonomie, Fürsorge, Sicherheit und Privatsphäre aufeinander.

Die Begriffe sind verwandt, aber nicht identisch:

1. Technikethik: Bewertet Entwicklung, Nutzung und Folgen von Technik insgesamt.
2. KI-Ethik: Untersucht ethische Fragen rund um Entwicklung und Einsatz von KI-Systemen.
3. Maschinenethik: Konzentriert sich besonders auf die Frage, wie Maschinen in moralisch relevanten Situationen handeln sollen.
4. Roboterethik: Befasst sich mit ethischen Fragen rund um Entwicklung, Nutzung und gesellschaftliche Rolle von Robotern.

Ein neuronales Netz kann Muster erkennen und Entscheidungen vorbereiten. Daraus folgt aber noch nicht, dass es moralisch urteilt. Technische Leistungsfähigkeit und moralische Begründbarkeit sind zwei verschiedene Dinge.

Wann wird eine Maschinenentscheidung moralisch relevant?

Nicht jede automatische Handlung ist ein ethisches Problem. Wenn ein Getränkeautomat eine Dose ausgibt, ist die Entscheidung normalerweise moralisch unproblematisch. Anders ist es, wenn ein System Auswirkungen auf Gesundheit, Freiheit, Sicherheit, Chancen, Eigentum oder Würde von Menschen haben kann.

Moralisch relevant wird ein System besonders dann, wenn es

1. Menschen unterschiedlich behandelt,
2. Risiken erzeugt oder verteilt,
3. persönliche Daten verarbeitet,
4. Verhalten überwacht oder beeinflusst,
5. Entscheidungen über Zugang, Auswahl oder Prioritäten vorbereitet,
6. selbstständig in die physische Welt eingreift.

Deshalb reicht es nicht, nur zu fragen: Funktioniert das System? Zusätzlich muss gefragt werden: Ist sein Verhalten begründbar, fair, sicher und verantwortbar?

Moralischer Akteur oder nur moralisch programmiert?

In der Maschinenethik wird zwischen verschiedenen Ebenen unterschieden.

Eine Maschine kann so programmiert werden, dass sie moralische Regeln berücksichtigt. Das bedeutet jedoch nicht automatisch, dass sie im gleichen Sinn wie ein Mensch moralische Verantwortung trägt. Ob künstliche Systeme jemals echte moralische Akteure sein können, ist philosophisch umstritten.

Für die Praxis ist deshalb eine wichtige Unterscheidung hilfreich:

1. Ein System kann moralisch relevantes Verhalten zeigen.
2. Ein System kann Entscheidungen nach Regeln, Zielen oder gelernten Mustern erzeugen.
3. Die Verantwortung für Entwicklung, Einsatz, Kontrolle und Folgen muss dennoch organisatorisch geklärt werden.

Ein Problem entsteht, wenn Menschen zu stark auf automatische Empfehlungen vertrauen. Dieses Phänomen wird häufig als Automation Bias bezeichnet. Eine Computerentscheidung kann überzeugend wirken, obwohl sie fehlerhaft oder schlecht begründet ist.

Ethische Grundmodelle

Maschinenethik greift auf bekannte Modelle der Moralphilosophie zurück.

Deontologische Ansätze betonen Pflichten, Verbote und Rechte. Ein System könnte zum Beispiel die feste Regel erhalten, bestimmte persönliche Daten niemals ohne Zustimmung weiterzugeben.

Konsequentialistische Ansätze bewerten Handlungen vor allem nach ihren Folgen. Ein System würde verschiedene Möglichkeiten vergleichen und jene Handlung wählen, von der die insgesamt günstigsten Folgen erwartet werden.

Tugendethische Ansätze fragen stärker nach Eigenschaften guten Handelns, etwa Umsicht, Ehrlichkeit oder Gerechtigkeit. Solche Eigenschaften lassen sich wesentlich schwerer in eindeutige technische Regeln übersetzen.

Keines dieser Modelle löst automatisch jedes Problem. Ethische Konflikte entstehen gerade dann, wenn mehrere Werte gleichzeitig wichtig sind.

Wie kann Moral technisch umgesetzt werden?

Es gibt drei vereinfachte Grundideen.

Top-down-Ansätze beginnen mit Regeln. Menschen formulieren Normen, Verbote oder Prioritäten, die das System befolgen soll. Vorteil: Regeln können vergleichsweise klar geprüft werden. Nachteil: Die reale Welt enthält viele Ausnahmen und Konflikte.

Bottom-up-Ansätze lassen ein System aus Beispielen, Bewertungen oder Daten lernen. Vorteil: Das System kann mit komplexen Situationen umgehen. Nachteil: Aus vorhandenen Daten folgt nicht automatisch eine moralisch richtige Regel. Daten können Vorurteile, Ungleichheiten oder problematische Entscheidungen der Vergangenheit enthalten.

Hybride Ansätze verbinden feste Grenzen mit lernenden Verfahren. Ein System darf dann beispielsweise innerhalb klarer Sicherheitsregeln lernen, welche Handlung in einer Situation am besten funktioniert.

Eine zentrale Einsicht lautet: Aus Daten allein entsteht keine Moral. Schon die Auswahl von Zielen, Daten, Regeln und Bewertungsmaßstäben enthält menschliche Wertentscheidungen.

Fallbeispiel: Autonomes Fahren

Beim autonomen Fahren treffen Wahrnehmung, Vorhersage und Handlungsentscheidung direkt auf Fragen von Sicherheit und Verantwortung.

Datei:Wie funktioniert autonomes Fahren?.webm

Oft wird über extreme Dilemmasituationen gesprochen, in denen ein Unfall angeblich unvermeidbar ist. Für die reale Maschinenethik sind jedoch viele alltäglichere Fragen mindestens ebenso wichtig:

1. Wie sicher muss ein System sein, bevor es eingesetzt werden darf?
2. Wie werden Risiken zwischen Fahrzeuginsassen, Fußgängern und Radfahrenden verteilt?
3. Wie erkennt das System unsichere Situationen?
4. Wann muss ein Mensch übernehmen können?
5. Wer untersucht Fehler nach einem Unfall?
6. Wie transparent müssen Entscheidungen und Systemgrenzen sein?

Video laden

YouTube

YouTube sammelt möglicherweise persönliche Daten. Datenschutzrichtlinie

Fortfahren Ausblenden

Das Beispiel zeigt: Maschinenethik besteht nicht nur aus spektakulären Gedankenexperimenten. Häufig geht es um Sicherheitsstandards, nachvollziehbare Entscheidungen, klare Zuständigkeiten und den Umgang mit Unsicherheit.

Fallbeispiel: Pflege- und Sozialroboter

Roboter können Menschen informieren, Gegenstände transportieren, an Termine erinnern oder Kommunikation unterstützen. Sobald sie in Pflege, Therapie oder Betreuung eingesetzt werden, entstehen neue ethische Fragen.

Datei:Pepper Introduction.webm

Wichtige Fragen sind:

1. Unterstützt das System die Selbstbestimmung oder schränkt es sie ein?
2. Welche persönlichen Daten werden gespeichert?
3. Wird deutlich gemacht, dass die Maschine kein Mensch ist?
4. Können Nutzerinnen und Nutzer eine Handlung ablehnen?
5. Wann muss ein Mensch eingreifen?
6. Soll ein sozialer Roboter menschliche Kontakte ergänzen oder teilweise ersetzen?

Die Antworten hängen vom konkreten Einsatz ab. Ein Roboter, der Getränke bringt, hat eine andere ethische Bedeutung als ein System, das Gefühle erkennt, Gesundheitsdaten auswertet oder über Notfälle entscheidet.

Fallbeispiel: Autonome Waffensysteme

Besonders schwerwiegend ist die Frage, ob technische Systeme selbstständig Ziele auswählen und Gewalt anwenden dürfen.

Das gezeigte unbemannte Fluggerät ist ein gutes Beispiel für eine wichtige begriffliche Unterscheidung: Unbemannt bedeutet nicht automatisch autonom. Ein ferngesteuertes System kann weiterhin von Menschen geführt werden. Maschinenethik muss deshalb genau untersuchen, welche Entscheidungen tatsächlich automatisiert sind.

Datei:Tod durch Software - Sind autonome Waffensysteme noch aufzuhalten-.webm

Bei Waffensystemen stehen unter anderem menschliche Kontrolle, Fehlerrisiken, Verantwortungszuordnung und Entscheidungen über Leben und Tod im Mittelpunkt. Hier zeigt sich besonders deutlich, dass technische Machbarkeit nicht automatisch eine moralische Rechtfertigung liefert.

Asimovs Robotergesetze

Der Schriftsteller Isaac Asimov formulierte in der Science-Fiction bekannte Robotergesetze. Sie sollten das Verhältnis zwischen Menschen und Robotern erzählerisch ordnen.

Die Robotergesetze sind ein einflussreiches Gedankenmodell, aber kein fertiger Ethik-Code für reale Maschinen. Begriffe wie Schaden, Gehorsam oder Selbstschutz sind in realen Situationen oft mehrdeutig. Außerdem können Regeln miteinander in Konflikt geraten.

Gerade deshalb eignen sich Asimovs Geschichten gut für den Unterricht: Sie zeigen, wie schwer es ist, allgemeine moralische Regeln so zu formulieren, dass sie in jeder Situation eindeutig funktionieren.

Verantwortung und Verantwortungslücken

Wenn ein System weitgehend selbstständig arbeitet, kann unklar werden, wem ein Fehler zugerechnet werden soll. Beteiligt sein können Entwicklerinnen und Entwickler, Hersteller, Betreiber, Institutionen, Nutzerinnen und Nutzer oder Personen, die Daten bereitgestellt haben.

Eine Verantwortungslücke bezeichnet das Problem, dass eine Handlung Folgen hat, aber die Zuständigkeit nicht eindeutig geregelt ist.

Deshalb sollte Verantwortung nicht erst nach einem Schaden geklärt werden. Bereits bei der Entwicklung müssen Fragen beantwortet werden:

1. Wer darf das System einsetzen?
2. Wer überwacht es?
3. Wer kann es stoppen?
4. Wer dokumentiert Entscheidungen?
5. Wer prüft Beschwerden?
6. Wer trägt Verantwortung, wenn das System versagt?

Fairness, Transparenz und Erklärbarkeit

Ein ethisch gestaltetes System sollte nicht nur leistungsfähig sein. Es muss auch darauf geprüft werden, ob Menschen ungerecht benachteiligt werden.

Fairness bedeutet dabei nicht immer, alle Menschen exakt gleich zu behandeln. In manchen Situationen ist eine unterschiedliche Behandlung sachlich begründet. Entscheidend ist, ob Unterschiede nachvollziehbar und moralisch vertretbar sind.

Transparenz bedeutet, dass Zweck, Grenzen und Einsatzbedingungen eines Systems erkennbar sind.

Erklärbarkeit bedeutet, dass wichtige Entscheidungen so begründet werden können, dass betroffene Menschen sie verstehen und überprüfen können.

Anfechtbarkeit bedeutet, dass Menschen eine Entscheidung beanstanden und eine erneute Prüfung verlangen können.

Prüfschema für Maschinenethik

Mit diesem Schema kannst Du ein technisches System untersuchen:

1. Zweck: Welches Problem soll das System lösen?
2. Betroffene: Wer wird durch seine Entscheidungen beeinflusst?
3. Werte: Welche Werte wie Sicherheit, Autonomie, Fairness oder Privatsphäre sind betroffen?
4. Daten: Welche Daten werden verwendet und woher stammen sie?
5. Risiken: Welche Schäden oder Fehlentscheidungen sind möglich?
6. Kontrolle: Wann und wie kann ein Mensch eingreifen?
7. Erklärung: Können Betroffene die Entscheidung nachvollziehen?
8. Einspruch: Können Entscheidungen überprüft oder korrigiert werden?
9. Verantwortung: Wer ist für Entwicklung, Einsatz und Folgen zuständig?
10. Grenzen: In welchen Situationen darf das System nicht eingesetzt werden?

Merksatz

Maschinenethik fragt nicht nur, was Maschinen können, sondern wie sie in moralisch relevanten Situationen handeln sollen und wie menschliche Verantwortung dabei gesichert bleibt.

Interaktive Aufgaben

Quiz: Teste Dein Wissen

Womit beschäftigt sich Maschinenethik besonders? (Mit moralisch relevantem Verhalten technischer Systeme) (!Mit der Geschwindigkeit von Prozessoren) (!Mit dem Design von Computergehäusen) (!Mit der Geschichte der Dampfmaschine)

Was unterscheidet Maschinenethik von einer rein technischen Leistungsprüfung? (Sie fragt auch nach moralischer Begründbarkeit) (!Sie misst nur die Rechengeschwindigkeit) (!Sie untersucht nur den Stromverbrauch) (!Sie bewertet nur die Bildschirmqualität)

Wann ist eine Maschinenentscheidung besonders moralisch relevant? (Wenn sie Rechte Chancen Sicherheit oder Wohlergehen von Menschen beeinflusst) (!Wenn ein Programm besonders schnell startet) (!Wenn eine Datei klein gespeichert wird) (!Wenn ein Gerät leise arbeitet)

Was betont ein deontologischer Ansatz? (Pflichten Regeln und Rechte) (!Nur statistische Genauigkeit) (!Nur wirtschaftlichen Gewinn) (!Nur technische Eleganz)

Was bewertet ein konsequentialistischer Ansatz besonders? (Die Folgen einer Handlung) (!Die Farbe eines Roboters) (!Die Größe eines Datenspeichers) (!Die Marke eines Computers)

Was bedeutet Automation Bias? (Übermäßiges Vertrauen in automatische Empfehlungen) (!Vollständige Ablehnung jeder Technik) (!Ein Defekt des Akkus) (!Eine besonders schnelle Datenübertragung)

Was ist beim autonomen Fahren eine ethische Frage? (Wie Risiken und Verantwortung verteilt werden) (!Welche Musik im Fahrzeug läuft) (!Welche Farbe die Sitze haben) (!Wie groß das Herstellerlogo ist)

Welche Frage ist bei Pflegerobotern besonders wichtig? (Ob Selbstbestimmung und Privatsphäre gewahrt bleiben) (!Ob der Roboter eine auffällige Farbe hat) (!Ob das Gehäuse glänzt) (!Ob der Roboter besonders laut spricht)

Was bedeutet unbemannt bei einem technischen System? (Dass kein Mensch direkt an Bord sein muss) (!Dass das System immer vollständig autonom entscheidet) (!Dass das System keine Software verwendet) (!Dass das System keine Sensoren besitzt)

Wie sind Asimovs Robotergesetze einzuordnen? (Als einflussreiches Gedankenmodell aus der Science Fiction) (!Als weltweit verbindliches Gesetz) (!Als vollständige technische Norm für alle Roboter) (!Als mathematischer Algorithmus)

Memory

Maschinenethik	moralisch relevantes Verhalten technischer Systeme
Deontologie	Pflichten und Regeln
Konsequentialismus	Bewertung von Folgen
Automation Bias	übermäßiges Vertrauen in Automatisierung
Erklärbarkeit	nachvollziehbare Begründung einer Entscheidung
Verantwortungslücke	unklare Zuordnung von Verantwortung

Drag and Drop

Ordne die richtigen Begriffe zu.	Bedeutung
Top-down-Ansatz	moralische Regeln werden vorgegeben
Bottom-up-Ansatz	moralisch relevantes Verhalten wird aus Beispielen gelernt
Hybrider Ansatz	feste Regeln und Lernen werden kombiniert
Transparenz	Zweck und Grenzen eines Systems werden sichtbar
Anfechtbarkeit	eine Entscheidung kann überprüft und beanstandet werden

Kreuzworträtsel

Ethik	Wie heißt die philosophische Lehre vom moralisch richtigen Handeln?
Autonomie	Wie heißt die Fähigkeit zur Selbstbestimmung?
Fairness	Welcher Begriff bezeichnet eine gerechte Behandlung?
Verantwortung	Wer Folgen zurechnen kann, übernimmt welche moralische Aufgabe?
Transparenz	Wie nennt man die Nachvollziehbarkeit von Zweck und Funktionsweise?
Dilemma	Wie heißt eine Situation mit schwer miteinander vereinbaren Handlungsoptionen?

Lückentext

Vervollständige den Text.

Maschinenethik untersucht das relevante Verhalten technischer Systeme.

Ein System wird besonders dann ethisch bedeutsam, wenn seine Entscheidungen die oder Chancen von Menschen beeinflussen.

Ein regelorientierter Ansatz wird häufig als bezeichnet.

Ein lernorientierter Ansatz kann Muster aus übernehmen.

Übermäßiges Vertrauen in automatische Empfehlungen heißt .

Beim autonomen Fahren muss geklärt werden, wie Risiken und verteilt werden.

Bei Pflegerobotern ist die menschliche ein zentraler Wert.

Eine nachvollziehbare Begründung einer technischen Entscheidung wird als bezeichnet.

Eine Entscheidung sollte bei wichtigen Folgen möglichst sein.

Asimovs Robotergesetze sind vor allem ein philosophisch interessantes .

Offene Aufgaben

Leicht

1. Beispiel sammeln: Finde drei Alltagssysteme, deren Entscheidungen moralisch relevant werden können, und begründe Deine Auswahl.
2. Risiken erkennen: Erstelle ein Schaubild mit fünf ethischen Fragen zum autonomen Fahren.
3. Perspektivwechsel: Schreibe einen kurzen Dialog zwischen einer pflegebedürftigen Person und einem Pflegeroboter über Selbstbestimmung.
4. Robotergesetze prüfen: Formuliere in eigenen Worten, warum eine einfache Regel in unterschiedlichen Situationen zu verschiedenen Ergebnissen führen kann.

Standard

1. Mini-Experiment: Entwickle ein kleines Klassenexperiment, mit dem sich untersuchen lässt, wann Menschen einer Computerempfehlung vertrauen.
2. Fallanalyse: Erfinde ein Beispiel für ein automatisches Auswahlverfahren und untersuche, wodurch Menschen unfair benachteiligt werden könnten.
3. Erklärung gestalten: Entwirf eine verständliche Erklärung, mit der ein KI-System einer betroffenen Person seine Entscheidung mitteilen könnte.
4. Medienprojekt: Produziere ein kurzes Erklärvideo zur Frage, warum ein technisch autonomes System nicht automatisch moralisch verantwortlich ist.

Schwer

1. Verantwortungsmatrix: Untersuche ein reales KI- oder Robotiksystem und ordne Entwickler, Betreiber, Nutzer und Institutionen ihren Verantwortungsbereichen zu.
2. Ethikvergleich: Analysiere denselben Maschinenkonflikt einmal deontologisch und einmal konsequentialistisch und vergleiche die Ergebnisse.
3. Exkursion oder Interview: Befrage eine Person aus Informatik, Pflege, Verkehr oder Ingenieurwesen dazu, wie ethische Risiken bei technischen Systemen berücksichtigt werden.
4. Eigenes Regelwerk: Entwickle ein kurzes Regelwerk für ein Assistenzsystem, teste es an mindestens drei Konfliktfällen und überarbeite es nach den Ergebnissen.

Lernkontrolle

1. Fallanalyse: Ein KI-System empfiehlt, welche Bewerberinnen und Bewerber zu einem Gespräch eingeladen werden. Analysiere, welche Werte betroffen sind und welche Kontrollen nötig wären.
2. Zielkonflikt: Ein Pflegeroboter soll Sicherheit erhöhen, darf aber die Selbstbestimmung nicht unnötig einschränken. Entwickle eine begründete Lösung für einen Konflikt zwischen beiden Zielen.
3. Verantwortung: Nach einer Fehlentscheidung eines autonomen Systems geben Hersteller, Betreiber und Nutzer einander die Schuld. Entwirf ein Verfahren, mit dem Verantwortung schon vor dem Einsatz geklärt werden könnte.
4. Ethikvergleich: Wende einen deontologischen und einen konsequentialistischen Ansatz auf dieselbe Entscheidung eines autonomen Fahrzeugs an und erkläre, warum die Begründungen unterschiedlich ausfallen können.
5. Datenethik: Ein lernendes System übernimmt Vorurteile aus historischen Daten. Erkläre, warum hohe statistische Genauigkeit allein keine ethische Qualität garantiert.
6. Transfer: Wähle ein technisches System aus Deinem Alltag und bewerte es mit dem Prüfschema aus Zweck, Betroffenen, Werten, Risiken, Kontrolle, Erklärung, Einspruch und Verantwortung.

Lernnachweis

Für einen Lernnachweis zu diesem Thema solltest Du zeigen können, dass Du

1. den Begriff Maschinenethik von Technikethik, KI-Ethik und Roboterethik unterscheiden kannst,
2. moralisch relevante Maschinenentscheidungen erkennst,
3. Deontologie und Konsequentialismus auf technische Fälle anwenden kannst,
4. Top-down-, Bottom-up- und hybride Ansätze unterscheiden kannst,
5. Probleme wie Automation Bias, Verzerrungen in Daten und Verantwortungslücken erklären kannst,
6. Fragen nach Fairness, Transparenz, Erklärbarkeit und menschlicher Kontrolle auf konkrete Systeme überträgst,
7. bei kontroversen Fällen mehrere begründete Perspektiven darstellen kannst,
8. eine eigene Position mit nachvollziehbaren ethischen Argumenten begründen kannst.

OERs zum Thema

Weitere frei zugängliche Medien und Artikel findest Du über Wikimedia Commons, Ethik der künstlichen Intelligenz, Technikethik, Roboterethik, Autonomes Fahren und Künstliche Intelligenz.

Verknüpfte Lernbereiche

Maschinenethik Ethik Moralphilosophie Künstliche Intelligenz Robotik Technikethik Digitale Ethik Autonomes Fahren Erklärbare künstliche Intelligenz Verantwortung Fairness