Maschinenethik - Philosophie
Maschinenethik - Philosophie
Maschinenethik - Philosophie
Fach: Philosophie
Klasse: Klasse 11-13 und Studium
Leitfrage: Können Maschinen moralisch handeln – und wer trägt die Verantwortung, wenn sie entscheiden?
Einleitung
Maschinenethik untersucht, wie technische Systeme in moralisch bedeutsamen Situationen handeln sollen. Sie verbindet Ethik, Philosophie der Technik, Künstliche Intelligenz und Robotik. Dabei geht es nicht nur um spektakuläre Unfälle, sondern auch um alltägliche Entscheidungen: Wer erhält eine Empfehlung, eine Behandlung, einen Kredit oder Unterstützung durch einen Roboter?
Ein System berechnet keine Moral aus dem Nichts. Menschen legen Ziele, Daten, Regeln, Grenzwerte und Zuständigkeiten fest. Deshalb fragt die Maschinenethik zugleich nach Autonomie, Menschenwürde, Gerechtigkeit, Transparenz und Verantwortung.
Du lernst,
- Grundbegriffe der Maschinenethik zu unterscheiden,
- Utilitarismus, Deontologische Ethik, Tugendethik und Care-Ethik auf technische Fälle anzuwenden,
- Verfahren der Moralimplementation kritisch zu beurteilen,
- begründete Entscheidungen zu autonomen Systemen zu entwickeln.
Grundbegriffe
Maschinenethik, KI-Ethik und Roboterethik
Maschinenethik richtet den Blick auf das Verhalten teilautonomer oder autonomer Systeme. KI-Ethik ist weiter gefasst und untersucht auch Entwicklung, Daten, Macht, Arbeit, Überwachung und gesellschaftliche Folgen. Roboterethik behandelt moralische Fragen rund um Entwicklung, Einsatz und Behandlung von Robotern. Die Bereiche überschneiden sich.
Vom Werkzeug zum moralischen Akteur
Ob eine Maschine wirklich ein moralischer Akteur sein kann, ist umstritten. Hilfreich ist eine Abstufung:
| Rolle | Kennzeichen | Beispiel |
|---|---|---|
| Werkzeug | Menschen entscheiden vollständig. | Ein Taschenrechner führt Befehle aus. |
| Implizit moralisches System | Sicherheitsgrenzen verhindern bestimmte Schäden. | Ein Roboter stoppt bei einem Hindernis. |
| Explizit moralisches System | Das System vergleicht moralisch relevante Optionen. | Eine Pflegeanwendung gewichtet Selbstständigkeit und Schutz. |
| Voll verantwortlicher Akteur | Bewusstsein, Freiheit und echte Zurechenbarkeit wären erforderlich. | Ob Maschinen dies erreichen können, bleibt philosophisch offen. |
.jpg)
Alan Turing fragte, ob Maschinen denken können. Die Maschinenethik verschiebt die Frage: Können und sollen technische Systeme moralisch urteilen – oder nur menschliche Vorgaben ausführen?
Ethische Modelle
.jpg)
| Ansatz | Leitidee | Mögliche technische Umsetzung | Zentrales Problem |
|---|---|---|---|
| Utilitarismus | Wähle die Option mit den besten Gesamtfolgen. | Folgen werden geschätzt und gewichtet. | Wohlergehen ist schwer messbar; Minderheiten können benachteiligt werden. |
| Deontologische Ethik | Beachte Pflichten, Rechte und Verbote. | Unverletzbare Regeln begrenzen das Handeln. | Regeln können kollidieren oder Ausnahmen übersehen. |
| Tugendethik | Handle so, wie es einer guten Haltung entspricht. | Das System orientiert sich an Beispielen fürsorglichen oder gerechten Handelns. | Charakterbegriffe lassen sich nur begrenzt formalisieren. |
| Care-Ethik | Beachte Beziehungen, Abhängigkeit und Verletzlichkeit. | Kontext und Bedürfnisse einzelner Betroffener werden stärker berücksichtigt. | Nähe, Empathie und Fürsorge sind technisch schwer abzubilden. |
Keine Theorie wird durch Programmierung automatisch eindeutig. Schon die Auswahl der Daten und Ziele enthält Wertentscheidungen.
Moral technisch umsetzen
- Top-down-Verfahren: Allgemeine Regeln oder Prinzipien werden vorgegeben. Vorteil ist die Prüfbarkeit; Nachteil ist die Starrheit.
- Bottom-up-Verfahren: Das System lernt aus Beispielen oder Rückmeldungen. Vorteil ist die Anpassungsfähigkeit; Nachteil sind Bias, Intransparenz und fehlerhafte Vorbilder.
- Hybride Systeme: Lernen wird mit festen Schutzregeln, menschlicher Aufsicht und Tests verbunden.
Ein ethisch vertretbares System benötigt mehr als einen guten Algorithmus. Wichtig sind geeignete Daten, dokumentierte Ziele, Sicherheitsprüfungen, Erklärbarkeit, Beschwerdewege und eine Möglichkeit zum menschlichen Eingreifen.
Anwendungsfelder
Autonomes Fahren
Das Trolley-Problem macht Konflikte zwischen Folgen und Pflichten sichtbar. Für reales autonomes Fahren reicht es jedoch nicht aus: Ethisches Design beginnt früher – bei sicherer Geschwindigkeit, guten Sensoren, vorsichtiger Planung, Fehlerreserven und klarer Haftung. Die beste Lösung ist meist, das Dilemma möglichst gar nicht entstehen zu lassen.
Pflege und soziale Robotik
Soziale Roboter können erinnern, aktivieren oder Kommunikation unterstützen. Sie dürfen menschliche Zuwendung nicht bloß vortäuschen, Abhängigkeiten ausnutzen oder Überwachung normalisieren. Entscheidend sind Einwilligung, Datenschutz, Würde und die Frage, ob Technik ergänzt oder ersetzt.
Medizin, Verwaltung und Plattformen
Entscheidungssysteme können Diagnosen, Bewerbungen, Sozialleistungen oder Inhalte vorsortieren. Fehler treffen Menschen ungleich. Deshalb sind Fairness, Datenqualität, Begründbarkeit, Widerspruchsmöglichkeiten und menschliche Letztverantwortung besonders wichtig.
Militärische Systeme
Bei autonomen Waffensystemen verschärfen sich Fragen nach Kontrolle, Unterscheidung, Verhältnismäßigkeit und Zurechnung. Je schwerer eine Entscheidung rückgängig zu machen ist, desto stärker muss bedeutsame menschliche Kontrolle gesichert sein.
Verantwortung und Grenzen
Isaac Asimov formulierte in der Science-Fiction bekannte Robotergesetze. Sie zeigen anschaulich, warum einfache Regeln nicht genügen: Begriffe wie Schaden, Gehorsam oder Mensch sind auslegungsbedürftig, Regeln können kollidieren und Situationen können unvorhergesehen sein.
Verantwortung verschwindet nicht, wenn ein System autonom wirkt. Sie verteilt sich auf Entwicklung, Datenbereitstellung, Unternehmen, Zulassung, Betreiber, Nutzende und politische Institutionen. Gute Gestaltung macht diese Kette sichtbar, statt die Maschine zum Sündenbock zu erklären.
Ethisches Prüfmodell
Nutze für Fallanalysen die sieben Schritte:
- Zweckprüfung: Welches Problem soll das System lösen?
- Betroffenenanalyse: Wer profitiert, wer trägt Risiken, wer wird nicht gehört?
- Werteanalyse: Welche Rechte, Pflichten und Güter stehen im Konflikt?
- Alternativenprüfung: Gibt es eine weniger eingreifende Lösung?
- Folgenabschätzung: Welche kurz- und langfristigen Schäden sind plausibel?
- Verantwortungsanalyse: Wer entscheidet, überwacht, erklärt und haftet?
- Revisionsprüfung: Kann die Entscheidung angefochten und das System verbessert werden?
Interaktive Aufgaben
Quiz: Teste Dein Wissen
Womit beschäftigt sich die Maschinenethik vor allem? (Mit moralisch relevantem Verhalten technischer Systeme) (!Mit der Reparatur mechanischer Geräte) (!Mit der Geschichte der Dampfmaschine) (!Mit der Berechnung von Prozessorleistungen)
Wie verhält sich KI-Ethik zur Maschinenethik? (KI-Ethik umfasst zusätzlich gesellschaftliche Bedingungen und Folgen) (!KI-Ethik behandelt nur die Geschwindigkeit von Computern) (!Maschinenethik ist immer umfassender als jede KI-Ethik) (!Beide Begriffe bezeichnen ausschließlich Roboterbau)
Welche Frage ist für den Utilitarismus zentral? (Welche Option erzeugt insgesamt die besten Folgen) (!Welche Handlung folgt unabhängig von Folgen einer Pflicht) (!Welche Handlung wurde zuerst programmiert) (!Welche Entscheidung benötigt die wenigsten Daten)
Was kennzeichnet eine deontologische Begrenzung? (Bestimmte Rechte oder Verbote dürfen nicht verletzt werden) (!Jede Handlung wird nur nach ihrem wirtschaftlichen Gewinn bewertet) (!Das System handelt ohne jede Regel) (!Die häufigste Entscheidung gilt automatisch als richtig)
Was bedeutet ein Top-down-Verfahren in der Maschinenethik? (Ethische Regeln werden ausdrücklich vorgegeben) (!Das System lernt ausschließlich aus zufälligen Daten) (!Menschen dürfen keine Ziele festlegen) (!Nur die Hardware entscheidet über Moral)
Welches Risiko ist für Bottom-up-Verfahren typisch? (Vorurteile aus Trainingsdaten können übernommen werden) (!Das System kann grundsätzlich nichts lernen) (!Alle Entscheidungen sind automatisch transparent) (!Menschliche Beispiele spielen keine Rolle)
Warum ist menschliche Aufsicht wichtig? (Weil Menschen eingreifen und Verantwortung übernehmen können) (!Weil autonome Systeme dadurch niemals getestet werden müssen) (!Weil jede maschinelle Entscheidung dadurch richtig wird) (!Weil Datenqualität dann bedeutungslos ist)
Warum reicht das Trolley-Problem für autonomes Fahren nicht aus? (Es vernachlässigt Prävention, Systemdesign und reale Unsicherheit) (!Es enthält überhaupt keinen moralischen Konflikt) (!Es beschreibt ausschließlich Fragen des Datenschutzes) (!Es beweist, dass Fahrzeuge niemals sicher sein können)
Was zeigen Asimovs Robotergesetze besonders deutlich? (Einfache Regeln können mehrdeutig sein und miteinander kollidieren) (!Fiktion liefert bereits vollständige Rechtsnormen) (!Roboter verstehen jeden moralischen Begriff eindeutig) (!Drei Regeln lösen jedes technische Problem)
Wer trägt bei autonomen Systemen Verantwortung? (Ein Netzwerk aus Entwicklung, Betrieb, Institutionen und Nutzung) (!Nur der Algorithmus selbst) (!Ausschließlich die betroffene Person) (!Niemand, sobald das System selbstständig arbeitet)
Memory
| Maschinenethik | Moralisches Verhalten technischer Systeme |
| Utilitarismus | Bewertung der Gesamtfolgen |
| Deontologie | Orientierung an Pflichten und Rechten |
| Care-Ethik | Aufmerksamkeit für Beziehungen und Verletzlichkeit |
| Top-down | Vorgegebene moralische Regeln |
| Bottom-up | Lernen aus Beispielen und Rückmeldungen |
| Transparenz | Nachvollziehbarkeit von Entscheidungen |
Drag and Drop
| Ordne die richtigen Begriffe zu. | Maschinenethik |
|---|---|
| Menschliche Aufsicht | Eingriff bei kritischen Entscheidungen |
| Bias | Systematische Verzerrung von Ergebnissen |
| Autonomie | Handeln ohne unmittelbare Einzelsteuerung |
| Erklärbarkeit | Verständliche Begründung eines Ergebnisses |
| Rechenschaft | Pflicht zur Begründung und Verantwortungsübernahme |
Kreuzworträtsel
| Autonomie | Wie heißt die Fähigkeit eines Systems, ohne unmittelbare Einzelsteuerung zu handeln? |
| Verantwortung | Welcher Begriff bezeichnet die Zurechnung von Entscheidungen und Folgen? |
| Utilitarismus | Welche Ethik bewertet Handlungen vor allem nach ihren Gesamtfolgen? |
| Deontologie | Welche Ethik betont Pflichten, Rechte und Verbote? |
| Transparenz | Wie heißt die Nachvollziehbarkeit von Verfahren und Entscheidungen? |
| Alignment | Welcher englische Begriff bezeichnet die Ausrichtung eines Systems an menschlichen Werten? |
LearningApps
Lückentext
Offene Aufgaben
Leicht
- Begriffsnetz Maschinenethik: Gestalte eine übersichtliche Karte mit acht Grundbegriffen und ihren Beziehungen.
- Alltagsbeispiel: Finde eine automatische Entscheidung aus Deinem Alltag und beschreibe Betroffene, Nutzen und Risiken.
- Medienanalyse: Untersuche ein Bild oder Video aus diesem Kurs. Welche Vorstellung von Mensch und Maschine vermittelt es?
- Mini-Dilemma: Erfinde einen kurzen Fall, in dem ein Assistenzsystem zwischen Sicherheit und Selbstbestimmung abwägen muss.
Standard
- Theorienvergleich: Beurteile denselben Fall utilitaristisch, deontologisch und care-ethisch.
- Regelwerk: Formuliere fünf Regeln für einen Schul-Chatbot und zeige einen möglichen Regelkonflikt.
- Verantwortungskarte: Ordne für ein autonomes Fahrzeug Entwicklung, Betrieb, Aufsicht, Nutzung und Haftung.
- Interviewprojekt: Befrage drei Personen dazu, ob eine Maschine moralisch handeln kann, und werte die Begründungen aus.
Schwer
- Ethik-Audit: Entwickle ein Prüfverfahren für ein KI-System in Medizin, Verwaltung oder Bildung.
- Positionspapier: Verteidige oder kritisiere die These, dass Maschinen nur moralische Werkzeuge, aber keine moralischen Akteure sein können.
- Prototyp moralischer Entscheidung: Entwirf einen Entscheidungsbaum mit Regeln, Folgenabwägung, Unsicherheit und menschlicher Freigabe.
- Forschungsdebatte: Vergleiche Top-down-, Bottom-up- und Hybridansätze und begründe eine domänenspezifische Empfehlung.
|
|
Lernkontrolle
- Fallanalyse Pflegeassistenz: Eine Bewohnerin lehnt ein Medikament ab, das ein Assistenzsystem als dringend einstuft. Entwickle zwei Handlungsoptionen und begründe eine Entscheidung mit mindestens zwei ethischen Ansätzen.
- Konflikt zwischen Fairness und Genauigkeit: Ein Auswahlsystem wird insgesamt genauer, benachteiligt aber eine kleine Gruppe. Prüfe, welche Änderungen ethisch erforderlich sind.
- Verantwortung nach einem Fehler: Ein autonomes System verursacht trotz bestandener Tests einen Schaden. Entwirf eine begründete Verteilung von Verantwortung.
- Kritik des Trolley-Modells: Zeige an einem Beispiel, welche wichtigen Designfragen durch ein reines Unfallszenario unsichtbar bleiben.
- Erklärbarkeit oder Leistung: Bewerte, ob ein leistungsstärkeres, aber kaum erklärbares System in einem Krankenhaus eingesetzt werden darf.
- Moralische Akteurschaft: Entwickle Kriterien für moralische Verantwortung und prüfe, welche davon heutige technische Systeme erfüllen könnten.
Lernnachweis
Für einen überzeugenden Lernnachweis sind wichtig:
- sichere Verwendung der zentralen Fachbegriffe,
- Anwendung mehrerer ethischer Theorien auf einen Fall,
- Unterscheidung zwischen technischer Funktion und moralischer Verantwortung,
- Analyse von Betroffenen, Werten, Folgen und Machtverhältnissen,
- begründete Bewertung von Transparenz, Aufsicht und Widerspruchsmöglichkeiten,
- eine eigenständige, nachvollziehbar begründete Position.
OERs zum Thema
Verknüpfte Lernbereiche
aiMOOC-Projekte
Schulfach+
|
|
aiMOOCs
aiMOOC Projekte
|
|
THE MONKEY DANCE
|
|
|