Technik und Verantwortung - Philosophie 1
Technik und Verantwortung - Philosophie 1
Technik und Verantwortung - Philosophie
Einleitung
Technik erweitert menschliche Handlungsmacht. Sie kann heilen, verbinden und Ressourcen sparen, aber auch überwachen, ausschließen oder langfristige Schäden verursachen. Technikethik fragt deshalb nicht nur: Was können wir?, sondern auch: Was sollen wir tun, wer trägt Verantwortung und welche Zukunft ermöglichen wir?
| Fach | Niveau | Leitfrage |
|---|---|---|
| Philosophie | Klasse 11–13 und Studium | Wie lässt sich technische Macht verantwortlich gestalten? |
Lernziele
Du kannst Technik, Verantwortung und Technikfolgenabschätzung unterscheiden, ethische Konflikte analysieren, Hans Jonas einordnen und begründete Regeln für verantwortliche Technikgestaltung entwickeln.
Grundbegriffe
Technik
Technik umfasst Artefakte, Verfahren, Wissen und organisierte Handlungen. Ein Smartphone ist daher nicht nur ein Gerät: Software, Daten, Geschäftsmodelle und Nutzungsregeln gehören zum technischen System.
Technik ist zweckgerichtet, aber nicht automatisch gut oder schlecht. Ethisch relevant sind ihre Ziele, ihre Gestaltung, ihre Nutzung und ihre Folgen.
Verantwortung
Verantwortung ist ein Relationsbegriff:
| Frage | Beispiel |
|---|---|
| Wer? | Entwicklerteam, Unternehmen, Staat, Nutzer |
| Wofür? | Entscheidung, Produkt, Unterlassung oder Folge |
| Gegenüber wem? | Betroffene, Öffentlichkeit, künftige Generationen |
| Nach welchem Maßstab? | Recht, Pflicht, Folgen, Tugenden oder Gemeinwohl |
| Mit welcher Möglichkeit? | Kontrolle, Wissen, Macht und Handlungsalternative |
Verantwortung setzt meist Handlungsfähigkeit, Wissen und Zurechenbarkeit voraus. Je größer Macht und Einfluss sind, desto stärker wird die Pflicht zur Rechenschaft.
Warum moderne Technik neue Ethik verlangt
Moderne Technik verändert die Reichweite des Handelns:
- Wirkungsraum: Folgen können global sein.
- Wirkungszeit: Folgen können künftige Generationen betreffen.
- Komplexität: Ursachen verteilen sich auf viele Akteure.
- Irreversibilität: Manche Schäden lassen sich kaum rückgängig machen.
- Ungewissheit: Entscheidungen fallen oft vor vollständigem Wissen.
- Skalierung: Ein Fehler kann Millionen Menschen gleichzeitig betreffen.
Daraus entsteht die Gefahr einer Verantwortungsdiffusion: Alle wirken mit, aber niemand fühlt sich zuständig.
Hans Jonas: Das Prinzip Verantwortung
Hans Jonas entwickelte eine Zukunftsethik für die technologische Zivilisation. Ausgangspunkt ist die neue Macht des Menschen über Natur, Gesellschaft und menschliches Leben.
_HSGH_022-001945_(cropped_2).jpg)
„Handle so, dass die Wirkungen deiner Handlung verträglich sind mit der Permanenz echten menschlichen Lebens auf Erden.“
Der Imperativ erweitert Moral über die unmittelbare Situation hinaus. Verantwortliches Handeln soll die Bedingungen menschlichen Lebens und die Eigenständigkeit der Natur bewahren.
Heuristik der Furcht
Die Heuristik der Furcht verlangt, mögliche schwere Schäden ernst zu nehmen, auch wenn sie unsicher sind. Gemeint ist keine Panik, sondern vorausschauende Aufmerksamkeit. Bei existenziellen oder irreversiblen Risiken erhält die schlechte Prognose besonderes Gewicht.
Eine verantwortliche Anwendung vergleicht jedoch auch die Risiken des Handelns mit den Risiken des Nichtstuns. Vorsorge muss begründet, verhältnismäßig und überprüfbar bleiben.
Kritik und Bedeutung
Jonas stärkt Vorsorgeprinzip, Nachhaltigkeit und Generationengerechtigkeit. Kritisch diskutiert werden eine mögliche Überbetonung ferner Gefahren, unklare Maßstäbe für Wahrscheinlichkeiten und die Gefahr, Innovation pauschal zu bremsen.
Seine bleibende Frage lautet: Welche Folgen unserer heutigen Technik dürfen wir Menschen der Zukunft zumuten?
Ethische Perspektiven
| Ansatz | Prüffrage | Stärke |
|---|---|---|
| Deontologische Ethik | Werden Rechte und Pflichten geachtet? | Schützt Grenzen und Würde. |
| Utilitarismus | Welche Option erzeugt voraussichtlich den größten Gesamtnutzen? | Vergleicht Folgen. |
| Tugendethik | Welche Haltung zeigt eine verantwortliche Praxis? | Fragt nach Charakter und Berufsethos. |
| Diskursethik | Können Betroffene einer fairen Regel zustimmen? | Betont Beteiligung und Legitimität. |
| Verantwortungsethik | Welche langfristigen und indirekten Folgen sind zu tragen? | Erweitert den Zeithorizont. |
Keine Perspektive löst jeden Konflikt allein. Gute Ethische Urteilsbildung macht Annahmen sichtbar und begründet, warum bestimmte Werte Vorrang erhalten.
Leitkonflikte der Technikethik
| Versprechen | Ethisches Risiko | Prüfmaßstab |
|---|---|---|
| Effizienz | Verlust von Autonomie | menschliche Kontrolle |
| Sicherheit | Überwachung | Verhältnismäßigkeit |
| Personalisierung | Diskriminierung | Fairness und Widerspruch |
| Innovation | unbekannte Langzeitfolgen | Vorsorge und Monitoring |
| Komfort | Datenabhängigkeit | Datenschutz und Datensparsamkeit |
| Wachstum | Ressourcenverbrauch | Nachhaltigkeit und globale Gerechtigkeit |
Anwendungsfelder
Künstliche Intelligenz
Künstliche Intelligenz kann Entscheidungen vorbereiten, Muster erkennen und Inhalte erzeugen. Ethische Kernfragen sind Bias, Transparenz, Erklärbarkeit, Datenschutz, menschliche Kontrolle und die Möglichkeit des Widerspruchs.
Beispiel Personalwahl: Ein System kann Bewerbungen schneller sortieren. Nutzt es verzerrte Trainingsdaten, können Benachteiligungen fortgeschrieben werden. Verantwortlich wären Datenprüfung, unabhängige Tests, nachvollziehbare Kriterien und eine menschliche Beschwerdestelle.
Autonomes Fahren
Autonomes Fahren verbindet Sicherheitschancen mit Fragen nach Risiko, Haftung und programmierten Prioritäten. Das bekannte Trolley-Problem ist nur ein Teil: Wichtiger sind Alltagsentscheidungen über Geschwindigkeit, Sensorgrenzen, Wartung und sichere Übergaben an Menschen.
Überwachung und Datenschutz
Überwachung kann Gefahrenabwehr unterstützen, aber Privatsphäre, Freiheit und Gleichbehandlung beeinträchtigen. Ethische Prüfung verlangt einen klaren Zweck, Erforderlichkeit, zeitliche Begrenzung, Datensparsamkeit und unabhängige Kontrolle.
Energie und Nachhaltigkeit
Energiepolitik verteilt Nutzen, Kosten und Risiken zwischen Regionen und Generationen. Bewertet werden Versorgungssicherheit, Klimawirkung, Unfallrisiken, Rohstoffe, Flächenverbrauch, Abfälle und Rückbau.
Die ethische Aufgabe besteht nicht in einem einzelnen Kennwert, sondern in einem transparenten Vergleich von Lebenszyklen, Unsicherheiten und Verteilungsfolgen.
Genomeditierung
CRISPR/Cas ermöglicht gezielte Veränderungen von Erbgut. Therapeutische Chancen stehen Risiken unbeabsichtigter Veränderungen, Fragen der Einwilligung und möglicher Eingriffe in die Keimbahn gegenüber.
Entscheidend ist die Unterscheidung zwischen Behandlung, Verbesserung, Forschung und vererbbaren Eingriffen. Auch gerechter Zugang gehört zur Verantwortung.
Digitale Kommunikation
Soziale Medien ermöglichen Teilhabe, können aber Aufmerksamkeit ökonomisch steuern, Desinformation verstärken und Abhängigkeiten fördern. Verantwortliche Gestaltung umfasst transparente Empfehlungssysteme, Schutz Minderjähriger, wirksame Meldewege und Wahlmöglichkeiten.
Wer trägt Verantwortung?
| Ebene | Verantwortung |
|---|---|
| Individuen | informiert nutzen, Folgen reflektieren, Grenzen respektieren |
| Ingenieurinnen und Entwickler | Risiken prüfen, Sicherheit dokumentieren, Einwände melden |
| Unternehmen | Anreize, Ressourcen, Haftung und Beschwerdewege gestalten |
| Politik und Recht | Mindeststandards, Kontrolle und Ausgleich durchsetzen |
| Wissenschaft | Unsicherheit offenlegen und Folgen untersuchen |
| Zivilgesellschaft | Betroffene vertreten und öffentliche Debatten ermöglichen |
Verantwortung ist geteilt, aber nicht beliebig. Sie richtet sich nach Entscheidungsmacht, Fachwissen, Nutzen und Kontrollmöglichkeit. Ein technisches System darf nicht zum Vorwand werden, menschliche oder institutionelle Verantwortung abzugeben.
Werkzeug der ethischen Urteilsbildung
Nutze diese sieben Schritte für einen Fall:
- Problemdefinition: Beschreibe die Entscheidung ohne vorschnelle Wertung.
- Stakeholder: Bestimme direkt und indirekt Betroffene.
- Sachanalyse: Trenne Wissen, Annahmen und Unsicherheiten.
- Werteanalyse: Prüfe Rechte, Nutzen, Gerechtigkeit, Autonomie und Nachhaltigkeit.
- Handlungsoptionen: Formuliere mindestens drei Alternativen, auch Nichtstun.
- Abwägung: Vergleiche Folgen, Pflichten, Verteilung und Reversibilität.
- Verantwortungsplan: Entscheide, dokumentiere, kontrolliere und ermögliche Korrektur.
Merksatz: Verantwortliche Technik ist nicht nur sicher im Normalbetrieb. Sie muss auch Fehler, Missbrauch, Machtasymmetrien und Langzeitfolgen mitdenken.
Interaktive Aufgaben
Quiz: Teste Dein Wissen
Was kennzeichnet Verantwortung als Relationsbegriff? (Sie verbindet einen Akteur mit einer Handlung, Betroffenen und einem Maßstab) (!Sie beschreibt ausschließlich ein persönliches Gefühl) (!Sie meint nur strafrechtliche Schuld) (!Sie gilt nur für abgeschlossene Handlungen)
Warum erweitert moderne Technik den Gegenstand der Ethik? (Ihre Folgen können global, langfristig und schwer umkehrbar sein) (!Technik verhindert jede moralische Entscheidung) (!Technische Geräte besitzen immer eigene Schuld) (!Technische Folgen sind grundsätzlich sicher vorhersehbar)
Was fordert der Imperativ von Hans Jonas? (Die Bedingungen echten menschlichen Lebens langfristig zu bewahren) (!Jede technische Neuerung sofort zu verbieten) (!Nur gegenwärtige Interessen zu berücksichtigen) (!Risiken grundsätzlich zu ignorieren)
Was bedeutet Heuristik der Furcht bei Hans Jonas? (Schwere mögliche Schäden vorausschauend ernst zu nehmen) (!Angst als einzige Entscheidungsgrundlage zu nutzen) (!Alle Chancen technischer Entwicklung auszublenden) (!Nur bereits eingetretene Schäden zu bewerten)
Welche Frage ist typisch für deontologische Ethik? (Werden Rechte und Pflichten geachtet) (!Welche Option erzielt den höchsten Gewinn) (!Welche Technik ist am neuesten) (!Welches Design ist am auffälligsten)
Was beschreibt Verantwortungsdiffusion? (Viele wirken mit, aber Zuständigkeit bleibt unklar) (!Eine Person übernimmt freiwillig alle Aufgaben) (!Ein Risiko wird vollständig beseitigt) (!Eine Entscheidung wird besonders transparent)
Welche Maßnahme stärkt verantwortliche KI? (Nachvollziehbare Kriterien und ein wirksamer Widerspruchsweg) (!Geheime Bewertungskriterien ohne Kontrolle) (!Vollständige Automatisierung jeder Entscheidung) (!Training ausschließlich mit möglichst vielen ungeprüften Daten)
Was verlangt das Vorsorgeprinzip? (Bei plausiblen schweren Risiken vorbeugende Maßnahmen zu prüfen) (!Nur sichere Schäden zu berücksichtigen) (!Jede Unsicherheit als Beweis für Harmlosigkeit zu werten) (!Nutzen und Risiken niemals zu vergleichen)
Woran orientiert sich die Zuweisung von Verantwortung besonders? (An Wissen, Entscheidungsmacht und Kontrollmöglichkeit) (!An der Beliebtheit einer Technik) (!An der Farbe eines Produkts) (!An der Zahl der Werbeanzeigen)
Was gehört zu einer vollständigen Technikbewertung? (Nutzen, Risiken, Verteilung, Alternativen und Langzeitfolgen) (!Nur der Anschaffungspreis) (!Nur die technische Funktionsfähigkeit) (!Nur die Absicht der Entwickler)
Memory
| Vorsorgeprinzip | vorbeugender Umgang mit plausiblen schweren Risiken |
| Verantwortungsdiffusion | unklare Zuständigkeit bei vielen Beteiligten |
| Reversibilität | Möglichkeit eine Entscheidung zurückzunehmen |
| Generationengerechtigkeit | faire Berücksichtigung zukünftiger Menschen |
| Technikfolgenabschätzung | systematische Untersuchung möglicher Auswirkungen |
| Datensparsamkeit | Beschränkung auf notwendige personenbezogene Daten |
Drag and Drop
| Ordne die richtigen Begriffe zu. | Ethische Bedeutung |
|---|---|
| Autonomie | selbstbestimmtes Entscheiden |
| Fairness | gerechte Verteilung von Chancen und Lasten |
| Transparenz | nachvollziehbare Regeln und Prozesse |
| Nachhaltigkeit | Erhalt langfristiger Lebensgrundlagen |
| Rechenschaft | begründete Antwort auf Kritik |
| Partizipation | Beteiligung betroffener Gruppen |
...
Kreuzworträtsel
| Vorsorge | Wie heißt das vorausschauende Handeln bei plausiblen schweren Risiken? |
| Jonas | Welcher Philosoph schrieb Das Prinzip Verantwortung? |
| Autonomie | Welcher Wert schützt selbstbestimmtes Entscheiden? |
| Haftung | Wie heißt die rechtliche Verantwortlichkeit für einen Schaden? |
| Zukunft | Welcher Zeithorizont steht bei Generationengerechtigkeit im Mittelpunkt? |
| Diskurs | Wie heißt der begründete Austausch verschiedener Betroffener? |
LearningApps
Lückentext
Offene Aufgaben
Leicht
- Techniktagebuch: Dokumentiere einen Tag lang drei technische Systeme und notiere jeweils Nutzen, Abhängigkeit und mögliche Betroffene.
- Begriffsnetz: Gestalte ein Schaubild zu Technik, Macht, Risiko, Verantwortung und Zukunft.
- Bildanalyse: Wähle eines der Kursbilder und formuliere fünf ethische Fragen dazu.
- Mini-Interview: Befrage zwei Personen, wer bei einem fehlerhaften digitalen System Verantwortung tragen sollte.
Standard
- Fallanalyse: Untersuche ein Empfehlungssystem mit den sieben Schritten der ethischen Urteilsbildung.
- Rollen-Debatte: Simuliere eine Anhörung zu Gesichtserkennung mit Rollen aus Politik, Polizei, Datenschutz und Zivilgesellschaft.
- Jonas-Kommentar: Erkläre den Imperativ von Hans Jonas an einem aktuellen Technikbeispiel und formuliere einen begründeten Einwand.
- Designauftrag: Entwickle drei Regeln für ein verantwortliches Schul- oder Hochschulportal.
Schwer
- Technikfolgenabschätzung: Erstelle eine kompakte Folgenmatrix für Genomeditierung, autonome Fahrzeuge oder Pflegerobotik.
- Policy-Brief: Verfasse eine zweiseitige Empfehlung für eine demokratische Institution zu einem technischen Konflikt.
- Ethik-Audit: Prüfe ein reales digitales Angebot auf Autonomie, Fairness, Transparenz, Datenschutz und Nachhaltigkeit.
- Forschungsprojekt: Vergleiche Verantwortungsethik, Utilitarismus und Diskursethik an demselben Fall und verteidige ein eigenes Urteil.
|
|
Lernkontrolle
- Transferfall KI-Diagnose: Ein Krankenhaus möchte eine KI zur Priorisierung einsetzen. Entwickle Bedingungen, unter denen der Einsatz vertretbar wäre, und begründe Grenzen menschlicher Kontrolle.
- Konflikt Sicherheit und Freiheit: Bewerte eine flächendeckende Videoüberwachung aus mindestens drei ethischen Perspektiven und formuliere eine verhältnismäßige Alternative.
- Intergenerationelle Abwägung: Vergleiche zwei Energieoptionen danach, wie Nutzen, Risiken und Lasten zwischen Gegenwart und Zukunft verteilt werden.
- Verantwortungskette: Rekonstruiere bei einem Unfall mit einem autonomen System die Beiträge von Entwicklung, Management, Aufsicht, Betrieb und Nutzung.
- Unsicherheit: Zeige an einem Beispiel, wie Entscheidungen trotz unvollständigen Wissens rational, vorsorgend und korrigierbar getroffen werden können.
- Gegenposition zu Jonas: Entwickle den stärksten Einwand gegen die Heuristik der Furcht und antworte darauf mit einem verbesserten Vorsorgemodell.
Lernnachweis
Für einen Lernnachweis sollst Du:
- zentrale Begriffe präzise verwenden,
- einen technischen Fall sachlich und normativ trennen,
- Betroffene, Machtverhältnisse und Unsicherheiten benennen,
- mindestens zwei ethische Ansätze anwenden,
- ein begründetes Urteil mit Gegenargument formulieren,
- Zuständigkeiten und überprüfbare Schutzmaßnahmen entwickeln,
- Quellen und Annahmen transparent dokumentieren.
Als Produkt eignen sich Essay, Fallstudie, Policy-Brief, Podcast, Debatte oder Projektpräsentation.
OERs zum Thema
Literatur und Vertiefung
- Hans Jonas: Das Prinzip Verantwortung. Versuch einer Ethik für die technologische Zivilisation.
- Technikfolgenabschätzung: Methoden zur Untersuchung beabsichtigter und unbeabsichtigter Folgen.
- Deutscher Ethikrat: Stellungnahme Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz.
- VDI 3780: Orientierung zu Werten und Begriffen der Technikbewertung.
Verknüpfte Lernbereiche
aiMOOC-Projekte
Schulfach+
|
|
aiMOOCs
aiMOOC Projekte
|
|
THE MONKEY DANCE
|
|
|