Die Druckversion wird nicht mehr unterstützt und kann Darstellungsfehler aufweisen. Bitte aktualisiere deine Browser-Lesezeichen und verwende stattdessen die Standard-Druckfunktion des Browsers.

Ethik der künstlichen Intelligenz

Einleitung

Künstliche Intelligenz (KI) kann Texte erzeugen, Bilder analysieren, Bewerbungen vorsortieren, medizinische Daten auswerten oder Fahrzeuge unterstützen. Dadurch entstehen Chancen, aber auch Fragen: Wer trägt Verantwortung? Werden Menschen fair behandelt? Welche Daten dürfen verwendet werden? Wie transparent muss eine Entscheidung sein?

Die Ethik der künstlichen Intelligenz ist ein Bereich der angewandten Ethik. Sie untersucht, nach welchen Werten und Regeln KI entwickelt und eingesetzt werden sollte. Im Mittelpunkt stehen unter anderem Menschenwürde, Menschenrechte, Datenschutz, Gerechtigkeit, Sicherheit, Transparenz, menschliche Kontrolle und Nachhaltigkeit.

Dieser aiMOOC richtet sich vor allem an Lernende der Sekundarstufe II und der beruflichen Bildung. Du brauchst keine Programmierkenntnisse. Ziel ist, konkrete KI-Anwendungen ethisch beurteilen und begründete Entscheidungen entwickeln zu können.

Was bedeutet KI-Ethik?

Ethik fragt nicht nur: Was kann Technik? Sie fragt auch: Was soll Technik dürfen und wie soll sie eingesetzt werden? Bei KI geht es deshalb nicht allein um die Qualität eines Algorithmus. Entscheidend ist der gesamte Zusammenhang aus Daten, Entwicklungszielen, Menschen, Organisationen und gesellschaftlichen Folgen.

Ein KI-System kann technisch gut funktionieren und trotzdem ethische Probleme verursachen. Ein Auswahlprogramm könnte zum Beispiel sehr schnell Bewerbungen sortieren, aber bestimmte Gruppen systematisch benachteiligen. Ein Gesichtserkennungssystem könnte Personen zuverlässig erkennen, zugleich aber in die Privatsphäre eingreifen.

Die UNESCO verabschiedete 2021 eine internationale Empfehlung zur KI-Ethik. Sie stellt Menschenrechte und Menschenwürde in den Mittelpunkt und nennt unter anderem Fairness, Transparenz, Datenschutz, Sicherheit, menschliche Aufsicht und Nachhaltigkeit als wichtige Prinzipien. UNESCO: Recommendation on the Ethics of Artificial Intelligence

Ethik und Recht sind nicht dasselbe

Recht legt verbindliche Regeln fest. Ethik geht darüber hinaus und fragt, was verantwortbar, gerecht oder wünschenswert ist. Etwas kann rechtlich erlaubt sein und trotzdem ethisch umstritten bleiben. Umgekehrt können ethische Leitlinien später Einfluss auf Gesetze, Standards und technische Verfahren haben.

Zentrale ethische Prinzipien

Prinzip	Leitfrage	Beispiel
Fairness	Werden Menschen gleichberechtigt behandelt?	Ein Bewerbungssystem darf Gruppen nicht systematisch benachteiligen.
Transparenz	Ist erkennbar, dass KI eingesetzt wird und wie ihre Ergebnisse zustande kommen?	Lernende sollten wissen, wenn ein Chatbot oder ein automatisches Bewertungssystem verwendet wird.
Datenschutz	Werden nur notwendige Daten genutzt und ausreichend geschützt?	Gesundheitsdaten benötigen besonders sorgfältigen Schutz.
Sicherheit	Wie werden Fehler, Missbrauch und Angriffe verhindert?	Ein KI-System in einem Fahrzeug muss auch in schwierigen Situationen zuverlässig reagieren.
Verantwortung	Wer ist für Entwicklung, Einsatz und Folgen zuständig?	Eine Organisation kann Verantwortung nicht einfach an einen Algorithmus abgeben.
Menschliche Aufsicht	Können Menschen eingreifen und Entscheidungen überprüfen?	Bei wichtigen Entscheidungen sollte eine verantwortliche Person kontrollieren können.
Nachhaltigkeit	Welche ökologischen und sozialen Ressourcen benötigt das System?	Training und Betrieb großer Modelle können erhebliche Rechenleistung benötigen.

Typische Konfliktfelder

Verzerrungen und Diskriminierung

KI-Systeme lernen häufig aus vorhandenen Daten. Solche Daten können gesellschaftliche Ungleichheiten, Messfehler oder einseitige Auswahl enthalten. Dadurch kann ein sogenannter Bias entstehen. Das bedeutet nicht automatisch, dass jede Abweichung diskriminierend ist. Entscheidend ist, ob bestimmte Menschen ungerecht benachteiligt werden und ob die verwendeten Daten und Kriterien für den Zweck geeignet sind.

Ein sinnvolles Prüfverfahren untersucht deshalb nicht nur die durchschnittliche Trefferquote, sondern auch, wie gut ein System bei unterschiedlichen Gruppen und Situationen funktioniert.

Datenschutz und Überwachung

Viele KI-Anwendungen benötigen große Datenmengen. Besonders sensibel sind biometrische Daten, Gesundheitsdaten, Standortdaten oder Informationen über persönliche Lebensbereiche. Ethisch wichtig sind Zweckbindung, Datensparsamkeit, Schutz vor unbefugtem Zugriff und die Frage, ob Menschen eine echte Wahl haben.

Erklärbarkeit und Verantwortung

Je wichtiger eine Entscheidung ist, desto bedeutsamer wird die Frage nach ihrer Nachvollziehbarkeit. Betroffene sollten verstehen können, warum ein Ergebnis zustande kam oder zumindest welche Faktoren wesentlich waren.

Dabei bleibt menschliche Verantwortung zentral. Entwicklerinnen und Entwickler, Anbieter, Organisationen und Anwender können unterschiedliche Verantwortungsbereiche haben. Der Satz „Die KI hat entschieden“ reicht bei folgenreichen Entscheidungen nicht als Begründung.

Generative KI, Deepfakes und Kennzeichnung

Generative KI kann Texte, Bilder, Audio und Videos erzeugen. Das erleichtert kreative Arbeit, kann aber auch Täuschung und Desinformation fördern. Besonders problematisch sind Deepfakes, wenn reale Personen scheinbar etwas sagen oder tun, was nie stattgefunden hat.

Eine mögliche Schutzmaßnahme ist die Kennzeichnung synthetischer Inhalte. Kennzeichnungen lösen jedoch nicht jedes Problem: Auch gekennzeichnete Inhalte können irreführend sein, und nicht jede Manipulation ist technisch zuverlässig erkennbar.

Bildung, Arbeit und menschliche Autonomie

KI kann beim Lernen, Schreiben, Übersetzen und Planen helfen. Gleichzeitig besteht die Gefahr, dass Menschen Ergebnisse ungeprüft übernehmen oder wichtige Fähigkeiten weniger trainieren. Ethisch relevant ist deshalb die Frage, ob KI die Autonomie von Menschen stärkt oder schwächt.

In der Arbeitswelt kann KI Routineaufgaben übernehmen und neue Tätigkeiten ermöglichen. Gleichzeitig können Berufe verändert, Leistungen stärker überwacht oder Entscheidungen automatisiert werden. Eine ethische Bewertung muss deshalb auch die Folgen für Beschäftigte und Betroffene berücksichtigen.

Umwelt und Ressourcen

KI ist keine rein virtuelle Technik. Rechenzentren benötigen Hardware, Energie, Kühlung und Rohstoffe. Eine verantwortliche Bewertung betrachtet deshalb auch den Ressourcenverbrauch während Entwicklung und Betrieb.

Fallbeispiele

Anwendung	Ethische Chance	Ethisches Risiko	Wichtige Prüffrage
KI bei Bewerbungen	Schnellere Vorauswahl	Unfaire Benachteiligung	Sind Kriterien und Trainingsdaten geeignet und fair?
KI in der Medizin	Unterstützung bei Diagnosen	Fehlentscheidungen oder unklare Verantwortung	Wer prüft das Ergebnis und entscheidet am Ende?
KI in der Schule	Individuelle Lernunterstützung	Datenschutz, Abhängigkeit oder Täuschung	Bleibt eigenes Denken erkennbar und geschützt?
Autonomes Fahren	Unterstützung und mögliche Unfallvermeidung	Fehlfunktionen in kritischen Situationen	Wie werden Sicherheit, Kontrolle und Verantwortung geregelt?
Generative Medien	Kreative Produktion	Deepfakes und Desinformation	Ist klar erkennbar, wie der Inhalt entstanden ist?

Ethische Prüfung in sechs Schritten

Eine einfache Prüfung hilft Dir, nicht nur spontan zu urteilen:

Zweck klären: Welches Problem soll die KI lösen?
Betroffene bestimmen: Wer profitiert, wer trägt Risiken und wer könnte ausgeschlossen werden?
Daten prüfen: Welche Daten werden genutzt, woher stammen sie und sind sie angemessen?
Folgen vergleichen: Welche Vorteile, Fehler und möglichen Schäden sind zu erwarten?
Prinzipien abwägen: Wie stehen Fairness, Datenschutz, Sicherheit, Transparenz, Autonomie und Nachhaltigkeit zueinander?
Verantwortung sichern: Wer kontrolliert das System, dokumentiert Probleme und kann eingreifen?

Eine ethische Entscheidung entsteht häufig durch Abwägung. Verschiedene Prinzipien können miteinander in Konflikt geraten. Mehr Transparenz kann zum Beispiel hilfreich sein, darf aber nicht automatisch bedeuten, sensible personenbezogene Daten offenzulegen.

KI-Ethik und Recht in Europa

Der EU AI Act ist ein Beispiel dafür, wie ethische Risiken in rechtliche Anforderungen übersetzt werden. Er trat am 1. August 2024 in Kraft und verfolgt einen risikobasierten Ansatz. Seit dem 2. August 2026 gilt ein großer Teil der Regelungen; für einzelne Bereiche bestehen spätere Übergangsfristen. Europäische Kommission: KI-Gesetz

Der risikobasierte Ansatz bedeutet: Je größer mögliche Gefahren für Sicherheit oder Grundrechte sind, desto strenger können die Anforderungen sein. Rechtliche Regeln ersetzen jedoch nicht die ethische Diskussion. Eine verantwortungsvolle Organisation sollte auch dort prüfen, wo das Gesetz Mindestanforderungen offenlässt.

Fazit

KI-Ethik fragt danach, wie KI dem Menschen dienen kann, ohne Rechte, Fairness, Sicherheit und Selbstbestimmung zu gefährden. Gute ethische Bewertung beginnt deshalb nicht erst beim fertigen Produkt. Sie begleitet die Auswahl von Daten, die Entwicklung, das Testen, die Einführung und den späteren Einsatz.

Du musst dabei nicht jede Frage mit Ja oder Nein beantworten. Entscheidend ist, dass Du Interessen und Risiken erkennst, Prinzipien begründet abwägst und Verantwortung klar zuordnest.

Interaktive Aufgaben

Quiz: Teste Dein Wissen

Diesen aiMOOC als Battle spielen

Womit beschäftigt sich KI-Ethik vor allem? (Mit der verantwortbaren Entwicklung und Nutzung von KI) (!Mit der möglichst schnellen Entwicklung jeder KI) (!Mit der Abschaffung aller digitalen Technologien) (!Nur mit der Programmierung neuronaler Netze)

Was beschreibt ein Bias bei KI-Systemen? (Eine systematische Verzerrung) (!Eine besonders schnelle Berechnung) (!Eine Form der Datenverschlüsselung) (!Eine gesetzliche Zulassung)

Welches Prinzip fragt nach der Nachvollziehbarkeit von KI-Entscheidungen? (Transparenz) (!Geschwindigkeit) (!Unterhaltung) (!Speicherkapazität)

Welches Prinzip schützt personenbezogene Informationen besonders? (Datenschutz) (!Automatisierung) (!Skalierung) (!Kompression)

Was bedeutet menschliche Aufsicht bei KI? (Menschen können Ergebnisse kontrollieren und eingreifen) (!KI darf niemals Daten verwenden) (!Menschen müssen jede Berechnung selbst durchführen) (!KI entscheidet immer ohne Kontrolle)

Warum gehört Nachhaltigkeit zur KI-Ethik? (KI benötigt auch Energie, Hardware und Rohstoffe) (!KI funktioniert grundsätzlich ohne Rechenzentren) (!Nachhaltigkeit betrifft nur Verkehrsmittel) (!Digitale Systeme haben keine materiellen Grundlagen)

Was ist ein Deepfake? (Ein künstlich erzeugter oder manipulierter Medieninhalt mit täuschender Wirkung) (!Ein besonders tiefes neuronales Netz) (!Eine sichere Verschlüsselungsmethode) (!Ein Datensatz ohne Fehler)

Wie unterscheiden sich Ethik und Recht? (Ethik fragt nach verantwortbarem Handeln, Recht setzt verbindliche Regeln) (!Ethik und Recht sind immer vollständig identisch) (!Ethik gilt nur für Computer) (!Recht beschäftigt sich nicht mit KI)

Welchem Grundgedanken folgt der EU AI Act? (Einem risikobasierten Ansatz) (!Einem vollständigen Verbot aller KI-Systeme) (!Einer Pflicht zur Nutzung von KI) (!Einer Einteilung nach Programmiersprachen)

Was gehört zu einer guten ethischen KI-Prüfung? (Betroffene, Daten, Folgen und Verantwortung gemeinsam betrachten) (!Nur die Rechengeschwindigkeit messen) (!Nur den Kaufpreis vergleichen) (!Nur die Meinung der Entwickler berücksichtigen)

Memory

Fairness	Nichtdiskriminierung
Transparenz	Nachvollziehbarkeit
Datenschutz	Privatsphäre
Rechenschaft	Verantwortung
Nachhaltigkeit	Ressourcenverbrauch
Aufsicht	Eingriffsmöglichkeit

Drag and Drop

Ordne die richtigen Begriffe zu.	Ethische Aufgabe
Fairness	Benachteiligung prüfen
Transparenz	Entscheidungen erläutern
Datenschutz	Personenbezogene Daten schützen
Sicherheit	Fehler und Missbrauch begrenzen
Nachhaltigkeit	Energie und Ressourcen beachten

Kreuzworträtsel

Fairness	Welches Prinzip verlangt eine möglichst gerechte Behandlung?
Transparenz	Welches Prinzip fordert Nachvollziehbarkeit?
Datenschutz	Welcher Begriff bezeichnet den Schutz personenbezogener Informationen?
Deepfake	Wie heißt ein täuschend echt manipulierter Medieninhalt?
Autonomie	Wie heißt die Fähigkeit, selbstbestimmt zu entscheiden?
Verantwortung	Wer eine Entscheidung begründen und für Folgen einstehen muss, trägt was?

LearningApps

Lückentext

Die Ethik der künstlichen Intelligenz gehört zur

. Ein systematischer Fehler oder eine Verzerrung kann als

bezeichnet werden. Das Prinzip der

richtet den Blick auf gerechte Behandlung und mögliche Benachteiligung. Der Schutz personenbezogener Informationen gehört zum

. Die Nachvollziehbarkeit von Systemen wird mit dem Prinzip der

verbunden. Bei wichtigen Entscheidungen soll menschliche

möglich bleiben. Täuschend echt manipulierte Medien können als

bezeichnet werden. Auch der Energie- und Ressourcenverbrauch gehört zur Frage der

.

Offene Aufgaben

Leicht

KI-Ethik-Check: Wähle eine KI-Anwendung aus Deinem Alltag und prüfe sie anhand von Fairness, Datenschutz und Transparenz.
Begriffskarte KI-Ethik: Gestalte eine übersichtliche Mindmap mit mindestens sechs ethischen Prinzipien und jeweils einem Beispiel.
Medienanalyse: Untersuche ein KI-generiertes Bild oder einen Chatbot-Text. Beschreibe, woran Nutzer erkennen könnten, dass KI beteiligt war.
Klassenregeln für KI: Formuliere fünf Regeln für einen verantwortungsvollen Einsatz generativer KI bei schulischen Aufgaben.

Standard

Bias-Fallanalyse: Erfinde ein Beispiel, in dem ein Datensatz eine Gruppe benachteiligt. Erkläre, wie das Problem entdeckt und reduziert werden könnte.
Rollenspiel KI-Bewerbung: Übernimm die Rolle einer Bewerberin, eines Unternehmens, einer Entwicklerin oder einer Datenschutzstelle und diskutiere ein automatisches Auswahlverfahren.
Erklärvideo KI-Ethik: Produziere ein zwei- bis dreiminütiges Video zu einem Prinzip wie Fairness, Transparenz oder menschlicher Aufsicht.
Interview zu KI-Verantwortung: Befrage eine Lehrkraft, eine Person aus einem Unternehmen oder eine IT-Fachkraft dazu, wer bei fehlerhaften KI-Ergebnissen Verantwortung tragen sollte.

Schwer

Ethische Folgenabschätzung: Erstelle für ein frei gewähltes KI-System eine strukturierte Folgenabschätzung mit Betroffenen, Nutzen, Risiken, Schutzmaßnahmen und offenen Fragen.
UNESCO und EU AI Act: Vergleiche die ethischen Prinzipien der UNESCO mit dem risikobasierten Ansatz des EU AI Act. Trenne dabei ethische Leitlinien und rechtliche Pflichten.
Deepfake-Projekt: Entwickle ein Informationskonzept, mit dem eine Schule über Deepfakes, Kennzeichnung und Quellenprüfung aufklären könnte.
KI-Leitlinie: Entwirf eine kurze Leitlinie für eine Schule, einen Betrieb oder einen Verein. Begründe, wie Fairness, Datenschutz, Transparenz, Sicherheit und Verantwortung berücksichtigt werden.

Lernkontrolle

Fallanalyse Bewerbungssystem: Ein Unternehmen nutzt KI zur Vorauswahl von Bewerbungen. Entwickle drei Prüffragen, mit denen sich mögliche Benachteiligungen erkennen lassen, und begründe Deine Auswahl.
Abwägung Datenschutz und Nutzen: Eine Schule möchte einen KI-Lernassistenten einsetzen, der individuelle Lerndaten speichert. Erkläre, welche Vorteile und Risiken gegeneinander abgewogen werden müssen.
Verantwortungskette: Bei einer medizinischen KI kommt es zu einer falschen Empfehlung. Beschreibe, welche Rollen Entwickler, Anbieter, medizinisches Personal und Organisation bei der Aufarbeitung haben könnten.
Transparenzkonflikt: Erkläre anhand eines Beispiels, warum maximale Transparenz mit Datenschutz oder Sicherheit in Konflikt geraten kann.
Nachhaltige KI: Entwickle zwei Maßnahmen, mit denen eine Organisation den ökologischen Fußabdruck einer KI-Anwendung reduzieren könnte, ohne ihren Nutzen vollständig aufzugeben.
Transfer auf neue Technik: Wähle eine zukünftige KI-Anwendung, die heute noch nicht verbreitet ist. Übertrage mindestens vier ethische Prinzipien auf dieses Beispiel und begründe mögliche Schutzmaßnahmen.

Lernnachweis

Für einen Lernnachweis zu diesem Thema solltest Du zeigen können:

Du kannst zentrale Prinzipien der KI-Ethik erklären und auf konkrete Situationen übertragen.
Du kannst Chancen und Risiken einer KI-Anwendung aus Sicht verschiedener Betroffener beschreiben.
Du kannst Bias, Datenschutzprobleme, mangelnde Transparenz und Verantwortungsfragen erkennen.
Du kannst zwischen ethischer Bewertung und rechtlicher Regelung unterscheiden.
Du kannst mehrere Werte gegeneinander abwägen und Dein Urteil nachvollziehbar begründen.
Du kannst sinnvolle Schutzmaßnahmen für einen verantwortungsvollen KI-Einsatz entwickeln.