Dieses Quiz als Battle spielen: Mathematik, Klasse 11-13, G-Niveau

Ethik der Künstlichen Intelligenz - Baden-Württemberg

Einleitung

Künstliche Intelligenz ist längst nicht mehr nur ein Thema für Forschungslabore. KI-Systeme sortieren Informationen, unterstützen medizinische Diagnosen, empfehlen Inhalte, übersetzen Texte, erzeugen Bilder und Sprache, helfen bei Bewerbungsverfahren oder werden in Verwaltung, Industrie und Bildung eingesetzt. Dadurch entstehen Chancen, aber auch ethische Konflikte. Wer trägt Verantwortung, wenn ein automatisiertes System Menschen benachteiligt? Was bedeutet Fairness, wenn unterschiedliche Gruppen unterschiedliche Fehlerquoten erleben? Wie viel Kontrolle darf an Maschinen delegiert werden? Und welche Folgen hat es für eine demokratische Gesellschaft, wenn Entscheidungen zunehmend datenbasiert und teilweise undurchsichtig getroffen werden?

Für Lernende in der Oberstufe und im Studium ist KI-Ethik besonders interessant, weil hier Ethik, Informatik, Politik, Recht, Philosophie, Medienbildung und Gesellschaft zusammenkommen. Im baden-württembergischen Bildungsplan der gymnasialen Oberstufe wird im Fach Ethik unter anderem die Auseinandersetzung mit Freiheit in der digitalen Welt und mit Problemen der Digitalisierung einschließlich Künstlicher Intelligenz gefordert. Auch in der Informatik spielen die Analyse und Bewertung gesellschaftlicher Folgen digitaler Systeme eine wichtige Rolle.

Dieser aiMOOC hilft Dir, technische Grundlagen mit ethischen Fragen zu verbinden. Du lernst zentrale Begriffe wie Bias, algorithmische Fairness, Transparenz, Verantwortung, Datenschutz und Autonomie kennen. Gleichzeitig sollst Du nicht nur Regeln auswendig lernen, sondern selbst begründet urteilen: Welche Werte stehen in Konflikt? Welche Interessen sind betroffen? Welche Folgen sind absehbar? Und welche Regeln wären unter demokratischen und rechtsstaatlichen Bedingungen vertretbar?

Was ist Künstliche Intelligenz?

Unter Künstlicher Intelligenz versteht man einen Bereich der Informatik, der Verfahren entwickelt, mit denen Computersysteme Aufgaben bearbeiten können, für die beim Menschen typischerweise Fähigkeiten wie Wahrnehmen, Lernen, Schlussfolgern, Sprachverarbeitung oder Problemlösen erforderlich sind. Viele heutige KI-Systeme beruhen auf maschinellem Lernen. Dabei werden Modelle anhand von Daten trainiert, anstatt jede Entscheidungsregel vollständig von Menschen fest vorzugeben.

Ein künstliches neuronales Netz besteht vereinfacht aus miteinander verbundenen Recheneinheiten. Während des Trainings werden Parameter so angepasst, dass das Modell bestimmte Muster in Daten erkennt. Ein solches System „versteht“ seine Aufgabe jedoch nicht automatisch im menschlichen Sinne. Es verarbeitet mathematische Strukturen und Wahrscheinlichkeiten.

Das ist ethisch wichtig: Wenn ein KI-System eine Entscheidung empfiehlt, entstehen dessen Ergebnisse nicht aus moralischer Einsicht. Das System verfolgt technisch definierte Ziele und verarbeitet die Daten, auf deren Grundlage es entwickelt wurde. Deshalb müssen Menschen beurteilen, ob Zielsetzung, Daten, Einsatzbedingungen und Folgen verantwortbar sind.

KI-Systeme als soziotechnische Systeme

Ein KI-System besteht nicht nur aus Software. Es ist Teil eines soziotechnischen Systems. Dazu gehören Menschen, Organisationen, Daten, technische Infrastrukturen, wirtschaftliche Interessen, Rechtsnormen und gesellschaftliche Erwartungen. Wenn zum Beispiel ein Unternehmen ein KI-System zur Bewerberauswahl einsetzt, hängt die Wirkung nicht allein vom Algorithmus ab. Entscheidend sind auch die Auswahl der Trainingsdaten, die Definition von „geeigneten“ Bewerbenden, die Art der menschlichen Kontrolle, die Möglichkeit zum Widerspruch und die Verantwortung des Unternehmens.

Diese Perspektive verhindert eine typische Fehlannahme: Man kann Verantwortung nicht einfach auf „die KI“ abschieben. KI-Systeme besitzen keine rechtliche oder moralische Verantwortung in derselben Weise wie Menschen oder Institutionen. Verantwortung bleibt eine Frage menschlicher Gestaltung, Entscheidung und Kontrolle.

Grundfragen der KI-Ethik

KI-Ethik untersucht, welche moralischen Werte und Normen bei Entwicklung und Einsatz von KI beachtet werden sollten. Besonders wichtig sind:

Fairness: Werden Personen und Gruppen gerecht behandelt?
Verantwortung: Wer muss für Entscheidungen, Schäden und Fehlentwicklungen einstehen?
Transparenz: Können Betroffene nachvollziehen, dass und wie KI eingesetzt wird?
Autonomie: Behalten Menschen tatsächliche Entscheidungs- und Handlungsspielräume?
Datenschutz: Werden personenbezogene Daten angemessen geschützt?
Menschenwürde: Werden Menschen als selbstbestimmte Personen und nicht nur als Datenobjekte behandelt?
Sicherheit: Wie werden Fehlfunktionen, Manipulationen und Missbrauch verhindert?
Nachhaltigkeit: Welche ökologischen und sozialen Ressourcen benötigt Entwicklung und Betrieb von KI?
Demokratie: Wie beeinflusst KI öffentliche Kommunikation, Machtverteilung und politische Willensbildung?

Die UNESCO hat 2021 eine globale Empfehlung zur Ethik der Künstlichen Intelligenz verabschiedet. Sie verbindet KI-Governance unter anderem mit Menschenrechten, Menschenwürde, Fairness, Transparenz, Rechenschaftspflicht und Nachhaltigkeit. Solche Prinzipien sind nicht automatisch konfliktfrei. Mehr Transparenz kann etwa mit Datenschutz kollidieren, maximale Genauigkeit kann mit Erklärbarkeit in Spannung stehen und Gleichbehandlung kann andere Ergebnisse hervorbringen als der Ausgleich bestehender Benachteiligungen.

Fairness und algorithmischer Bias

Bias bedeutet in diesem Zusammenhang eine systematische Verzerrung, die zu unangemessenen oder unfairen Ergebnissen führen kann. Bias kann auf verschiedenen Ebenen entstehen: bei der Datenerhebung, bei der Auswahl von Merkmalen, bei der Formulierung des Lernziels, bei der Modellierung oder bei der späteren Nutzung.

Ein Beispiel: Ein automatisiertes Bewerbungsverfahren wird mit historischen Daten eines Unternehmens trainiert. Wenn in der Vergangenheit bestimmte Gruppen seltener eingestellt wurden, kann ein Modell diese historische Ungleichheit als scheinbar nützliches Muster lernen. Die Technik bildet dann nicht nur die Realität ab, sondern kann bestehende Benachteiligungen fortschreiben.

Bias muss nicht aus einer bewussten Diskriminierungsabsicht entstehen. Schon scheinbar neutrale Daten können problematisch sein. Postleitzahl, Sprache, Kaufverhalten oder Schulweg können indirekt mit sozialen Merkmalen zusammenhängen. Solche Merkmale können als Proxy wirken und damit Eigenschaften indirekt abbilden, die eigentlich nicht zur Entscheidung herangezogen werden sollen.

Was bedeutet Fairness?

Fairness klingt zunächst eindeutig, ist aber mathematisch und philosophisch mehrdeutig. Je nach Kontext können unterschiedliche Kriterien gelten:

Gleichbehandlung: Für alle gelten dieselben Regeln.
Chancengleichheit: Vergleichbare Personen sollen vergleichbare Chancen erhalten.
Ergebnisgerechtigkeit: Strukturelle Nachteile werden bei der Bewertung berücksichtigt.
Prozedurale Fairness: Das Entscheidungsverfahren selbst ist nachvollziehbar und anfechtbar.
Gruppenfairness: Bestimmte statistische Eigenschaften sollen für verschiedene Gruppen ähnlich sein.
Individuelle Fairness: Ähnliche Personen sollen ähnlich behandelt werden.

Diese Fairnessbegriffe können miteinander kollidieren. Eine zentrale Erkenntnis der KI-Ethik lautet deshalb: Fairness ist keine rein technische Kennzahl. Bevor eine Kennzahl gewählt wird, muss normativ entschieden werden, was in einem konkreten Kontext als gerecht gelten soll.

Fallbeispiel: Gesichtserkennung

Gesichtserkennung kann zur Geräteentsperrung, Zugangskontrolle oder Identifikation eingesetzt werden. Gleichzeitig berührt sie Datenschutz, Überwachung, Diskriminierung und Freiheitsrechte. Wenn ein System bei bestimmten Bevölkerungsgruppen häufiger Fehler macht, kann das zu ungleichen Belastungen führen. Besonders schwerwiegend ist dies, wenn Gesichtserkennung in sensiblen Bereichen wie Strafverfolgung oder Grenzkontrolle eingesetzt wird.

Bei der ethischen Bewertung solltest Du nicht nur fragen: „Wie hoch ist die durchschnittliche Genauigkeit?“ Wichtig sind auch Fragen wie: Wer ist von Fehlern betroffen? Welche Folgen hat ein falsches positives Ergebnis? Können Betroffene widersprechen? Gibt es eine menschliche Überprüfung? Ist der Einsatz überhaupt notwendig und verhältnismäßig?

Verantwortung und Rechenschaftspflicht

Wenn ein Mensch eine Entscheidung trifft, lässt sich Verantwortung häufig einer Person oder Institution zuordnen. Bei KI-Systemen wird dies schwieriger, weil viele Beteiligte zusammenwirken: Entwicklerinnen und Entwickler, Datenlieferanten, Unternehmen, Behörden, Nutzerinnen und Nutzer, Betreiber sowie politische Institutionen.

Man spricht deshalb manchmal von einer Verantwortungslücke. Diese darf jedoch nicht als Entschuldigung dienen. Gerade weil mehrere Akteure beteiligt sind, müssen Zuständigkeiten klar geregelt werden.

Ein verantwortbarer Einsatz sollte mindestens klären:

Wer entscheidet über das Ziel des Systems?
Wer prüft Datenqualität und mögliche Verzerrungen?
Wer überwacht das System nach der Einführung?
Wer kann eine automatisierte Entscheidung überstimmen?
Wer informiert Betroffene?
Wo können Fehler gemeldet und Entscheidungen angefochten werden?
Wer haftet oder trägt organisatorische Verantwortung bei Schäden?

Human Oversight, also menschliche Aufsicht, bedeutet nicht bloß, dass irgendwo ein Mensch beteiligt ist. Wirksame Aufsicht setzt voraus, dass die zuständige Person genug Zeit, Informationen, Kompetenz und tatsächliche Entscheidungsmacht besitzt.

Transparenz, Erklärbarkeit und Vertrauen

KI-Systeme können sehr komplex sein. Besonders große neuronale Netze lassen sich nicht immer in einfachen Regeln ausdrücken. Dennoch müssen verschiedene Formen von Transparenz unterschieden werden.

Systemtransparenz beantwortet Fragen wie: Wird überhaupt KI eingesetzt? Wer betreibt das System? Welche Datenarten werden genutzt?

Erklärbarkeit fragt danach, warum ein konkretes Ergebnis zustande gekommen ist. Bei einer Kreditentscheidung wäre etwa relevant, welche Faktoren das Ergebnis maßgeblich beeinflusst haben.

Nachvollziehbarkeit umfasst darüber hinaus Dokumentation, Tests, Protokolle und Prüfprozesse.

Transparenz ist jedoch kein Selbstzweck. Ein vollständig offengelegter Quellcode erklärt nicht automatisch eine komplexe Entscheidung. Umgekehrt kann eine verständliche Begründung hilfreich sein, selbst wenn nicht jedes technische Detail offengelegt wird. Für Betroffene ist häufig entscheidend, ob sie eine Entscheidung verstehen und wirksam anfechten können.

Autonomie und menschliche Entscheidung

Autonomie bezeichnet die Fähigkeit, eigene Entscheidungen nach selbstgewählten Gründen und Zielen zu treffen. KI kann Autonomie unterstützen, etwa durch Assistenzsysteme, Übersetzungen oder Barrierefreiheit. Sie kann Autonomie aber auch einschränken.

Empfehlungssysteme bestimmen mit, welche Nachrichten, Videos oder Produkte sichtbar werden. Personalisierte Systeme können Verhalten vorhersehen und gezielt beeinflussen. Dadurch entsteht eine ethische Frage: Wann ist Unterstützung noch hilfreich, und wann wird sie zur Manipulation?

Besonders kritisch sind Systeme, die menschliche Schwächen gezielt ausnutzen, etwa durch psychologisch angepasste Einflussnahme. Hier berührt KI-Ethik nicht nur individuelle Freiheit, sondern auch die Qualität demokratischer Öffentlichkeit.

Datenschutz und informationelle Selbstbestimmung

Viele KI-Systeme sind datenintensiv. Daten können direkt personenbezogen sein oder Rückschlüsse auf Personen ermöglichen. Deshalb sind Datenschutz und informationelle Selbstbestimmung zentrale Themen.

Ethisch bedeutsam sind unter anderem:

Welche Daten werden erhoben?
Ist die Datenerhebung für den Zweck notwendig?
Wissen Betroffene, wofür ihre Daten verwendet werden?
Können Daten zweckentfremdet oder kombiniert werden?
Wie lange werden Daten gespeichert?
Können sensible Eigenschaften aus scheinbar harmlosen Daten abgeleitet werden?

Ein System kann rechtlich zulässig und trotzdem ethisch problematisch sein. Ethik fragt daher über bloße Gesetzeskonformität hinaus: Ist die Datennutzung fair, verhältnismäßig und mit der Achtung der Person vereinbar?

KI und gesellschaftliche Macht

KI verändert nicht nur einzelne Entscheidungen. Sie kann Machtverhältnisse verschieben. Große Organisationen verfügen häufig über mehr Daten, Rechenleistung und Fachwissen als einzelne Bürgerinnen und Bürger. Dadurch können Informationsasymmetrien entstehen.

Wenn wenige Unternehmen zentrale KI-Infrastrukturen kontrollieren, betrifft das Wettbewerb, öffentliche Debatten, kulturelle Vielfalt und politische Gestaltungsmöglichkeiten. Wenn Behörden KI einsetzen, ist besonders wichtig, dass Grundrechte, Rechtsstaatlichkeit und demokratische Kontrolle gewährleistet bleiben.

Gesellschaftliche Folgen entstehen zudem auf dem Arbeitsmarkt. KI kann Tätigkeiten automatisieren, Berufe verändern und neue Qualifikationen verlangen. Dabei geht es nicht nur um die Frage, wie viele Arbeitsplätze verschwinden oder entstehen. Ethisch relevant sind auch Arbeitsqualität, Mitbestimmung, Verteilung von Produktivitätsgewinnen und der Zugang zu Weiterbildung.

Generative KI, Wahrheit und Öffentlichkeit

Generative KI kann Texte, Bilder, Audio und Videos erzeugen. Das eröffnet kreative Möglichkeiten, erschwert aber die Unterscheidung zwischen authentischen und künstlich erzeugten Inhalten.

Deepfakes können Unterhaltung oder Satire dienen, aber auch für Täuschung, Rufschädigung oder Desinformation verwendet werden. In politischen Zusammenhängen können synthetische Medien Vertrauen in öffentliche Kommunikation schwächen. Gleichzeitig entsteht ein paradoxes Problem: Selbst echte Aufnahmen können als angebliche Fälschungen zurückgewiesen werden.

Eine verantwortungsvolle Mediennutzung verlangt deshalb neue Kompetenzen. Du solltest Quellen prüfen, Inhalte kontextualisieren, Manipulationsmöglichkeiten kennen und nicht allein auf den visuellen Eindruck vertrauen.

Ethische Theorien als Werkzeuge

KI-Ethik ist keine Sammlung fertiger Antworten. Ethische Theorien helfen Dir, unterschiedliche Begründungswege zu erkennen.

Utilitarismus

Der Utilitarismus bewertet Handlungen vor allem nach ihren Folgen. Eine Entscheidung gilt als moralisch gut, wenn sie insgesamt möglichst viel Wohlergehen erzeugt beziehungsweise Schaden minimiert.

Auf KI angewandt könnte man fragen: Führt ein medizinisches Diagnosesystem insgesamt zu besseren Behandlungsergebnissen? Wie groß ist der Nutzen im Vergleich zu möglichen Fehlentscheidungen? Wer trägt die Risiken?

Eine Schwierigkeit besteht darin, dass Nutzen und Schaden ungleich verteilt sein können. Eine Lösung, die für die Mehrheit Vorteile bringt, kann eine Minderheit erheblich benachteiligen.

Deontologische Ethik

Deontologische Ansätze, etwa bei Immanuel Kant, betonen Pflichten und Rechte. Bestimmte Handlungen können moralisch unzulässig sein, selbst wenn sie gute Folgen versprechen.

Für KI bedeutet das zum Beispiel: Menschen dürfen nicht bloß als Mittel für fremde Zwecke behandelt werden. Datenschutz, informierte Zustimmung und Schutz vor Diskriminierung können als Rechte verstanden werden, die nicht einfach gegen Effizienz verrechnet werden dürfen.

Tugendethik

Die Tugendethik fragt danach, welche Haltungen und Charaktereigenschaften gutes Handeln auszeichnen. Im Umgang mit KI könnten etwa Verantwortungsbewusstsein, Gerechtigkeitssinn, Besonnenheit, Wahrhaftigkeit und Mut wichtig sein.

Diese Perspektive ist besonders interessant für Entwicklerinnen und Entwickler: Nicht jede ethische Entscheidung lässt sich vollständig in Regeln fassen. Professionelle Haltung und moralische Urteilskraft bleiben bedeutsam.

Gerechtigkeitstheorien

Gerechtigkeitstheorien untersuchen, wie Rechte, Chancen, Güter und Lasten verteilt werden sollten. In Anlehnung an John Rawls kann man fragen, ob Regeln auch dann akzeptabel wären, wenn man nicht wüsste, welche gesellschaftliche Position man selbst einnehmen wird.

Übertragen auf KI: Würdest Du einem automatisierten Auswahlverfahren zustimmen, wenn Du nicht wüsstest, ob Du zu einer Gruppe gehörst, die häufiger Fehlentscheidungen erleidet?

Das Trolley-Problem und autonome Systeme

Das klassische Trolley-Problem beschreibt ein moralisches Gedankenexperiment, bei dem verschiedene Handlungsoptionen zu unterschiedlichen Schäden führen. Es wird häufig mit autonomen Fahrzeugen in Verbindung gebracht.

Der Vergleich ist nützlich, aber begrenzt. Reale autonome Systeme treffen nicht einfach in einem einzigen Moment zwischen zwei klar beschriebenen Optionen. Ethisch wichtiger sind oft frühere Designentscheidungen: Welche Sicherheitsstandards werden festgelegt? Wie werden Risiken getestet? Wie wird mit Unsicherheit umgegangen? Wer entscheidet, wann ein System überhaupt eingesetzt werden darf?

Das Trolley-Problem sollte deshalb nicht dazu führen, KI-Ethik auf spektakuläre Dilemmasituationen zu reduzieren. Viele reale Probleme entstehen schrittweise durch Datenwahl, ökonomische Anreize, fehlende Aufsicht oder unklare Verantwortung.

Regulierung: Der EU AI Act

Der AI Act der Europäischen Union verfolgt einen risikobasierten Ansatz. Je nach Einsatzgebiet und Risikopotenzial gelten unterschiedliche Pflichten. Bestimmte Praktiken werden verboten, während für Hochrisiko-Systeme umfangreiche Anforderungen vorgesehen sind.

Für die ethische Diskussion ist wichtig: Recht und Ethik sind nicht identisch. Der AI Act setzt verbindliche Mindestregeln, doch eine moralische Bewertung kann darüber hinausgehen. Ein System kann beispielsweise formell zulässig sein, aber trotzdem gesellschaftlich unerwünschte Machtkonzentration oder Abhängigkeit erzeugen.

Seit August 2026 gelten weitere zentrale Pflichten des AI Act, darunter wichtige Transparenzanforderungen. Zugleich wurden die Zeitpläne für Teile der Umsetzung durch europäische Folgeregelungen angepasst. Für konkrete Anwendungen muss deshalb immer geprüft werden, welche Vorschriften zum jeweiligen Zeitpunkt gelten.

Baden-Württemberg: Schule, Hochschule und Gesellschaft

In Baden-Württemberg ist KI-Ethik nicht nur ein abstraktes Zukunftsthema. Der Bildungsplan eröffnet ausdrücklich Möglichkeiten, Fragen der Digitalisierung, Freiheit und Künstlichen Intelligenz im Ethikunterricht zu behandeln. Auch Informatikunterricht soll nicht bei Programmierung stehen bleiben, sondern digitale Systeme analysieren und bewerten.

Für die Oberstufe bietet sich besonders ein fächerverbindender Zugang an: In Informatik kannst Du verstehen, wie Daten, Modelle und Algorithmen funktionieren. In Ethik untersuchst Du Werte, Normen, Verantwortung und Gerechtigkeit. In Gemeinschaftskunde lassen sich Regulierung, Demokratie und Macht thematisieren. In Deutsch und Medienbildung kann die Wirkung generativer Inhalte auf Öffentlichkeit und Sprache untersucht werden.

Ein konkretes Beispiel ist das Thema Deepfake. Das Landesbildungsangebot Baden-Württemberg stellt Materialien zu Deepfakes und Deepvoices in der politischen Kommunikation bereit. Dadurch lässt sich die Frage untersuchen, wie technische Möglichkeiten mit Medienkompetenz und Demokratiebildung verbunden sind.

Ein Modell zur ethischen Prüfung von KI

Für Fallanalysen kannst Du ein mehrstufiges Verfahren verwenden:

Anwendung beschreiben: Was macht das KI-System konkret?
Betroffene bestimmen: Wer profitiert, wer trägt Risiken?
Daten prüfen: Welche Daten werden genutzt und welche Verzerrungen sind möglich?
Werte identifizieren: Welche Werte stehen auf dem Spiel, etwa Fairness, Freiheit oder Sicherheit?
Folgen untersuchen: Welche kurz- und langfristigen Auswirkungen sind denkbar?
Rechte prüfen: Werden Grundrechte oder Schutzinteressen berührt?
Verantwortung zuordnen: Wer entwickelt, entscheidet, kontrolliert und haftet?
Alternativen vergleichen: Gibt es eine weniger riskante oder gerechtere Lösung?
Begründetes Urteil formulieren: Unter welchen Bedingungen wäre der Einsatz vertretbar?

Dieses Modell verbindet technische und ethische Analyse. Es verhindert, dass KI entweder nur als technisches Werkzeug oder nur als abstraktes moralisches Problem betrachtet wird.

Interaktive Aufgaben

Quiz: Teste Dein Wissen

Warum kann ein KI-System auch ohne diskriminierende Absicht unfair handeln? (Weil verzerrte Daten oder ungeeignete Zielsetzungen zu systematischen Benachteiligungen führen können) (!Weil jedes KI-System zufällig entscheidet) (!Weil Computer grundsätzlich keine Daten verarbeiten können) (!Weil Fairness nur eine Frage der Rechengeschwindigkeit ist)

Was beschreibt ein soziotechnisches System am besten? (Das Zusammenspiel von Technik, Menschen, Organisationen und gesellschaftlichen Regeln) (!Ein neuronales Netz ohne menschliche Beteiligung) (!Eine Datenbank mit ausschließlich technischen Informationen) (!Ein Computerprogramm, das keine gesellschaftlichen Folgen haben kann)

Was bedeutet algorithmischer Bias? (Eine systematische Verzerrung, die zu unangemessenen oder unfairen Ergebnissen führen kann) (!Eine besonders hohe Rechengeschwindigkeit) (!Ein gesetzlich vorgeschriebenes Verschlüsselungsverfahren) (!Eine zufällige Speicherung von Daten)

Warum ist Fairness bei KI nicht allein technisch bestimmbar? (Weil zuerst normativ entschieden werden muss, welche Form von Gerechtigkeit im jeweiligen Kontext gelten soll) (!Weil Fairness überhaupt nicht messbar ist) (!Weil nur Programmierende über Gerechtigkeit entscheiden dürfen) (!Weil technische Systeme niemals statistische Unterschiede erkennen können)

Was gehört zu wirksamer menschlicher Aufsicht über ein KI-System? (Die zuständige Person braucht Informationen, Kompetenz, Zeit und echte Entscheidungsmacht) (!Eine Person muss nur formal als verantwortlich eingetragen sein) (!Das System darf niemals menschlich überprüft werden) (!Die KI muss ihre Entscheidungen selbst genehmigen)

Was ist ein zentrales Problem generativer Deepfakes? (Sie können Täuschung und Desinformation erleichtern) (!Sie können nur in Computerspielen verwendet werden) (!Sie enthalten immer sichtbare Wasserzeichen) (!Sie lassen sich grundsätzlich sofort erkennen)

Welche Frage stellt der Utilitarismus bei einem KI-Einsatz besonders in den Mittelpunkt? (Welche Folgen der Einsatz für Wohlergehen und Schaden hat) (!Welche Programmiersprache verwendet wurde) (!Wie alt der Computer ist) (!Ob der Quellcode besonders kurz ist)

Was betont eine deontologische Perspektive besonders? (Rechte und Pflichten, die nicht beliebig gegen Nutzen verrechnet werden dürfen) (!Nur den wirtschaftlichen Gewinn) (!Ausschließlich die Rechenleistung) (!Nur die Beliebtheit einer Anwendung)

Was bedeutet Transparenz bei KI unter anderem? (Betroffene sollen erkennen können, dass ein KI-System eingesetzt wird und wer dafür verantwortlich ist) (!Jeder KI-Code muss vollständig öffentlich sein) (!Alle persönlichen Daten müssen veröffentlicht werden) (!Ein System muss immer einfach programmiert sein)

Was ist eine zentrale Idee des EU AI Act? (Je nach Risiko einer KI-Anwendung gelten unterschiedlich strenge Anforderungen) (!Jede Form von KI ist in der Europäischen Union verboten) (!Nur Universitäten dürfen KI entwickeln) (!Alle KI-Systeme werden unabhängig vom Einsatz gleich behandelt)

Memory

Bias	systematische Verzerrung
Fairness	gerechte Behandlung
Transparenz	Nachvollziehbarkeit
Autonomie	Selbstbestimmung
Rechenschaftspflicht	Verantwortung für Folgen
Deepfake	synthetisch erzeugte Medienfälschung

Drag and Drop

Ordne die richtigen Begriffe zu.	Thema
Trainingsdaten	Grundlage für das Lernen eines Modells
Bias	systematische Verzerrung
Human Oversight	wirksame menschliche Kontrolle
Erklärbarkeit	verständliche Begründung eines Ergebnisses
Autonomie	Möglichkeit selbstbestimmten Handelns

Kreuzworträtsel

Fairness	Welcher Begriff bezeichnet gerechte Behandlung bei automatisierten Entscheidungen?
Bias	Wie heißt eine systematische Verzerrung in Daten oder Modellen?
Autonomie	Welcher Begriff bezeichnet menschliche Selbstbestimmung?
Deepfake	Wie heißt ein KI-basiert erzeugter täuschend wirkender Medieninhalt?
Transparenz	Welcher Begriff bezeichnet Offenheit und Nachvollziehbarkeit eines Systems?
Verantwortung	Welcher Begriff bezeichnet die Pflicht, für Entscheidungen und Folgen einzustehen?

LearningApps

Lückentext

Ein KI-System ist Teil eines

und wirkt deshalb immer in einem gesellschaftlichen Zusammenhang. Eine systematische Verzerrung wird als

bezeichnet. Bei der Bewertung automatisierter Entscheidungen ist

ein zentraler ethischer Maßstab. Die Fähigkeit eines Menschen, selbstbestimmt zu entscheiden, wird als

bezeichnet. Damit Betroffene Entscheidungen besser verstehen können, ist

wichtig. Eine wirksame menschliche Kontrolle von KI wird häufig als

bezeichnet. Generierte Medieninhalte, die reale Personen täuschend echt imitieren, können als

auftreten. Der risikobasierte europäische Rechtsrahmen für KI heißt

.

Offene Aufgaben

Leicht

KI im Alltag: Dokumentiere einen Tag lang mindestens fünf Situationen, in denen Dir KI oder algorithmische Systeme begegnen könnten. Ordne jedem Beispiel eine mögliche Chance und ein mögliches Risiko zu.
Fairness: Formuliere zwei verschiedene Vorstellungen davon, was bei einer automatisierten Studienplatz- oder Bewerberauswahl „fair“ bedeuten könnte.
Deepfake: Erstelle ein Informationsplakat mit Kriterien, die helfen können, verdächtige Bilder, Videos oder Audiodateien kritisch zu prüfen.
Ethik und Informatik: Erkläre in einem kurzen Lernvideo, warum technische Genauigkeit allein noch keine ethisch gute KI garantiert.

Standard

Algorithmischer Bias: Entwickle ein kleines Gedankenexperiment, in dem verzerrte Trainingsdaten zu unfairen Ergebnissen führen. Zeige anschließend mindestens zwei Möglichkeiten zur Verbesserung.
KI und Schule: Befrage Mitschülerinnen, Mitschüler oder Studierende anonym zu Chancen und Sorgen beim Einsatz generativer KI in Bildung. Werte die Antworten nach ethischen Kategorien aus.
Autonomie: Analysiere ein Empfehlungssystem einer bekannten Plattform. Untersuche, wie es Deine Aufmerksamkeit und Entscheidungen beeinflussen könnte.
AI Act: Wähle eine konkrete KI-Anwendung und begründe, welche Risiken reguliert werden sollten. Vergleiche Deine Überlegungen anschließend mit dem risikobasierten Ansatz des EU AI Act.

Schwer

Ethik-Audit: Entwickle einen Prüfkatalog für den verantwortungsvollen Einsatz eines KI-Systems an einer Schule oder Hochschule in Baden-Württemberg. Berücksichtige Fairness, Datenschutz, Transparenz, Aufsicht und Beschwerdemöglichkeiten.
Gerechtigkeitstheorie: Vergleiche die Bewertung eines KI-gestützten Bewerbungsverfahrens aus utilitaristischer, deontologischer und gerechtigkeitstheoretischer Perspektive.
KI und Demokratie: Konzipiere eine wissenschaftlich begründete Präsentation über mögliche Auswirkungen generativer KI und Deepfakes auf demokratische Öffentlichkeit. Entwickle konkrete Gegenmaßnahmen.
Verantwortung: Simuliere eine öffentliche Anhörung zu einem fehlerhaften Hochrisiko-KI-System. Verteile Rollen auf Entwicklerteam, Unternehmen, Betroffene, Politik, Datenschutz und Zivilgesellschaft und erarbeite anschließend eine Verantwortungsmatrix.

Lernkontrolle

Fallanalyse Fairness: Ein Unternehmen nutzt ein KI-System zur Vorauswahl von Bewerbungen. Das System bewertet Bewerbungen bestimmter Wohnorte deutlich schlechter. Analysiere mögliche Ursachen und entwickle ein Verfahren, mit dem Fairness geprüft und verbessert werden kann.
Verantwortungskette: Ein KI-gestütztes medizinisches System empfiehlt eine falsche Behandlung. Entwickle ein begründetes Modell, wie Verantwortung zwischen Entwicklerteam, Klinik, medizinischem Personal und Betreiber verteilt werden sollte.
Ethikvergleich: Beurteile den Einsatz automatisierter Gesichtserkennung an öffentlichen Orten aus utilitaristischer und deontologischer Perspektive. Zeige, warum beide Ansätze zu unterschiedlichen Bewertungen gelangen können.
Regulierung: Entwickle Kriterien, nach denen entschieden werden sollte, ob ein KI-System nur transparent gemacht, besonders kontrolliert oder vollständig verboten werden sollte.
Demokratie und Deepfakes: Entwirf ein Maßnahmenpaket für eine Schule, Hochschule oder Kommune in Baden-Württemberg, das die Gesellschaft widerstandsfähiger gegen KI-basierte Desinformation machen soll.
Autonomie und Empfehlungssysteme: Erörtere, ob personalisierte Empfehlungssysteme menschliche Autonomie eher erweitern oder einschränken. Berücksichtige mindestens zwei gegensätzliche Argumente und formuliere ein begründetes Urteil.

Lernnachweis

Für einen Lernnachweis zu diesem Thema solltest Du zeigen, dass Du technische und ethische Perspektiven miteinander verbinden kannst. Wichtig sind insbesondere:

Du kannst erklären, warum KI-Systeme als soziotechnische Systeme verstanden werden müssen.
Du kannst Bias, Fairness, Transparenz, Erklärbarkeit, Autonomie und Verantwortung voneinander unterscheiden.
Du kannst konkrete KI-Anwendungen auf mögliche Benachteiligungen und gesellschaftliche Folgen untersuchen.
Du kannst verschiedene ethische Theorien auf denselben Fall anwenden.
Du kannst begründen, warum rechtliche Zulässigkeit und ethische Vertretbarkeit nicht identisch sind.
Du kannst Zuständigkeiten und Verantwortung bei komplexen KI-Systemen analysieren.
Du kannst Chancen und Risiken generativer KI für Bildung, Öffentlichkeit und Demokratie abwägen.
Du kannst ein eigenständiges, argumentativ begründetes Urteil zu einer KI-Anwendung formulieren.
Du kannst geeignete Schutzmaßnahmen und Governance-Regeln entwickeln.
Du kannst Bezüge zu Schule, Hochschule und Gesellschaft in Baden-Württemberg herstellen.

OERs zum Thema

Medien und Vertiefung

Die folgenden Medien eignen sich für Unterricht, Seminar oder Selbststudium:

Künstliche Intelligenz: Überblick über technische Grundlagen und Anwendungen.
Algorithmische Voreingenommenheit: Vertiefung zu Bias und Diskriminierung.
AI Act: Europäischer Rechtsrahmen für Künstliche Intelligenz.
Deepfake: Grundlagen zu synthetisch erzeugten Audio-, Bild- und Videoinhalten.
Maschinelles Lernen: Technische Grundlage vieler heutiger KI-Systeme.
Ethik: Begriffe und Verfahren moralischer Urteilsbildung.
Datenschutz: Schutz personenbezogener Daten und informationeller Selbstbestimmung.