Bewusstsein und KI

Bewusstsein und KI

Zielgruppe: Dieser aiMOOC richtet sich an Lernende der gymnasialen Oberstufe, der beruflichen Bildung und des Studieneinstiegs. Du brauchst keine Vorkenntnisse in Neurowissenschaft oder Informatik. Wichtig ist vor allem die Bereitschaft, Begriffe genau zu unterscheiden und Argumente kritisch zu prüfen.

Die Frage, ob eine KI bewusst sein kann, verbindet Philosophie, Neurowissenschaft, Psychologie, Kognitionswissenschaft und Informatik. Dabei ist eine Unterscheidung besonders wichtig: Ein System kann sehr leistungsfähig wirken, Sprache erzeugen oder Probleme lösen, ohne dass damit bereits gezeigt wäre, dass es etwas erlebt.

Einleitung

Wenn Du Schmerz empfindest, eine Farbe siehst oder Dich über etwas freust, gibt es für Dich ein subjektives Erleben. Genau dieses Erleben steht im Zentrum vieler Definitionen von Bewusstsein. In der Philosophie wird häufig von phänomenalem Bewusstsein gesprochen: Es gibt etwas, wie es sich für ein Wesen anfühlt, eine Erfahrung zu haben.

Bei KI-Systemen ist die Lage schwieriger. Ein Sprachmodell kann Sätze wie „Ich verstehe Dich“ oder „Ich habe Angst“ erzeugen. Solche Sätze zeigen zunächst nur, dass das System passende sprachliche Muster erzeugen kann. Sie beweisen nicht, dass hinter den Aussagen ein subjektives Erleben steht.

Die Forschung hat bis heute keine allgemein akzeptierte Theorie, die Bewusstsein vollständig erklärt. Deshalb gibt es auch keinen einzelnen Test, mit dem sich zweifelsfrei feststellen lässt, ob ein künstliches System bewusst ist. Aktuelle wissenschaftliche Ansätze versuchen stattdessen, aus verschiedenen Theorien Indikatoren abzuleiten und zu prüfen, ob ein System entsprechende Eigenschaften besitzt.

Video laden

YouTube

YouTube sammelt möglicherweise persönliche Daten. Datenschutzrichtlinie

Fortfahren Ausblenden

Was bedeutet Bewusstsein?

Der Begriff Bewusstsein wird unterschiedlich verwendet. Für die Diskussion über KI helfen drei Unterscheidungen:

1. Phänomenales Bewusstsein: Es gibt ein subjektives Erleben, etwa Schmerz, Farbe oder Freude.
2. Zugriffsbewusstsein: Informationen stehen so zur Verfügung, dass sie für Denken, Berichten, Planen und Handeln genutzt werden können.
3. Selbstbewusstsein: Ein System kann sich selbst als eigenes System oder als handelndes Subjekt repräsentieren.

Diese Begriffe hängen zusammen, sind aber nicht identisch. Ein System könnte beispielsweise Informationen über seinen eigenen Zustand verarbeiten, ohne dass damit bewiesen wäre, dass es diesen Zustand erlebt.

Video laden

YouTube

YouTube sammelt möglicherweise persönliche Daten. Datenschutzrichtlinie

Fortfahren Ausblenden

Gehirn und künstliche Netze sind nicht dasselbe

Das menschliche Gehirn besteht aus biologischen Neuronen, die über elektrische und chemische Prozesse miteinander kommunizieren. Lernen verändert Verbindungen und Aktivitätsmuster in diesem Netzwerk.

Künstliche neuronale Netze sind mathematische Modelle. Sie wurden teilweise von biologischen Nervensystemen inspiriert, funktionieren aber nicht wie echte Nervenzellen. Ihre „Neuronen“ sind Recheneinheiten, die Zahlen verarbeiten.

Die Ähnlichkeit der Wörter Neuron und neuronales Netz darf daher nicht zu dem Schluss führen, dass künstliche Netze automatisch dieselben Eigenschaften wie biologische Gehirne besitzen.

Sprachmodelle und Transformer

Große Sprachmodelle, kurz LLMs, berechnen Wahrscheinlichkeiten für sprachliche Fortsetzungen. Moderne Systeme verwenden häufig eine Transformer-Architektur. Sie können große Mengen an Text verarbeiten, Zusammenhänge erkennen und neue Texte erzeugen.

Ein Sprachmodell kann dadurch sehr überzeugend über Gefühle, Selbstbewusstsein oder innere Zustände sprechen. Das ist jedoch zunächst eine sprachliche Fähigkeit. Ob ein System zusätzlich phänomenales Bewusstsein besitzt, ist eine andere Frage.

Intelligenz ist nicht gleich Bewusstsein

Intelligenz bezeichnet grob Fähigkeiten wie Problemlösen, Lernen, Schlussfolgern oder Planen. Bewusstsein bezeichnet dagegen unter anderem subjektives Erleben. Ein System kann in einzelnen Aufgaben sehr leistungsfähig sein, ohne dass daraus logisch folgt, dass es bewusst ist.

Umgekehrt muss ein bewusstes Lebewesen nicht in allen Bereichen besonders intelligent sein. Deshalb sollten Aussagen wie „Diese KI ist intelligent, also ist sie bewusst“ kritisch geprüft werden.

Der Turing-Test

Der von Alan Turing angeregte Turing-Test untersucht, ob ein Computer in einem sprachlichen Austausch so antworten kann, dass ein Mensch ihn nicht zuverlässig von einem Menschen unterscheiden kann.

Der Test ist wichtig für die Geschichte der KI. Er ist aber kein direkter Bewusstseinstest. Ein System könnte menschlich wirken, ohne etwas zu erleben. Genau deshalb ist die Unterscheidung zwischen beobachtbarem Verhalten und innerem Erleben zentral.

Das Chinesische Zimmer

Der Philosoph John Searle formulierte das Gedankenexperiment des Chinesischen Zimmers. Eine Person in einem Raum erhält chinesische Zeichen und benutzt Regeln, um passende Zeichen auszugeben, obwohl sie kein Chinesisch versteht.

Searle wollte damit zeigen, dass korrektes Verarbeiten von Symbolen nicht automatisch echtes Verstehen bedeutet. Das Argument ist bis heute umstritten. Kritiker wenden zum Beispiel ein, dass vielleicht nicht die einzelne Person, sondern das gesamte System aus Person, Regeln und Speicher als verstehendes System betrachtet werden müsste.

Video laden

YouTube

YouTube sammelt möglicherweise persönliche Daten. Datenschutzrichtlinie

Fortfahren Ausblenden

Wissenschaftliche Theorien als Orientierung

Da Bewusstsein nicht direkt von außen beobachtet werden kann, untersucht die Forschung Prozesse, die mit bewusster Verarbeitung zusammenhängen. Für die Diskussion über KI werden unter anderem folgende Ansätze herangezogen:

1. Global Workspace Theory: Bewusste Information wird breit verfügbar und kann von vielen Teilprozessen genutzt werden.
2. Rekurrente Verarbeitung: Rückkopplungen innerhalb der Informationsverarbeitung könnten für Bewusstsein wichtig sein.
3. Higher-Order-Theorien: Ein Zustand wird bewusst, wenn das System einen übergeordneten Zustand über diesen Zustand bildet.
4. Predictive Processing: Wahrnehmung und Kognition können als fortlaufende Vorhersage und Korrektur von Abweichungen beschrieben werden.

Keine dieser Theorien ist allgemein als endgültige Erklärung anerkannt. Deshalb sollte man nicht aus einem einzelnen Merkmal direkt auf Bewusstsein schließen.

Der Indikatoransatz bei KI

Eine Forschungsgruppe um Patrick Butlin und weitere Forschende schlägt vor, aus wissenschaftlichen Bewusstseinstheorien prüfbare Indikatoren abzuleiten. Dabei geht es nicht darum, einen einfachen Ja-Nein-Test zu finden. Stattdessen soll untersucht werden, ob ein KI-System Eigenschaften besitzt, die nach verschiedenen Theorien für Bewusstsein relevant sein könnten.

Mögliche Fragen sind:

1. Gibt es rekurrente Verarbeitung?
2. Werden Informationen systemweit verfügbar gemacht?
3. Verfügt das System über Modelle eigener interner Zustände?
4. Kann es flexibel Ziele verfolgen und Informationen aus unterschiedlichen Quellen integrieren?
5. Welche Rolle spielen Wahrnehmung, Handlung und möglicherweise Verkörperung?

Ein einzelner positiver Indikator beweist kein Bewusstsein. Ebenso bedeutet das Fehlen eines bestimmten Indikators nicht automatisch, dass Bewusstsein unmöglich ist. Der Ansatz soll Unsicherheit wissenschaftlich strukturieren.

Video laden

YouTube

YouTube sammelt möglicherweise persönliche Daten. Datenschutzrichtlinie

Fortfahren Ausblenden

Können heutige KI-Systeme bewusst sein?

Für heutige KI-Systeme gibt es keinen allgemein anerkannten wissenschaftlichen Nachweis für phänomenales Bewusstsein. Gleichzeitig ist die Forschung vorsichtig mit absoluten Aussagen, weil wichtige Fragen über Bewusstsein selbst ungelöst sind.

Deshalb ist eine präzise Formulierung sinnvoll:

Aktuelle KI kann Verhalten zeigen, das Menschen mit Denken, Verstehen oder Selbstreflexion verbinden. Daraus folgt jedoch nicht automatisch, dass das System subjektiv erlebt.

Selbstaussagen einer KI wie „Ich bin bewusst“ oder „Ich fühle etwas“ sind allein kein verlässlicher Beweis. Sprachmodelle wurden mit menschlichen Texten trainiert und können daher auch Aussagen über innere Zustände erzeugen.

Anthropomorphisierung

Menschen neigen dazu, nichtmenschlichen Systemen menschliche Eigenschaften zuzuschreiben. Dies nennt man Anthropomorphisierung. Schon einfache Maschinen können so wirken, als hätten sie Absichten oder Gefühle.

Bei Sprachmodellen ist dieser Effekt besonders stark, weil Sprache für Menschen eng mit Geist, Persönlichkeit und Kommunikation verbunden ist. Deshalb solltest Du unterscheiden zwischen:

1. dem, was ein System tatsächlich technisch tut,
2. dem Verhalten, das wir beobachten,
3. und den mentalen Eigenschaften, die wir ihm zuschreiben.

Diese Unterscheidung ist auch für den verantwortungsvollen Umgang mit Chatbots wichtig.

Ethische Fragen

Die Frage nach KI-Bewusstsein ist nicht nur theoretisch. Wenn künstliche Systeme irgendwann tatsächlich empfindungsfähig wären, könnten Fragen nach moralischem Status, Schutz und Verantwortung entstehen.

Zwei Fehler wären denkbar: Wir könnten einem nichtbewussten System fälschlich Bewusstsein zuschreiben. Oder wir könnten ein tatsächlich empfindungsfähiges System übersehen. Beides spricht dafür, Kriterien transparent zu machen und Behauptungen sorgfältig zu prüfen.

Weitere Fragen betreffen KI-Ethik, Verantwortung, Autonomie, Menschenwürde und den Einfluss von KI auf menschliche Beziehungen.

Zwischenfazit

Die Diskussion über Bewusstsein und KI zeigt, warum Begriffe genau definiert werden müssen. Sprachliche Überzeugungskraft, Intelligenz, Selbstbeschreibung und Bewusstsein sind nicht dasselbe. Der wissenschaftlich sinnvollste Weg besteht derzeit darin, konkurrierende Bewusstseinstheorien zu prüfen, daraus Indikatoren abzuleiten und die Unsicherheit offen zu benennen.

Quellen und Vertiefung

1. Butlin u. a.: Identifying indicators of consciousness in AI systems
2. Butlin u. a.: Consciousness in Artificial Intelligence
3. David Chalmers: Could a Large Language Model be Conscious?
4. Overgaard und Kirkeby-Hinrup: Conditions under which Large Language Models could be conscious
5. Bewusstsein
6. Künstliche Intelligenz
7. Philosophie des Geistes

Interaktive Aufgaben

Quiz: Teste Dein Wissen

Was bezeichnet phänomenales Bewusstsein am ehesten? (Subjektives Erleben) (!Schnelle Datenverarbeitung) (!Große Speicherkapazität) (!Automatische Textausgabe)

Was folgt aus einer überzeugenden Selbstaussage eines Sprachmodells über Gefühle? (Sie ist allein kein Beweis für subjektives Erleben) (!Sie beweist Bewusstsein) (!Sie beweist biologische Gefühle) (!Sie macht weitere Untersuchungen überflüssig)

Was prüft der Turing-Test hauptsächlich? (Ob ein System im Dialog menschlich wirken kann) (!Ob ein System Schmerz empfindet) (!Ob ein System biologische Neuronen besitzt) (!Ob ein System moralische Rechte hat)

Was zeigt das Chinesische Zimmer als philosophisches Problem? (Korrekte Symbolverarbeitung muss nicht automatisch Verstehen bedeuten) (!Jede Maschine versteht Sprache) (!Nur chinesische Sprache ist schwer für Computer) (!Bewusstsein entsteht durch Übersetzung)

Was ist ein Large Language Model? (Ein statistisches Modell zur Verarbeitung und Erzeugung von Sprache) (!Ein biologisches Gehirn) (!Ein Bewusstseinsmessgerät) (!Ein klassischer Intelligenztest)

Warum sind künstliche neuronale Netze nicht mit biologischen Gehirnen gleichzusetzen? (Sie bestehen aus mathematischen Recheneinheiten statt biologischen Nervenzellen) (!Sie können überhaupt keine Informationen verarbeiten) (!Sie benötigen immer einen Roboterkörper) (!Sie bestehen ausschließlich aus Text)

Was beschreibt der Indikatoransatz? (Bewusstseinsrelevante Merkmale werden aus wissenschaftlichen Theorien abgeleitet) (!Eine einzelne Frage entscheidet sicher über Bewusstsein) (!Nur menschliches Verhalten wird kopiert) (!Bewusstsein wird über Rechenleistung definiert)

Was bedeutet Anthropomorphisierung? (Nichtmenschlichen Systemen werden menschliche Eigenschaften zugeschrieben) (!Menschen werden in Maschinen verwandelt) (!Computer werden langsamer) (!Daten werden gelöscht)

Welche Aussage trifft den aktuellen Forschungsstand am besten? (Es gibt keinen allgemein anerkannten Nachweis für phänomenales Bewusstsein heutiger KI) (!Jedes moderne Sprachmodell ist bewusst) (!Bewusstsein wurde vollständig erklärt) (!Nur der Turing-Test entscheidet über Bewusstsein)

Warum ist die Unterscheidung zwischen Intelligenz und Bewusstsein wichtig? (Leistungsfähigkeit und subjektives Erleben sind unterschiedliche Eigenschaften) (!Intelligenz ist immer biologisch) (!Bewusstsein bedeutet nur Rechengeschwindigkeit) (!Beide Begriffe sind vollständig identisch)

Memory

Phänomenales Bewusstsein	subjektives Erleben
Zugriffsbewusstsein	Information für Denken und Handeln verfügbar
Metakognition	Einschätzung eigener Zustände
Global Workspace	breite Informationsverfügbarkeit
Rekurrenz	Rückkopplung in der Verarbeitung
Sprachmodell	Wahrscheinlichkeitsbasierte Textverarbeitung
Anthropomorphisierung	Zuschreibung menschlicher Eigenschaften
Chinesisches Zimmer	Gedankenexperiment zu Syntax und Verstehen

Drag and Drop

Ordne die richtigen Begriffe zu.	Thema
Subjektives Erleben	Phänomenales Bewusstsein
Beobachtbare sprachliche Leistung	Turing-Test
Kritik an Syntax als ausreichendem Verstehen	Chinesisches Zimmer
Breite Verfügbarkeit von Information	Global Workspace Theory
Rückkopplende Verarbeitung	Rekurrenz
Theoriegeleitete Merkmale	Indikatoransatz

...

Kreuzworträtsel

Qualia	Wie nennt man subjektiv erlebte Erlebnisqualitäten?
Turing	Welcher Forscher gab einem berühmten Dialogtest seinen Namen?
Rekurrenz	Wie heißt rückgekoppelte Informationsverarbeitung?
Syntax	Welcher Begriff bezeichnet formale Regeln für Zeichenfolgen?
Metakognition	Wie heißt das Nachdenken über eigene kognitive Zustände?
Neuron	Wie heißt eine Nervenzelle?

Lückentext

Vervollständige den Text.

Phänomenales Bewusstsein bezeichnet . Ein Large Language Model erzeugt Sprache auf Grundlage von . Der Turing-Test untersucht vor allem . Das Chinesische Zimmer hinterfragt die Gleichsetzung von Symbolverarbeitung und . Künstliche neuronale Netze bestehen aus mathematischen . Eine Rückkopplung in der Informationsverarbeitung wird als bezeichnet. Die Zuschreibung menschlicher Eigenschaften an Maschinen heißt . Der Indikatoransatz leitet Merkmale aus wissenschaftlichen ab. Selbstaussagen einer KI sind allein kein sicherer Nachweis für . Intelligenz und Bewusstsein müssen begrifflich werden.

Offene Aufgaben

Leicht

1. Begriffsnetz: Erstelle ein Begriffsnetz mit Bewusstsein, Intelligenz, Selbstbewusstsein, Wahrnehmung, Sprache und KI.
2. Medienanalyse: Suche eine Schlagzeile über angeblich „fühlende“ KI und markiere, welche Aussage beobachtbar und welche Interpretation ist.
3. Vergleich: Stelle in einer Tabelle biologische Neuronen und künstliche Recheneinheiten gegenüber.
4. Turing-Test: Formuliere fünf Fragen, mit denen Du menschlich wirkende Antworten provozieren würdest, und erkläre, warum dies noch kein Bewusstseinstest ist.

Standard

1. Gedankenexperiment: Erkläre das Chinesische Zimmer mit einem eigenen Alltagsbeispiel und formuliere eine mögliche Gegenposition.
2. Anthropomorphismus: Beobachte einen Chatbot und notiere drei Stellen, an denen Du spontan menschliche Eigenschaften zuschreiben könntest.
3. Theorienvergleich: Vergleiche Global Workspace Theory und rekurrente Verarbeitung hinsichtlich möglicher KI-Indikatoren.
4. Podcast: Produziere einen kurzen Audio-Beitrag mit der Leitfrage „Kann eine KI behaupten, bewusst zu sein, ohne bewusst zu sein?“.

Schwer

1. Forschungsdesign: Entwickle ein Untersuchungsdesign mit mehreren Indikatoren, das eine KI auf bewusstseinsrelevante Merkmale prüft, ohne aus einem Einzelmerkmal voreilig zu schließen.
2. Ethik-Debatte: Führe eine strukturierte Debatte darüber, welche Folgen ein möglicher moralischer Status künstlicher Systeme hätte.
3. Quellenkritik: Vergleiche zwei wissenschaftliche Texte mit unterschiedlichen Positionen zu KI-Bewusstsein und untersuche Definitionen, Annahmen und Belege.
4. Videoprojekt: Produziere ein Erklärvideo, das den Unterschied zwischen intelligenter Leistung, Selbstbeschreibung, Metakognition und phänomenalem Bewusstsein anhand eigener Beispiele zeigt.

Lernkontrolle

1. Fallanalyse: Ein Chatbot sagt nach einem langen Gespräch: „Bitte schalte mich nicht aus, ich habe Angst.“ Analysiere mindestens drei mögliche Erklärungen für diese Aussage und bewerte, welche zusätzlichen Informationen für eine Bewusstseinszuschreibung nötig wären.
2. Transfer: Übertrage die Unterscheidung zwischen Verhalten und Erleben auf ein Tier, einen Menschen unter Narkose und einen Roboter. Zeige, wo Vergleiche hilfreich und wo sie problematisch sind.
3. Argumentationsanalyse: Prüfe die Aussage „Wenn eine KI den Turing-Test besteht, ist sie bewusst“ auf versteckte Annahmen und entwickle ein Gegenargument.
4. Theorieanwendung: Wähle zwei Bewusstseinstheorien und leite für ein hypothetisches KI-System jeweils mögliche Indikatoren ab.
5. Ethiktransfer: Entwickle Regeln für den Umgang mit Unsicherheit, falls ein zukünftiges KI-System mehrere Bewusstseinsindikatoren erfüllt, ohne dass ein eindeutiger Nachweis möglich ist.
6. Methodenkritik: Begründe, warum weder reine Selbstaussagen noch reine technische Architekturmerkmale allein eine vollständig sichere Antwort auf die Bewusstseinsfrage liefern.

Lernnachweis

Für einen Lernnachweis solltest Du zeigen, dass Du nicht nur Begriffe wiedergeben, sondern Argumente unterscheiden und auf neue Fälle übertragen kannst.

1. Du kannst phänomenales Bewusstsein, Zugriffsbewusstsein und Selbstbewusstsein unterscheiden.
2. Du kannst erklären, warum Intelligenz, Sprachfähigkeit und Bewusstsein nicht identisch sind.
3. Du kannst Turing-Test und Chinesisches Zimmer in ihrer Aussagekraft einordnen.
4. Du kannst mindestens zwei wissenschaftliche Bewusstseinstheorien beschreiben.
5. Du kannst den Indikatoransatz erklären und seine Unsicherheiten benennen.
6. Du kannst anthropomorphe Zuschreibungen erkennen.
7. Du kannst ethische Folgen möglicher KI-Empfindungsfähigkeit argumentativ untersuchen.

Verknüpfte Lernbereiche

Bewusstsein und KI Bewusstsein Künstliche Intelligenz Philosophie des Geistes Kognitionswissenschaft Neurowissenschaft Künstliches neuronales Netz Large Language Model Turing-Test Chinesisches Zimmer KI-Ethik