Glanz: aiMOOC über GPT aiMOOC Action erstellt

2026-07-06T16:56:18Z

aiMOOC über GPT aiMOOC Action erstellt

Neue Seite

{{T}}

{{BR}}
= Einleitung =

'''Warum künstliche Intelligenz Gelerntes wieder vergisst''' ist ein zentrales Thema der modernen [[Künstliche Intelligenz|Künstlichen Intelligenz]], des [[Maschinelles Lernen|Maschinellen Lernens]] und der Forschung zu [[Künstliches neuronales Netz|künstlichen neuronalen Netzen]]. Viele leistungsfähige [[KI-System|KI-Systeme]] können beeindruckende Aufgaben lösen, etwa Bilder erkennen, Sprache verarbeiten, Texte erzeugen oder Muster in großen Datenmengen finden. Gleichzeitig haben viele [[Deep Learning|Deep-Learning]]-Modelle eine Schwäche: Wenn sie nacheinander auf neue Aufgaben oder neue Daten trainiert werden, können sie bereits Gelerntes stark verschlechtern oder scheinbar „vergessen“. Dieses Phänomen heißt [[Katastrophale Interferenz|katastrophale Interferenz]] oder '''katastrophales Vergessen'''.

{{#ev:youtube| https://www.youtube.com/watch?v=KvblXVIPaXQ |500|center}}

Im Video '''Warum künstliche Intelligenz Gelerntes wieder vergisst / Neuronale Netze neu denken''' wird erklärt, warum klassische [[Neuronales Netz|neuronale Netze]] beim fortlaufenden Lernen an Grenzen stoßen. Der Schwerpunkt liegt auf [[Kontinuierliches Lernen|kontinuierlichem Lernen]], [[Catastrophic Forgetting|catastrophic forgetting]], der Frage nach neuen Denkmodellen für [[KI-Forschung|KI-Forschung]] und darauf, warum Menschen, Tiere und biologische Nervensysteme oft viel flexibler mit neuen Erfahrungen umgehen als heutige KI-Modelle.

[[Datei:Artificial neural network.svg|500px|rahmenlos|center]]

In diesem aiMOOC lernst Du, wie künstliche neuronale Netze grundsätzlich funktionieren, warum sie Wissen verlieren können, wenn sie weitertrainiert werden, welche Lösungsansätze es gibt und warum dieses Problem für die Zukunft von [[Robotik]], [[Assistenzsystem|Assistenzsystemen]], [[Medizinische Informatik|medizinischer Informatik]], [[Autonomes Fahren|autonomem Fahren]], [[Bildungstechnologie]] und [[Künstliche allgemeine Intelligenz|allgemeiner künstlicher Intelligenz]] wichtig ist.

{{BR}}
= Was bedeutet Lernen in künstlichen neuronalen Netzen? =

{{BR}}
== Grundidee künstlicher neuronaler Netze ==

Ein [[Künstliches neuronales Netz|künstliches neuronales Netz]] ist ein mathematisches Modell, das grob von biologischen [[Neuron|Neuronen]] inspiriert ist. Es besteht aus vielen künstlichen [[Künstliches Neuron|Neuronen]], die in Schichten angeordnet sein können. Typisch sind eine [[Eingabeschicht]], eine oder mehrere [[Verdeckte Schicht|verdeckte Schichten]] und eine [[Ausgabeschicht]]. Zwischen den Neuronen liegen [[Gewichtung|Gewichte]]. Diese Gewichte bestimmen, wie stark ein Signal von einem künstlichen Neuron zum nächsten weitergegeben wird.

Beim [[Training]] bekommt das Modell viele Beispiele. Ein [[Algorithmus]] verändert die Gewichte so, dass das Netz bei ähnlichen neuen Beispielen bessere Ergebnisse liefert. Wenn ein Modell zum Beispiel Bilder von Katzen und Hunden unterscheiden soll, sieht es viele Trainingsbilder mit bekannten Lösungen. Nach vielen Anpassungen soll es auch neue, unbekannte Bilder sinnvoll einordnen können. Dieses Übertragen auf neue Fälle nennt man [[Generalisierung]].

[[Datei:Neural network.svg|500px|rahmenlos|center]]

{{BR}}
== Lernen als Veränderung von Gewichten ==

In künstlichen neuronalen Netzen wird Wissen nicht wie in einem Buch an einer einzelnen Stelle abgelegt. Es verteilt sich über viele [[Parameter]] und [[Gewichtung|Gewichte]]. Ein einzelnes Gewicht ist meistens nicht „die Erinnerung“ an eine bestimmte Information. Vielmehr entsteht Wissen aus dem Zusammenspiel vieler Gewichte, Aktivierungen und Schichten. Genau das macht neuronale Netze leistungsfähig, aber auch empfindlich: Wenn beim Lernen einer neuen Aufgabe viele Gewichte verändert werden, können dadurch alte Fähigkeiten beeinträchtigt werden.

Ein Beispiel: Ein Netz lernt zuerst, handgeschriebene Ziffern zu erkennen. Danach wird es nur noch auf Verkehrsschilder trainiert. Ohne Schutzmechanismen können die Gewichte so stark in Richtung der neuen Aufgabe verschoben werden, dass die frühere Fähigkeit zur Ziffernerkennung deutlich schlechter wird. Das Netz hat nicht bewusst „vergessen“, aber seine Parameter wurden so angepasst, dass alte Lösungen nicht mehr zuverlässig funktionieren.

{{BR}}
== Unterschied zwischen menschlichem und maschinellem Lernen ==

Menschen lernen meist fortlaufend. Du kannst heute ein neues [[Vokabel|Wort]] lernen, morgen ein neues [[Musikinstrument]] üben und trotzdem weiterhin Fahrrad fahren. Natürlich vergessen Menschen auch, aber dieses Vergessen ist meist graduell, situationsabhängig und durch Wiederholung beeinflussbar. Biologische Gehirne besitzen Mechanismen wie [[Synaptische Plastizität]], [[Gedächtniskonsolidierung]], [[Schlaf]], [[Aufmerksamkeit]], [[Emotion]], [[Motivation]] und [[Wiederholung]], die Lernen und Erinnern verbinden.

[[Datei:Synapse neuro-neuronale.png|500px|rahmenlos|center]]

Künstliche neuronale Netze lernen oft anders. Viele Modelle werden in großen Trainingsläufen auf fest zusammengestellten Datensätzen trainiert. Danach werden sie eingesetzt oder mit neuen Daten feinjustiert. Wenn diese neuen Daten nicht sorgfältig mit dem alten Wissen verbunden werden, kann es zu katastrophalem Vergessen kommen. Deshalb ist [[Kontinuierliches Lernen]] eine der großen Herausforderungen auf dem Weg zu flexibleren KI-Systemen.

{{BR}}
= Katastrophales Vergessen =

{{BR}}
== Definition ==

'''Katastrophales Vergessen''' bezeichnet die starke Verschlechterung bereits gelernter Fähigkeiten eines künstlichen neuronalen Netzes, nachdem es auf neue Aufgaben oder neue Daten trainiert wurde. In der englischsprachigen Forschung wird der Begriff [[Catastrophic Forgetting]] oder [[Catastrophic Interference]] verwendet. „Katastrophal“ bedeutet dabei nicht, dass ein einzelnes Modell automatisch gefährlich wird. Gemeint ist, dass die Leistungsverschlechterung plötzlich, stark und für den praktischen Einsatz problematisch sein kann.

Das Problem tritt besonders dann auf, wenn ein Modell Aufgaben nacheinander lernt und beim neuen Training kaum oder gar keinen Zugriff auf ältere Daten, ältere Aufgaben oder Schutzmechanismen hat. Dann optimiert das Modell seine Parameter für die aktuelle Aufgabe und verliert dabei möglicherweise Lösungen, die für frühere Aufgaben wichtig waren.

{{BR}}
== Warum passiert das? ==

Ein neuronales Netz lernt, indem es eine [[Verlustfunktion]] minimiert. Diese Verlustfunktion misst, wie falsch die aktuellen Vorhersagen des Modells sind. Beim Training wird mithilfe von [[Gradientenverfahren]] berechnet, in welche Richtung die Gewichte verändert werden sollen. Für die neue Aufgabe ist das sinnvoll: Das Netz wird besser auf neuen Daten. Für alte Aufgaben kann dieselbe Veränderung jedoch schädlich sein.

Der Grund liegt in drei eng verbundenen Ursachen:

# [[Überlappende Repräsentation|Überlappende Repräsentationen]]: Viele Aufgaben nutzen dieselben Gewichte und Schichten. Wird ein Gewicht für eine neue Aufgabe verändert, kann es zugleich für eine alte Aufgabe wichtig gewesen sein.
# [[Nichtstationäre Datenverteilung|Nichtstationäre Datenverteilungen]]: In der realen Welt ändern sich Daten mit der Zeit. Ein Modell sieht nicht immer dieselbe Art von Beispielen.
# [[Stabilitäts-Plastizitäts-Dilemma]]: Ein gutes Lernsystem muss plastisch genug sein, um Neues zu lernen, und stabil genug, um Wichtiges zu behalten.

{{BR}}
== Ein einfaches Beispiel ==

Stell Dir ein Modell vor, das zuerst Obstbilder klassifiziert. Es erkennt [[Apfel]], [[Banane]] und [[Orange]]. Danach wird es nur noch mit Bildern von Fahrzeugen trainiert: [[Auto]], [[Fahrrad]], [[Bus]]. Wenn das Modell beim zweiten Training keine Obstbilder mehr sieht und keine Erinnerung daran geschützt wird, verschiebt sich sein innerer Merkmalsraum. Kanten, Farben, Formen und Klassifikationsgrenzen werden für Fahrzeuge optimiert. Danach kann es passieren, dass das Modell Äpfel nicht mehr sicher erkennt. Es hat nicht „vergessen“ wie ein Mensch, der sich an ein Wort nicht erinnert, sondern es hat seine Parameter in eine neue Lösungslage gebracht.

{{BR}}
== Warum ist das für die Praxis wichtig? ==

Katastrophales Vergessen ist nicht nur ein theoretisches Problem. Es betrifft reale Anwendungen:

# [[Robotik]]: Ein Roboter soll neue Räume kennenlernen, ohne alte Bewegungsabläufe zu verlieren.
# [[Autonomes Fahren]]: Ein System soll neue Verkehrssituationen lernen, ohne ältere Sicherheitsregeln zu verschlechtern.
# [[Medizinische KI]]: Ein Diagnosemodell soll neue Forschungsergebnisse einbeziehen, ohne alte, geprüfte Diagnosefähigkeiten zu verlieren.
# [[Personalisierung]]: Ein Assistenzsystem soll sich an einzelne Nutzerinnen und Nutzer anpassen, ohne allgemeine Sprach- und Weltfähigkeiten zu beschädigen.
# [[Cybersicherheit]]: Ein Erkennungssystem soll neue Angriffsmuster lernen, ohne ältere Angriffstypen zu übersehen.

{{BR}}
= Kontinuierliches Lernen =

{{BR}}
== Was ist kontinuierliches Lernen? ==

[[Kontinuierliches Lernen]] beschreibt die Fähigkeit eines Lernsystems, fortlaufend aus neuen Daten, Aufgaben und Erfahrungen zu lernen, ohne früheres Wissen unnötig zu verlieren. Im Idealfall kann ein KI-System Wissen ansammeln, anpassen, übertragen und in neuen Situationen nutzen. In der Forschung wird dafür auch der Begriff [[Continual Learning]] oder [[Lifelong Learning]] verwendet.

Kontinuierliches Lernen ist anspruchsvoll, weil die Welt nicht stillsteht. Neue Objekte entstehen, Sprache verändert sich, technische Systeme werden aktualisiert und gesellschaftliche Informationen altern. Ein starres Modell, das nie aktualisiert wird, wird irgendwann veraltet. Ein Modell, das ungeschützt ständig neu trainiert wird, kann alte Fähigkeiten verlieren. Die Kunst liegt im Gleichgewicht.

{{BR}}
== Das Stabilitäts-Plastizitäts-Dilemma ==

Das [[Stabilitäts-Plastizitäts-Dilemma]] beschreibt einen Grundkonflikt: Ein lernendes System muss stabil sein, damit gespeichertes Wissen erhalten bleibt. Zugleich muss es plastisch sein, damit es Neues aufnehmen kann. Ist ein Modell zu stabil, lernt es kaum dazu. Ist es zu plastisch, überschreibt es alte Muster. Gute [[Lernarchitektur|Lernarchitekturen]] benötigen daher Mechanismen, die entscheiden, welche Informationen geschützt, angepasst, verknüpft oder vergessen werden dürfen.

In biologischen Nervensystemen wird dieser Konflikt durch viele Prozesse reguliert: Aufmerksamkeit, Wiederholung, emotionale Bedeutung, synaptische Verstärkung, Konsolidierung im Schlaf und strukturelle Veränderungen von Netzwerken. In der KI versucht man, vergleichbare Prinzipien mathematisch und algorithmisch zu nutzen.

{{BR}}
== Warum „mehr Daten“ allein nicht reicht ==

Eine einfache Idee wäre, ein Modell bei jeder Aktualisierung wieder mit allen alten und neuen Daten zu trainieren. Das kann katastrophales Vergessen verringern. In der Praxis ist es aber oft schwierig:

# [[Datenschutz]]: Alte Daten dürfen manchmal nicht dauerhaft gespeichert werden.
# [[Speicherbedarf]]: Sehr große Datensätze sind teuer und schwer zu verwalten.
# [[Rechenaufwand]]: Vollständiges Neutraining großer Modelle benötigt viel Energie, Zeit und Hardware.
# [[Datenqualität]]: Alte Daten können veraltet, verzerrt oder falsch beschriftet sein.
# [[Fairness]]: Ein Modell soll nicht nur alte Muster konservieren, sondern auch neue, gerechtere oder genauere Muster lernen.

Deshalb braucht die Forschung intelligentere Strategien als bloßes Sammeln immer größerer Datensätze.

{{BR}}
= Lösungsansätze gegen katastrophales Vergessen =

{{BR}}
== Replay und Rehearsal ==

[[Replay]] bedeutet, dass ein Modell beim Lernen neuer Aufgaben auch frühere Beispiele wiederholt. Dabei kann es sich um echte gespeicherte Beispiele handeln oder um künstlich erzeugte Beispiele. Wenn ein Modell beim Training auf Verkehrsschilder auch einige alte Ziffernbeispiele sieht, bleiben die alten Klassifikationsgrenzen eher erhalten.

[[Rehearsal]] ähnelt menschlichem Wiederholen: Wer eine Sprache nicht vergessen möchte, übt alte Wörter und Sätze erneut. In KI-Systemen kann ein kleiner Speicher wichtiger Beispiele genutzt werden. Die Herausforderung besteht darin, repräsentative Beispiele auszuwählen, Datenschutz zu beachten und den Speicher nicht unbegrenzt wachsen zu lassen.

{{BR}}
== Generatives Replay ==

Beim [[Generatives Modell|generativen Replay]] speichert das System nicht unbedingt echte alte Daten, sondern trainiert ein generatives Modell, das frühere Daten ungefähr nachbilden kann. Beim Lernen einer neuen Aufgabe erzeugt dieses Modell Beispiele aus früheren Aufgaben. Dadurch wird das Netz daran erinnert, welche Muster früher wichtig waren.

Dieser Ansatz kann Speicher sparen, bringt aber neue Probleme mit sich. Wenn das generative Modell alte Daten schlecht nachbildet, werden Fehler wiederholt. Außerdem kann es ethisch und rechtlich relevant sein, ob generierte Beispiele Rückschlüsse auf private Trainingsdaten erlauben.

{{BR}}
== Regularisierung und Elastic Weight Consolidation ==

[[Regularisierung]] bezeichnet Methoden, die ein Modell daran hindern, sich zu stark oder zu unkontrolliert an neue Daten anzupassen. Ein bekannter Ansatz gegen katastrophales Vergessen ist [[Elastic Weight Consolidation]]. Dabei werden Gewichte, die für alte Aufgaben besonders wichtig waren, beim Training neuer Aufgaben stärker geschützt. Das Modell darf also lernen, aber wichtige Verbindungen sollen nicht beliebig verändert werden.

Die Grundidee ähnelt einem Notizbuch mit Markierungen: Manche Einträge sind zentral und dürfen nicht überschrieben werden. Andere sind weniger wichtig und können leichter angepasst werden.

{{BR}}
== Modulare Architekturen ==

Bei [[Modularität|modularen Architekturen]] wird versucht, Wissen in verschiedenen Teilbereichen eines Systems zu organisieren. Neue Aufgaben aktivieren oder erweitern bestimmte Module, statt das gesamte Netz gleichmäßig zu verändern. Dadurch können alte Module stabil bleiben, während neue Module zusätzliche Fähigkeiten aufnehmen.

Modularität ist auch aus der Biologie und aus der Technik bekannt. Ein komplexes System ist oft robuster, wenn nicht jede Änderung das ganze System betrifft. In der KI kann Modularität etwa durch Spezialnetzwerke, Adapter, Aufgabenmodule, Mixture-of-Experts-Ansätze oder dynamische Teilnetze umgesetzt werden.

{{BR}}
== Sparse und getrennte Repräsentationen ==

[[Sparse Coding|Sparsame Repräsentationen]] bedeuten, dass für eine Aufgabe nur ein Teil der Neuronen oder Parameter stark aktiviert wird. Wenn verschiedene Aufgaben weniger stark dieselben inneren Repräsentationen überlappen, sinkt die Gefahr, dass neues Lernen alte Muster überschreibt. Frühe Forschung zum katastrophalen Vergessen zeigte bereits, dass überlappende Repräsentationen ein wichtiger Faktor für Interferenz sind.

Eine vollständige Trennung aller Aufgaben wäre aber auch problematisch, weil dann kaum [[Transferlernen]] möglich wäre. Ein gutes System soll Gemeinsamkeiten zwischen Aufgaben nutzen und zugleich Unterschiede bewahren.

{{BR}}
== Retrieval-Augmented Generation und externe Speicher ==

[[Retrieval-Augmented Generation]] verbindet ein Modell mit einem externen Wissensspeicher. Statt alles dauerhaft in den Gewichten zu speichern, kann das System relevante Informationen aus Dokumenten, Datenbanken oder Suchindizes abrufen. Dadurch lassen sich manche Aktualisierungen aus dem Modelltraining in einen überprüfbaren Speicher verlagern.

Dieser Ansatz löst katastrophales Vergessen nicht vollständig, verändert aber die Architekturfrage: Nicht jedes Wissen muss in denselben Parametern stecken. Ein KI-System kann aus Modell, Suchsystem, Speicher, Regeln und Kontrollmechanismen bestehen. Damit wird Lernen stärker zu einer Systemfrage und weniger nur zu einer Frage einzelner Netzgewichte.

{{BR}}
== Neuromorphe und biologisch inspirierte Ansätze ==

[[Neuromorphes Engineering]] und biologisch inspirierte KI untersuchen, ob Prinzipien aus Nervensystemen für robustere Lernsysteme genutzt werden können. Dazu gehören [[Spiking Neural Network|spikende neuronale Netze]], lokale Lernregeln, synaptische Konsolidierung, strukturelle Plastizität und energiebewusste Informationsverarbeitung.

Das Ziel ist nicht, das Gehirn einfach zu kopieren. Biologische Systeme sind sehr komplex und nicht vollständig verstanden. Aber sie liefern Hinweise darauf, wie Lernen, Erinnern, Vergessen und Anpassung zusammenwirken können. Das passt zum Gedanken „Neuronale Netze neu denken“: Vielleicht reichen größere Modelle und größere Datensätze allein nicht aus. Möglicherweise brauchen KI-Systeme neue Lernprinzipien, neue Speicherformen und bessere Selbstregulation.

{{#ev:youtube| https://www.youtube.com/watch?v=e6f5Pp7JgO8 |500|center}}

{{BR}}
= Wichtige Abgrenzungen =

{{BR}}
== Katastrophales Vergessen ist nicht dasselbe wie Halluzination ==

Eine [[Halluzination (Künstliche Intelligenz)|KI-Halluzination]] liegt vor, wenn ein Modell eine falsche oder unbelegte Ausgabe erzeugt, die überzeugend wirken kann. Katastrophales Vergessen beschreibt dagegen eine Verschlechterung früherer Fähigkeiten nach weiterem Training. Ein Modell kann halluzinieren, ohne katastrophal vergessen zu haben. Es kann auch katastrophal vergessen, ohne in jeder Antwort zu halluzinieren.

{{BR}}
== Katastrophales Vergessen ist nicht dasselbe wie Wissensstichtag ==

Ein [[Wissensstichtag]] bedeutet, dass ein Modell bestimmte neuere Informationen nicht kennen kann, weil sie nicht Teil seines Trainings waren. Katastrophales Vergessen bedeutet dagegen, dass vorhandene frühere Fähigkeiten durch neues Training geschwächt wurden. Beides kann in der Praxis ähnlich wirken, hat aber unterschiedliche Ursachen.

{{BR}}
== Katastrophales Vergessen ist nicht dasselbe wie Modellkollaps ==

[[Modellkollaps]] beschreibt eine Verschlechterung von Modellen, die zu stark auf synthetischen oder schlecht kontrollierten Daten aus früheren Modellen trainiert werden. Katastrophales Vergessen bezieht sich auf das Überschreiben älterer Fähigkeiten durch neue Lernschritte. Beide Themen betreffen die Stabilität von KI-Systemen, sollten aber nicht gleichgesetzt werden.

{{BR}}
= Didaktisches Modell: Lernen als Landkarte =

Du kannst Dir ein neuronales Netz wie eine Landschaft vorstellen. Beim Training sucht das Modell Täler in dieser Landschaft, in denen die Fehler gering sind. Für Aufgabe A liegt ein gutes Tal vielleicht an einer bestimmten Stelle. Für Aufgabe B liegt ein gutes Tal an einer anderen Stelle. Wenn das Netz nur Aufgabe B trainiert, wandert es in Richtung des Tals für Aufgabe B. Dabei entfernt es sich möglicherweise aus dem Tal, das für Aufgabe A gut war. Die Herausforderung besteht darin, einen Bereich zu finden, in dem beide Aufgaben akzeptabel gelöst werden, oder Mechanismen zu entwickeln, die altes Wissen schützen.

Diese Vorstellung hilft, das Problem nicht als menschliches Vergessen misszuverstehen. Ein KI-Modell hat keine bewussten Erinnerungen. Es besitzt Parameter, die durch Optimierung verändert werden. Vergessen bedeutet hier: Frühere Aufgaben werden nach neuen Trainingsschritten messbar schlechter gelöst.

{{BR}}
= Bedeutung für Schule, Studium und Gesellschaft =

Das Thema eignet sich besonders gut für fächerübergreifendes Lernen. In [[Informatik]] geht es um Algorithmen, Daten, Modelle und Evaluation. In [[Biologie]] geht es um Nervenzellen, Synapsen und Lernen. In [[Ethik]] geht es um Verantwortung, Transparenz und Folgen automatisierter Entscheidungen. In [[Politische Bildung|politischer Bildung]] geht es um den Einsatz von KI in Gesellschaft, Wirtschaft und Staat.

Wenn KI-Systeme künftig in dynamischen Umgebungen arbeiten, müssen sie lernen können, ohne unzuverlässig zu werden. Ein medizinisches System darf nach einem Update keine alte, lebenswichtige Diagnosefähigkeit verlieren. Ein autonomer Roboter darf neue Werkzeuge lernen, ohne alte Sicherheitsabläufe zu vergessen. Ein Bildungssystem mit KI-Unterstützung darf sich an Lernende anpassen, ohne unfaire oder falsche Grundannahmen zu verstärken.

{{BR}}
= Zusammenfassung =

Katastrophales Vergessen ist eine der zentralen Herausforderungen beim [[Kontinuierliches Lernen|kontinuierlichen Lernen]] künstlicher neuronaler Netze. Es entsteht, weil Wissen in vielen Gewichten verteilt ist und neue Trainingsschritte alte Repräsentationen überschreiben können. Das Problem zeigt, dass hohe Leistung auf einem festen Datensatz nicht automatisch bedeutet, dass ein Modell flexibel, robust und lebenslang lernfähig ist. Lösungsansätze wie [[Replay]], [[Regularisierung]], [[Elastic Weight Consolidation]], [[Modularität]], [[Sparse Coding]], [[Retrieval-Augmented Generation]] und [[Neuromorphes Engineering]] versuchen, Stabilität und Lernfähigkeit besser zu verbinden. Wer neuronale Netze neu denken will, muss deshalb nicht nur größere Modelle bauen, sondern auch verstehen, wie Lernen, Erinnern, Vergessen, Kontext und Verantwortung zusammenhängen.

{{BR}}
= Interaktive Aufgaben =

{{BR}}
== Quiz: Teste Dein Wissen ==

{{MC}}

'''Was bedeutet katastrophales Vergessen bei künstlichen neuronalen Netzen?'''
(Ein Modell verliert frühere Fähigkeiten stark nach dem Lernen neuer Aufgaben)
(!Ein Modell speichert automatisch alle Trainingsdaten vollständig)
(!Ein Modell wird durch mehr Daten immer fehlerfrei)
(!Ein Modell kann keine Muster in Daten erkennen)

{{E}}
<br>

{{MC}}

'''Was wird beim Training eines neuronalen Netzes hauptsächlich angepasst?'''
(Gewichte)
(!Bildschirmhelligkeit)
(!Dateinamen)
(!Tastaturbefehle)

{{E}}
<br>

{{MC}}

'''Welche Spannung beschreibt das Stabilitäts-Plastizitäts-Dilemma?'''
(Altes Wissen behalten und Neues lernen)
(!Daten löschen und Hardware verkleinern)
(!Bilder komprimieren und Texte übersetzen)
(!Strom sparen und Farben sortieren)

{{E}}
<br>

{{MC}}

'''Was ist ein Ziel von kontinuierlichem Lernen?'''
(Fortlaufend lernen ohne unnötiges Vergessen)
(!Ein Modell nach dem ersten Training nie wieder ändern)
(!Alle Daten ungeprüft sammeln)
(!Nur eine einzige Aufgabe erlauben)

{{E}}
<br>

{{MC}}

'''Welche Methode wiederholt frühere Beispiele beim Lernen neuer Aufgaben?'''
(Replay)
(!Zufallsrauschen)
(!Abschalten)
(!Verschlüsselung)

{{E}}
<br>

{{MC}}

'''Warum können neue Trainingsdaten alte Fähigkeiten beschädigen?'''
(Weil dieselben Gewichte für mehrere Aufgaben wichtig sein können)
(!Weil Computer keine Zahlen verarbeiten können)
(!Weil neuronale Netze nur Bilder speichern)
(!Weil Training ohne Daten funktioniert)

{{E}}
<br>

{{MC}}

'''Was schützt Elastic Weight Consolidation besonders?'''
(Wichtige Gewichte früherer Aufgaben)
(!Die Bildschirmauflösung)
(!Die Namen aller Dateien)
(!Die Lautstärke eines Videos)

{{E}}
<br>

{{MC}}

'''Was ist ein Vorteil modularer Architekturen?'''
(Änderungen können auf Teilbereiche begrenzt werden)
(!Alle Aufgaben werden gelöscht)
(!Das Modell braucht keine Eingaben)
(!Jede Ausgabe wird automatisch wahr)

{{E}}
<br>

{{MC}}

'''Was ist keine direkte Bezeichnung für katastrophales Vergessen?'''
(Halluzination)
(!Catastrophic Forgetting)
(!Catastrophic Interference)
(!Katastrophale Interferenz)

{{E}}
<br>

{{MC}}

'''Warum ist das Thema für Robotik wichtig?'''
(Roboter sollen neue Situationen lernen ohne alte Fähigkeiten zu verlieren)
(!Roboter dürfen keine Sensoren besitzen)
(!Roboter lernen nur durch Papierbücher)
(!Roboter können keine Bewegungen speichern)

{{E}}
<br>

{{BR}}
== Memory ==

<div class="memo-quiz">
{|
|-
| Katastrophales Vergessen || Verlust früherer Fähigkeiten nach neuem Training
|-
| Kontinuierliches Lernen || Fortlaufendes Lernen aus veränderlichen Daten
|-
| Replay || Wiederholung früherer Beispiele
|-
| Regularisierung || Begrenzung zu starker Anpassung
|-
| Modularität || Aufteilung von Wissen in Teilbereiche
|-
| Plastizität || Fähigkeit zur Veränderung
|}
{{E}}
<br>

{{BR}}
== Drag and Drop ==

<div class="lueckentext-quiz">

{| class="wikitable"
! Ordne die richtigen Begriffe zu.
! Thema
|-
| '''Replay'''
| Frühere Beispiele werden erneut genutzt
|-
| '''Regularisierung'''
| Gewichtsänderungen werden begrenzt
|-
| '''Modularität'''
| Teilnetze übernehmen unterschiedliche Aufgaben
|-
| '''Sparse Coding'''
| Nur wenige Einheiten sind stark aktiv
|-
| '''Retrieval'''
| Wissen wird aus externen Quellen abgerufen
|-
| '''Plastizität'''
| Das System kann Neues lernen

|}
{{E}}

<br>
<br />

{{BR}}
== Kreuzworträtsel ==

<div class="kreuzwort-quiz">
{|
|-
| Replay || Welche Methode nutzt frühere Beispiele erneut?
|-
| Gewichte || Was wird beim Training eines neuronalen Netzes angepasst?
|-
| Synapse || Welche biologische Kontaktstelle inspiriert Lernmodelle?
|-
| Stabilitaet || Welche Eigenschaft hilft beim Bewahren alten Wissens?
|-
| Plastizitaet || Welche Eigenschaft hilft beim Lernen neuer Inhalte?
|-
| Modularitaet || Welches Prinzip teilt ein System in Teilbereiche?
|}
{{E}}
<br>

{{BR}}
== LearningApps ==

<iframe> https://learningapps.org/index.php?s=Warum+künstliche+Intelligenz+Gelerntes+wieder+vergisst </iframe>

{{BR}}
== Lückentext ==

<quiz display=simple>
{'''Vervollständige den Text.'''<br>
|type="{}"}
Künstliche neuronale Netze speichern Wissen verteilt in vielen { Gewichten }. Wenn ein Modell nacheinander neue Aufgaben lernt, können frühere Fähigkeiten durch neue Trainingsschritte verschlechtert werden; dieses Phänomen heißt { katastrophales Vergessen }. Ein zentrales Problem ist das { Stabilitäts-Plastizitäts-Dilemma }, weil ein System zugleich Neues lernen und Altes bewahren muss. Eine wichtige Gegenstrategie ist { Replay }, bei der frühere Beispiele beim neuen Training wieder auftauchen. Eine andere Strategie ist { Regularisierung }, bei der wichtige Parameter geschützt werden. In modularen Architekturen wird Wissen stärker auf { Teilbereiche } verteilt. Externe Wissensspeicher und Retrieval können helfen, nicht jedes Wissen direkt in den { Parametern } eines Modells ablegen zu müssen.
</quiz>

<br>

{{BR}}
= Offene Aufgaben =

{{BR}}
=== Leicht ===
# [[Begriffskarte]]: Erstelle eine Begriffskarte zu [[Katastrophales Vergessen]], [[Kontinuierliches Lernen]], [[Replay]], [[Gewichte]] und [[Stabilitäts-Plastizitäts-Dilemma]].
# [[Alltagsvergleich]]: Beschreibe in eigenen Worten einen Alltagsvergleich für katastrophales Vergessen, zum Beispiel das Überschreiben einer Datei oder das Umlernen einer Gewohnheit.
# [[Videozusammenfassung]]: Fasse das eingebettete Video in fünf Sätzen zusammen und markiere die drei wichtigsten Fachbegriffe.
# [[Skizze]]: Zeichne ein einfaches neuronales Netz mit Eingabeschicht, verdeckter Schicht und Ausgabeschicht und erkläre, wo Gewichte verändert werden.

{{BR}}
=== Standard ===
# [[Experiment]]: Simuliere mit Papierkarten zwei Lernaufgaben und zeige, wie Regeln für Aufgabe B Regeln für Aufgabe A stören können.
# [[Recherche]]: Vergleiche [[katastrophales Vergessen]] mit menschlichem Vergessen und erstelle eine Tabelle mit Gemeinsamkeiten und Unterschieden.
# [[Fallanalyse]]: Beschreibe ein Szenario aus [[Medizin]], [[Robotik]] oder [[Autonomes Fahren|autonomem Fahren]], in dem katastrophales Vergessen gefährlich wäre.
# [[Erklärvideo]]: Produziere ein kurzes Erklärvideo oder eine Präsentation, in der Du [[Replay]], [[Regularisierung]] und [[Modularität]] anhand einfacher Bilder erklärst.

{{BR}}
=== Schwer ===
# [[KI-Konzept]]: Entwirf ein Konzept für ein KI-System, das neue Aufgaben lernen soll, ohne alte Fähigkeiten zu verlieren. Begründe Deine Architektur.
# [[Ethikdebatte]]: Diskutiere, ob KI-Systeme alte Daten speichern dürfen, wenn dies katastrophales Vergessen verhindert, aber Datenschutzprobleme erzeugt.
# [[Transferaufgabe]]: Übertrage das Stabilitäts-Plastizitäts-Dilemma auf menschliches Lernen, Schulunterricht oder berufliche Weiterbildung.
# [[Forschungsfrage]]: Formuliere eine eigene Forschungsfrage zum Thema kontinuierliches Lernen und plane eine Methode, mit der man sie untersuchen könnte.

{{:Offene Aufgabe - MOOC erstellen}}

{{BR}}
= Lernkontrolle =

# [[Transfer Robotik]]: Erkläre, warum ein Haushaltsroboter nicht einfach jede neue Aufgabe durch vollständiges Überschreiben alter Bewegungsmuster lernen sollte.
# [[Modellvergleich]]: Vergleiche ein statisch trainiertes Modell mit einem kontinuierlich lernenden Modell und bewerte Vor- und Nachteile in einer dynamischen Umgebung.
# [[Strategieauswahl]]: Wähle für ein medizinisches KI-System zwei Strategien gegen katastrophales Vergessen aus und begründe Deine Entscheidung mit Blick auf Sicherheit und Datenschutz.
# [[Fehleranalyse]]: Ein Modell erkennt nach einem Update alte Objektklassen deutlich schlechter. Entwickle eine Hypothese, warum das passiert ist, und schlage eine Untersuchung vor.
# [[Gesellschaftliche Bewertung]]: Beurteile, warum katastrophales Vergessen nicht nur ein technisches, sondern auch ein gesellschaftliches Problem sein kann.

<br>
<br>

{{BR}}
= Lernnachweis =

Für einen Lernnachweis zu diesem Thema ist wichtig, dass Du nicht nur Begriffe wiedergeben kannst, sondern Zusammenhänge erklärst und auf neue Situationen überträgst. Dein Lernnachweis sollte zeigen, dass Du die Grundidee künstlicher neuronaler Netze verstehst, katastrophales Vergessen erklären kannst, das Stabilitäts-Plastizitäts-Dilemma anwendest, mindestens drei Lösungsansätze vergleichst und ein eigenes Beispiel aus der Praxis analysierst. Geeignete Formen sind ein Lernportfolio, eine Präsentation, ein Erklärvideo, ein schriftlicher Fachtext, eine Debatte oder ein kleines Simulationsexperiment.

<br>
<br>

{{BR}}
= OERs zum Thema =

<iframe> https://de.m.wikipedia.org/wiki/K%C3%BCnstliches_neuronales_Netz </iframe>

<iframe> https://de.m.wikipedia.org/wiki/Maschinelles_Lernen </iframe>

<iframe> https://en.m.wikipedia.org/wiki/Catastrophic_interference </iframe>

<br>

{{BR}}
= Links =

{| align=center
{{:D-Tab}}
'''[[Warum künstliche Intelligenz Gelerntes wieder vergisst]]'''
# [[Künstliche Intelligenz]]
# [[Künstliches neuronales Netz]]
# [[Maschinelles Lernen]]
# [[Deep Learning]]
# [[Kontinuierliches Lernen]]
# [[Katastrophales Vergessen]]
# [[Catastrophic Forgetting]]
# [[Stabilitäts-Plastizitäts-Dilemma]]
# [[Replay]]
# [[Regularisierung]]
# [[Elastic Weight Consolidation]]
# [[Modularität]]
# [[Retrieval-Augmented Generation]]
# [[Neuromorphes Engineering]]
|}

[[Kategorie:Informatik]]
[[Kategorie:Künstliche Intelligenz]]
[[Kategorie:Maschinelles Lernen]]
[[Kategorie:Neuronale Netze]]
[[Kategorie:Ethik]]
[[Kategorie:Medienbildung]]
[[Kategorie:Digitale Bildung]]
[[Kategorie:Studium]]
[[Kategorie:Oberstufe]]
[[Kategorie:AI_MOOC]]

{{BR}}
= aiMOOC-Projekte =
[[Kategorie:AI_MOOC]] [[Kategorie:GPT aiMOOC]]
{{MT}}

Warum künstliche Intelligenz Gelerntes wieder vergisst - Versionsgeschichte

Glanz: aiMOOC über GPT aiMOOC Action erstellt