Kontinuierliches Lernen in SNNs

Einleitung

Kontinuierliches Lernen in Spiking Neural Networks verbindet zwei Zukunftsthemen der Künstlichen Intelligenz: erstens die Frage, wie neuronale Netze Informationen sparsamer, zeitlicher und näher an biologischen Vorbildern verarbeiten können, und zweitens die Frage, wie maschinelle Lernsysteme neues Wissen aufnehmen, ohne bereits Gelerntes zu verlieren. In klassischen Deep-Learning-Systemen werden Modelle häufig in großen Trainingsphasen auf festen Datensätzen trainiert. In vielen realen Situationen entstehen Daten jedoch als fortlaufender Strom: ein Roboter bewegt sich durch eine wechselnde Umgebung, ein Sensorsystem beobachtet neue Ereignisse, ein Assistenzsystem passt sich an Nutzende an oder ein medizinisches Modell erhält neue Messungen. Genau hier setzt kontinuierliches Lernen an.

{{#ev:youtube|https://www.youtube.com/watch?v=TKYeVkhsFRY%7C500%7Ccenter}}

Gepulste neuronale Netze werden oft als neuronale Netze der dritten Generation beschrieben. Sie arbeiten nicht nur mit kontinuierlichen Aktivierungswerten, sondern mit kurzen Ereignissen, sogenannten Spikes. Ein künstliches Neuron sammelt eingehende Signale in einem Membranpotential. Wird eine Schwelle erreicht, feuert es einen Spike und setzt sein Potential zurück oder verändert es nach einem definierten Neuronenmodell. Dadurch wird Zeit zu einem zentralen Bestandteil der Informationsverarbeitung. Nicht nur die Stärke eines Signals ist wichtig, sondern auch wann es auftritt.

Dieser aiMOOC hilft Dir, Kontinuierliches Lernen, Katastrophales Vergessen, STDP, neuromorphe Hardware und die besonderen Chancen und Grenzen von SNNs zu verstehen. Du lernst, warum SNNs für Edge Computing, Robotik, ereignisbasierte Sensorik und energieeffiziente KI-Systeme spannend sind, aber auch, warum sie kein einfacher Ersatz für klassische künstliche neuronale Netze sind.

Lernziele

Nach diesem aiMOOC kannst Du erklären, was Spiking Neural Networks von klassischen künstlichen neuronalen Netzen unterscheidet. Du kannst beschreiben, warum kontinuierliches Lernen für autonome Systeme wichtig ist, wie katastrophales Vergessen entsteht und welche Strategien helfen, altes Wissen zu bewahren und neues Wissen aufzunehmen. Außerdem kannst Du beurteilen, welche Rolle STDP, lokale Lernregeln, Replay, Regularisierung, Architektur-Anpassungen und neuromorphe Hardware in aktuellen Forschungsansätzen spielen.

Neuronale Netze neu denken

Klassische neuronale Netze

Klassische künstliche neuronale Netze bestehen aus Schichten künstlicher Neuronen, Gewichten und Aktivierungsfunktionen. Ein Eingabevektor wird von Schicht zu Schicht verarbeitet. Beim Training werden die Gewichte meist mithilfe von Backpropagation und Gradientenverfahren angepasst. Dieses Prinzip ist sehr erfolgreich, zum Beispiel bei Bildklassifikation, Spracherkennung, maschineller Übersetzung und generativer KI.

Trotz dieser Erfolge haben klassische Deep-Learning-Modelle mehrere Herausforderungen. Sie benötigen häufig große Datenmengen, viel Rechenleistung und wiederholte Trainingsdurchläufe. Außerdem wird oft angenommen, dass Trainingsdaten in abgeschlossenen Datensätzen vorliegen. In der realen Welt treffen Systeme jedoch auf sich verändernde Datenverteilungen, neue Aufgaben, unerwartete Klassen und Situationen, die nicht vollständig im ursprünglichen Training enthalten waren.

Spiking Neural Networks

Spiking Neural Networks verarbeiten Informationen ereignisbasiert. Ein Spike ist ein kurzer Impuls. Ein Neuron in einem SNN feuert nicht in jedem Rechenschritt, sondern nur dann, wenn sein internes Membranpotential eine bestimmte Schwelle überschreitet. Dadurch können SNNs besonders interessant für Sensoren und Hardware sein, bei denen nicht ständig alle Daten verarbeitet werden müssen. Ein System kann auf Ereignisse reagieren, sobald sie auftreten.

Im Unterschied zu klassischen künstlichen neuronalen Netzen werden in SNNs zeitliche Muster wichtig. Zwei Spike-Folgen können dieselbe Anzahl von Spikes enthalten, aber unterschiedliche Bedeutungen haben, wenn die zeitliche Reihenfolge verschieden ist. Dieses Prinzip ist besonders relevant für auditive Signale, ereignisbasierte Bildsensoren, Robotik, Kontrolle und Sensorfusion.

Kodierung von Informationen durch Spikes

In SNNs müssen Daten häufig in Spike-Züge übersetzt werden. Dafür gibt es verschiedene Kodierungsformen. Bei der Ratenkodierung trägt die Anzahl der Spikes pro Zeitfenster die Information. Bei der zeitlichen Kodierung ist der genaue Zeitpunkt der Spikes entscheidend. Bei der Latenzkodierung kann ein früher Spike für eine stärkere oder wichtigere Information stehen. Bei ereignisbasierten Sensoren entstehen Spikes direkt aus der Veränderung der Umgebung, zum Beispiel wenn sich ein Helligkeitswert an einem Pixel verändert.

Diese Kodierungsfrage ist zentral, weil sie bestimmt, wie gut ein SNN Daten verarbeiten kann. Eine schlechte Kodierung kann Energie sparen, aber wichtige Informationen verlieren. Eine sehr dichte Kodierung kann genau sein, aber den Vorteil ereignisbasierter Verarbeitung verringern. Kontinuierliches Lernen in SNNs hängt deshalb eng mit der Frage zusammen, wie neue Erfahrungen als Spikes dargestellt, gespeichert und wiederverwendet werden.

Kontinuierliches Lernen

Grundidee

Kontinuierliches Lernen bedeutet, dass ein KI-System über eine Folge von Aufgaben, Datenströmen oder Situationen hinweg weiterlernt. Es soll nicht nur Aufgabe A lernen, dann alles vergessen und Aufgabe B lernen. Es soll Wissen aus Aufgabe A behalten, Wissen aus Aufgabe B integrieren und beides sinnvoll nutzen. In der Forschung wird häufig zwischen verschiedenen Szenarien unterschieden: Task-Incremental Learning, Class-Incremental Learning, Domain-Incremental Learning und Online Learning.

Ein Beispiel: Ein kleiner Haushaltsroboter erkennt zunächst Tassen, Teller und Besteck. Später lernt er neue Gegenstände wie Lunchboxen, Kinderspielzeug oder Medikamente kennen. Ein gutes kontinuierliches Lernsystem kann die neuen Kategorien aufnehmen, ohne die alten Kategorien zu verwechseln. Es muss außerdem erkennen, wann eine Veränderung wirklich eine neue Klasse ist und wann nur dieselbe Klasse unter anderem Licht oder aus anderer Perspektive erscheint.

Katastrophales Vergessen

Das zentrale Problem heißt Katastrophales Vergessen. Ein Neuronales Netz kann beim Lernen neuer Aufgaben so stark verändert werden, dass die zuvor gelernten Aufgaben schlechter funktionieren. In klassischen Netzen liegt das daran, dass viele Aufgaben dieselben Gewichte nutzen. Werden diese Gewichte für eine neue Aufgabe optimiert, können alte Lösungen überschrieben werden. Das ist vergleichbar mit einem Heft, in dem Du neue Notizen direkt über alte Notizen schreibst.

Kontinuierliches Lernen sucht nach einer Balance zwischen Stabilität und Plastizität. Stabilität bedeutet, dass wichtiges Wissen erhalten bleibt. Plastizität bedeutet, dass das System flexibel genug ist, Neues zu lernen. Ein System mit zu viel Stabilität lernt kaum dazu. Ein System mit zu viel Plastizität vergisst schnell. Dieses Spannungsfeld wird oft als Stabilitäts-Plastizitäts-Dilemma bezeichnet.

Strategien gegen Vergessen

Es gibt mehrere Grundstrategien gegen Katastrophales Vergessen. Replay speichert Beispiele oder erzeugt ähnliche frühere Beispiele erneut, damit das Modell alte und neue Aufgaben gemeinsam üben kann. Regularisierung schützt besonders wichtige Gewichte vor zu starken Änderungen. Architekturmethoden erweitern oder spezialisieren Teile des Netzes für neue Aufgaben. Kontextgating aktiviert nur bestimmte Teilbereiche für bestimmte Situationen. Metakognition und Unsicherheit können helfen zu erkennen, wann neues Lernen überhaupt nötig ist.

Für SNNs kommen besondere Möglichkeiten hinzu. Da SNNs mit lokalen Ereignissen arbeiten, können lokale Lernregeln wie STDP oder adaptive Schwellenwerte genutzt werden. Außerdem sind neuromorphe Chips dafür ausgelegt, ereignisbasiert und energieeffizient zu arbeiten. Dadurch können SNNs perspektivisch nicht nur im Rechenzentrum, sondern auch direkt auf Edge-Geräten lernen.

Lernen in Spiking Neural Networks

Spike-Timing-Dependent Plasticity

STDP ist eine biologisch inspirierte Lernregel. Vereinfacht gesagt: Wenn ein präsynaptisches Neuron kurz vor einem postsynaptischen Neuron feuert, kann die Verbindung verstärkt werden. Feuert es in ungünstiger zeitlicher Reihenfolge, kann die Verbindung abgeschwächt werden. Dadurch wird die zeitliche Kausalität zwischen Spikes wichtig. Ein Netz lernt nicht nur, welche Neuronen aktiv sind, sondern auch, in welcher zeitlichen Beziehung sie stehen.

Für kontinuierliches Lernen ist STDP interessant, weil sie lokal funktioniert. Ein synaptisches Gewicht kann anhand lokaler Informationen verändert werden, ohne dass das gesamte Netz mit globaler Backpropagation trainiert werden muss. Das passt gut zu neuromorpher Hardware, bei der viele kleine Einheiten parallel arbeiten. Gleichzeitig ist STDP allein nicht automatisch ausreichend, um komplexe Aufgaben zuverlässig zu lösen. Oft werden STDP, überwachte Lernanteile, Surrogate-Gradient-Verfahren oder hybride Modelle kombiniert.

Lokale Lernregeln und globale Ziele

Ein zentrales Problem beim Training von SNNs ist die Verbindung lokaler Lernprozesse mit globalen Aufgaben. Ein einzelnes Neuron kann nur lokale Informationen sehen: eingehende Spikes, eigenes Membranpotential, ausgehende Spikes und synaptische Variablen. Eine komplexe Aufgabe wie Bildklassifikation oder Navigation verlangt aber ein globales Ziel. Deshalb erforscht man Verfahren, die lokale Regeln mit Fehler- oder Belohnungssignalen verbinden.

Ein Beispiel ist Reinforcement Learning mit SNNs. Ein Agent erhält Belohnung oder Bestrafung aus der Umgebung. Das SNN muss lernen, welche Spike-Muster langfristig zu guten Handlungen führen. Für kontinuierliches Lernen ist das besonders anspruchsvoll, weil sich die Umgebung ändern kann. Ein Roboter muss dann neue Wege, neue Hindernisse oder neue Sensorfehler berücksichtigen, ohne sein Grundwissen über Bewegung, Stabilität und Zielverfolgung zu verlieren.

Dynamische Strukturen

Manche Forschungsansätze nutzen dynamische Netzstrukturen. Wenn neue Aufgaben auftauchen, können neue Neuronen oder neue Verbindungen entstehen. Redundante Teile können geschwächt oder entfernt werden. Dadurch nähert sich das Modell biologischen Ideen wie synaptischer Plastizität, Neurogenese und effizienter Spezialisierung an.

Bei kontinuierlichem Lernen ist das besonders wichtig, weil ein festes Netz irgendwann an Kapazitätsgrenzen stößt. Ein System, das nie wachsen darf, muss alle neuen Aufgaben in dieselben Ressourcen pressen. Ein System, das unkontrolliert wächst, wird zu groß. Die Kunst besteht darin, gezielt zu wachsen, relevante Strukturen zu teilen und unwichtige Strukturen zu entfernen.

Neuromorphe Hardware

Warum Hardware wichtig ist

Neuromorphe Hardware versucht, Prinzipien biologischer Nervensysteme technisch umzusetzen. Klassische Computer trennen Speicher und Recheneinheiten oft stark. Bei neuronalen und neuromorphen Systemen liegen Verarbeitung und Speicherung enger beieinander. SNNs passen gut dazu, weil sie ereignisbasiert arbeiten: Nur wenn ein Spike auftritt, muss ein Teil des Systems aktiv werden. Das kann Energie sparen und schnelle Reaktionen ermöglichen.

Ein bekanntes Forschungsbeispiel ist Loihi, ein neuromorpher Forschungschip von Intel, der SNNs und programmierbare Lernregeln unterstützt. Ein anderes Beispiel ist SpiNNaker, eine an der University of Manchester entwickelte neuromorphe Plattform mit sehr vielen kleinen Prozessoren für die Simulation großer spikender Netze. Solche Systeme zeigen, dass SNNs nicht nur ein Algorithmusthema sind, sondern auch ein Hardwarethema.

SpiNNaker und großskalige Simulationen

{{#ev:youtube|https://www.youtube.com/watch?v=V3MlOAru6Qk%7C500%7Ccenter}}

SpiNNaker steht für Spiking Neural Network Architecture. Die Plattform wurde entwickelt, um sehr große SNNs parallel zu simulieren. Das ist für Neurowissenschaft, Computational Neuroscience und Künstliche Intelligenz relevant. Forschende können damit untersuchen, wie viele kleine spikende Einheiten zusammen komplexe Dynamiken erzeugen. Für kontinuierliches Lernen ist besonders interessant, wie sich große Netzwerke über lange Zeiträume stabil und gleichzeitig anpassungsfähig verhalten können.

Loihi, Hala Point und energieeffiziente KI

Loihi und Loihi 2 zeigen, wie SNNs mit Hardware verbunden werden können, die Lernregeln direkt auf dem Chip unterstützt. Intel stellte 2024 mit Hala Point ein großes neuromorphes Forschungssystem vor, das viele Loihi-2-Prozessoren bündelt und für Forschung an skalierbaren, energieeffizienten KI-Systemen gedacht ist. Solche Systeme sind keine allgemeine Lösung für alle KI-Probleme, aber sie zeigen eine wichtige Richtung: KI könnte in Zukunft stärker ereignisbasiert, lokal lernend und näher an Sensoren arbeiten.

{{#ev:youtube|https://www.youtube.com/watch?v=CPuaud9xi3U%7C500%7Ccenter}}

Für Lernende ist wichtig: Neuromorphe Hardware ersetzt nicht automatisch GPUs oder klassische CPUs. Sie ist besonders interessant, wenn Daten als Ereignisse auftreten, Energie knapp ist, Reaktionen sehr schnell sein müssen oder Lernen direkt im Gerät stattfinden soll. Beispiele sind Robotik, Drohnen, Wearables, Medizintechnik, intelligente Sensoren und autonome Systeme.

Kontinuierliches Lernen in SNNs

Warum SNNs dafür interessant sind

SNNs sind für kontinuierliches Lernen interessant, weil sie mehrere Eigenschaften verbinden. Sie sind zeitlich dynamisch, sie können mit lokalen Lernregeln arbeiten, sie passen zu ereignisbasierten Sensoren und sie können auf spezieller Hardware energieeffizient laufen. Außerdem erinnern sie an biologische Nervensysteme, die fortlaufend lernen und sich anpassen. Daraus entsteht die Hoffnung, dass SNNs helfen könnten, KI-Systeme robuster, sparsamer und adaptiver zu machen.

Trotzdem gilt: SNNs lösen kontinuierliches Lernen nicht automatisch. Auch SNNs können vergessen, überfitten, instabil werden oder zu wenig Kapazität haben. Die Forschung untersucht deshalb, welche Kombinationen aus Replay, Regularisierung, Kontext, Plastizität, adaptiven Schwellen, dynamischer Architektur und neuromorpher Hardware am besten funktionieren.

Mögliche Lernarchitekturen

Eine SNN-Architektur für kontinuierliches Lernen kann verschiedene Module enthalten. Ein Sensor-Modul übersetzt Daten in Spikes. Ein Merkmals-Modul erkennt zeitliche Muster. Ein Gedächtnis-Modul speichert wichtige frühere Muster. Ein Kontext-Modul entscheidet, welche Teilnetze aktiv sind. Ein Ausgabe-Modul erzeugt Klassifikationen, Handlungen oder Vorhersagen. Zusätzlich kann ein Kontroll-Modul überwachen, wann die Leistung sinkt und wann neues Lernen nötig ist.

Ein solches System muss sorgfältig entworfen werden. Wenn zu viele alte Beispiele gespeichert werden, wächst der Speicherbedarf. Wenn zu wenig gespeichert wird, vergisst das System. Wenn neue Neuronen zu schnell entstehen, wird das Netz groß und schwer kontrollierbar. Wenn keine neuen Strukturen entstehen, kann das Netz zu unflexibel werden. Darum ist kontinuierliches Lernen immer ein Abwägen zwischen Effizienz, Robustheit, Gedächtnis und Anpassungsfähigkeit.

Replay in SNNs

Replay bedeutet, dass frühere Erfahrungen erneut aktiviert werden. Bei klassischen Netzen kann Replay bedeuten, alte Trainingsbeispiele erneut einzuspielen. Bei SNNs kann Replay auch bedeuten, frühere Spike-Muster zu reaktivieren. Das erinnert an biologische Prozesse, bei denen das Gehirn Erlebnisse wiederholt, um Erinnerungen zu festigen. Replay kann helfen, altes Wissen während des Lernens neuer Aufgaben präsent zu halten.

Es gibt verschiedene Formen: Exemplar Replay speichert ausgewählte Beispiele. Generative Replay erzeugt künstliche Beispiele aus einem generativen Modell. Latent Replay speichert Zwischendarstellungen statt Rohdaten. In SNNs kann zusätzlich ein spikebasierter Replay genutzt werden, bei dem zeitliche Aktivitätsmuster erneut abgespielt werden. Jede Variante hat Vor- und Nachteile im Hinblick auf Speicher, Datenschutz, Energie und Genauigkeit.

Regularisierung und Stabilisierung

Regularisierung schützt wichtige Gewichte vor zu starken Änderungen. Ein System kann abschätzen, welche Verbindungen für frühere Aufgaben wichtig waren, und diese Verbindungen beim Lernen neuer Aufgaben weniger stark verändern. In SNNs können auch Schwellenwerte, Feuerraten, Membranpotentiale und synaptische Variablen stabilisiert werden.

Diese Idee ist nützlich, aber sie hat Grenzen. Wenn zu viele Parameter geschützt werden, bleibt kaum Raum für neues Lernen. Wenn zu wenige geschützt werden, wird altes Wissen überschrieben. Gute kontinuierliche Lernsysteme müssen deshalb flexibel entscheiden, welche Informationen wirklich schützenswert sind.

Kontextgating und modulare Netze

Kontextgating bedeutet, dass je nach Situation bestimmte Teile eines Netzes aktiviert oder deaktiviert werden. Ein SNN kann zum Beispiel andere Teilnetze nutzen, wenn es Geräusche, Bilder oder Bewegungssignale verarbeitet. Dadurch kann neues Wissen in einem passenden Kontext gelernt werden, ohne alle alten Strukturen zu stören. In biologischen Vorbildern findet man ähnliche Ideen in der kontextabhängigen Aktivierung neuronaler Schaltkreise.

Modulare SNNs können für kontinuierliches Lernen besonders hilfreich sein. Sie erlauben Spezialisierung, Wiederverwendung und Schutz alter Funktionen. Gleichzeitig müssen sie lernen, wann Module geteilt werden können. Wenn zwei Aufgaben ähnliche Merkmale besitzen, ist Teilen sinnvoll. Wenn sie sich stark unterscheiden, kann getrennte Speicherung besser sein.

Anwendungen

Robotik

In der Robotik treffen Systeme auf sich verändernde Umgebungen. Ein Roboter kann nicht für jede neue Wohnung, jedes neue Objekt und jede neue Lichtbedingung vollständig neu trainiert werden. Kontinuierliches Lernen ermöglicht Anpassung. SNNs sind hier interessant, weil sie zeitliche Sensorströme direkt verarbeiten können. Ein Roboter kann aus Bewegungsereignissen, Berührungen, Geräuschen und Kamerasignalen lernen.

Ereignisbasierte Bildverarbeitung

Ereignisbasierte Kameras senden nicht ganze Bilder in festen Abständen, sondern Ereignisse, wenn sich Helligkeit ändert. Das passt sehr gut zu SNNs. Statt Millionen Pixelwerte pro Bild zu verarbeiten, verarbeitet das System nur relevante Veränderungen. Für schnelle Szenen, geringe Latenz und niedrigen Energieverbrauch kann das ein Vorteil sein. Kontinuierliches Lernen kann helfen, neue Bewegungsmuster, Objekte oder Umgebungen nach und nach zu erfassen.

Edge AI und Datenschutz

Edge AI bedeutet, dass KI direkt auf Geräten arbeitet, statt alle Daten an ein Rechenzentrum zu senden. Das kann Energie, Zeit und Datenübertragung sparen. Außerdem kann es Datenschutz verbessern, wenn sensible Rohdaten lokal bleiben. SNNs auf neuromorpher Hardware könnten hier eine Rolle spielen, etwa bei tragbaren Sensoren, medizinischen Geräten oder industrieller Zustandsüberwachung. Kontinuierliches Lernen wäre dann wichtig, damit sich das Gerät an individuelle Nutzende oder veränderte Bedingungen anpassen kann.

Wissenschaftliches Modellieren des Gehirns

SNNs sind auch Werkzeuge der Computational Neuroscience. Sie können genutzt werden, um Hypothesen über biologische neuronale Netzwerke zu testen. Dabei geht es nicht nur um technische Leistung, sondern um Verständnis: Wie entstehen stabile Erinnerungen? Wie kann ein System fortlaufend lernen? Welche Rolle spielen Synapsen, Spikes, Plastizität und Schlaf-ähnliche Konsolidierung? Diese Fragen verbinden Informatik, Biologie, Psychologie und Neurowissenschaft.

Chancen und Grenzen

Chancen

Die großen Chancen von kontinuierlichem Lernen in SNNs liegen in energieeffizienten, adaptiven und zeitlich sensiblen Systemen. SNNs könnten besonders nützlich sein, wenn Daten nicht als statische Tabellen, sondern als Ereignisse über Zeit auftreten. Außerdem könnten lokale Lernregeln und neuromorphe Hardware dazu beitragen, dass Lernen direkt auf kleinen Geräten möglich wird. Das wäre ein wichtiger Schritt für autonome Systeme, die nicht ständig mit der Cloud verbunden sind.

Grenzen

Die Grenzen sind ebenso wichtig. SNNs sind oft schwieriger zu trainieren als klassische Deep-Learning-Modelle. Die diskreten Spikes erschweren direkte Anwendung von Backpropagation. Viele Benchmarks sind noch stark spezialisiert. Die Software-Werkzeuge sind weniger standardisiert als bei klassischen neuronalen Netzen. Zudem ist noch offen, welche SNN-Methoden bei sehr großen, heterogenen und realen Lernumgebungen zuverlässig funktionieren.

Ethische und gesellschaftliche Fragen

Kontinuierlich lernende Systeme stellen besondere Anforderungen an KI-Ethik. Wenn ein System nach der Auslieferung weiterlernt, muss nachvollziehbar bleiben, warum es bestimmte Entscheidungen trifft. Es muss geprüft werden, ob es unerwünschte Verzerrungen übernimmt. Bei lokalen Geräten müssen Datenschutz, Sicherheit und Updates bedacht werden. Bei autonomen Systemen ist wichtig, dass Lernen nicht zu unvorhersehbarem Verhalten führt. Energieeffizienz ist ein Vorteil, ersetzt aber nicht die Verantwortung für faire, sichere und transparente KI.

Zentrale Begriffe

Gepulste neuronale Netze: Netze, in denen künstliche Neuronen über zeitliche Impulse kommunizieren.
Spike: Kurzer Impuls, der Information in einem SNN überträgt.
Membranpotential: Interner Zustand eines künstlichen oder biologischen Neurons, der über das Feuern entscheidet.
Schwellenwert: Grenze, ab der ein Neuron einen Spike auslöst.
Kontinuierliches Lernen: Lernen über fortlaufende Aufgaben oder Datenströme hinweg.
Katastrophales Vergessen: Verlust früher gelernter Fähigkeiten beim Lernen neuer Aufgaben.
Stabilitäts-Plastizitäts-Dilemma: Spannung zwischen Bewahren und flexiblem Neuerlernen.
STDP: Lernregel, bei der die zeitliche Reihenfolge von Spikes synaptische Gewichte verändert.
Replay: Wiederholen oder Erzeugen früherer Erfahrungen, um Vergessen zu verringern.
Neuromorphic Engineering: Entwicklung hardwarebasierter Systeme, die Prinzipien biologischer Nervensysteme nachahmen.

Interaktive Aufgaben

Quiz: Teste Dein Wissen

Was ist ein Spike in einem Spiking Neural Network? (Ein kurzer ereignisbasierter Impuls) (!Eine dauerhaft aktive Zahl) (!Ein Bildpunkt in einem Datensatz) (!Ein Trainingsfehler im Optimierer)

Was beschreibt kontinuierliches Lernen in der KI am besten? (Ein Modell lernt fortlaufend neue Aufgaben und soll altes Wissen behalten) (!Ein Modell wird nur einmal auf einem festen Datensatz trainiert) (!Ein Modell darf nach dem Training nie verändert werden) (!Ein Modell löscht alte Daten grundsätzlich vor jedem Training)

Was bedeutet katastrophales Vergessen? (Ein neuronales Netz verliert frühere Fähigkeiten beim Lernen neuer Aufgaben) (!Ein neuronales Netz wird schneller, wenn es mehr Daten sieht) (!Ein neuronales Netz speichert alle Beispiele perfekt) (!Ein neuronales Netz erzeugt nur zufällige Ausgaben)

Welche Größe entscheidet in vielen SNN-Modellen darüber, ob ein Neuron feuert? (Das Membranpotential überschreitet eine Schwelle) (!Die Anzahl der Schichten ist immer gerade) (!Der Datensatz wird alphabetisch sortiert) (!Die Ausgabe wird in Text umgewandelt)

Was ist die Grundidee von STDP? (Die zeitliche Reihenfolge von Spikes beeinflusst synaptische Gewichte) (!Alle Gewichte werden nach jeder Aufgabe auf null gesetzt) (!Ein Modell lernt ausschließlich durch Zufall) (!Ein Netz arbeitet ohne Synapsen)

Warum passen ereignisbasierte Kameras gut zu SNNs? (Sie liefern Veränderungen als zeitliche Ereignisse) (!Sie erzeugen ausschließlich statische Tabellen) (!Sie verhindern jede Form von Lernen) (!Sie benötigen immer vollständige Videoframes ohne Veränderung)

Was ist Replay beim kontinuierlichen Lernen? (Frühere Erfahrungen werden erneut genutzt oder erzeugt) (!Alle alten Gewichte werden gelöscht) (!Nur die letzte Aufgabe wird bewertet) (!Das Modell wird ohne Eingaben gestartet)

Was beschreibt das Stabilitäts-Plastizitäts-Dilemma? (Den Konflikt zwischen Wissen bewahren und Neues lernen) (!Den Unterschied zwischen Bildschirmgröße und Auflösung) (!Die Wahl zwischen Tastatur und Maus) (!Die Umwandlung von Text in Farbe)

Welche Rolle kann neuromorphe Hardware für SNNs spielen? (Sie kann ereignisbasierte Verarbeitung energieeffizient unterstützen) (!Sie macht jedes Training automatisch fehlerfrei) (!Sie ersetzt jede Datenauswertung durch Handarbeit) (!Sie verhindert, dass Spikes auftreten)

Welche Aussage ist eine realistische Einschätzung von SNNs? (SNNs sind vielversprechend, aber sie lösen kontinuierliches Lernen nicht automatisch) (!SNNs sind grundsätzlich in allen Aufgaben besser als jedes andere KI-Modell) (!SNNs benötigen niemals Daten) (!SNNs können keine zeitlichen Muster verarbeiten)

Memory

Spike	Ereignisbasierter Impuls
Membranpotential	Innerer Neuronenzustand
STDP	Zeitabhängige Plastizität
Replay	Wiederholung früherer Erfahrungen
Stabilität	Bewahren von Wissen
Plastizität	Lernen neuer Muster
Neuromorpher Chip	Gehirninspirierte Hardware
Kontextgating	Situationsabhängige Aktivierung

Drag and Drop

Ordne die richtigen Begriffe zu.	Thema
Replay	Frühere Erfahrungen erneut nutzen
Regularisierung	Wichtige Gewichte vor starken Änderungen schützen
Kontextgating	Passende Teilnetze situationsabhängig aktivieren
STDP	Lernen durch zeitliche Spike-Beziehungen
Dynamische Architektur	Neue Neuronen oder Verbindungen gezielt hinzufügen

Kreuzworträtsel

Spike	Wie heißt ein kurzer Impuls in einem gepulsten neuronalen Netz?
Schwelle	Welche Grenze muss ein Membranpotential überschreiten, damit ein Neuron feuert?
Synapse	Wie heißt die Verbindung zwischen zwei Neuronen?
Replay	Welche Strategie nutzt frühere Erfahrungen erneut?
Loihi	Wie heißt ein bekannter neuromorpher Forschungschip von Intel?
Vergessen	Welches Problem beschreibt den Verlust früher gelernter Fähigkeiten?

LearningApps

Lückentext

Ein Spiking Neural Network verarbeitet Informationen nicht nur über Aktivierungswerte, sondern über zeitliche

. Ein künstliches Neuron feuert, wenn sein

eine bestimmte Schwelle überschreitet. Beim

soll ein Modell neue Aufgaben lernen, ohne altes Wissen zu verlieren. Das zentrale Problem dabei heißt

. Eine wichtige biologisch inspirierte Lernregel ist

, weil sie die zeitliche Reihenfolge von Spikes berücksichtigt. Strategien wie

können frühere Erfahrungen erneut einbeziehen. Neuromorphe Hardware ist interessant, weil sie ereignisbasierte Verarbeitung

unterstützen kann. Trotzdem lösen SNNs das Stabilitäts-Plastizitäts-Dilemma nicht automatisch, sondern benötigen gut entworfene

.

Offene Aufgaben

Leicht

Begriffskarte: Erstelle eine Begriffskarte zu Spike, Membranpotential, Schwellenwert, Synapse und Replay und erkläre jeden Begriff in einem eigenen Beispiel.
Alltagsvergleich: Vergleiche Katastrophales Vergessen mit einer Alltagssituation, etwa Lernen für mehrere Fächer oder Überschreiben von Notizen.
Skizze: Zeichne ein einfaches SNN mit Eingabeneuronen, Synapsen, einem Membranpotential und einem ausgehenden Spike.
Videoimpuls: Schaue das eingebettete Video und notiere drei Aussagen, die zeigen, warum neuronale Netze neu gedacht werden können.

Standard

Fallanalyse: Beschreibe ein Szenario aus Robotik, Medizintechnik oder Edge AI, in dem kontinuierliches Lernen sinnvoll wäre, und erkläre das Risiko des Vergessens.
Methodenvergleich: Vergleiche Replay, Regularisierung und Kontextgating als Strategien gegen Katastrophales Vergessen.
Spike-Kodierung: Entwickle ein Beispiel, wie Temperaturwerte, Geräusche oder Bewegungen in Spike-Muster umgewandelt werden könnten.
Kritische Bewertung: Erstelle eine Tabelle mit Chancen und Grenzen von SNNs im Vergleich zu klassischen Deep-Learning-Modellen.

Schwer

Forschungsdesign: Entwirf ein Experiment, mit dem Du messen kannst, ob ein SNN nach dem Lernen einer neuen Aufgabe eine alte Aufgabe noch beherrscht.
Architekturentwurf: Skizziere ein modulares SNN-System mit Sensor-Modul, Gedächtnis-Modul, Kontext-Modul und Ausgabeschicht.
Ethikanalyse: Untersuche, welche Risiken entstehen, wenn ein autonomes System nach der Auslieferung weiterlernt, und formuliere Sicherheitsregeln.
Transferprojekt: Entwickle eine Projektidee für ein energieeffizientes Edge-Gerät mit SNN, zum Beispiel für Umweltmessung, Gesundheitsmonitoring oder Robotik, und begründe die Wahl der Lernstrategie.

Lernkontrolle

Transferanalyse: Erkläre, warum ein Modell, das nur auf einem festen Datensatz gut funktioniert, für reale autonome Systeme problematisch sein kann.
Vergleich: Beurteile, ob Replay oder Regularisierung in einem datenschutzsensiblen medizinischen Gerät besser geeignet wäre, und begründe Deine Entscheidung.
Systementwurf: Entwickle eine einfache Architektur für ein kontinuierlich lernendes SNN, das neue Geräusche lernen soll, ohne alte Warnsignale zu vergessen.
Fehlerdiagnose: Ein SNN erkennt nach dem Lernen neuer Objekte alte Objekte schlechter. Analysiere drei mögliche Ursachen und drei Gegenmaßnahmen.
Bewertung: Diskutiere, warum Energieeffizienz allein nicht ausreicht, um ein KI-System als gesellschaftlich verantwortungsvoll zu bewerten.
Forschungsperspektive: Erkläre, warum SNNs für kontinuierliches Lernen vielversprechend sind, aber nicht automatisch alle Probleme klassischer neuronaler Netze lösen.

Lernnachweis

Für einen Lernnachweis zu kontinuierlichem Lernen in SNNs solltest Du zeigen, dass Du die Grundbegriffe sicher erklären, die Zusammenhänge zwischen Spikes, Membranpotential, Plastizität und Lernregel darstellen und das Problem des katastrophalen Vergessens auf neue Situationen übertragen kannst. Wichtig ist außerdem, dass Du mindestens drei Strategien gegen Vergessen vergleichst, eine mögliche SNN-Architektur skizzierst und Chancen sowie Grenzen neuromorpher Ansätze kritisch bewertest. Ein guter Lernnachweis enthält ein eigenes Beispiel, eine begründete Entscheidung für eine Lernstrategie und eine Reflexion zu Sicherheit, Datenschutz oder Energieverbrauch.

OERs zum Thema

Links

Kontinuierliches Lernen in SNNs

aiMOOC-Projekte

Schulfach+

Prüfungsliteratur 2026
Bundesland	Bücher	Kurzbeschreibung
Baden-Württemberg	Abitur Der zerbrochne Krug - Heinrich von Kleist Heimsuchung - Jenny Erpenbeck Mittlere Reife Der Markisenmann - Jan Weiler oder Als die Welt uns gehörte - Liz Kessler Ein Schatten wie ein Leopard - Myron Levoy oder Pampa Blues - Rolf Lappert	Abitur Dorfrichter-Komödie über Wahrheit/Schuld; Roman über einen Ort und deutsche Geschichte. Mittlere Reife Wahllektüren (Roadtrip-Vater-Sohn / Jugendroman im NS-Kontext / Coming-of-age / Provinzroman).
Bayern	Abitur Der zerbrochne Krug - Heinrich von Kleist Heimsuchung - Jenny Erpenbeck	Abitur Lustspiel über Machtmissbrauch und Recht; Roman als Zeitschnitt deutscher Geschichte an einem Haus/Grundstück.
Berlin/Brandenburg	Abitur Der zerbrochne Krug - Heinrich von Kleist Woyzeck - Georg Büchner Der Biberpelz - Gerhart Hauptmann Heimsuchung - Jenny Erpenbeck	Abitur Gerichtskomödie; soziales Drama um Ausbeutung/Armut; Komödie/Satire um Diebstahl und Obrigkeit; Roman über Erinnerungsräume und Umbrüche.
Bremen	Abitur Nach Mitternacht - Irmgard Keun Mario und der Zauberer - Thomas Mann Emilia Galotti - Gotthold Ephraim Lessing oder Miss Sara Sampson - Gotthold Ephraim Lessing	Abitur Roman in der NS-Zeit (Alltag, Anpassung, Angst); Novelle über Verführung/Massenpsychologie; bürgerliche Trauerspiele (Moral, Macht, Stand).
Hamburg	Abitur Der zerbrochne Krug - Heinrich von Kleist Das kunstseidene Mädchen - Irmgard Keun	Abitur Justiz-/Machtkritik als Komödie; Großstadtroman der Weimarer Zeit (Rollenbilder, Aufstiegsträume, soziale Realität).
Hessen	Abitur Der zerbrochne Krug - Heinrich von Kleist Woyzeck - Georg Büchner Heimsuchung - Jenny Erpenbeck Der Prozess - Franz Kafka	Abitur Gerichtskomödie; Fragmentdrama über Gewalt/Entmenschlichung; Erinnerungsroman über deutsche Brüche; moderner Roman über Schuld, Macht und Bürokratie.
Niedersachsen	Abitur Der zerbrochene Krug - Heinrich von Kleist Das kunstseidene Mädchen - Irmgard Keun Die Marquise von O. - Heinrich von Kleist Über das Marionettentheater - Heinrich von Kleist	Abitur Schwerpunkt auf Drama/Roman sowie Kleist-Prosatext und Essay (Ehre, Gewalt, Unschuld; Ästhetik/„Anmut“).
Nordrhein-Westfalen	Abitur Der zerbrochne Krug - Heinrich von Kleist Heimsuchung - Jenny Erpenbeck	Abitur Komödie über Wahrheit und Autorität; Roman als literarische „Geschichtsschichtung“ an einem Ort.
Saarland	Abitur Heimsuchung - Jenny Erpenbeck Furor - Lutz Hübner und Sarah Nemitz Bahnwärter Thiel - Gerhart Hauptmann	Abitur Erinnerungsroman an einem Ort; zeitgenössisches Drama über Eskalation/Populismus; naturalistische Novelle (Pflicht/Überforderung/Abgrund).
Sachsen (berufliches Gymnasium)	Abitur Der zerbrochne Krug - Heinrich von Kleist Woyzeck - Georg Büchner Irrungen, Wirrungen - Theodor Fontane Der gute Mensch von Sezuan - Bertolt Brecht Heimsuchung - Jenny Erpenbeck Der Trafikant - Robert Seethaler	Abitur Mischung aus Klassiker-Drama, sozialem Drama, realistischem Roman, epischem Theater und Gegenwarts-/Erinnerungsroman; zusätzlich Coming-of-age im historischen Kontext.
Sachsen-Anhalt	Abitur (keine fest benannte landesweite Pflichtlektüre veröffentlicht; Themenfelder)	Abitur Schwerpunktsetzung über Themenfelder (u. a. Literatur um 1900; Sprache in politisch-gesellschaftlichen Kontexten), ohne feste Einzeltitel.
Schleswig-Holstein	Abitur Der zerbrochne Krug - Heinrich von Kleist Heimsuchung - Jenny Erpenbeck	Abitur Recht/Gerechtigkeit und historische Tiefenschichten eines Ortes – umgesetzt über Drama und Gegenwartsroman.
Thüringen	Abitur (keine fest benannte landesweite Pflichtlektüre veröffentlicht; Orientierung am gemeinsamen Aufgabenpool)	Abitur In der Praxis häufig Orientierung am gemeinsamen Aufgabenpool; landesweite Einzeltitel je nach Vorgabe/Handreichung nicht einheitlich ausgewiesen.
Mecklenburg-Vorpommern	Abitur (Quelle aktuell technisch nicht abrufbar; Beteiligung am gemeinsamen Aufgabenpool bekannt)	Abitur Land beteiligt sich am länderübergreifenden Aufgabenpool; konkrete, veröffentlichte Einzeltitel konnten hier nicht ausgelesen werden.
Rheinland-Pfalz	Abitur (keine landesweit einheitliche Pflichtlektüre; schulische Auswahl)	Abitur Keine landesweite Einheitsliste; Auswahl kann schul-/kursbezogen erfolgen.