Glanz: aiMOOC über GPT aiMOOC Action erstellt

2026-07-06T16:29:48Z

aiMOOC über GPT aiMOOC Action erstellt

Neue Seite

{{T}}
{{BR}}
= Einleitung =

'''Adaptive Zeit''' und '''adaptive Zeitkonstanten''' in [[Spiking Neural Networks|Spiking Neural Networks]] beschreiben die Fähigkeit eines [[künstliches neuronales Netz|neuronalen Netzes]], nicht nur Gewichte, sondern auch zeitliche Dynamiken zu nutzen oder sogar zu lernen. In klassischen [[künstliches neuronales Netz|künstlichen neuronalen Netzen]] wird Information oft als kontinuierlicher Zahlenwert von Schicht zu Schicht weitergegeben. In [[Gepulste neuronale Netze|gepulsten neuronalen Netzen]] dagegen zählen zusätzlich die Zeitpunkte einzelner [[Spike|Spikes]]. Ein Neuron sendet erst dann ein Ereignis, wenn sein [[Membranpotential|Membranpotential]] einen [[Schwellenwert|Schwellenwert]] erreicht. Dadurch entsteht ein Modell, das zeitliche Muster, Ereignisse und Pausen direkt verarbeiten kann.

{{#ev:youtube| https://www.youtube.com/watch?v=dPhiB-Znb4Y |500|center}}

Das Video führt in das Thema '''Adaptive Zeit / Adaptive Zeitkonstanten in Spiking Neural Networks''' ein. Du lernst, warum [[Zeitkonstante|Zeitkonstanten]] für [[Lernen|Lernen]], [[Gedächtnis|Gedächtnis]], [[Energieeffizienz|Energieeffizienz]] und [[Echtzeitverarbeitung|Echtzeitverarbeitung]] wichtig sind. Besonders relevant ist die Frage: Wie lange soll ein künstliches Neuron vergangene Eingangssignale behalten, bevor es sie „vergisst“?

[[Datei:Leaky Integrate-and-Fire model neuron (schematic).jpg|600px|rahmenlos|center]]

{{BR}}
== Lernziele ==

Nach diesem aiMOOC kannst Du erklären, was eine [[Membranzeitkonstante|Membranzeitkonstante]] ist, warum [[Spiking Neural Networks|SNNs]] zeitliche Information anders verarbeiten als klassische [[Deep Learning|Deep-Learning]]-Modelle und wie adaptive Zeitkonstanten beim Lernen helfen können. Du kannst außerdem einschätzen, welche Chancen und Grenzen diese Modelle in [[Neuromorphes Computing|neuromorphem Computing]], [[Robotik|Robotik]], [[Biosignalverarbeitung|Biosignalverarbeitung]] und [[Event-basierte Kamera|eventbasierter Sensorik]] haben.

{{BR}}
= Grundlagen: Zeit in Spiking Neural Networks =

{{BR}}
== Was sind Spiking Neural Networks? ==

[[Spiking Neural Networks|Spiking Neural Networks]] oder [[Gepulste neuronale Netze|gepulste neuronale Netze]] sind eine Form [[künstliche neuronale Netze|künstlicher neuronaler Netze]], die stärker an [[biologisches Neuron|biologischen Neuronen]] orientiert ist als viele klassische Modelle. Sie arbeiten mit kurzen Ereignissen, den [[Spike|Spikes]]. Ein [[Neuron|Neuron]] sammelt Eingangssignale, verändert dadurch sein [[Membranpotential|Membranpotential]] und sendet ein Ausgangssignal, wenn ein [[Schwellenwert|Schwellenwert]] überschritten wird. Im Unterschied zu vielen [[ANN|Artificial Neural Networks]] ist die Zeit selbst ein Teil der Berechnung.

[[Datei:Action potential.svg|430px|rahmenlos|center]]

Ein [[Aktionspotential|Aktionspotential]] in einer biologischen [[Nervenzelle|Nervenzelle]] ist ein kurzzeitiges elektrisches Ereignis. Ein [[Spike|Spike]] in einem SNN ist eine stark vereinfachte mathematische Nachbildung dieses Ereignisses. Ein SNN fragt daher nicht nur: „Wie stark ist ein Signal?“, sondern auch: „Wann tritt das Signal auf?“ und „Welche Signale treten kurz hintereinander auf?“

{{BR}}
== Das Leaky-Integrate-and-Fire-Prinzip ==

Ein wichtiges Modell in SNNs ist das [[Leaky Integrate-and-Fire|Leaky-Integrate-and-Fire-Modell]], abgekürzt [[LIF|LIF]]. Der Name beschreibt drei Schritte: Das Neuron integriert Eingangssignale, verliert durch einen Leckstrom allmählich Spannung und feuert, sobald die Schwelle erreicht ist. Nach einem Spike wird das Membranpotential zurückgesetzt. Dieses einfache Modell ist didaktisch besonders hilfreich, weil es die Kernelemente vieler SNNs zeigt.

[[Datei:Integrate-and-Fire-Neuron-Model schematic drawing.jpg|600px|rahmenlos|center]]

Eine gute Vorstellung ist ein '''Eimer mit Loch'''. Jeder Eingangsspike füllt etwas Wasser in den Eimer. Das Loch steht für das [[Leck|Leck]] des Membranpotentials. Wenn der Wasserstand eine Markierung erreicht, feuert das Neuron. Danach wird der Eimer teilweise oder vollständig geleert. Die [[Zeitkonstante|Zeitkonstante]] bestimmt, wie schnell Wasser durch das Loch verloren geht.

{{BR}}
== Membranzeitkonstante und Synapsenzeitkonstante ==

Die [[Membranzeitkonstante|Membranzeitkonstante]] beschreibt, wie schnell das [[Membranpotential|Membranpotential]] ohne neue Eingänge abklingt. Eine große Zeitkonstante bedeutet: Das Neuron behält Informationen länger. Eine kleine Zeitkonstante bedeutet: Das Neuron vergisst schneller und reagiert stärker auf sehr nahe beieinanderliegende Ereignisse. Daneben gibt es häufig [[Synapsenzeitkonstante|Synapsenzeitkonstanten]], die beschreiben, wie lange ein synaptischer Eingangsstrom nach einem Spike wirkt.

Eine vereinfachte diskrete Form lautet:

u_i[t+1] = alpha_i · u_i[t] + Eingang_i[t] - Reset_i[t]

Dabei steht u_i für das [[Membranpotential|Membranpotential]] eines Neurons. Der Faktor alpha_i hängt von der [[Membranzeitkonstante|Membranzeitkonstante]] tau_m,i und der Schrittweite Delta t ab. Häufig gilt sinngemäß: alpha_i = exp(-Delta t / tau_m,i). Wenn tau_m groß ist, bleibt alpha_i näher bei 1 und alte Information bleibt länger erhalten. Wenn tau_m klein ist, fällt alpha_i stärker ab und alte Information verschwindet schneller.

{{BR}}
= Adaptive Zeitkonstanten =

{{BR}}
== Was bedeutet adaptive Zeit? ==

'''Adaptive Zeit''' bedeutet in diesem Kontext nicht, dass die physikalische Zeit verändert wird. Gemeint ist, dass ein Modell lernt oder auswählt, welche Zeitskalen für eine Aufgabe wichtig sind. Manche Aufgaben benötigen sehr kurze Reaktionen, zum Beispiel ein plötzliches Hindernis in der [[Robotik|Robotik]]. Andere Aufgaben benötigen längeres zeitliches Gedächtnis, zum Beispiel [[Spracherkennung|Spracherkennung]], [[Gestenerkennung|Gestenerkennung]], [[EEG|EEG]]-Analyse oder [[ECG|ECG]]-Signale.

Adaptive Zeitkonstanten können auf unterschiedliche Weise entstehen:

# [[Heterogene Zeitkonstanten|Heterogene Zeitkonstanten]]: Verschiedene Neuronen bekommen unterschiedliche feste Zeitkonstanten.
# [[Lernbare Zeitkonstanten|Lernbare Zeitkonstanten]]: Die Zeitkonstanten werden im Training wie [[Gewicht|Gewichte]] angepasst.
# [[Dynamische Zeitkonstanten|Dynamische Zeitkonstanten]]: Die Zeitkonstante hängt vom aktuellen Zustand, vom Eingang oder von einer Kontrollstruktur ab.
# [[Neuronale Adaptation|Neuronale Adaptation]]: Nach Spikes verändert sich beispielsweise die Schwelle und kehrt langsam zurück.

{{BR}}
== Lernbare Membranzeitkonstanten ==

Bei [[lernbarer Membranzeitkonstante|lernbaren Membranzeitkonstanten]] wird nicht nur entschieden, wie stark eine [[Synapse|Synapse]] ist, sondern auch, wie lange ein Neuron Information speichern soll. Das erweitert die Ausdrucksfähigkeit eines SNN. Ein Neuron kann sich zu einem schnellen Detektor für zeitliche Koinzidenzen entwickeln, während ein anderes Neuron länger integriert und langsame Muster erkennt.

In der Forschung werden Zeitkonstanten oft so parametrisiert, dass sie in einem sinnvollen Bereich bleiben. Dazu können Funktionen wie [[Sigmoid-Funktion|Sigmoid]] oder [[Softplus-Funktion|Softplus]] genutzt werden. Der Zweck ist, negative oder instabile Zeitkonstanten zu vermeiden. Trainiert wird häufig mit [[Backpropagation Through Time|Backpropagation Through Time]] und [[Surrogate Gradient|Surrogate Gradients]], weil die Spike-Funktion selbst nicht direkt differenzierbar ist.

{{BR}}
== Von LIF zu PLIF, ALIF und LSNN ==

Das klassische [[LIF|LIF]]-Neuron besitzt meist feste Parameter. Beim [[Parametric Leaky Integrate-and-Fire|Parametric Leaky Integrate-and-Fire]]-Ansatz, kurz [[PLIF|PLIF]], werden wichtige dynamische Parameter wie die Membranzeitkonstante lernbar gemacht. Beim [[Adaptive Leaky Integrate-and-Fire|Adaptive Leaky Integrate-and-Fire]]-Neuron, kurz [[ALIF|ALIF]], verändert sich oft die Schwelle nach Spikes. Dadurch kann das Neuron auf wiederholte Aktivierung anders reagieren als auf seltene Ereignisse. In [[Long Short-Term Memory Spiking Neural Networks|LSNNs]] werden adaptive Neuronen verwendet, um längere zeitliche Abhängigkeiten in rekurrenten SNNs besser zu verarbeiten.

Die Grundidee ist immer ähnlich: Ein SNN soll nicht mit einer einzigen Zeitskala für alle Neuronen auskommen müssen. Stattdessen soll es ein Repertoire schneller, mittlerer und langsamer Dynamiken bilden. Dadurch kann es Signale analysieren, die gleichzeitig kurze Impulse und längerfristige Zusammenhänge enthalten.

{{BR}}
= Warum ist das wichtig? =

{{BR}}
== Zeitliche Merkmale in Daten ==

Viele reale Daten sind keine starren Bilder, sondern zeitliche Prozesse. Eine [[Event-basierte Kamera|eventbasierte Kamera]] liefert Ereignisse, wenn sich Helligkeit ändert. Ein [[Mikrofon|Mikrofon]] erfasst Schwingungen. Ein [[EEG|EEG]] misst elektrische Aktivität des Gehirns. Ein [[Roboter|Roboter]] muss Sensordaten fortlaufend auswerten und schnell reagieren. Adaptive Zeitkonstanten helfen, die jeweilige Geschwindigkeit des Problems zu treffen.

Ein zu kleines tau_m führt dazu, dass ein Neuron alte Information zu schnell vergisst. Dann gehen langsamere Zusammenhänge verloren. Ein zu großes tau_m kann dagegen zu Überintegration führen: Das Neuron sammelt zu viel alte Information und reagiert unscharf auf aktuelle Ereignisse. Gute adaptive Zeitkonstanten schaffen einen Kompromiss zwischen [[Gedächtnis|Gedächtnis]] und [[Reaktionsgeschwindigkeit|Reaktionsgeschwindigkeit]].

{{BR}}
== Energieeffizienz und neuromorphe Hardware ==

SNNs gelten als interessant für [[Neuromorphes Computing|neuromorphes Computing]], weil sie ereignisbasiert arbeiten können. Wenn keine relevanten Eingänge auftreten, muss weniger gerechnet und weniger kommuniziert werden. Adaptive Zeitkonstanten können zusätzlich helfen, die Zahl der benötigten Zeitschritte oder die Aktivitätsrate zu reduzieren, wenn ein Modell schneller zu einer Entscheidung kommt. Das ist besonders wichtig für [[Edge AI|Edge AI]], [[Wearable|Wearables]], [[Sensorik|Sensorik]] und mobile Systeme.

[[Datei:Propagation of action potential along myelinated nerve fiber en.svg|600px|rahmenlos|center]]

{{BR}}
== Zusammenhang mit Gedächtnis und Aufmerksamkeit ==

Zeitkonstanten wirken wie eine Art lokales [[Kurzzeitgedächtnis|Kurzzeitgedächtnis]]. Schnelle Neuronen reagieren auf dichte Spike-Muster. Langsame Neuronen sammeln Hinweise über längere Intervalle. In tiefen oder rekurrenten SNNs können dadurch hierarchische Zeitskalen entstehen: frühe Schichten reagieren auf schnelle Details, spätere Schichten auf längere Zusammenhänge. Dieses Prinzip erinnert an [[Aufmerksamkeit|Aufmerksamkeit]] und [[Gedächtnismodell|Gedächtnismodelle]] in anderen KI-Architekturen, ist aber stärker in der dynamischen Neuronenphysik verankert.

{{BR}}
= Mathematische und technische Vertiefung =

{{BR}}
== Diskrete Zeit und kontinuierliche Zeit ==

Viele SNN-Simulationen verwenden diskrete Zeitschritte. In jedem Schritt wird berechnet, welche Neuronen Spikes erhalten, wie sich das Membranpotential verändert und ob ein Spike ausgelöst wird. In ereignisbasierten Simulationen wird dagegen stärker von Ereignis zu Ereignis gerechnet. Beide Sichtweisen haben Vorteile. Diskrete Zeitschritte sind leichter mit [[Deep Learning|Deep Learning]]-Frameworks zu verbinden. Ereignisbasierte Verfahren können sparsamer sein, wenn nur wenige Spikes auftreten.

Die Zeitkonstante verbindet beide Welten. Sie beschreibt in kontinuierlicher Zeit eine exponentielle Abklingdynamik und wird in diskreter Zeit als Zerfallsfaktor umgesetzt. Deshalb ist es wichtig, Zeitkonstanten nicht isoliert zu betrachten. Sie hängen mit der gewählten Schrittweite, der Datenrate, dem Reset-Verhalten und der Aufgabe zusammen.

{{BR}}
== Training mit Surrogate Gradients ==

Die Spike-Entscheidung ist hart: Unterhalb der Schwelle kein Spike, oberhalb der Schwelle ein Spike. Diese Sprungfunktion ist für [[Gradientenverfahren|Gradientenverfahren]] problematisch. [[Surrogate Gradient|Surrogate Gradients]] ersetzen die nicht differenzierbare Ableitung im Training durch eine glatte Näherung. So können Gewichte und manchmal auch Zeitkonstanten durch [[Backpropagation|Backpropagation]] angepasst werden.

Dabei muss man vorsichtig sein. Werden Zeitkonstanten unbeschränkt gelernt, kann das Modell instabil werden. Werden sie zu stark eingeschränkt, lernt das Modell keine nützliche Vielfalt. Eine gute Implementierung prüft daher Bereiche, Regularisierung, Startwerte, Aktivitätsraten und die Stabilität der Gradienten.

{{BR}}
== Adaptive Zeitkonstanten als Modellierungsentscheidung ==

Adaptive Zeitkonstanten sind kein automatischer Gewinn. Sie erhöhen die Zahl der Parameter und können ein Modell schwerer interpretierbar machen. In einer einfachen Bildklassifikation ohne starke Zeitstruktur können sie weniger relevant sein als in einer Aufgabe mit klaren zeitlichen Mustern. Gute Forschung vergleicht deshalb feste, heterogene, lernbare und dynamische Zeitkonstanten unter gleichen Bedingungen.

Eine sinnvolle Frage lautet nicht: „Sind adaptive Zeitkonstanten immer besser?“ Die bessere Frage lautet: „Welche Zeitskalen enthält die Aufgabe, und wie kann das Modell diese Zeitskalen effizient abbilden?“ Genau diese Perspektive macht adaptive Zeit zu einem wichtigen Zukunftsthema jenseits klassischer [[Deep Learning|Deep-Learning]]-Standardarchitekturen.

{{BR}}
= Anwendungen =

{{BR}}
== Eventbasierte Bildverarbeitung ==

[[Event-basierte Kamera|Eventbasierte Kameras]] senden keine vollständigen Bilder mit fester Bildrate, sondern Ereignisse bei Änderungen. SNNs passen gut zu solchen Daten, weil beide ereignisbasiert arbeiten. Adaptive Zeitkonstanten können helfen, schnelle Bewegungen, langsame Objektverläufe und Hintergrundrauschen unterschiedlich zu behandeln.

{{BR}}
== Audio, Sprache und Biosignale ==

[[Audioverarbeitung|Audiosignale]], [[Spracherkennung|Sprache]], [[EEG|EEG]] und [[ECG|ECG]] enthalten zeitliche Muster auf mehreren Skalen. Ein einzelner Laut kann sehr kurz sein, ein Wort dauert länger, ein Rhythmus noch länger. Adaptive Zeitkonstanten können ein Netz befähigen, diese Ebenen gleichzeitig zu analysieren.

{{BR}}
== Robotik und Regelung ==

In der [[Robotik|Robotik]] müssen Systeme schnell auf neue Sensordaten reagieren, dürfen aber längerfristige Kontextinformationen nicht verlieren. Ein Greifroboter muss etwa kurze Kontakte erkennen und gleichzeitig die Bewegung über Zeit stabil planen. Hier können SNNs mit passenden Zeitkonstanten zur [[Echtzeitverarbeitung|Echtzeitverarbeitung]] beitragen.

{{BR}}
== Edge AI und neuromorphe Chips ==

Bei [[Edge AI|Edge AI]] laufen KI-Modelle direkt auf Geräten wie Sensoren, Wearables oder eingebetteten Systemen. SNNs sind dort interessant, weil sie bei sparsem Ereignisfluss wenig Aktivität erzeugen können. Adaptive Zeitkonstanten können dazu beitragen, dass ein Modell mit weniger Zeitschritten auskommt oder Energie spart, sofern die Hardware diese Dynamik effizient unterstützt.

{{BR}}
= Chancen, Grenzen und Forschungsperspektiven =

{{BR}}
== Chancen ==

Adaptive Zeitkonstanten eröffnen die Möglichkeit, SNNs stärker an die zeitliche Struktur einer Aufgabe anzupassen. Sie können die Vielfalt der Neuronen erhöhen, die Lernfähigkeit verbessern und in manchen Aufgaben die Zahl der benötigten Zeitschritte senken. Außerdem helfen sie, SNNs als dynamische Systeme zu verstehen, nicht nur als klassische neuronale Netze mit binären Aktivierungen.

{{BR}}
== Grenzen ==

Die Technik hat auch Grenzen. Das Training kann rechenintensiv sein, besonders bei langen Sequenzen. Viele neuromorphe Chips unterstützen nicht jede Form lernbarer oder dynamischer Parameter. Außerdem sind faire Vergleiche mit klassischen [[RNN|RNNs]], [[LSTM|LSTMs]], [[Transformer|Transformern]] und konvertierten SNNs anspruchsvoll. Eine hohe Genauigkeit allein reicht nicht aus; wichtig sind auch [[Latenz|Latenz]], [[Energieverbrauch|Energieverbrauch]], Speicherbedarf, Robustheit und Interpretierbarkeit.

{{BR}}
== Forschungsperspektiven ==

Zukünftige Forschung wird vermutlich stärker untersuchen, wie adaptive Zeitkonstanten mit [[Neuronale Architektur-Suche|Neuronaler Architektur-Suche]], [[Online-Lernen|Online-Lernen]], [[Continual Learning|Continual Learning]], [[neuromorphe Hardware|neuromorpher Hardware]] und [[Explainable AI|Explainable AI]] verbunden werden können. Besonders spannend ist die Frage, wie ein SNN selbst erkennt, ob eine Aufgabe schnelle Reaktion, längeres Gedächtnis oder mehrere Zeitskalen gleichzeitig verlangt.

{{BR}}
= Merksätze =

# [[Spiking Neural Networks|SNNs]] verarbeiten Information über [[Spike|Spikes]] und deren Zeitpunkte.
# [[Zeitkonstante|Zeitkonstanten]] steuern, wie lange ein Neuron oder eine Synapse vergangene Signale behält.
# Eine große [[Membranzeitkonstante|Membranzeitkonstante]] unterstützt längere Integration, eine kleine unterstützt schnelle Reaktion.
# [[Adaptive Zeitkonstanten|Adaptive Zeitkonstanten]] können fest heterogen, lernbar oder dynamisch sein.
# Der Nutzen adaptiver Zeit hängt stark von Aufgabe, Daten, Training und [[Hardware|Hardware]] ab.

{{BR}}
= Interaktive Aufgaben =

{{BR}}
== Quiz: Teste Dein Wissen ==

{{MC}}

'''Was beschreibt die Membranzeitkonstante in einem LIF-Neuron?'''
(Wie schnell das Membranpotential ohne neue Eingänge abklingt)
(!Wie viele Schichten ein Netzwerk besitzt)
(!Welche Programmiersprache für das Training verwendet wird)
(!Wie groß der Trainingsdatensatz ist)

{{E}}
<br>

{{MC}}

'''Was ist ein Spike in einem Spiking Neural Network?'''
(Ein kurzes diskretes Ereignis zur Informationsübertragung)
(!Ein dauerhaftes kontinuierliches Ausgangssignal)
(!Ein Bildfilter in einem Convolutional Network)
(!Ein Speicherbereich auf einer Grafikkarte)

{{E}}
<br>

{{MC}}

'''Welche Wirkung hat eine größere Membranzeitkonstante typischerweise?'''
(Das Neuron behält Information länger)
(!Das Neuron vergisst Eingangssignale sofort)
(!Das Netz hat automatisch weniger Parameter)
(!Die Lernrate wird immer null)

{{E}}
<br>

{{MC}}

'''Warum sind Surrogate Gradients beim Training von SNNs nützlich?'''
(Sie erleichtern das Lernen trotz nicht differenzierbarer Spike-Funktion)
(!Sie ersetzen alle Trainingsdaten durch Zufallszahlen)
(!Sie verhindern grundsätzlich jeden Energieverbrauch)
(!Sie machen Schwellenwerte mathematisch bedeutungslos)

{{E}}
<br>

{{MC}}

'''Was bedeutet adaptive Zeit in SNNs am treffendsten?'''
(Das Modell passt relevante Zeitskalen an die Aufgabe an)
(!Die physikalische Zeit läuft im Computer schneller)
(!Alle Neuronen verwenden immer dieselbe feste Zeitskala)
(!Spikes werden durch normale Pixel ersetzt)

{{E}}
<br>

{{MC}}

'''Welche Aufgabe profitiert besonders von mehreren Zeitskalen?'''
(Analyse zeitlicher Sensor- oder Biosignale)
(!Sortieren einer alphabetischen Wortliste ohne Kontext)
(!Speichern einer einzelnen konstanten Zahl)
(!Drucken eines statischen Textdokuments)

{{E}}
<br>

{{MC}}

'''Welche Aussage zum LIF-Modell ist richtig?'''
(Das Neuron integriert Eingänge, verliert Spannung und feuert bei Schwellenüberschreitung)
(!Das Neuron besitzt keine interne Dynamik)
(!Das Neuron feuert bei jedem Zeitschritt automatisch)
(!Das Neuron kann kein Membranpotential speichern)

{{E}}
<br>

{{MC}}

'''Was ist ein mögliches Risiko lernbarer Zeitkonstanten?'''
(Sie können das Training instabiler machen, wenn sie schlecht parametrisiert sind)
(!Sie verbieten grundsätzlich jedes Lernen von Gewichten)
(!Sie entfernen alle Spikes aus dem Modell)
(!Sie machen Eingangsdaten überflüssig)

{{E}}
<br>

{{MC}}

'''Welche Rolle kann neuronale Adaptation in SNNs spielen?'''
(Sie verändert die Reaktion eines Neurons nach vorherigen Spikes)
(!Sie löscht alle Synapsen dauerhaft)
(!Sie verhindert jede Form von Kurzzeitgedächtnis)
(!Sie ersetzt das Netzwerk durch eine Tabellenkalkulation)

{{E}}
<br>

{{MC}}

'''Warum sind SNNs für neuromorphe Hardware interessant?'''
(Sie können ereignisbasiert und potenziell energieeffizient arbeiten)
(!Sie benötigen immer vollständige Bilder mit maximaler Bildrate)
(!Sie können nur auf Großrechnern ausgeführt werden)
(!Sie verbieten parallele Verarbeitung)

{{E}}
<br>

{{BR}}
== Memory ==

<div class="memo-quiz">
{|
|-
| Membranzeitkonstante || Dauer der Spannungsintegration
|-
| Synapsenzeitkonstante || Abklingen des Eingangsstroms
|-
| Spike || Diskretes neuronales Ereignis
|-
| Schwellenwert || Auslöser eines Feuersignals
|-
| Surrogate Gradient || Näherung für das Training
|-
| Neuronale Adaptation || Veränderung nach Aktivität
|}
{{E}}
<br>

{{BR}}
== Drag and Drop ==

<div class="lueckentext-quiz">

{| class="wikitable"
! Ordne die richtigen Begriffe zu.
! Thema
|-
| '''Schnelle Zeitkonstante'''
| Reaktion auf kurz aufeinanderfolgende Ereignisse
|-
| '''Langsame Zeitkonstante'''
| Integration über längere Zeiträume
|-
| '''Reset'''
| Rücksetzen nach einem Spike
|-
| '''Surrogate Gradient'''
| Training trotz harter Spike-Schwelle
|-
| '''Neuromorphe Hardware'''
| Ereignisbasierte energieeffiziente Ausführung

|}
{{E}}

<br>
<br />

{{BR}}
== Kreuzworträtsel ==

<div class="kreuzwort-quiz">
{|
|-
| Spike || Wie heißt ein kurzes diskretes Ereignis in einem SNN?
|-
| Schwelle || Was muss das Membranpotential überschreiten, damit ein Neuron feuert?
|-
| Membran || Welcher Teil des Neuronenmodells besitzt ein Potential?
|-
| Leck || Was sorgt im LIF-Modell für das Abklingen des Potentials?
|-
| Synapse || Was verbindet Neuronen und überträgt gewichtete Signale?
|-
| Adaptation || Wie nennt man die Veränderung der Reaktion nach Aktivität?
|}
{{E}}
<br>

{{BR}}
== LearningApps ==

<iframe> https://learningapps.org/index.php?s=Adaptive+Zeitkonstanten+in+Spiking+Neural+Networks </iframe>

{{BR}}
== Lückentext ==

<quiz display=simple>
{'''Vervollständige den Text.'''<br>
|type="{}"}
In einem Spiking Neural Network werden Informationen durch zeitlich platzierte { Spikes } verarbeitet. Ein LIF-Neuron sammelt Eingangssignale im { Membranpotential }. Erreicht dieses Potential einen Schwellenwert, entsteht ein { Ausgangsspike }. Die Membranzeitkonstante bestimmt, wie schnell gespeicherte Information { abklingt }. Eine große Zeitkonstante begünstigt längere { Integration }. Eine kleine Zeitkonstante unterstützt schnelle { Reaktion }. Lernbare Zeitkonstanten werden im Training ähnlich wie { Parameter } angepasst. Surrogate Gradients helfen, die nicht differenzierbare Spike-Entscheidung für das { Lernen } nutzbar zu machen.
</quiz>

<br>

{{BR}}
= Offene Aufgaben =

{{BR}}
=== Leicht ===

# [[Begriffslandkarte]]: Erstelle eine Begriffslandkarte mit den Begriffen [[Spike]], [[Membranpotential]], [[Schwellenwert]], [[Reset]], [[Zeitkonstante]] und [[Synapse]].
# [[Alltagsanalogie]]: Erkläre die Membranzeitkonstante mit einer eigenen Analogie, zum Beispiel Eimer, Akku, Sanduhr oder Gedächtnis.
# [[Videonotizen]]: Schau das eingebundene Video und notiere fünf Aussagen, die Dir helfen, adaptive Zeitkonstanten zu verstehen.
# [[Mini-Glossar]]: Schreibe ein Glossar mit acht Fachbegriffen aus diesem aiMOOC und je einer verständlichen Erklärung.

{{BR}}
=== Standard ===

# [[Diagramm erstellen]]: Zeichne den Verlauf eines Membranpotentials über zehn Zeitschritte mit zwei Eingangsspikes, einem Leck und einem Reset.
# [[Vergleichsanalyse]]: Vergleiche ein klassisches künstliches Neuron mit einem LIF-Neuron in einer Tabelle mit mindestens sechs Kriterien.
# [[Anwendungsbeispiel]]: Wähle eine Anwendung aus [[Robotik]], [[Audioverarbeitung]], [[EEG]] oder [[Event-basierte Kamera]] und begründe, welche Zeitskalen dort wichtig sind.
# [[Parameterexperiment]]: Simuliere gedanklich oder mit einem einfachen Skript zwei Neuronen mit kleiner und großer Zeitkonstante und beschreibe die Unterschiede.

{{BR}}
=== Schwer ===

# [[Forschungsfrage]]: Formuliere eine eigene Forschungsfrage dazu, wann lernbare Zeitkonstanten gegenüber festen Zeitkonstanten Vorteile haben.
# [[Modellkritik]]: Diskutiere, warum adaptive Zeitkonstanten nicht automatisch besser sind als feste Parameter.
# [[Hardwarebezug]]: Recherchiere ein Beispiel für [[neuromorphe Hardware]] und prüfe, welche neuronalen Dynamiken dort unterstützt werden.
# [[Projektentwurf]]: Entwirf ein kleines SNN-Projekt zur Klassifikation zeitlicher Daten und beschreibe Daten, Modell, Zeitkonstanten, Trainingsmethode und Auswertung.

{{:Offene Aufgabe - MOOC erstellen}}

{{BR}}
= Lernkontrolle =

# [[Transfer Robotik]]: Ein Roboter soll schnelle Hindernisse erkennen und zugleich eine langsam veränderliche Umgebungskarte nutzen. Erkläre, warum mehrere Zeitkonstanten sinnvoll sein können.
# [[Fehleranalyse]]: Ein SNN mit sehr großer Zeitkonstante reagiert träge und verwechselt aktuelle Ereignisse mit alten Signalen. Entwickle zwei mögliche Verbesserungen.
# [[Vergleich]]: Begründe, wann ein klassisches [[LSTM]] und wann ein SNN mit adaptiven Neuronen für eine Sequenzaufgabe geeigneter sein könnte.
# [[Energie und Latenz]]: Erkläre den Zusammenhang zwischen Spike-Aktivität, Zeitschritten, Energieverbrauch und Entscheidungsgeschwindigkeit.
# [[Modellentscheidung]]: Du erhältst eventbasierte Kameradaten mit schnellen und langsamen Bewegungen. Entwirf eine SNN-Architektur mit unterschiedlichen Zeitskalen und begründe sie.
# [[Interpretation]]: Ein trainiertes SNN zeigt, dass frühe Schichten kurze und spätere Schichten lange Zeitkonstanten gelernt haben. Interpretiere diesen Befund fachlich.

<br>
<br>

{{BR}}
= Lernnachweis =

Für einen Lernnachweis zu '''Adaptive Zeitkonstanten in Spiking Neural Networks''' sollte deutlich werden, dass Du nicht nur Begriffe wiedergeben, sondern Zusammenhänge anwenden kannst.

# [[Fachliche Erklärung]]: Du erklärst [[Spiking Neural Networks]], [[LIF]], [[Membranzeitkonstante]], [[Synapsenzeitkonstante]], [[Reset]] und [[Surrogate Gradient]] korrekt.
# [[Modellverständnis]]: Du zeigst an einem Diagramm, wie Eingangsspikes, Leck, Schwelle und Reset zusammenwirken.
# [[Zeitliche Analyse]]: Du begründest, welche Zeitkonstanten für eine konkrete Aufgabe sinnvoll sind.
# [[Transferleistung]]: Du überträgst das Konzept auf eine Anwendung wie [[Robotik]], [[Biosignalverarbeitung]], [[Audioverarbeitung]] oder [[Event-basierte Kamera]].
# [[Kritische Bewertung]]: Du benennst Chancen, Grenzen und mögliche Instabilitäten lernbarer Zeitkonstanten.
# [[Eigenes Produkt]]: Du erstellst ein eigenes Lernprodukt, zum Beispiel eine Simulation, ein Erklärvideo, ein Poster, ein Notebook oder einen Projektplan.

<br>
<br>

{{BR}}
= OERs zum Thema =

<iframe> https://de.m.wikipedia.org/wiki/Gepulste_neuronale_Netze </iframe>

{{BR}}
== Weitere offene Quellen und Forschungshinweise ==

# [[Gepulste neuronale Netze]]: Der Wikipedia-Artikel bietet einen Einstieg in SNNs und ihre Einordnung als gepulste neuronale Netze.
# [[Aktionspotential]]: Der Wikipedia-Artikel erklärt die biologische Grundlage elektrischer Signale in Nervenzellen.
# [[Neuromorphes Computing]]: Recherchiere, wie Chips und Sensoren aufgebaut werden, die sich an neuronalen Systemen orientieren.
# [[Lernbare Membranzeitkonstante]]: Lies Zusammenfassungen wissenschaftlicher Arbeiten zu PLIF-Neuronen und prüfe, welche Datensätze verwendet wurden.
# [[LSNN]]: Untersuche, wie adaptive Neuronen längere zeitliche Abhängigkeiten in rekurrenten SNNs unterstützen.
# [https://arxiv.org/abs/2007.05785 Fang et al.: Incorporating Learnable Membrane Time Constant to Enhance Learning of Spiking Neural Networks]
# [https://arxiv.org/abs/1803.09574 Bellec et al.: Long short-term memory and learning-to-learn in networks of spiking neurons]
# [https://www.iis.fraunhofer.de/en/ff/kom/ai/snn.html Fraunhofer IIS: Spiking Neural Networks]
# [https://commons.wikimedia.org/wiki/File:Leaky_Integrate-and-Fire_model_neuron_%28schematic%29.jpg Wikimedia Commons: Leaky Integrate-and-Fire model neuron]
# [https://commons.wikimedia.org/wiki/File:Action_potential.svg Wikimedia Commons: Action potential]

<br>

{{BR}}
= Links =

{| align=center
{{:D-Tab}}
'''[[Adaptive Zeitkonstanten in Spiking Neural Networks]]'''
# [[Spiking Neural Networks]]
# [[Gepulste neuronale Netze]]
# [[Leaky Integrate-and-Fire]]
# [[Membranpotential]]
# [[Membranzeitkonstante]]
# [[Synapsenzeitkonstante]]
# [[Surrogate Gradient]]
# [[Neuromorphes Computing]]
# [[Event-basierte Kamera]]
# [[Biosignalverarbeitung]]
# [[Robotik]]
# [[Edge AI]]
|}

[[Kategorie:Künstliche Intelligenz]]
[[Kategorie:Informatik]]
[[Kategorie:Neuroinformatik]]
[[Kategorie:Neuronale Netze]]
[[Kategorie:Maschinelles Lernen]]
[[Kategorie:Neuromorphes Computing]]
[[Kategorie:Oberstufe]]
[[Kategorie:Studium]]
[[Kategorie:Berufliche Bildung]]

{{BR}}
= aiMOOC-Projekte =
[[Kategorie:AI_MOOC]] [[Kategorie:GPT aiMOOC]]
{{MT}}

Adaptive Zeitkonstanten in Spiking Neural Networks - Versionsgeschichte

Glanz: aiMOOC über GPT aiMOOC Action erstellt