Zum Inhalt springen

Von Sequenzen zu Netzwerken - Graph-SSMs

Aus MOOCsWiki Staging

Von Sequenzen zu Netzwerken - Graph-SSMs



Einleitung

Von Sequenzen zu Netzwerken / Neuronale Netze neu denken führt Dich in ein aktuelles Zukunftsthema der Künstlichen Intelligenz ein: Graph-SSMs. Der zentrale Gedanke lautet: Viele neuronale Netze behandeln Daten so, als lägen sie als Sequenz vor, also als geordnete Reihe von Zeichen, Messwerten oder Zeitschritten. Sprache, Musik, Sensordaten und DNA-Sequenzen passen gut zu diesem Bild. Doch viele reale Systeme sind keine einfachen Reihen, sondern Netzwerke: Straßen, Moleküle, soziale Beziehungen, Wissensgraphen, Stromnetze, Lieferketten oder Kommunikationssysteme bestehen aus Knoten und Kanten.

Graph-SSMs verbinden zwei Denkweisen: Zustandsmodelle beschreiben, wie sich ein innerer Zustand über die Zeit verändert, während Graph Neural Networks Beziehungen zwischen Objekten modellieren. Dadurch entsteht eine Modellklasse, die nicht nur lineare Reihen verarbeitet, sondern auch komplexe, gerichtete und dynamische Strukturen. Dieser aiMOOC hilft Dir, die Grundideen, Chancen, Grenzen und Anwendungen zu verstehen. Er eignet sich für die gymnasiale Oberstufe, berufliche Bildung, Informatik-Kurse und den Einstieg ins Studium.

{{#ev:youtube|https://www.youtube.com/watch?v=8xzye1bZKrg%7C500%7Ccenter}}


Lernziele

  1. Sequenzmodell: Du erklärst, warum viele KI-Modelle Daten als Sequenzen verarbeiten und wo diese Sichtweise an Grenzen stößt.
  2. Graph: Du beschreibst Knoten, Kanten, Richtungen und Adjazenzmatrizen als Grundbausteine vernetzter Daten.
  3. Zustandsraumdarstellung: Du verstehst, dass ein State-Space-Model mit einem inneren Zustand arbeitet, der Informationen über frühere Eingaben speichert.
  4. Graph Neural Network: Du erklärst das Prinzip des Message Passing als Informationsaustausch zwischen benachbarten Knoten.
  5. Graph-SSMs: Du beschreibst, wie Zustandsmodelle auf Graphen erweitert werden können.
  6. Gerichteter Graph: Du begründest, warum gerichtete Beziehungen für viele reale Probleme wichtig sind.
  7. KI-Ethik: Du reflektierst Datenqualität, Erklärbarkeit, Fairness und Risiken beim Einsatz solcher Modelle.


Grundidee: Von der Sequenz zum Netzwerk


Sequenzen: Die klassische Sicht vieler Modelle

Eine Sequenz ist eine geordnete Folge. In der Sprachverarbeitung kann eine Sequenz aus Wörtern oder Tokens bestehen. In der Zeitreihenanalyse kann eine Sequenz aus Messwerten bestehen, etwa Temperaturwerten, Stromverbrauch oder Börsenkursen. Viele bekannte Modellfamilien der KI sind aus dieser Perspektive entstanden: rekurrente neuronale Netze verarbeiten Eingaben Schritt für Schritt, Convolutional Neural Networks nutzen lokale Muster und Transformer vergleichen Positionen einer Sequenz mithilfe von Attention.

Diese Sichtweise ist stark, wenn eine natürliche Reihenfolge vorliegt. Doch sie wird problematisch, wenn die Daten keine einfache Linie bilden. Ein Molekül besteht nicht aus einer einzigen sinnvollen Reihenfolge von Atomen, sondern aus Bindungen. Ein Verkehrsnetz besteht nicht nur aus einer Liste von Straßen, sondern aus Kreuzungen, Einbahnstraßen, Abzweigungen und Rückstaueffekten. Ein Wissensgraph besteht aus Entitäten und Relationen. In solchen Fällen kann eine künstlich gewählte Reihenfolge wichtige Strukturinformationen verdecken.


Netzwerke: Die Graph-Sicht auf Daten

Ein Graph besteht aus Knoten und Kanten. Knoten können Personen, Orte, Wörter, Molekülatome, Server, Sensoren oder Konzepte sein. Kanten beschreiben Beziehungen zwischen ihnen: Freundschaft, Straße, chemische Bindung, Verweis, Datenfluss oder Ursache-Wirkung-Zusammenhang. Ein gerichteter Graph verwendet Pfeile. Dadurch wird deutlich, dass eine Beziehung eine Richtung hat. Eine Straße kann eine Einbahnstraße sein, ein Zitat verweist von einem Text auf einen anderen, ein Signal fließt von einem Sensor zu einer Steuerung.

Das Denken in Graphen verändert die Modellierung. Nicht mehr die Position in einer Liste ist entscheidend, sondern die Nachbarschaft und Struktur. Ein Knoten kann Informationen von seinen Nachbarn erhalten, Kanten können unterschiedlich stark oder unterschiedlich gerichtet sein, und manche Abhängigkeiten reichen über viele Schritte im Netzwerk. Genau hier wird die Verbindung von Graph Neural Networks und State-Space-Models interessant.


Was sind State-Space-Models?

Ein State-Space-Model beschreibt ein System über einen verborgenen oder inneren Zustand. Dieser Zustand fasst relevante Informationen über die Vergangenheit zusammen. In der klassischen Zustandsraumdarstellung wird ein dynamisches System häufig mit Zustands-, Eingangs- und Ausgangsgrößen beschrieben. Eine vereinfachte Schreibweise lautet:

x(t+1) = A·x(t) + B·u(t)

y(t) = C·x(t) + D·u(t)

Dabei steht x für den Zustand, u für die Eingabe und y für die Ausgabe. Die Matrizen A, B, C und D beschreiben, wie sich der Zustand verändert und wie aus Zustand und Eingabe eine Ausgabe entsteht. In modernen neuronalen SSMs werden solche Übergänge nicht nur als starre mathematische Modelle genutzt, sondern als lernbare Bausteine in Deep-Learning-Architekturen.

Der Vorteil eines Zustandsmodells besteht darin, dass nicht jede frühere Eingabe einzeln gespeichert werden muss. Stattdessen hält das Modell einen komprimierten Speicher. Das ist besonders wichtig, wenn Sequenzen sehr lang sind. Moderne SSM-Architekturen wie Mamba und verwandte Modelle verwenden selektive Mechanismen: Das Modell entscheidet abhängig von der aktuellen Eingabe, welche Informationen gespeichert, weitergegeben oder vergessen werden. Dadurch entstehen effiziente Alternativen oder Ergänzungen zu Transformer-Architekturen, besonders bei langen Kontexten.

{{#ev:youtube|https://www.youtube.com/watch?v=vrF3MtGwD0Y%7C500%7Ccenter}}


Graph Neural Networks als Brücke

Graph Neural Networks lernen direkt auf Graphstrukturen. Die Grundidee heißt häufig Message Passing. Jeder Knoten besitzt Merkmale, zum Beispiel Zahlenwerte, Kategorien oder Einbettungen. In mehreren Schritten sendet jeder Knoten Informationen an seine Nachbarn und empfängt Informationen von ihnen. Danach werden die Knotenrepräsentationen aktualisiert. So kann ein Knoten nicht nur seine eigenen Merkmale, sondern auch den Kontext seiner Umgebung berücksichtigen.

Ein wichtiges Prinzip ist Permutationsequivarianz. Die Nummerierung der Knoten darf das Ergebnis nicht willkürlich verändern. Wenn Du dieselben Knoten anders nummerierst, sollte das Modell dieselbe Struktur erkennen. Das ist ein zentraler Unterschied zu einer einfachen Sequenz, bei der die Position in der Reihenfolge eine feste Bedeutung hat.

{{#ev:youtube|https://www.youtube.com/watch?v=mOwtY04ZLi4%7C500%7Ccenter}}

Gleichzeitig haben klassische GNNs Grenzen. Bei sehr vielen Message-Passing-Schritten können Informationen verwischen; dieses Problem wird oft Oversmoothing genannt. Außerdem ist es schwierig, sehr weit entfernte Knoten effizient zu verbinden. Bei gerichteten Graphen kommt hinzu, dass die Richtung einer Kante eine echte Bedeutung hat. Eine Beziehung von A nach B ist nicht automatisch dasselbe wie eine Beziehung von B nach A.


Graph-SSMs: Zustandsmodelle für komplexe und gerichtete Strukturen


Die Kernidee

Graph-SSMs übertragen die Idee des inneren Zustands auf Graphen. Statt nur eine lineare Sequenz Schritt für Schritt zu verarbeiten, kann jeder Knoten einen eigenen Zustand besitzen. Kanten bestimmen, wie Zustände zwischen Knoten beeinflusst werden. Ein Graph-SSM kann dadurch modellieren, wie Informationen durch ein Netzwerk fließen, wie sie sich zeitlich verändern und wie lokale Ereignisse globale Wirkungen erzeugen.

Ein anschauliches Beispiel ist ein Straßennetz. Jede Kreuzung ist ein Knoten, jede Straße eine Kante. Der Zustand eines Knotens kann Verkehrsdichte, Wartezeit oder Stauwahrscheinlichkeit beschreiben. Gerichtete Kanten modellieren Fahrtrichtungen. Ein Graph-SSM kann nun lernen, wie sich ein Stau von einer Straße zur nächsten ausbreitet, wie Signale verzögert wirken und welche Knoten besonders wichtig für eine Vorhersage sind.


Gerichtete Graphen sind mehr als Linien mit Pfeilen

Bei gerichteten Graphen ist die Richtung Teil der Information. Das ist entscheidend für Ursache-Wirkung-Beziehungen, Hyperlinks, Transportnetze, Zitationsnetzwerke, Lieferketten, neuronale Signalwege und Datenflüsse. In einem gerichteten Graphen kann ein Knoten viele eingehende oder ausgehende Kanten haben. Der Eingangsgrad beschreibt, wie viele Kanten auf einen Knoten zeigen; der Ausgangsgrad beschreibt, wie viele Kanten von ihm wegführen.

Graph-SSMs für gerichtete Strukturen müssen deshalb unterscheiden, ob Informationen entlang einer Kante vorwärts, rückwärts oder in beiden Richtungen fließen. Eine einfache Symmetrieannahme reicht oft nicht aus. Ein Empfehlungssystem, ein Verkehrsnetz oder ein Wissensgraph verliert an Bedeutung, wenn alle Beziehungen so behandelt werden, als seien sie ungerichtet.


Architektur-Ideen für Graph-SSMs

Es gibt nicht nur eine einzige Graph-SSM-Architektur. Die Forschung untersucht mehrere Wege, Zustandsmodelle mit Graphen zu verbinden. Manche Ansätze verwenden spektrale Methoden und arbeiten mit der Graph-Laplacian oder verwandten Matrizen. Andere Ansätze betten SSM-Bausteine in Message-Passing-Schritte ein. Wieder andere definieren lokale oder globale Zustände, die sich über Kanten dynamisch aktualisieren. Eine wichtige Herausforderung ist dabei, lange Abhängigkeiten zu erfassen, ohne die Rechenkosten stark ansteigen zu lassen.

Ein mögliches Denkmodell lautet: Jeder Knoten hat einen Speicher, jede Kante steuert einen Teil des Informationsflusses, und das gesamte Netzwerk entwickelt sich Schritt für Schritt weiter. Die Aufgabe des Modells besteht darin, aus diesem dynamischen Prozess eine Ausgabe zu erzeugen, zum Beispiel eine Klassifikation, eine Vorhersage oder eine Empfehlung.


Verhältnis zu Transformern

Transformer sind sehr erfolgreich, weil Attention flexible Beziehungen zwischen Positionen einer Sequenz modelliert. Dafür können die Rechenkosten bei langen Sequenzen stark steigen. SSMs zielen darauf, lange Abhängigkeiten mit einem kompakten Zustand effizient zu verarbeiten. GNNs wiederum modellieren explizit vernetzte Strukturen. Graph-SSMs sind deshalb kein einfacher Ersatz für Transformer, sondern eine andere Modellierungsstrategie: Sie fragen nicht nur, welche Tokens zueinander passen, sondern wie Zustände über ein Netzwerk wandern und sich verändern.


Wissenschaftlicher Hintergrund

Die moderne Forschung zu State-Space-Models in neuronalen Netzen wurde durch Modelle wie S4, S5 und Mamba stark beeinflusst. Selektive SSMs erlauben es, Zustandsübergänge abhängig von der Eingabe zu steuern. Dadurch kann ein Modell wichtige Informationen behalten und irrelevante Informationen vergessen. Parallel dazu entwickelt sich die Forschung zu Graph Neural Networks weiter, insbesondere für lange Abhängigkeiten, dynamische Graphen und gerichtete Strukturen.

  1. Mamba: Selektive SSM-Architektur für lange Sequenzen und effiziente Verarbeitung. Mamba: Linear-Time Sequence Modeling with Selective State Spaces
  2. Graph State Space Convolution: Ansatz, der SSM-Ideen auf graphstrukturierte Daten erweitert. What Can We Learn from State Space Models for Machine Learning on Graphs?
  3. GrassNet: Graph State Space Network als Verbindung von Graphlernen und strukturierten Zustandsmodellen. GrassNet: State Space Model Meets Graph Neural Network
  4. Directed Graph SSMs: Aktuelle Ansätze untersuchen, wie SSMs explizit für gerichtete Graphen gestaltet werden können. State Space Models over Directed Graphs
  5. Message Passing: Viele Graph-Modelle beruhen darauf, Informationen entlang von Kanten auszutauschen. A Gentle Introduction to Graph Neural Networks


Anwendungen


Verkehrsnetze

In einem Verkehrsnetz sind Kreuzungen oder Straßenabschnitte Knoten, Verbindungen sind Kanten. Die Richtung einer Straße, die Kapazität einer Fahrspur und Ampelphasen können als Kanten- oder Knotenmerkmale einfließen. Ein Graph-SSM kann lernen, wie sich Stau, Geschwindigkeit und Nachfrage über Zeit und Raum ausbreiten. Das ist relevant für Routenplanung, Stadtentwicklung und öffentliche Verkehrssysteme.


Moleküle und Biologie

In der Chemoinformatik können Atome als Knoten und chemische Bindungen als Kanten modelliert werden. Ein Graphmodell kann Eigenschaften eines Moleküls vorhersagen, etwa Löslichkeit, Stabilität oder mögliche Wechselwirkungen. Wenn zusätzlich Zustände dynamisch modelliert werden, können Graph-SSMs bei Prozessen helfen, in denen sich Wechselwirkungen zeitlich verändern, zum Beispiel bei Simulationen oder biologischen Signalwegen.


Wissensgraphen und Empfehlungssysteme

Ein Wissensgraph enthält Entitäten wie Personen, Orte, Produkte oder Konzepte und Relationen zwischen ihnen. Viele Relationen sind gerichtet: Ein Autor schreibt ein Buch, ein Unternehmen besitzt eine Marke, ein Artikel verlinkt auf eine Quelle. Graph-SSMs können helfen, Zustände über solche Beziehungen zu verbreiten und dabei Kontext, Richtung und zeitliche Veränderung zu berücksichtigen.


Energie, Klima und Industrie

Stromnetze, Produktionsketten, Sensornetzwerke und Klimadaten sind häufig vernetzt und dynamisch. Ein Sensor liefert nicht nur einen isolierten Messwert, sondern steht in Beziehung zu anderen Sensoren. Graph-SSMs können solche Zusammenhänge als dynamisches System betrachten. Dadurch werden Vorhersagen, Anomalieerkennung und Steuerungsaufgaben möglich.


Chancen und Grenzen


Chancen

  1. Effizienz: SSMs können lange Abhängigkeiten mit einem kompakten Zustand verarbeiten.
  2. Strukturwissen: Graphen machen Beziehungen explizit, statt sie nur aus einer Sequenzordnung abzuleiten.
  3. Richtungsinformation: Gerichtete Kanten ermöglichen die Modellierung asymmetrischer Beziehungen.
  4. Dynamik: Zustände können zeitliche Veränderung und Netzwerkfluss gemeinsam beschreiben.
  5. Interpretierbarkeit: Knoten, Kanten und Zustände bieten Anknüpfungspunkte für Erklärungen, auch wenn tiefe Modelle weiterhin komplex bleiben.


Grenzen und offene Fragen

  1. Erklärbarkeit: Auch Graph-SSMs können schwer nachvollziehbare interne Repräsentationen lernen.
  2. Datenqualität: Fehlerhafte Kanten, fehlende Richtungen oder verzerrte Daten können zu falschen Schlüssen führen.
  3. Skalierbarkeit: Sehr große dynamische Graphen stellen hohe Anforderungen an Speicher, Training und Auswertung.
  4. Benchmark: Da Graph-SSMs ein junges Forschungsfeld sind, müssen faire Vergleichsmaßstäbe weiterentwickelt werden.
  5. Stabilität: Zustandsmodelle müssen so gestaltet werden, dass Informationen nicht explodieren, verschwinden oder unkontrolliert zirkulieren.
  6. KI-Ethik: Anwendungen in sozialen Netzwerken, Mobilität oder Medizin erfordern Datenschutz, Fairness und verantwortliche Kontrolle.


Mini-Projekt: Ein eigenes Graph-SSM entwerfen

Stell Dir vor, Du sollst ein kleines Graph-SSM-Konzept entwerfen. Du brauchst dafür keinen vollständigen Programmcode. Wichtig ist, dass Du die Modellidee sauber beschreibst.

  1. Domäne: Wähle ein vernetztes System, zum Beispiel Schulwege, Lieferketten, Musikempfehlungen, ein soziales Netzwerk oder ein Molekül.
  2. Knoten: Lege fest, was ein Knoten bedeutet und welche Merkmale er trägt.
  3. Kante: Lege fest, was eine Kante bedeutet, ob sie gerichtet ist und welche Merkmale sie hat.
  4. Zustand: Beschreibe, welche Information im Zustand eines Knotens gespeichert werden soll.
  5. Update-Regel: Erkläre, wie sich Zustände durch Nachbarn, Kanten und neue Eingaben verändern.
  6. Ausgabe: Definiere, was das Modell vorhersagen oder entscheiden soll.
  7. Evaluation: Überlege, woran Du erkennst, ob das Modell sinnvoll arbeitet.
  8. Ethik: Prüfe, ob Datenschutz, Verzerrungen oder falsche Entscheidungen problematisch sein könnten.


Begriffe im Überblick

  1. Sequenz: Eine geordnete Folge von Elementen, etwa Wörter, Tokens oder Messwerte.
  2. Graph: Eine Struktur aus Knoten und Kanten.
  3. Knoten: Ein Objekt im Graphen, zum Beispiel Person, Sensor, Atom oder Kreuzung.
  4. Kante: Eine Beziehung zwischen zwei Knoten.
  5. Gerichteter Graph: Ein Graph, dessen Kanten eine Richtung besitzen.
  6. Zustand: Ein interner Speicher eines Modells oder Systems.
  7. State-Space-Model: Ein Modell, das Zustandsänderungen und Ausgaben über Gleichungen oder lernbare Übergänge beschreibt.
  8. Graph Neural Network: Ein neuronales Netz, das auf Graphen lernt.
  9. Message Passing: Informationsaustausch zwischen Knoten entlang von Kanten.
  10. Permutationsequivarianz: Eigenschaft, dass eine Umbenennung der Knoten nicht willkürlich das Ergebnis verändert.
  11. Graph-SSM: Eine Modellfamilie, die Zustandsmodelle mit Graphstrukturen verbindet.
  12. Oversmoothing: Problem, bei dem Knotenrepräsentationen durch viele Graph-Updates zu ähnlich werden.


Interaktive Aufgaben


Quiz: Teste Dein Wissen

Was beschreibt ein Graph in der Graphentheorie? (Knoten und Kanten mit Beziehungen) (!Eine reine Liste ohne Verbindungen) (!Eine Tabelle mit nur einer Spalte) (!Ein einzelnes neuronales Gewicht)




Warum sind gerichtete Graphen für Graph-SSMs wichtig? (Sie modellieren asymmetrische Beziehungen) (!Sie entfernen alle Kanten aus dem Netzwerk) (!Sie machen jeden Knoten identisch) (!Sie verhindern zeitliche Veränderungen)




Was ist der Zustand in einem State-Space-Model? (Ein verdichteter Speicher relevanter Informationen) (!Eine zufällige Beschriftung der Ausgabe) (!Eine feste Liste aller Trainingsdaten) (!Eine Farbe für Knoten im Diagramm)




Was unterscheidet SSMs grundlegend von klassischer Attention? (SSMs aktualisieren einen Zustand schrittweise) (!SSMs ignorieren alle früheren Eingaben) (!SSMs bestehen nur aus Bildern) (!SSMs können keine Sequenzen verarbeiten)




Welche Aufgabe hat Message Passing in einem GNN? (Informationen zwischen Nachbarn übertragen) (!Alle Knoten aus dem Graphen löschen) (!Eine Sequenz alphabetisch sortieren) (!Die Lernrate zufällig auswählen)




Was bedeutet Permutationsequivarianz bei Graphmodellen? (Eine Umbenennung der Knoten führt zu passend umbenannten Ergebnissen) (!Die Reihenfolge der Knoten muss immer alphabetisch sein) (!Das Modell darf nur drei Knoten verwenden) (!Alle Kanten müssen ungerichtet sein)




Warum ist reines Sequenzdenken bei vielen realen Daten begrenzt? (Viele Daten besitzen keine natürliche lineare Reihenfolge) (!Sequenzen enthalten niemals Informationen) (!Sequenzen können nur aus Zahlen bestehen) (!Sequenzen sind immer kürzer als Graphen)




Was ist eine Kante in einem Graphen? (Eine Beziehung zwischen zwei Knoten) (!Der Trainingsfehler eines Modells) (!Der Name einer Programmiersprache) (!Ein einzelner Wert ohne Bedeutung)




Was leistet ein selektives SSM? (Es entscheidet inputabhängig was gespeichert oder vergessen wird) (!Es speichert grundsätzlich jede Eingabe unverändert) (!Es arbeitet nur mit ungerichteten Tabellen) (!Es ersetzt jeden Knoten durch ein Bild)




Welche Anwendung passt besonders gut zu gerichteten Graphen? (Verkehrsfluss in einem Straßennetz) (!Ein isoliertes Pixel ohne Nachbarschaft) (!Eine zufällige Münze ohne Verlauf) (!Ein einzelnes Wort ohne Kontext)





Memory

Zustand Speicher des Systems
Knoten Einheit im Graphen
Kante Beziehung im Graphen
Richtung Asymmetrischer Fluss
Message Passing Informationsaustausch
Mamba Selektives SSM





Drag and Drop

Ordne die richtigen Begriffe zu. Thema
Knoten Einheit mit Merkmalen
Kante Verbindung oder Beziehung
Zustand Interner Speicher
Richtung Asymmetrischer Informationsfluss
Vorhersage Gesuchter Output






Kreuzworträtsel

Zustand Wie nennt man den internen Speicher eines dynamischen Modells?
Knoten Wie heißt ein Punkt in einem Graphen?
Kante Wie heißt eine Verbindung in einem Graphen?
Mamba Wie heißt eine bekannte Architektur selektiver State Space Models?
Graph Welche Struktur besteht aus Knoten und Kanten?
Matrix Womit werden Zustandsraummodelle häufig kompakt beschrieben?





LearningApps


Lückentext

Vervollständige den Text.

Ein Graph besteht aus

und Kanten. Eine gerichtete Kante besitzt eine

. Ein State-Space-Model arbeitet mit einem inneren

. Dieser Zustand speichert relevante Informationen aus der

. Moderne SSMs können lange

effizient verarbeiten. Ein selektives Modell kann wichtige Informationen

. Unwichtige Informationen kann es kontrolliert

. Graph Neural Networks nutzen häufig

. Dabei werden Informationen entlang von

ausgetauscht. Graph-SSMs verbinden Zustandsmodelle mit

. Besonders wichtig sind sie bei dynamischen und

Strukturen. Verantwortliche KI braucht gute Daten und

.




Offene Aufgaben


Leicht

  1. Graph zeichnen: Zeichne ein kleines Netzwerk aus Deinem Alltag, zum Beispiel Freundschaften, Schulwege oder Geräte im Haushalt. Markiere Knoten und Kanten.
  2. Gerichteter Graph: Wandle Dein Netzwerk in einen gerichteten Graphen um. Erkläre, welche Beziehungen eine Richtung haben und warum.
  3. Zustand beschreiben: Wähle einen Knoten und beschreibe, welche Informationen als Zustand gespeichert werden könnten.
  4. Sequenz und Netzwerk: Vergleiche eine Liste mit einem Graphen. Notiere, welche Informationen in der Liste verloren gehen können.


Standard

  1. Verkehrsmodell: Entwirf ein Modell für ein kleines Straßennetz mit fünf Knoten. Beschreibe, wie sich ein Stau über Kanten ausbreiten könnte.
  2. Message Passing: Simuliere auf Papier zwei Message-Passing-Schritte. Jeder Knoten darf eine kurze Nachricht an seine Nachbarn senden.
  3. Wissensgraph: Erstelle einen Wissensgraphen zu einem Unterrichtsthema. Verwende gerichtete Kanten wie erklärt, verursacht oder gehört zu.
  4. Modellvergleich: Vergleiche Transformer, GNN und SSM in einer Tabelle. Achte auf Datenform, Stärken, Schwächen und typische Anwendungen.


Schwer

  1. Graph State Space Models: Entwickle ein Konzept für ein Graph-SSM. Definiere Knoten, Kanten, Zustände, Eingaben, Update-Regel und Ausgabe.
  2. Dynamisches System: Analysiere ein reales dynamisches Netzwerk, etwa Energieversorgung, Lieferkette oder Kommunikation. Beschreibe mögliche Rückkopplungen.
  3. Kritische Bewertung: Bewerte, welche Fehler entstehen können, wenn ein gerichteter Graph fälschlich als ungerichtet behandelt wird.
  4. KI-Ethik: Untersuche ein Anwendungsszenario, in dem Graph-SSMs sensible Daten verarbeiten könnten. Entwickle Regeln für Datenschutz und Fairness.




Text bearbeiten Bild einfügen Video einbetten Interaktive Aufgaben erstellen



Lernkontrolle

  1. Transfer Verkehrsnetz: Erkläre, warum ein Verkehrsnetz nicht sinnvoll als einfache Sequenz modelliert werden sollte. Zeige, welche Rolle gerichtete Kanten spielen.
  2. Modellarchitektur: Entwerfe eine einfache Architektur, die GNN und SSM kombiniert. Begründe, welche Aufgabe der Zustand und welche Aufgabe die Kanten übernehmen.
  3. Fehleranalyse: Beschreibe ein Szenario, in dem schlechte Graphdaten zu einer falschen KI-Entscheidung führen. Erkläre, wie Du den Fehler entdecken könntest.
  4. Vergleich Attention und Zustand: Vergleiche die Idee von Attention mit der Idee eines kompakten Zustands. Nenne je einen Vorteil und eine Grenze.
  5. Anwendung Molekül: Übertrage die Graph-SSM-Idee auf Moleküle. Erläutere, was Knoten, Kanten, Zustände und Ausgabe sein könnten.
  6. Ethik und Verantwortung: Entwickle Leitfragen, mit denen ein Team prüfen kann, ob der Einsatz eines Graph-SSM verantwortbar ist.




Lernnachweis

Für einen überzeugenden Lernnachweis zeigst Du nicht nur Faktenwissen, sondern verstehst die Zusammenhänge zwischen Sequenzen, Graphen und Zustandsmodellen.

  1. Begriffssicherheit: Du verwendest die Begriffe Sequenz, Graph, Knoten, Kante, Zustand, SSM, GNN und Graph-SSM korrekt.
  2. Strukturverständnis: Du kannst erklären, warum manche Daten besser als Graph statt als Sequenz modelliert werden.
  3. Anwendungsbezug: Du entwickelst ein eigenes Beispiel mit Knoten, Kanten, Zuständen und Vorhersageziel.
  4. Transferleistung: Du überträgst die Graph-SSM-Idee auf ein neues Problemfeld.
  5. Kritische Reflexion: Du erkennst Grenzen, Risiken und ethische Anforderungen.
  6. Darstellung: Du präsentierst Deine Ergebnisse nachvollziehbar, mit Skizze, kurzer Modellbeschreibung und begründeter Bewertung.




OERs zum Thema



Weiterführende freie Medien

  1. Künstliches neuronales Netz: Ein Wikimedia-Commons-Diagramm veranschaulicht Schichten, Knoten und Verbindungen eines einfachen künstlichen neuronalen Netzes. Commons-Datei
  2. Gerichteter Graph: Ein Wikimedia-Commons-Diagramm zeigt einen gerichteten Graphen mit Pfeilen. Commons-Datei
  3. Zustandsraumdarstellung: Ein Wikimedia-Commons-Diagramm zeigt den Aufbau eines typischen State-Space-Models. Commons-Datei


Links


aiMOOC-Projekte





Schulfach+

Prüfungsliteratur 2026
Bundesland Bücher Kurzbeschreibung
Baden-Württemberg

Abitur

  1. Der zerbrochne Krug - Heinrich von Kleist
  2. Heimsuchung - Jenny Erpenbeck

Mittlere Reife

  1. Der Markisenmann - Jan Weiler oder Als die Welt uns gehörte - Liz Kessler
  2. Ein Schatten wie ein Leopard - Myron Levoy oder Pampa Blues - Rolf Lappert

Abitur Dorfrichter-Komödie über Wahrheit/Schuld; Roman über einen Ort und deutsche Geschichte. Mittlere Reife Wahllektüren (Roadtrip-Vater-Sohn / Jugendroman im NS-Kontext / Coming-of-age / Provinzroman).

Bayern

Abitur

  1. Der zerbrochne Krug - Heinrich von Kleist
  2. Heimsuchung - Jenny Erpenbeck

Abitur Lustspiel über Machtmissbrauch und Recht; Roman als Zeitschnitt deutscher Geschichte an einem Haus/Grundstück.

Berlin/Brandenburg

Abitur

  1. Der zerbrochne Krug - Heinrich von Kleist
  2. Woyzeck - Georg Büchner
  3. Der Biberpelz - Gerhart Hauptmann
  4. Heimsuchung - Jenny Erpenbeck

Abitur Gerichtskomödie; soziales Drama um Ausbeutung/Armut; Komödie/Satire um Diebstahl und Obrigkeit; Roman über Erinnerungsräume und Umbrüche.

Bremen

Abitur

  1. Nach Mitternacht - Irmgard Keun
  2. Mario und der Zauberer - Thomas Mann
  3. Emilia Galotti - Gotthold Ephraim Lessing oder Miss Sara Sampson - Gotthold Ephraim Lessing

Abitur Roman in der NS-Zeit (Alltag, Anpassung, Angst); Novelle über Verführung/Massenpsychologie; bürgerliche Trauerspiele (Moral, Macht, Stand).

Hamburg

Abitur

  1. Der zerbrochne Krug - Heinrich von Kleist
  2. Das kunstseidene Mädchen - Irmgard Keun

Abitur Justiz-/Machtkritik als Komödie; Großstadtroman der Weimarer Zeit (Rollenbilder, Aufstiegsträume, soziale Realität).

Hessen

Abitur

  1. Der zerbrochne Krug - Heinrich von Kleist
  2. Woyzeck - Georg Büchner
  3. Heimsuchung - Jenny Erpenbeck
  4. Der Prozess - Franz Kafka

Abitur Gerichtskomödie; Fragmentdrama über Gewalt/Entmenschlichung; Erinnerungsroman über deutsche Brüche; moderner Roman über Schuld, Macht und Bürokratie.

Niedersachsen

Abitur

  1. Der zerbrochene Krug - Heinrich von Kleist
  2. Das kunstseidene Mädchen - Irmgard Keun
  3. Die Marquise von O. - Heinrich von Kleist
  4. Über das Marionettentheater - Heinrich von Kleist

Abitur Schwerpunkt auf Drama/Roman sowie Kleist-Prosatext und Essay (Ehre, Gewalt, Unschuld; Ästhetik/„Anmut“).

Nordrhein-Westfalen

Abitur

  1. Der zerbrochne Krug - Heinrich von Kleist
  2. Heimsuchung - Jenny Erpenbeck

Abitur Komödie über Wahrheit und Autorität; Roman als literarische „Geschichtsschichtung“ an einem Ort.

Saarland

Abitur

  1. Heimsuchung - Jenny Erpenbeck
  2. Furor - Lutz Hübner und Sarah Nemitz
  3. Bahnwärter Thiel - Gerhart Hauptmann

Abitur Erinnerungsroman an einem Ort; zeitgenössisches Drama über Eskalation/Populismus; naturalistische Novelle (Pflicht/Überforderung/Abgrund).

Sachsen (berufliches Gymnasium)

Abitur

  1. Der zerbrochne Krug - Heinrich von Kleist
  2. Woyzeck - Georg Büchner
  3. Irrungen, Wirrungen - Theodor Fontane
  4. Der gute Mensch von Sezuan - Bertolt Brecht
  5. Heimsuchung - Jenny Erpenbeck
  6. Der Trafikant - Robert Seethaler

Abitur Mischung aus Klassiker-Drama, sozialem Drama, realistischem Roman, epischem Theater und Gegenwarts-/Erinnerungsroman; zusätzlich Coming-of-age im historischen Kontext.

Sachsen-Anhalt

Abitur

  1. (keine fest benannte landesweite Pflichtlektüre veröffentlicht; Themenfelder)

Abitur Schwerpunktsetzung über Themenfelder (u. a. Literatur um 1900; Sprache in politisch-gesellschaftlichen Kontexten), ohne feste Einzeltitel.

Schleswig-Holstein

Abitur

  1. Der zerbrochne Krug - Heinrich von Kleist
  2. Heimsuchung - Jenny Erpenbeck

Abitur Recht/Gerechtigkeit und historische Tiefenschichten eines Ortes – umgesetzt über Drama und Gegenwartsroman.

Thüringen

Abitur

  1. (keine fest benannte landesweite Pflichtlektüre veröffentlicht; Orientierung am gemeinsamen Aufgabenpool)

Abitur In der Praxis häufig Orientierung am gemeinsamen Aufgabenpool; landesweite Einzeltitel je nach Vorgabe/Handreichung nicht einheitlich ausgewiesen.

Mecklenburg-Vorpommern

Abitur

  1. (Quelle aktuell technisch nicht abrufbar; Beteiligung am gemeinsamen Aufgabenpool bekannt)

Abitur Land beteiligt sich am länderübergreifenden Aufgabenpool; konkrete, veröffentlichte Einzeltitel konnten hier nicht ausgelesen werden.

Rheinland-Pfalz

Abitur

  1. (keine landesweit einheitliche Pflichtlektüre; schulische Auswahl)

Abitur Keine landesweite Einheitsliste; Auswahl kann schul-/kursbezogen erfolgen.




aiMOOCs



aiMOOC Projekte












THE MONKEY DANCE



{{#ev:youtube | https://youtu.be/rFhZlg38Zf8?si=9KdMNZYRkRD81YTo%7C 500 | center}}

The Monkey DanceaiMOOCs

  1. Trust Me It's True: #Verschwörungstheorie #FakeNews
  2. Gregor Samsa Is You: #Kafka #Verwandlung
  3. Who Owns Who: #Musk #Geld
  4. Lump: #Trump #Manipulation
  5. Filth Like You: #Konsum #Heuchelei
  6. Your Poverty Pisses Me Off: #SozialeUngerechtigkeit #Musk
  7. Hello I'm Pump: #Trump #Kapitalismus
  8. Monkey Dance Party: #Lebensfreude
  9. God Hates You Too: #Religionsfanatiker
  10. You You You: #Klimawandel #Klimaleugner
  11. Monkey Free: #Konformität #Macht #Kontrolle
  12. Pure Blood: #Rassismus
  13. Monkey World: #Chaos #Illusion #Manipulation
  14. Uh Uh Uh Poor You: #Kafka #BerichtAkademie #Doppelmoral
  15. The Monkey Dance Song: #Gesellschaftskritik
  16. Will You Be Mine: #Love
  17. Arbeitsheft
  18. And Thanks for Your Meat: #AntiFactoryFarming #AnimalRights #MeatIndustry


© The Monkey Dance on Spotify, YouTube, Amazon, MOOCit, Deezer, ...

{{#ev:youtube | https://youtu.be/Ob7etf9QuBo?si=t_NBA71bWg3Rq3LI%7C 500 | center}}



Text bearbeiten Bild einfügen Video einbetten Interaktive Aufgaben erstellen