Wenn die KI unsere Infrastruktur übernimmt - Neuronale Netze neu denken

Einleitung

{{#ev:youtube|https://www.youtube.com/watch?v=5zzLV8THpPQ%7C500%7Ccenter}}

Wenn die KI unsere Infrastruktur übernimmt ist ein Zukunftsthema an der Schnittstelle von Informatik, Technik, Ethik, Politischer Bildung, Cybersecurity und Ingenieurwissenschaft. Das Video „Neuronale Netze neu denken“ führt in die Frage ein, was passiert, wenn neuronale Netze nicht nur Vorhersagen liefern, sondern zunehmend in Steuerungssysteme eingreifen: in Stromnetze, Wasserversorgung, Verkehrssysteme, Krankenhäuser, Telekommunikation oder Logistik.

Dieser aiMOOC hilft Dir, den Schritt von KI als Prognosewerkzeug zu KI als Teil autonomer Regelkreise zu verstehen. Du lernst, warum KI in kritischen Infrastrukturen große Chancen bietet, aber auch besondere Risiken erzeugt. Dabei geht es nicht darum, KI pauschal als Gefahr oder Lösung zu betrachten. Entscheidend ist, wie Algorithmen, Sensoren, Aktoren, Leitstellen, Mensch-Maschine-Schnittstellen, IT-Sicherheit, Governance und Verantwortung zusammenspielen.

Lernziele

Nach diesem aiMOOC kannst Du erklären, was kritische Infrastrukturen sind, wie künstliche neuronale Netze Muster in Daten erkennen und warum ihr Einsatz in sicherheitsrelevanten Systemen besondere Anforderungen stellt. Du kannst den Unterschied zwischen Vorhersage, Entscheidungsunterstützung und autonomer Steuerung beschreiben. Außerdem kannst Du Chancen, Risiken und Schutzmaßnahmen von KI-Systemen in Energie, Verkehr, Wasser, Gesundheit und digitaler Infrastruktur beurteilen.

Du entwickelst dabei nicht nur Fachwissen, sondern auch Urteilskraft: Wann ist KI hilfreich? Wann muss ein Mensch eingreifen? Welche Daten dürfen genutzt werden? Wie verhindert man, dass ein Blackbox-System unbemerkt falsche Entscheidungen trifft? Und wie kann eine Gesellschaft sicherstellen, dass lebenswichtige Versorgungssysteme auch bei Fehlern, Angriffen oder Krisen funktionieren?

Ausgangsfrage

Die zentrale Frage lautet: Was verändert sich, wenn KI-Systeme von der Analyse zur Steuerung kritischer Infrastrukturen übergehen?

Diese Frage ist anspruchsvoll, weil sie mehrere Ebenen verbindet. Auf der technischen Ebene geht es um Maschinelles Lernen, Regelungstechnik, SCADA, digitale Zwillinge, Edge Computing, Anomalieerkennung und cyber-physische Systeme. Auf der gesellschaftlichen Ebene geht es um Sicherheit, Resilienz, Transparenz, Demokratie, Recht, Ethik und Vertrauen. Auf der praktischen Ebene geht es um Notfallpläne, Tests, Zuständigkeiten, Dokumentation und den Umgang mit Unsicherheit.

Kritische Infrastrukturen verstehen

Was sind kritische Infrastrukturen?

Kritische Infrastrukturen sind Organisationen, Anlagen und Dienste, die für das Funktionieren einer Gesellschaft besonders wichtig sind. Wenn sie ausfallen, können schwere Folgen entstehen: Versorgungsengpässe, Störungen der öffentlichen Sicherheit, wirtschaftliche Schäden oder Gefahren für Gesundheit und Leben. Typische Bereiche sind Energieversorgung, Wasserversorgung, Gesundheitswesen, Transport, Telekommunikation, Informationstechnik, Ernährung, Finanzwesen und Öffentliche Verwaltung.

Kritische Infrastrukturen sind häufig vernetzt. Ein Stromausfall kann Kommunikationsnetze beeinträchtigen. Probleme in der Telekommunikation können Leitstellen, Krankenhäuser oder Zahlungssysteme stören. Ein Ausfall der Wasserversorgung kann Gesundheit und Hygiene gefährden. Diese gegenseitigen Abhängigkeiten nennt man Interdependenz. Gerade deshalb kann KI in solchen Systemen nicht isoliert betrachtet werden: Ein scheinbar lokaler Fehler kann Kettenreaktionen auslösen.

Warum KI hier interessant ist

KI-Systeme können große Datenmengen auswerten, Muster erkennen und Zustände prognostizieren. In kritischen Infrastrukturen kann das helfen, Störungen früher zu erkennen, Wartung besser zu planen, Energieflüsse zu optimieren oder ungewöhnliche Vorgänge in Netzwerken zu entdecken. Ein neuronales Netz kann zum Beispiel lernen, welche Sensordaten typisch für einen normalen Anlagenbetrieb sind. Weicht das Muster ab, kann es auf einen Defekt, eine Überlastung, einen Messfehler oder einen Angriff hinweisen.

KI wird besonders interessant, wenn sie nicht nur Meldungen erzeugt, sondern Handlungen vorbereitet: Lasten verschieben, Ampelphasen anpassen, Pumpen regulieren, Wartung priorisieren oder Notfallroutinen auslösen. Genau hier beginnt die kritische Debatte. Denn je näher KI an die reale Steuerung von Infrastruktur rückt, desto wichtiger werden Sicherheit, Nachvollziehbarkeit, Robustheit und menschliche Verantwortung.

Neuronale Netze neu denken

Vom Mustererkennen zur Systemsteuerung

Ein künstliches neuronales Netz besteht aus miteinander verbundenen Recheneinheiten, die Eingaben verarbeiten und Ausgaben erzeugen. Es wird mit Daten trainiert und passt seine internen Gewichte so an, dass es Muster erkennt. In vielen Alltagsanwendungen wird KI für Klassifikation oder Vorhersage genutzt: Ist ein Bild ein Verkehrszeichen? Wird eine Maschine bald ausfallen? Ist ein Netzwerkverkehr ungewöhnlich?

In kritischen Infrastrukturen reicht Vorhersage allein oft nicht aus. Entscheidend ist, ob und wie aus einer Vorhersage eine Handlung wird. Ein System kann zum Beispiel eine Störung im Stromnetz prognostizieren. Es kann aber auch vorschlagen, bestimmte Lasten umzuschalten. Noch weitergehend wäre ein System, das diese Umschaltung selbst vornimmt. Dieser Übergang von der Analyse zur Handlung ist der Kern des Themas.

Drei Stufen des KI-Einsatzes

Vorhersage: Die KI erkennt Muster und berechnet Wahrscheinlichkeiten, zum Beispiel eine Ausfallwahrscheinlichkeit für eine Pumpe.
Entscheidungsunterstützung: Die KI schlägt Optionen vor, aber ein Mensch oder ein Regelwerk entscheidet, was geschieht.
Autonome Steuerung: Die KI löst innerhalb definierter Grenzen selbst eine Steuerungsaktion aus.

Diese Stufen sind nicht nur technisch verschieden, sondern auch ethisch und rechtlich. Eine falsche Wetterprognose für ein privates Picknick ist ärgerlich. Eine falsche Steuerungsentscheidung in einem Stromnetz kann schwerwiegende Folgen haben. Deshalb müssen KI-Systeme in kritischen Infrastrukturen anders bewertet werden als einfache Empfehlungssysteme.

Der geschlossene Regelkreis

Ein Regelkreis besteht aus Messung, Auswertung, Entscheidung, Handlung und Rückmeldung. In technischen Anlagen messen Sensoren den Zustand eines Systems. Eine Steuerung bewertet die Daten. Aktoren führen eine Handlung aus. Danach wird erneut gemessen, ob die Handlung die gewünschte Wirkung hatte.

Wenn KI Teil eines geschlossenen Regelkreises wird, kann sie Muster in Echtzeit nutzen. Das kann Systeme schneller und effizienter machen. Es kann aber auch neue Fehlerquellen schaffen: Daten können falsch, verzögert oder manipuliert sein. Modelle können auf Situationen treffen, die im Training nicht vorkamen. Ein System kann eine scheinbar optimale Entscheidung treffen, die in einem größeren Zusammenhang problematisch ist.

Technische Grundlagen

SCADA und industrielle Steuerung

SCADA steht für „Supervisory Control and Data Acquisition“. Gemeint sind Systeme zur Überwachung, Steuerung und Datenerfassung in technischen Anlagen. Sie werden unter anderem in Stromnetzen, Wasserwerken, Produktionsanlagen, Verkehrssystemen und Pipelines eingesetzt. Ein SCADA-System verbindet Feldgeräte, Steuerungen, Leitstellen und Bedienoberflächen.

In klassischen SCADA-Umgebungen sind viele Komponenten auf Verfügbarkeit und lange Lebensdauer ausgelegt. Manche Anlagen laufen viele Jahre oder Jahrzehnte. Wenn moderne KI-Komponenten ergänzt werden, treffen neue Software-Methoden auf ältere industrielle Systeme. Dadurch entstehen Chancen, aber auch Integrationsprobleme. Besonders wichtig sind klare Schnittstellen, sichere Datenwege, Zugriffskontrollen und Notfallverfahren.

Digitale Zwillinge

Ein digitaler Zwilling ist ein digitales Modell eines realen Systems. Er kann verwendet werden, um Zustände zu simulieren, Wartung zu planen oder Szenarien zu testen. In Verbindung mit KI kann ein digitaler Zwilling helfen, Entscheidungen vorab zu prüfen. Bevor eine KI eine reale Anlage beeinflusst, kann sie in einer Simulation zeigen, welche Folgen eine Handlung wahrscheinlich hätte.

Digitale Zwillinge sind besonders wertvoll, wenn reale Experimente riskant oder teuer wären. Niemand möchte ein Stromnetz absichtlich instabil machen, nur um eine Steuerungsstrategie zu testen. Im digitalen Modell können solche Szenarien kontrolliert untersucht werden. Trotzdem bleibt wichtig: Ein Modell ist nie die Wirklichkeit selbst. Es muss regelmäßig überprüft, aktualisiert und begrenzt werden.

Edge Computing und Echtzeitdaten

Edge Computing bedeutet, dass Daten möglichst nahe an ihrem Entstehungsort verarbeitet werden. In kritischen Infrastrukturen kann das wichtig sein, weil Entscheidungen manchmal schnell getroffen werden müssen. Wenn eine Anlage erst Daten an ein entferntes Rechenzentrum sendet und auf eine Antwort wartet, kann wertvolle Zeit verloren gehen. Lokale KI-Modelle können schneller reagieren und auch dann weiterarbeiten, wenn die Verbindung gestört ist.

Gleichzeitig muss Edge Computing gut abgesichert sein. Verteilte KI-Komponenten erhöhen die Zahl der Geräte, die gewartet, aktualisiert und geschützt werden müssen. Jedes Gerät kann ein möglicher Angriffspunkt sein. Deshalb gehören Patchmanagement, Identitätsmanagement, Verschlüsselung, Monitoring und physische Sicherheit zusammen.

Reinforcement Learning und Grenzen der Autonomie

Reinforcement Learning ist ein Verfahren des maschinellen Lernens, bei dem ein System durch Rückmeldungen lernt, welche Handlungen zu guten Ergebnissen führen. In Simulationen kann das beeindruckende Leistungen ermöglichen. In kritischen Infrastrukturen ist jedoch Vorsicht nötig. Ein KI-Agent darf nicht unkontrolliert in realen Anlagen experimentieren, weil Fehlentscheidungen reale Schäden verursachen können.

Sinnvoller ist häufig eine begrenzte Nutzung: Training in Simulationen, Prüfung durch Fachleute, strenge Betriebsgrenzen, menschliche Freigabe und kontinuierliches Monitoring. Autonomie bedeutet dann nicht, dass die KI alles darf. Sie bedeutet, dass sie innerhalb klar definierter, überprüfter und abschaltbarer Grenzen handeln kann.

Chancen von KI in kritischen Infrastrukturen

Früherkennung von Störungen

KI kann helfen, Störungen früher zu erkennen, weil sie viele Datenquellen gleichzeitig auswertet. In einem Stromnetz können Messwerte aus Umspannwerken, Wetterdaten, Verbrauchsmuster und Netzfrequenzen kombiniert werden. In einem Wasserwerk können Druck, Durchfluss, chemische Werte und Pumpenleistung überwacht werden. In Krankenhäusern können technische Systeme Ausfälle wichtiger Geräte früh melden.

Der Nutzen entsteht nicht nur durch Geschwindigkeit, sondern durch Mustererkennung. Manche Störungen kündigen sich durch kleine Abweichungen an, die für Menschen schwer zu erkennen sind. KI kann hier unterstützen, solange die Ergebnisse nachvollziehbar überprüft werden.

Vorausschauende Wartung

Vorausschauende Wartung nutzt Daten, um Wartungsbedarf frühzeitig zu erkennen. Statt Bauteile nur nach festen Zeitplänen auszutauschen oder erst nach einem Ausfall zu reagieren, können Betreiber Wartung gezielter planen. Das spart Ressourcen und erhöht die Verfügbarkeit.

In kritischen Infrastrukturen ist vorausschauende Wartung besonders relevant, weil Ausfälle große Folgen haben können. Ein defekter Transformator, eine ausfallende Pumpe oder ein gestörter Server kann viele Menschen betreffen. KI kann solche Risiken senken, wenn Datenqualität, Modellgrenzen und Verantwortlichkeiten klar geregelt sind.

Effizienz und Nachhaltigkeit

KI kann helfen, Energie, Wasser und Verkehr effizienter zu nutzen. In Stromnetzen kann sie Lastspitzen erkennen und Flexibilität besser koordinieren. In Gebäuden kann sie Heiz- und Kühlsysteme optimieren. Im Verkehr kann sie Staus verringern, wenn Ampelschaltungen besser auf tatsächliche Verkehrsflüsse reagieren.

Effizienz darf aber nicht der einzige Maßstab sein. Kritische Infrastrukturen müssen vor allem zuverlässig und sicher sein. Ein System, das im Normalbetrieb sehr effizient ist, aber bei Störungen instabil wird, ist nicht verantwortbar. Deshalb muss KI immer mit Resilienz zusammen gedacht werden.

Risiken und Herausforderungen

Blackbox-Probleme

Viele neuronale Netze sind schwer zu verstehen. Sie können sehr gute Ergebnisse liefern, ohne dass klar ist, warum sie in einem bestimmten Fall eine bestimmte Ausgabe erzeugen. Dieses Problem nennt man Blackbox. In kritischen Infrastrukturen ist das heikel. Betreiber müssen nachvollziehen können, warum ein System warnt, empfiehlt oder handelt.

Erklärbare KI versucht, Entscheidungen verständlicher zu machen. Sie kann zeigen, welche Daten besonders wichtig waren oder welche Muster erkannt wurden. Erklärbarkeit löst aber nicht alle Probleme. Eine Erklärung kann unvollständig, irreführend oder zu stark vereinfacht sein. Deshalb braucht es zusätzlich Tests, Audits, Monitoring und menschliche Fachkompetenz.

Datenqualität und Datenverzerrung

KI-Systeme lernen aus Daten. Wenn Trainingsdaten unvollständig, veraltet oder verzerrt sind, kann das Modell falsche Schlüsse ziehen. In kritischen Infrastrukturen ist das besonders gefährlich, weil seltene Extremsituationen oft nur wenige Daten liefern. Ein System kann im Normalbetrieb zuverlässig wirken, aber bei Hochwasser, Hitzewellen, Cyberangriffen oder ungewöhnlichen Lastspitzen versagen.

Auch Datenverschiebung ist wichtig. Ein Modell wird mit Daten aus der Vergangenheit trainiert. Wenn sich Technik, Nutzung, Klima, Bedrohungslage oder Verbrauchsmuster ändern, passen alte Muster nicht mehr. Deshalb müssen Modelle regelmäßig überprüft und gegebenenfalls neu trainiert werden.

Cyberangriffe auf KI-Systeme

KI kann kritische Infrastrukturen schützen, aber KI kann selbst angegriffen werden. Angreifer können versuchen, Trainingsdaten zu manipulieren, Eingabedaten zu verfälschen oder Modelle zu täuschen. Auch die Verbindung zwischen Sensoren, Steuerungen und KI-Komponenten kann zum Ziel werden. Ein falscher Messwert kann zu einer falschen Entscheidung führen, wenn das System ihn ungeprüft übernimmt.

Wichtig ist deshalb eine Kombination aus Cybersecurity und Safety. Cybersecurity schützt vor absichtlichen Angriffen. Safety schützt vor unbeabsichtigten Schäden. In kritischen Infrastrukturen müssen beide Perspektiven gemeinsam gedacht werden.

Automationsbias

Automationsbias bedeutet, dass Menschen technischen Systemen zu stark vertrauen. Wenn eine KI eine Empfehlung ausgibt, kann es passieren, dass Bedienpersonen diese Empfehlung übernehmen, ohne sie kritisch zu prüfen. Das ist besonders problematisch, wenn die KI meist zuverlässig arbeitet. Gerade hohe Zuverlässigkeit kann dazu führen, dass seltene Fehler übersehen werden.

Gute Gestaltung bedeutet daher nicht nur bessere Algorithmen. Es braucht Schulung, klare Rollen, verständliche Benutzeroberflächen und eine Kultur, in der Nachfragen erlaubt sind. Der Mensch darf nicht zum passiven Zuschauer werden, sondern muss sinnvoll eingebunden bleiben.

Kaskadeneffekte

Kritische Infrastrukturen sind miteinander verbunden. Ein Fehler in einem System kann andere Systeme beeinflussen. Wenn eine KI etwa im Energiesektor eine ungünstige Entscheidung trifft, kann das Kommunikation, Verkehr oder Gesundheitsversorgung beeinträchtigen. Solche Kaskadeneffekte sind schwer vorherzusagen.

Deshalb müssen KI-Systeme nicht nur lokal optimieren. Sie müssen in größere Systemzusammenhänge eingebettet sein. Eine Entscheidung, die für ein einzelnes Teilsystem optimal wirkt, kann für das Gesamtsystem schädlich sein. Hier sind Systemdenken, Simulation und interdisziplinäre Zusammenarbeit entscheidend.

Schutzprinzipien für verantwortliche KI-Steuerung

Menschliche Aufsicht

In sicherheitsrelevanten Bereichen ist menschliche Aufsicht zentral. Es gibt verschiedene Modelle: Beim Mensch-in-der-Schleife muss ein Mensch eine Entscheidung aktiv freigeben. Beim Mensch-über-der-Schleife überwacht ein Mensch das System und kann eingreifen. Beim Mensch-außerhalb-der-Schleife handelt das System weitgehend selbstständig. Für kritische Infrastrukturen muss sehr sorgfältig begründet werden, welche Form der Aufsicht geeignet ist.

Menschliche Aufsicht ist nur wirksam, wenn Menschen genug Zeit, Informationen und Befugnisse haben. Eine Notfalloberfläche, die unverständlich ist, hilft wenig. Ebenso problematisch ist eine Aufsicht, bei der Menschen formal verantwortlich sind, aber praktisch keine echte Eingriffsmöglichkeit haben.

Fail-safe und Fallback

Ein verantwortliches System muss sicher scheitern können. Fail-safe bedeutet, dass ein System bei Fehlern in einen möglichst sicheren Zustand übergeht. Fallback bezeichnet eine Rückfalllösung, zum Beispiel manuelle Steuerung, ein einfacheres Regelwerk oder eine unabhängige Ersatzkomponente.

Für KI in kritischen Infrastrukturen gilt: Wenn das Modell unsicher ist, die Datenlage unklar wird oder ungewöhnliche Zustände auftreten, muss das System begrenzen, warnen oder zurückschalten können. Autonomie ohne Abschalt- und Rückfallkonzept ist nicht verantwortbar.

Redundanz und Diversität

Redundanz bedeutet, dass wichtige Funktionen mehrfach vorhanden sind. Wenn ein System ausfällt, kann ein anderes übernehmen. In KI-Systemen kann Redundanz auch bedeuten, dass mehrere Verfahren Ergebnisse vergleichen. Ein neuronales Netz kann durch klassische Regeln, physikalische Modelle oder menschliche Plausibilitätsprüfungen ergänzt werden.

Diversität ist dabei wichtig. Wenn alle Systeme auf denselben Daten, derselben Architektur und denselben Annahmen beruhen, können sie denselben Fehler machen. Unterschiedliche Perspektiven erhöhen die Chance, Fehler früh zu erkennen.

Transparenz und Dokumentation

Betreiber kritischer Infrastrukturen müssen wissen, welche KI-Komponenten in ihrem System arbeiten, mit welchen Daten sie trainiert wurden, welche Grenzen sie haben und wer verantwortlich ist. Dazu gehören technische Dokumentation, Risikobewertungen, Testberichte, Änderungsprotokolle und Notfallpläne.

Transparenz bedeutet nicht, dass jede mathematische Einzelheit jedem Menschen sofort verständlich sein muss. Sie bedeutet, dass Entscheidungen prüfbar, Zuständigkeiten klar und Risiken offen benannt sind. Ohne Dokumentation wird aus technischer Komplexität organisatorische Blindheit.

Kontinuierliches Monitoring

KI-Systeme verändern sich nicht automatisch zum Besseren. Auch ein gut getestetes Modell kann durch neue Daten, neue Bedrohungen oder veränderte Systembedingungen unpassend werden. Deshalb braucht es kontinuierliches Monitoring. Es muss überwacht werden, ob das Modell weiterhin korrekt arbeitet, ob Fehlalarme zunehmen, ob neue Angriffsmuster auftreten oder ob Betriebsbedingungen außerhalb des Trainingsbereichs liegen.

Monitoring ist nicht nur eine technische Aufgabe. Ergebnisse müssen bewertet, eskaliert und dokumentiert werden. Wer auf Warnungen nicht reagiert, hat durch Monitoring wenig gewonnen.

Rechtliche und ethische Orientierung

EU AI Act und Risikoperspektive

Der EU AI Act ordnet KI-Systeme nach Risiken. Für bestimmte Anwendungen, die Sicherheit, Gesundheit oder Grundrechte betreffen, gelten besondere Anforderungen. KI-Systeme in Bereichen wie kritischer Infrastruktur können je nach Einsatzkontext als Hochrisiko-Systeme gelten. Dann sind unter anderem Risikomanagement, Datenqualität, technische Dokumentation, Transparenz, menschliche Aufsicht, Genauigkeit, Robustheit und Cybersicherheit wichtig.

Für Dich als Lernende oder Lernender ist daran entscheidend: KI wird nicht nur danach bewertet, ob sie technisch funktioniert. Sie wird danach bewertet, welche Folgen ihr Einsatz für Menschen und Gesellschaft haben kann. Ein KI-System im Freizeitbereich hat andere Anforderungen als ein System, das Wasser, Strom oder medizinische Versorgung beeinflusst.

NIS2, KRITIS und Cybersicherheit

Die NIS-2-Richtlinie der EU zielt darauf, die Cybersicherheit in vielen wichtigen Sektoren zu stärken. In Deutschland spielen außerdem Regelungen und Zuständigkeiten rund um KRITIS, BSI und Bevölkerungsschutz eine wichtige Rolle. Die genaue rechtliche Umsetzung kann sich ändern, aber das Grundprinzip bleibt: Betreiber wichtiger Dienste müssen Risiken erkennen, Sicherheitsmaßnahmen umsetzen, Vorfälle melden und ihre Widerstandsfähigkeit erhöhen.

Für KI bedeutet das: Ein Modell ist nicht nur ein Softwareprodukt, sondern Teil einer Sicherheitsarchitektur. Es muss in Notfallmanagement, Lieferketten, Berechtigungen, Schulungen und Prüfprozesse eingebettet sein.

Ethik der Infrastruktur-KI

KI in kritischen Infrastrukturen betrifft alle Menschen, auch wenn nicht alle direkt darüber entscheiden können. Deshalb stellt sich die Frage nach demokratischer Kontrolle. Wer legt fest, welche Ziele ein KI-System optimiert? Versorgungssicherheit, Kosten, Nachhaltigkeit, Geschwindigkeit, Gewinn, Gerechtigkeit oder Risikoarmut? Was passiert, wenn Ziele miteinander in Konflikt geraten?

Ethisch wichtig sind Verantwortung, Gerechtigkeit, Transparenz, Nichtdiskriminierung, Datenschutz, Sicherheit und Gemeinwohl. Kritische Infrastruktur ist kein gewöhnlicher Markt. Sie bildet die Grundlage gesellschaftlichen Lebens. Deshalb muss ihr Einsatz von KI besonders sorgfältig öffentlich, fachlich und politisch reflektiert werden.

Fallbeispiele

Energieversorgung

In der Energieversorgung kann KI helfen, Lastprognosen zu verbessern, erneuerbare Energien einzubinden und Netzstabilität zu unterstützen. Wind- und Solarenergie schwanken je nach Wetter. Gleichzeitig verändert sich der Verbrauch durch Elektromobilität, Wärmepumpen und industrielle Prozesse. KI kann Muster erkennen und Vorschläge für eine bessere Koordination liefern.

Das Risiko liegt in der Systemwirkung. Wenn eine KI falsche Prognosen liefert oder Steuerungsentscheidungen zu stark automatisiert werden, kann die Netzstabilität gefährdet sein. Deshalb müssen physikalische Sicherheitsgrenzen, Netzschutz, menschliche Leitstellen und unabhängige Kontrollen erhalten bleiben.

Wasser und Abwasser

In der Wasserversorgung kann KI Leckagen erkennen, Pumpen optimieren, Verbrauch vorhersagen oder Wasserqualität überwachen. In Abwassersystemen kann KI helfen, Regenereignisse und Überlastungen besser vorherzusehen. Das kann Kosten senken und Umweltbelastungen verringern.

Gleichzeitig ist Wasser ein lebenswichtiges Gut. Fehlerhafte Daten, Manipulation oder ein schlecht getestetes Modell könnten dazu führen, dass Störungen zu spät erkannt werden. Deshalb sind konservative Sicherheitsgrenzen, regelmäßige Proben, unabhängige Messungen und manuelle Eingriffsmöglichkeiten wichtig.

Verkehr

Im Verkehrssystem kann KI Verkehrsflüsse analysieren, Ampeln anpassen, Unfälle erkennen oder den öffentlichen Verkehr optimieren. Autonome Systeme können dazu beitragen, Staus und Emissionen zu verringern. Besonders in Städten sind datenbasierte Steuerungen attraktiv, weil viele Informationen gleichzeitig verarbeitet werden müssen.

Risiken entstehen, wenn technische Systeme ungleiche Wirkungen haben. Eine Ampeloptimierung kann bestimmte Stadtteile bevorzugen oder Rettungswege beeinträchtigen. Ein KI-System muss daher nicht nur Verkehrsdaten beachten, sondern auch Sicherheit, Barrierefreiheit, Gerechtigkeit und Notfallsituationen.

Gesundheit

Im Gesundheitswesen kann KI technische Infrastruktur unterstützen: Energieversorgung im Krankenhaus, Gerätewartung, Bettenlogistik, Laborprozesse oder Notfallplanung. Auch medizinische KI-Systeme können Diagnosen und Behandlungen unterstützen, aber in diesem aiMOOC liegt der Schwerpunkt auf Infrastruktur.

In Krankenhäusern sind Ausfälle besonders kritisch, weil Menschenleben betroffen sein können. Deshalb braucht es besonders strenge Anforderungen an Verfügbarkeit, Datenschutz, Dokumentation und menschliche Verantwortung. Eine KI-Empfehlung darf nie als Ersatz für professionelle Verantwortung verstanden werden.

Didaktische Vertiefung mit Videos

{{#ev:youtube|https://www.youtube.com/watch?v=eZiLeWiJ8ps%7C500%7Ccenter}}

Dieses Video kann Dir helfen, die Grundidee neuronaler Netze zu wiederholen. Achte beim Anschauen darauf, welche Rolle Eingaben, Gewichte, versteckte Schichten und Ausgaben spielen. Übertrage danach das Modell gedanklich auf eine kritische Infrastruktur: Welche Eingaben wären Messdaten? Welche Ausgabe wäre eine Warnung oder Steuerungsempfehlung?

{{#ev:youtube|https://www.youtube.com/watch?v=alodAVKwxBA%7C500%7Ccenter}}

Dieses Video kann als Einstieg in die rechtliche Perspektive dienen. Achte besonders auf die Idee der Risikoklassen. Überlege anschließend, warum KI-Systeme in kritischen Infrastrukturen anders bewertet werden als einfache Chatbots oder Empfehlungssysteme.

Merksätze

KI in kritischen Infrastrukturen ist besonders folgenreich, weil digitale Entscheidungen reale Versorgungssysteme beeinflussen können.
Neuronale Netze können Muster erkennen, sind aber nicht automatisch transparent, robust oder verantwortbar.
Autonome Steuerung braucht klare Grenzen, Tests, menschliche Aufsicht, Notfallpläne und sichere Rückfalllösungen.
Resilienz ist wichtiger als maximale Effizienz, wenn Ausfälle viele Menschen betreffen können.
Cybersecurity und Safety müssen gemeinsam gedacht werden, weil Angriffe und unbeabsichtigte Fehler ähnliche Schäden auslösen können.
Governance entscheidet darüber, wer Ziele festlegt, Risiken bewertet, Änderungen freigibt und Verantwortung trägt.

Interaktive Aufgaben

Quiz: Teste Dein Wissen

Was ist der zentrale Unterschied zwischen KI als Vorhersagewerkzeug und KI als Steuerungssystem? (Bei Steuerung löst die KI oder ein angeschlossenes System Handlungen aus) (!Bei Steuerung werden keine Daten benötigt) (!Bei Vorhersage gibt es keine Algorithmen) (!Bei Steuerung ist menschliche Verantwortung immer ausgeschlossen)

Was versteht man unter kritischen Infrastrukturen? (Anlagen und Dienste, deren Ausfall schwerwiegende Folgen für die Gesellschaft haben kann) (!Beliebige private Unterhaltungsangebote im Internet) (!Nur Gebäude mit besonders hohen Baukosten) (!Ausschließlich militärische Einrichtungen)

Welche Aufgabe kann KI in einem Stromnetz sinnvoll unterstützen? (Lastprognosen und frühzeitige Erkennung ungewöhnlicher Muster) (!Abschaffung aller Sicherheitsgrenzen) (!Ersetzung aller Leitstellen ohne Notfallplan) (!Verzicht auf Messdaten und Sensoren)

Was bedeutet Human-in-the-loop? (Ein Mensch ist aktiv in eine Entscheidung oder Freigabe eingebunden) (!Ein Mensch darf das System niemals sehen) (!Ein System arbeitet grundsätzlich ohne Kontrolle) (!Eine KI trainiert ausschließlich mit menschlichen Bildern)

Warum ist ein Blackbox-Problem in kritischen Infrastrukturen besonders heikel? (Weil Entscheidungen nachvollziehbar und prüfbar sein müssen) (!Weil Blackbox immer eine sichere Methode ist) (!Weil kritische Infrastrukturen keine Daten nutzen) (!Weil neuronale Netze nur in Spielen vorkommen)

Was beschreibt ein Fallback in einem sicherheitsrelevanten System? (Eine Rückfalllösung für Fehler oder unsichere Zustände) (!Eine Methode zur absichtlichen Datenlöschung) (!Eine Form von Werbung in sozialen Medien) (!Eine Garantie, dass nie ein Fehler entsteht)

Was ist ein digitales Zwillingsmodell? (Ein digitales Modell eines realen Systems zur Analyse oder Simulation) (!Eine Kopie eines Menschen in einem sozialen Netzwerk) (!Ein Papierformular für Wartungsberichte) (!Ein Ersatz für alle realen Messungen)

Warum ist Datenqualität für KI-Systeme wichtig? (Weil schlechte oder verzerrte Daten zu falschen Ergebnissen führen können) (!Weil KI ohne Daten immer besser funktioniert) (!Weil Datenqualität nur für Texte relevant ist) (!Weil Sensoren keine Rolle spielen)

Was bedeutet Resilienz bei kritischen Infrastrukturen? (Die Fähigkeit, Störungen zu überstehen und funktionsfähig zu bleiben) (!Die Fähigkeit, möglichst viele Daten geheim zu löschen) (!Die Eigenschaft, niemals gewartet werden zu müssen) (!Die Geschwindigkeit eines einzelnen Prozessors)

Welche Kombination ist für KI in kritischen Infrastrukturen besonders wichtig? (Safety, Cybersecurity, Transparenz und menschliche Aufsicht) (!Design, Werbung, Unterhaltung und Zufall) (!Geheimhaltung, Blindvertrauen, Tempo und Einsparung) (!Datenmenge, Farbe, Lautstärke und Bildschirmgröße)

Memory

SCADA	Überwachung und Steuerung technischer Anlagen
Resilienz	Widerstandsfähigkeit bei Störungen
Fallback	Rückfalllösung bei Fehlern
Datenqualität	Grundlage verlässlicher KI-Ergebnisse
Digitaler Zwilling	Simulation eines realen Systems
Human-in-the-loop	Menschliche Freigabe im Entscheidungsprozess

Drag and Drop

Ordne die richtigen Begriffe zu.	Thema
Sensor	Messung des Systemzustands
Neuronales Netz	Mustererkennung in Daten
Leitstelle	Überwachung und Koordination
Aktuator	Ausführung einer technischen Handlung
Fallback	Sicherer Rückweg bei Unsicherheit

Kreuzworträtsel

Resilienz	Wie nennt man die Fähigkeit eines Systems, Störungen zu überstehen und weiter funktionsfähig zu bleiben?
Steuerung	Wie nennt man das gezielte Beeinflussen eines technischen Systems?
Sensoren	Welche Bauteile erfassen Messwerte aus der Umgebung oder Anlage?
Redundanz	Wie nennt man das mehrfache Vorhandensein wichtiger Funktionen?
Leitstelle	Wo werden technische Anlagen häufig überwacht und koordiniert?
Transparenz	Was ist nötig, damit Entscheidungen nachvollziehbar geprüft werden können?

LearningApps

Lückentext

Kritische Infrastrukturen sichern grundlegende Bereiche wie Energie, Wasser, Gesundheit, Verkehr und digitale Kommunikation

.

Ein neuronales Netz erkennt Muster in Daten und kann daraus eine Vorhersage oder Empfehlung erzeugen

.

Wenn KI nicht nur warnt, sondern technische Handlungen auslöst, wird sie Teil einer autonomen Steuerung

.

Ein SCADA-System verbindet Datenerfassung, Überwachung und Steuerung technischer Anlagen

.

Ein digitaler Zwilling ermöglicht es, Szenarien zu simulieren, bevor reale Anlagen beeinflusst werden

.

Bei kritischen Infrastrukturen ist ein sicherer Fallback wichtig, wenn Daten unsicher oder Modelle überfordert sind

.

Menschliche Aufsicht bleibt wichtig, weil Verantwortung nicht vollständig an ein technisches System abgegeben werden darf

.

Resilienz bedeutet, dass ein System Störungen erkennt, begrenzt und seine zentrale Funktion möglichst erhält

.

Offene Aufgaben

Leicht

Begriffslandkarte: Erstelle eine Begriffslandkarte zu KI in kritischen Infrastrukturen. Verbinde mindestens zehn Begriffe wie Sensor, Steuerung, Leitstelle, Datenqualität, Fallback und Resilienz.
Alltagsbeispiel: Beschreibe ein Beispiel aus Deinem Alltag, bei dem Infrastruktur von digitaler Steuerung abhängt. Erkläre, was bei einem Ausfall passieren könnte.
Videoanalyse: Schau das Startvideo noch einmal an und notiere drei Chancen und drei Risiken, die beim Einsatz von KI in Infrastruktur entstehen.
Bildbeschreibung: Wähle eines der Bilder im aiMOOC aus und erkläre, wie es zum Thema KI, Netzwerke oder technische Steuerung passt.

Standard

Szenarioanalyse: Entwickle ein Szenario, in dem KI eine Störung in einem Wasserwerk früh erkennt. Beschreibe Datenquellen, KI-Ausgabe, menschliche Entscheidung und mögliche Risiken.
Rollenmodell: Erstelle ein Rollenmodell für den Einsatz einer KI in einer Leitstelle. Berücksichtige Betreiber, Technikerinnen und Techniker, Aufsicht, Öffentlichkeit und Notfallmanagement.
Risikomatrix: Entwirf eine Risikomatrix für KI in einem Stromnetz. Bewerte mindestens fünf Risiken nach Eintrittswahrscheinlichkeit und möglichem Schaden.
Interview: Führe ein kurzes Interview mit einer Person aus Technik, Verwaltung, Feuerwehr, Krankenhaus, Stadtwerken oder IT. Frage nach digitaler Abhängigkeit und Notfallvorsorge.

Schwer

Digitaler Zwilling: Plane ein Konzept für einen digitalen Zwilling einer kritischen Infrastruktur. Beschreibe Zweck, Datenquellen, Modellgrenzen, Tests und Verantwortlichkeiten.
Ethikgutachten: Verfasse ein Ethikgutachten zu der Frage, ob eine KI Ampeln in einer Stadt autonom steuern darf. Berücksichtige Sicherheit, Fairness, Transparenz und Notfälle.
Governance-Konzept: Entwickle ein Governance-Konzept für KI in einem Krankenhaus. Lege fest, wer Modelle freigibt, wer Warnungen bewertet, wer Vorfälle dokumentiert und wie Fallbacks funktionieren.
Zukunftsdebatte: Organisiere eine Pro-und-Kontra-Debatte zur Aussage: „KI darf kritische Infrastrukturen autonom steuern, wenn sie nachweislich besser ist als Menschen.“ Bereite Argumente, Gegenargumente und Kriterien für eine Bewertung vor.

Lernkontrolle

Transferaufgabe Energie: Du bist Mitglied eines kommunalen Krisenstabs. Eine KI empfiehlt, bei einer drohenden Stromnetzüberlastung bestimmte Verbrauchergruppen zeitweise zu drosseln. Entwickle Kriterien, nach denen entschieden werden sollte, ob die Empfehlung umgesetzt wird.
Systemanalyse Wasser: Analysiere, wie ein Fehler in Sensordaten einer Wasseraufbereitungsanlage zu falschen KI-Entscheidungen führen könnte. Beschreibe technische und organisatorische Schutzmaßnahmen.
Vergleichsaufgabe: Vergleiche KI als Entscheidungsunterstützung mit KI als autonomer Steuerung. Beurteile, welche Form für Verkehr, Energie und Gesundheit jeweils eher geeignet ist.
Ethikfall: Eine Stadt möchte eine KI einsetzen, die Verkehrsströme optimiert. Die KI verkürzt Reisezeiten im Zentrum, benachteiligt aber Außenbezirke. Entwickle eine faire Lösung.
Notfallplanung: Entwirf einen Notfallplan für den Fall, dass ein KI-System in einer Leitstelle unplausible Empfehlungen gibt. Berücksichtige Abschaltung, Kommunikation, Verantwortlichkeiten und Dokumentation.
Regulierung und Praxis: Erkläre, warum rechtliche Vorgaben allein nicht ausreichen, um KI in kritischen Infrastrukturen sicher zu machen. Beziehe Schulung, Kultur, Tests und Monitoring ein.
Modellgrenzen: Beschreibe ein Ereignis, das außerhalb der Trainingsdaten eines KI-Systems liegen könnte. Erkläre, wie das System solche Unsicherheit erkennen und angemessen reagieren sollte.

Lernnachweis

Für einen Lernnachweis zu diesem Thema ist wichtig, dass Du nicht nur Begriffe wiedergeben kannst, sondern Zusammenhänge beurteilst. Dein Lernnachweis sollte zeigen, dass Du den Unterschied zwischen Vorhersage, Entscheidungsunterstützung und autonomer Steuerung verstehst. Du solltest ein eigenes Beispiel einer kritischen Infrastruktur analysieren, Chancen und Risiken begründet abwägen und geeignete Schutzprinzipien vorschlagen.

Ein guter Lernnachweis enthält eine klare Beschreibung des gewählten Systems, eine Darstellung der möglichen KI-Funktion, eine Analyse der Datenquellen, eine Bewertung von Risiken wie Blackbox, Datenqualität, Cyberangriff, Automationsbias und Kaskadeneffekt sowie konkrete Maßnahmen wie menschliche Aufsicht, Fallback, Redundanz, Monitoring und Dokumentation. Zusätzlich solltest Du erläutern, welche ethischen und rechtlichen Fragen entstehen und wer Verantwortung trägt.

Mögliche Formen des Lernnachweises sind ein schriftliches Gutachten, eine Präsentation, ein Poster, ein Erklärvideo, ein Podcast, eine Debatte mit Rollenverteilung oder ein technisches Konzeptpapier. Wichtig ist, dass Du Fachbegriffe korrekt verwendest, Deine Bewertung nachvollziehbar begründest und deutlich machst, dass Effizienz, Sicherheit, Transparenz und Gemeinwohl gemeinsam betrachtet werden müssen.

OERs zum Thema

Links

KI in kritischen Infrastrukturen

Zusammenfassung

KI in kritischen Infrastrukturen ist ein Schlüsselthema der digitalen Gesellschaft. Neuronale Netze können Muster erkennen, Störungen prognostizieren und technische Entscheidungen vorbereiten. Besonders folgenreich wird ihr Einsatz, wenn sie in geschlossene Regelkreise eingebunden werden und reale Systeme beeinflussen. Dann reichen Genauigkeit und Effizienz allein nicht aus. Entscheidend sind robuste Technik, klare Verantwortung, menschliche Aufsicht, Cybersicherheit, sichere Rückfalllösungen, Transparenz, Dokumentation und kontinuierliche Prüfung.

Das Thema zeigt, dass moderne KI nicht nur eine technische Innovation ist. Sie verändert Macht, Verantwortung und Sicherheit in grundlegenden Versorgungssystemen. Wer KI in Infrastruktur einsetzt, muss daher interdisziplinär denken: informatisch, technisch, rechtlich, ethisch und gesellschaftlich. Eine gute Zukunft mit KI entsteht nicht durch blinde Automatisierung, sondern durch verantwortliche Gestaltung.

aiMOOC-Projekte

Schulfach+

Prüfungsliteratur 2026
Bundesland	Bücher	Kurzbeschreibung
Baden-Württemberg	Abitur Der zerbrochne Krug - Heinrich von Kleist Heimsuchung - Jenny Erpenbeck Mittlere Reife Der Markisenmann - Jan Weiler oder Als die Welt uns gehörte - Liz Kessler Ein Schatten wie ein Leopard - Myron Levoy oder Pampa Blues - Rolf Lappert	Abitur Dorfrichter-Komödie über Wahrheit/Schuld; Roman über einen Ort und deutsche Geschichte. Mittlere Reife Wahllektüren (Roadtrip-Vater-Sohn / Jugendroman im NS-Kontext / Coming-of-age / Provinzroman).
Bayern	Abitur Der zerbrochne Krug - Heinrich von Kleist Heimsuchung - Jenny Erpenbeck	Abitur Lustspiel über Machtmissbrauch und Recht; Roman als Zeitschnitt deutscher Geschichte an einem Haus/Grundstück.
Berlin/Brandenburg	Abitur Der zerbrochne Krug - Heinrich von Kleist Woyzeck - Georg Büchner Der Biberpelz - Gerhart Hauptmann Heimsuchung - Jenny Erpenbeck	Abitur Gerichtskomödie; soziales Drama um Ausbeutung/Armut; Komödie/Satire um Diebstahl und Obrigkeit; Roman über Erinnerungsräume und Umbrüche.
Bremen	Abitur Nach Mitternacht - Irmgard Keun Mario und der Zauberer - Thomas Mann Emilia Galotti - Gotthold Ephraim Lessing oder Miss Sara Sampson - Gotthold Ephraim Lessing	Abitur Roman in der NS-Zeit (Alltag, Anpassung, Angst); Novelle über Verführung/Massenpsychologie; bürgerliche Trauerspiele (Moral, Macht, Stand).
Hamburg	Abitur Der zerbrochne Krug - Heinrich von Kleist Das kunstseidene Mädchen - Irmgard Keun	Abitur Justiz-/Machtkritik als Komödie; Großstadtroman der Weimarer Zeit (Rollenbilder, Aufstiegsträume, soziale Realität).
Hessen	Abitur Der zerbrochne Krug - Heinrich von Kleist Woyzeck - Georg Büchner Heimsuchung - Jenny Erpenbeck Der Prozess - Franz Kafka	Abitur Gerichtskomödie; Fragmentdrama über Gewalt/Entmenschlichung; Erinnerungsroman über deutsche Brüche; moderner Roman über Schuld, Macht und Bürokratie.
Niedersachsen	Abitur Der zerbrochene Krug - Heinrich von Kleist Das kunstseidene Mädchen - Irmgard Keun Die Marquise von O. - Heinrich von Kleist Über das Marionettentheater - Heinrich von Kleist	Abitur Schwerpunkt auf Drama/Roman sowie Kleist-Prosatext und Essay (Ehre, Gewalt, Unschuld; Ästhetik/„Anmut“).
Nordrhein-Westfalen	Abitur Der zerbrochne Krug - Heinrich von Kleist Heimsuchung - Jenny Erpenbeck	Abitur Komödie über Wahrheit und Autorität; Roman als literarische „Geschichtsschichtung“ an einem Ort.
Saarland	Abitur Heimsuchung - Jenny Erpenbeck Furor - Lutz Hübner und Sarah Nemitz Bahnwärter Thiel - Gerhart Hauptmann	Abitur Erinnerungsroman an einem Ort; zeitgenössisches Drama über Eskalation/Populismus; naturalistische Novelle (Pflicht/Überforderung/Abgrund).
Sachsen (berufliches Gymnasium)	Abitur Der zerbrochne Krug - Heinrich von Kleist Woyzeck - Georg Büchner Irrungen, Wirrungen - Theodor Fontane Der gute Mensch von Sezuan - Bertolt Brecht Heimsuchung - Jenny Erpenbeck Der Trafikant - Robert Seethaler	Abitur Mischung aus Klassiker-Drama, sozialem Drama, realistischem Roman, epischem Theater und Gegenwarts-/Erinnerungsroman; zusätzlich Coming-of-age im historischen Kontext.
Sachsen-Anhalt	Abitur (keine fest benannte landesweite Pflichtlektüre veröffentlicht; Themenfelder)	Abitur Schwerpunktsetzung über Themenfelder (u. a. Literatur um 1900; Sprache in politisch-gesellschaftlichen Kontexten), ohne feste Einzeltitel.
Schleswig-Holstein	Abitur Der zerbrochne Krug - Heinrich von Kleist Heimsuchung - Jenny Erpenbeck	Abitur Recht/Gerechtigkeit und historische Tiefenschichten eines Ortes – umgesetzt über Drama und Gegenwartsroman.
Thüringen	Abitur (keine fest benannte landesweite Pflichtlektüre veröffentlicht; Orientierung am gemeinsamen Aufgabenpool)	Abitur In der Praxis häufig Orientierung am gemeinsamen Aufgabenpool; landesweite Einzeltitel je nach Vorgabe/Handreichung nicht einheitlich ausgewiesen.
Mecklenburg-Vorpommern	Abitur (Quelle aktuell technisch nicht abrufbar; Beteiligung am gemeinsamen Aufgabenpool bekannt)	Abitur Land beteiligt sich am länderübergreifenden Aufgabenpool; konkrete, veröffentlichte Einzeltitel konnten hier nicht ausgelesen werden.
Rheinland-Pfalz	Abitur (keine landesweit einheitliche Pflichtlektüre; schulische Auswahl)	Abitur Keine landesweite Einheitsliste; Auswahl kann schul-/kursbezogen erfolgen.