Diesen aiMOOC als Battle spielen: Deutsch, Klasse 9-10, G-Niveau

KI-Agenten und Autonomie bewerten

Einleitung

Künstliche Intelligenz kann nicht nur Antworten erzeugen, sondern in bestimmten Systemen auch mehrstufige Aufgaben bearbeiten, Informationen beschaffen, Werkzeuge aufrufen, Zwischenergebnisse prüfen und weitere Handlungen auslösen. Solche Systeme werden häufig als KI-Agenten oder als agentische KI-Systeme bezeichnet. Für Dich ist dabei besonders wichtig: Ein KI-Agent ist nicht automatisch „selbstständig“ wie ein Mensch. Seine Handlungsmöglichkeiten entstehen durch technische Vorgaben, Daten, Zugriffsrechte, Schnittstellen und die Ziele, die Menschen festlegen.

In diesem Lernkurs untersuchst Du deshalb nicht nur, was ein KI-System kann, sondern vor allem, wie weit es handeln darf, welche Folgen Fehler haben können, welche Belege für seine Qualität vorliegen und wo Menschen entscheiden, kontrollieren oder eingreifen müssen. Am Ende sollst Du zu einem begründeten Urteil kommen, das nicht auf Bauchgefühl oder Werbung beruht, sondern auf nachvollziehbaren Kriterien, Daten, Quellen und einer Abwägung von Chancen und Risiken.

Das Grundprinzip eines Agenten: Er nimmt Informationen aus einer Umgebung auf, verarbeitet sie und wirkt durch Handlungen wieder auf die Umgebung ein.

Beobachtungsauftrag zum Video: Notiere nicht einzelne Produktnamen, sondern drei Merkmale, die einen KI-Agenten von einem reinen Antwortsystem unterscheiden.

Zielgruppe und Unterrichtsrahmen

Der Kurs richtet sich besonders an Lernende der Klasse 9 und ist für etwa eine bis zwei Unterrichtsstunden gedacht. Er verbindet Informatik, Deutsch, Mathematik, Technik, Wirtschaft, Geschichte, Ethik und Gemeinschaftskunde. Je nach verfügbarem Zeitrahmen kann eine Kurzfassung mit Aktivierung, Einführung, Fallanalyse und Urteil in etwa 45 Minuten durchgeführt werden. Für etwa 90 Minuten können zusätzlich Risikoanalyse, Quellenprüfung, Gruppenvergleich, interaktive Aufgaben und Transfer vertieft werden.

Phase	Kurzfassung	Vertiefung
Aktivierung	5 Minuten	10 Minuten
Einführung in KI-Agenten	10 Minuten	15 Minuten
Fallanalyse und Risikoabwägung	20 Minuten	30 Minuten
Selbstkontrolle und Urteil	10 Minuten	20 Minuten
Reflexion und Transfer	optional	15 Minuten

Lernziele

Nach dem Kurs kannst Du einen KI-Agenten als technisches System beschreiben, unterschiedliche Grade von Autonomie unterscheiden, mehrstufige Abläufe analysieren und erkennen, wann ein System lediglich Vorschläge macht oder bereits selbst Handlungen ausführt. Du kannst Datenqualität, Quellenlage, Fairness, Sicherheit, Transparenz, Berechtigungen, Protokollierung und menschliche Kontrollpunkte als Bewertungskriterien anwenden. Außerdem kannst Du Risiken grob einschätzen, Belege gegeneinander abwägen und ein eigenes Urteil mit nachvollziehbarer Begründung formulieren.

Aktivierung und Diagnose

Stelle Dir vier digitale Systeme vor:

Ein Taschenrechner führt genau die eingegebene Rechnung aus.
Ein Routenplaner schlägt Dir mehrere Wege vor.
Ein Textsystem entwirft auf Deinen Auftrag eine E-Mail, sendet sie aber nicht.
Ein KI-System plant eine Reise, sucht Angebote, wählt selbst einen Anbieter aus und führt nach erteilter Berechtigung eine Buchung durch.

Ordne die vier Systeme auf einer gedachten Linie von geringer zu hoher Autonomie. Begründe Deine Reihenfolge nicht mit der Frage „Wie intelligent wirkt das System?“, sondern mit folgenden Fragen: Wer setzt das Ziel? Wer entscheidet über Zwischenschritte? Darf das System externe Werkzeuge nutzen? Kann es reale Folgen auslösen? Kann ein Mensch vor einer wichtigen Handlung noch stoppen?

Was ist ein KI-Agent?

Ein KI-Agent ist ein Softwaresystem, das Informationen aus seiner Umgebung verarbeitet und auf ein Ziel hin Handlungen auswählt. Der Begriff Agent ist älter als heutige generative KI. Ein Agent muss daher nicht zwingend auf einem großen Sprachmodell beruhen. Moderne agentische Systeme kombinieren jedoch häufig generative Modelle mit Speicher, Planung, Datenquellen und Werkzeugen.

Ein vereinfachter agentischer Ablauf kann so aussehen:

Ziel erhalten → Situation erfassen → Teilaufgaben planen → Werkzeug auswählen → Ergebnis prüfen → nächsten Schritt wählen → handeln → protokollieren → gegebenenfalls Mensch fragen

Der entscheidende Unterschied zu einer einfachen Automatisierung liegt oft darin, dass nicht jeder Zwischenschritt vorher fest programmiert ist. Ein stärker agentisches System kann abhängig von Zwischenergebnissen entscheiden, welcher nächste Schritt sinnvoll erscheint.

Feste Automatisierung, Assistenz oder Agent?

Systemtyp	Typisches Verhalten	Entscheidungsspielraum	Beispiel
Feste Automatisierung	Führt vorgegebene Schritte aus	sehr gering	Ein Makro benennt Dateien nach einer festen Regel um
Assistenzsystem	Erzeugt Vorschläge oder Inhalte	gering bis mittel	Ein System formuliert einen Textentwurf
Agentisches System	Plant mehrere Schritte und nutzt Werkzeuge	mittel bis hoch	Ein System recherchiert, vergleicht und erstellt einen Handlungsplan
Stark automatisiertes Handlungssystem	Kann ohne unmittelbare Einzelbestätigung externe Aktionen ausführen	hoch	Ein System löst Bestellungen oder technische Steuerbefehle aus

Wichtig ist: Autonomie ist kein Alles-oder-Nichts-Merkmal. Ein System kann beim Planen sehr selbstständig sein, aber beim Bezahlen eine Freigabe benötigen. Deshalb ist ein Autonomieprofil oft aussagekräftiger als die Aussage „Dieses System ist autonom“.

Mehrstufige Aufgaben und Rückkopplung

Agentische Systeme bearbeiten häufig keine einzelne Frage, sondern eine Kette von Teilaufgaben. Ein System könnte beispielsweise zuerst Informationen sammeln, dann Alternativen vergleichen, danach einen Plan erstellen, das Ergebnis gegen Vorgaben prüfen und erst anschließend eine Aktion vorbereiten. Nach jedem Schritt können neue Informationen entstehen, die den weiteren Verlauf verändern.

Eine solche Rückkopplung ist nützlich, weil ein System auf Veränderungen reagieren kann. Gleichzeitig entstehen dadurch neue Risiken: Ein Fehler in einem frühen Schritt kann spätere Entscheidungen beeinflussen, ein ungeeignetes Werkzeug kann falsche Daten liefern und eine zunächst kleine Fehlentscheidung kann sich über mehrere Schritte verstärken.

Agententeams und Aufgabenteilung

Manche Systeme teilen eine Aufgabe auf mehrere spezialisierte Agenten auf. Ein Agent plant, ein anderer sucht Informationen, ein weiterer prüft Ergebnisse. Das kann Qualität verbessern, garantiert sie aber nicht. Mehr Agenten bedeuten auch mehr Schnittstellen, mehr mögliche Missverständnisse und mehr Protokolle, die überprüft werden müssen.

Prüffrage: Welche zusätzlichen Kontrollprobleme entstehen, wenn mehrere Agenten nacheinander Entscheidungen treffen?

Autonomie systematisch bewerten

Statt nur zu fragen „Ist das autonom?“, kannst Du mehrere Dimensionen getrennt untersuchen.

Dimension	Geringe Autonomie	Mittlere Autonomie	Hohe Autonomie
Zielsetzung	Mensch gibt konkreten Einzelschritt vor	Mensch gibt ein Ziel mit Regeln vor	System darf Teilziele selbst ableiten
Planung	Fester Ablauf	Auswahl aus bekannten Abläufen	Eigene mehrstufige Planung
Werkzeugwahl	Kein Werkzeugzugriff	Vorgegebene Werkzeuge	Auswahl aus mehreren externen Werkzeugen
Handlung	Nur Vorschlag	Handlung nach Freigabe	Handlung ohne Einzelbestätigung
Berechtigung	Nur Lesen	Begrenztes Schreiben oder Ändern	Weitreichende Zugriffsrechte
Dauer	Einzelne kurze Aufgabe	Längerer Prozess mit Zwischenstopps	Dauerbetrieb oder selbstständige Wiederaufnahme
Anpassung	Keine Anpassung	Reaktion auf definierte Fälle	Flexible Reaktion auf neue Situationen
Folgen	leicht rückgängig	merkliche Folgen	schwer rückgängig oder folgenreich

Ein hoher Autonomiegrad ist nicht automatisch schlecht. Er verlangt aber meist stärkere Schutzmaßnahmen. Entscheidend ist die Frage, ob Berechtigungen, Folgen und Kontrollen zum Risiko passen.

Autonomie ist nicht gleich Zuverlässigkeit

Ein System kann sehr leistungsfähig, aber schlecht kontrolliert sein. Ein anderes System kann weniger leistungsfähig sein, dafür aber mit klaren Grenzen und guten Freigaben arbeiten. Deshalb solltest Du zwei Fragen trennen:

Was kann das System?
Was darf das System tun?

Diese Trennung ist ein wichtiger Schritt für verantwortliche Mensch-Maschine-Interaktion.

Daten und Belege prüfen

Ein KI-System ist nur so gut bewertbar wie die Belege, die für seine Leistung vorliegen. Aussagen wie „99 Prozent zuverlässig“, „vollautomatisch“ oder „sicher“ sind ohne Kontext wenig aussagekräftig. Du musst prüfen, unter welchen Bedingungen gemessen wurde, welche Daten genutzt wurden und ob die Tests zur realen Situation passen.

Datenqualität

Frage bei Daten immer nach Herkunft, Aktualität, Repräsentativität und möglichen Lücken. Ein System, das aus historischen Daten lernt, kann auch historische Verzerrungen übernehmen. Daten können außerdem für eine andere Umgebung gesammelt worden sein als die, in der das System später eingesetzt wird.

Algorithmische Verzerrung entsteht, wenn Ergebnisse systematisch bestimmte Personen oder Gruppen benachteiligen oder bevorzugen. Fairness lässt sich deshalb nicht allein mit der Aussage „Der Algorithmus behandelt alle gleich“ beurteilen. Entscheidend ist auch, welche Daten, Kriterien und Folgen hinter einer Entscheidung stehen.

Belege statt Behauptungen

Für ein begründetes Urteil kannst Du nach folgenden Belegarten suchen:

dokumentierte Tests unter realistischen Bedingungen
Vergleich mit einer einfachen Baseline oder menschlicher Leistung
Fehlerraten für verschiedene Situationen und Gruppen
unabhängige Prüfungen
Protokolle über frühere Fehler oder Zwischenfälle
Angaben zu Datenquellen, Grenzen und bekannten Unsicherheiten

Ein einzelnes Werbevideo oder eine Herstellerangabe ist kein ausreichender Qualitätsnachweis. Nutze Quellenkritik: Wer veröffentlicht die Information? Welche Interessen bestehen? Gibt es Vergleichsdaten? Sind Methoden und Grenzen sichtbar?

Risiko abwägen

Im Alltag wird Risiko oft vereinfacht als Kombination aus Eintrittswahrscheinlichkeit und Schadensausmaß beschrieben:

Risiko ≈ Wahrscheinlichkeit × mögliche Schadenshöhe

Für den Unterricht kannst Du beide Größen beispielsweise von 1 bis 4 einschätzen. Diese Rechnung ist keine exakte wissenschaftliche Vorhersage, hilft aber, Argumente sichtbar zu machen.

Wert	Wahrscheinlichkeit	Schadensausmaß
1	selten oder gut vermeidbar	kaum Folgen
2	möglich	begrenzte Folgen
3	wahrscheinlich	deutliche Folgen
4	sehr wahrscheinlich	schwere oder kaum rückgängig zu machende Folgen

Beispiel: Ein falscher Rechtschreibvorschlag in einem Entwurf hat meist geringere Folgen als eine automatisch ausgelöste Zahlung. Deshalb können Systeme mit ähnlicher technischer Leistung unterschiedlich strenge Kontrollen benötigen.

Risikoquellen bei agentischer KI

Bereich	Leitfrage	Mögliche Schutzmaßnahme
Ziel	Ist klar definiert, was erreicht werden soll?	Ziel, Erfolgskriterien und Ausschlüsse schriftlich festlegen
Daten	Sind Daten aktuell und passend?	Quellen prüfen und kritische Angaben verifizieren
Werkzeuge	Auf welche Systeme darf der Agent zugreifen?	Nur notwendige Werkzeuge freigeben
Berechtigungen	Darf er lesen, schreiben, löschen oder bezahlen?	Prinzip der geringsten Rechte anwenden
Fehler	Wie groß sind die Folgen einer falschen Entscheidung?	Folgen begrenzen und Rückgängig-Funktion vorsehen
Fairness	Können Gruppen unterschiedlich betroffen sein?	Ergebnisse gruppenbezogen prüfen
Sicherheit	Können Eingaben den Agenten manipulieren?	Eingaben prüfen, Rechte begrenzen und sensible Aktionen absichern
Verantwortung	Wer ist für Entscheidungen zuständig?	Verantwortliche Person vorab benennen

Ziele, Grenzen und Freigaben

Je stärker ein System handeln kann, desto wichtiger sind klare Ziele und Grenzen. Ein Auftrag wie „Organisiere die beste Klassenfahrt“ ist zu ungenau. Besser wäre: „Erstelle drei Vorschläge für eine dreitägige Klassenfahrt innerhalb eines festgelegten Budgets. Nutze nur öffentlich zugängliche Daten. Gib keine personenbezogenen Daten weiter. Nimm keine Buchung vor. Kennzeichne unsichere Angaben und nenne Quellen.“

Dieses Beispiel zeigt: Gute Kontrolle beginnt schon bei der Aufgabenbeschreibung.

Freigabepunkte

Ein Freigabepunkt ist eine Stelle, an der ein Mensch eine Handlung ausdrücklich bestätigen muss. Sinnvolle Freigabepunkte liegen vor allem dort, wo eine Aktion Geld kostet, persönliche Daten weitergibt, Verträge auslöst, Rechte verändert, Dateien löscht oder Menschen erheblich betrifft.

Ein System kann also durchaus selbstständig recherchieren und planen, während eine wichtige reale Handlung erst nach menschlicher Prüfung erfolgt.

Human in the Loop

Human-in-the-Loop bedeutet, dass Menschen gezielt in einen automatisierten Prozess eingebunden bleiben. Das kann vor einer Entscheidung, während der Ausführung oder bei Unsicherheit geschehen.

Ein menschlicher Kontrollpunkt ist nur dann sinnvoll, wenn die Person genügend Informationen, Zeit und Befugnisse hat. Ein „OK“-Knopf allein ist keine wirksame Kontrolle, wenn niemand nachvollziehen kann, was das System vorher getan hat.

Protokolle und Nachvollziehbarkeit

Wenn ein KI-Agent mehrere Schritte ausführt, sollten wichtige Ereignisse nachvollziehbar sein. Ein Protokoll kann zum Beispiel enthalten, welche Datenquelle genutzt wurde, welches Werkzeug aufgerufen wurde, welche Entscheidung getroffen wurde, ob ein Mensch eingegriffen hat und wann eine Aktion ausgeführt wurde.

Protokolle erfüllen zwei Funktionen: Sie helfen bei der laufenden Kontrolle und ermöglichen später eine Untersuchung, wenn etwas schiefgeht. Allerdings können auch Protokolle sensible Daten enthalten. Deshalb müssen Umfang, Zugriff und Aufbewahrung sinnvoll geregelt sein.

Rechtlicher Bezug: EU AI Act

Der EU AI Act unterscheidet KI-Systeme nach Risiken und enthält für bestimmte Hochrisiko-KI-Systeme besondere Anforderungen. Dazu gehören unter anderem Risikomanagement, geeignete Datenqualität, Dokumentation, Protokollierung, Transparenz, Robustheit und angemessene menschliche Aufsicht. Besonders wichtig für Dein Bewertungsdenken ist: Die Stärke der Aufsicht soll zum Risiko, zum Grad der Autonomie und zum Nutzungskontext passen.

Das bedeutet nicht, dass jedes KI-System in der Schule ein Hochrisiko-System ist. Der Rechtsrahmen zeigt aber ein allgemeines Prinzip, das sich gut auf andere Situationen übertragen lässt: Je folgenreicher und autonomer ein System handelt, desto besser müssen Nachvollziehbarkeit, Kontrolle und Verantwortlichkeit organisiert sein.

Lebenszyklus statt Einmalprüfung

Ein KI-System sollte nicht nur vor dem Start geprüft werden. Daten, Software, Nutzungsverhalten und Umgebung können sich verändern. Deshalb gehört zur Systembewertung auch die Frage, wie ein System im Betrieb überwacht und bei Fehlern verbessert oder abgeschaltet werden kann.

Ein sinnvoller Lebenszyklus umfasst Ziel und Kontext, Daten und Design, Tests, Freigabe, Betrieb, Monitoring, Umgang mit Zwischenfällen und schließlich Änderung oder Abschaltung. An mehreren Stellen sollten Belege gesammelt und Entscheidungen dokumentiert werden.

Verantwortung verteilen

Bei einem komplexen KI-System gibt es selten nur eine verantwortliche Person. Entwicklerinnen und Entwickler, Betreiber, Lehrkräfte, Unternehmen, Behörden und Nutzende können unterschiedliche Aufgaben haben. Verantwortung darf dabei nicht so verteilt werden, dass sich am Ende niemand zuständig fühlt.

Eine gute Verantwortungsstruktur beantwortet drei Fragen: Wer darf entscheiden? Wer führt aus? Wer prüft unabhängig?

Technikbeispiel: Autonome Fahrzeuge

Bei einem autonomen Fahrzeug wird besonders deutlich, dass ein Agent Informationen wahrnimmt und reale Handlungen auslösen kann. Sensoren erfassen die Umgebung, Software bewertet Situationen und Aktuatoren steuern beispielsweise Lenkung oder Bremsen.

Das Beispiel zeigt, warum die Frage nach Autonomie immer mit der Frage nach Folgen verbunden werden muss. Ein fehlerhafter Textentwurf ist meist leicht korrigierbar. Eine falsche physische Steuerungsentscheidung kann unmittelbare Sicherheitsfolgen haben. Deshalb unterscheiden sich notwendige Tests und Sicherheitsmechanismen stark.

Realistische Anwendungssituation: Der Klassenfahrt-Agent

Eine Schule möchte ein KI-System testen, das die Planung einer Klassenfahrt unterstützt. Der Auftrag lautet zunächst: „Plane für eine neunte Klasse eine dreitägige Reise mit Bahn, Unterkunft und Programm.“

Das System kann:

Wünsche aus einer anonymen Klassenumfrage zusammenfassen
Bahnverbindungen und Unterkünfte recherchieren
Preise vergleichen
auf Barrierefreiheit und Reisezeiten achten
drei Varianten erstellen
E-Mail-Anfragen vorbereiten
nach Freigabe externe Buchungsseiten öffnen

Die Schulleitung überlegt zusätzlich, dem Agenten zu erlauben, Reservierungen selbstständig vorzunehmen und Schülerdaten an Anbieter zu übertragen.

Schritt 1: Ziel prüfen

Der Auftrag „Plane eine gute Klassenfahrt“ ist zu ungenau. Ein besserer Auftrag enthält Budget, Reisezeit, Mindestanforderungen, Datenschutzregeln und Ausschlüsse. Die Lernenden sollen selbst formulieren, welche Bedingungen vor dem Einsatz festgelegt werden müssen.

Schritt 2: Autonomieprofil erstellen

Bewerte für den Klassenfahrt-Agenten jeweils, ob die Autonomie gering, mittel oder hoch ist: Planung, Quellenwahl, Werkzeugwahl, Datennutzung, Kommunikation nach außen, Buchung und Zahlung.

Schritt 3: Risiken identifizieren

Mögliche Risiken sind veraltete Preise, erfundene Verfügbarkeiten, ungeeignete oder einseitige Quellen, Datenschutzprobleme, fehlende Barrierefreiheit, unbeabsichtigte Buchungen, versteckte Kosten oder die Bevorzugung bestimmter Anbieter.

Schritt 4: Kontrollpunkte festlegen

Eine mögliche sichere Architektur könnte so aussehen:

Recherche → Quellenprüfung → Variantenvergleich → menschliche Auswahl → E-Mail-Entwurf → menschliche Freigabe → externe Anfrage

Buchung, Zahlung und Weitergabe personenbezogener Daten bleiben gesperrt, bis eine zuständige Person ausdrücklich zustimmt.

Schritt 5: Protokollierung festlegen

Das System sollte nachvollziehbar machen, welche Quellen und Preise es verwendet hat, wann Informationen abgerufen wurden, welche Kriterien für den Vergleich galten und wer eine externe Aktion freigegeben hat.

Schritt 6: begründetes Urteil

Formuliere am Ende kein pauschales „KI ist gut“ oder „KI ist gefährlich“. Ein begründetes Urteil könnte beispielsweise lauten: Der Einsatz ist für Recherche und Vorschläge vertretbar, wenn Quellen sichtbar sind und sensible Handlungen gesperrt bleiben. Für Buchung und Weitergabe personenbezogener Daten sind zusätzliche Freigaben und klare Verantwortlichkeiten erforderlich.

Wichtig: Übernimm diese Formulierung nicht einfach. Prüfe selbst, welche Belege und Kriterien Dein Urteil stützen.

Bewertungsraster für KI-Agenten

Mit diesem Raster kannst Du verschiedene Systeme vergleichen. Trage zu jedem Kriterium einen Beleg ein. Bewerte erst danach.

Kriterium	0 Punkte	1 Punkt	2 Punkte
Zielklarheit	unklar	teilweise klar	klar und überprüfbar
Daten und Quellen	unbekannt	teilweise dokumentiert	nachvollziehbar und prüfbar
Berechtigungen	unnötig weit	teilweise begrenzt	minimal und zweckgebunden
Freigaben	fehlen	nur teilweise	an kritischen Punkten vorhanden
Protokollierung	nicht nachvollziehbar	lückenhaft	wesentliche Schritte dokumentiert
Fairness	nicht geprüft	teilweise geprüft	systematisch geprüft
Fehlerfolgen	unbegrenzt	teilweise begrenzt	begrenzt und möglichst reversibel
Menschliche Kontrolle	nur formal	eingeschränkt	informiert, wirksam und handlungsfähig
Sicherheit	keine erkennbaren Schutzmaßnahmen	einzelne Schutzmaßnahmen	mehrschichtige Schutzmaßnahmen
Verantwortlichkeit	unklar	teilweise geklärt	Rollen und Zuständigkeiten klar

Die Punktzahl allein entscheidet nicht. Ein System kann viele Punkte erreichen und trotzdem bei einem einzigen sehr kritischen Kriterium ungeeignet sein. Deshalb muss jeder Bewertung ein begründetes Gesamturteil folgen.

Fächerübergreifende Bezüge

Informatik

In Informatik untersuchst Du den Aufbau agentischer Systeme, Datenflüsse, Schnittstellen, Sensoren, Aktuatoren, Algorithmen, Speicher, Werkzeugzugriffe und Sicherheitsgrenzen. Besonders wichtig ist das Prinzip der geringsten Rechte: Ein System erhält nur die Zugriffe, die für seinen Auftrag nötig sind.

Deutsch

In Deutsch stehen Argumentation, Sprachkritik und Quellenkritik im Mittelpunkt. Du untersuchst, ob Begriffe wie „autonom“, „intelligent“ oder „zuverlässig“ sachlich verwendet oder werblich übertrieben werden. Ein gutes Urteil unterscheidet Behauptung, Beleg, Gegenargument und Schlussfolgerung.

Mathematik

In Mathematik kannst Du Fehlerraten, Wahrscheinlichkeiten, Mittelwerte und Risikoabschätzungen untersuchen. Wichtig ist, Prozentangaben nicht isoliert zu lesen. Eine Genauigkeit von 95 Prozent sagt wenig aus, wenn unklar bleibt, welche Fälle getestet wurden und wie schwer die fünf Prozent Fehler wiegen.

Technik

In Technik wird sichtbar, dass Software über Sensoren und Aktuatoren reale Prozesse steuern kann. Je direkter eine KI in technische Systeme eingreift, desto wichtiger werden sichere Zustände, Not-Aus-Funktionen, Redundanz und Tests unter realistischen Bedingungen.

Wirtschaft

In Wirtschaft geht es um Produktivität, Kosten, Automatisierung, neue Geschäftsmodelle und veränderte Arbeitsaufgaben. Ein Unternehmen könnte durch KI-Agenten Prozesse beschleunigen, muss aber auch Fehlerkosten, Kontrolle, Datenschutz, Haftung und Qualifizierung von Beschäftigten berücksichtigen.

Geschichte

In Geschichte lässt sich agentische KI in eine längere Entwicklung von Automatisierung und Industrialisierung einordnen. Frühere Automatisierungswellen veränderten Berufe und Produktionsweisen. Neu ist bei heutigen KI-Systemen unter anderem, dass nicht nur körperliche, sondern auch sprachliche, planerische und wissensbezogene Tätigkeiten automatisiert werden können.

Ethik

In Ethik fragst Du nach Verantwortung, Gerechtigkeit, Selbstbestimmung, Transparenz und möglichen Schäden. Eine zentrale Frage lautet: Welche Entscheidungen dürfen an technische Systeme delegiert werden und bei welchen Entscheidungen muss menschliche Urteilskraft unverzichtbar bleiben?

Gemeinschaftskunde

In Gemeinschaftskunde geht es um Regeln, Macht, Teilhabe und demokratische Kontrolle. Wenn KI-Systeme über Menschen mitentscheiden, muss geklärt sein, wer Kriterien festlegt, wie Betroffene informiert werden, wie Entscheidungen angefochten werden können und welche öffentlichen Regeln gelten.

Human Agency und verantwortlicher KI-Einsatz

Human Agency bedeutet, dass Menschen ihre Ziele, Werte und Entscheidungen nicht einfach an ein technisches System abgeben. KI kann Dir beim Strukturieren, Vergleichen oder Prüfen helfen. Die Verantwortung für eine begründete Entscheidung bleibt aber dort, wo Menschen von den Folgen betroffen sind.

Nutze KI deshalb nicht als Ersatz für eigenes Denken. Besonders bei Schulaufgaben sollte ein KI-System nicht einfach das fertige Urteil liefern. Sinnvoller ist, es mit klar begrenzten Teilaufgaben zu nutzen: Gegenargumente sammeln, Quellen vergleichen, Annahmen prüfen oder einen Bewertungsbogen auf Lücken untersuchen. Das abschließende Urteil formulierst und begründest Du selbst.

Medien- und Quellenkritik

Ein anschauliches Schaubild oder Video kann helfen, ein System zu verstehen. Es ist aber selbst eine Quelle, die geprüft werden muss. Frage: Wer hat das Medium erstellt? Welche Absicht könnte dahinterstehen? Ist die Darstellung aktuell? Werden Grenzen genannt? Lassen sich zentrale Aussagen durch weitere Quellen bestätigen?

Auch bei einem Entscheidungsdiagramm gilt: Es kann Orientierung geben, ersetzt aber nicht die Prüfung des konkreten Falls.

Interaktive Aufgaben

Quiz: Teste Dein Wissen

Ein KI-Agent darf recherchieren, aber keine Buchung ohne Freigabe auslösen. Welches Prinzip wird damit umgesetzt? (Kritische Handlungen benötigen menschliche Freigabe) (!Jede Handlung muss vollständig automatisiert werden) (!Protokolle sind dadurch überflüssig) (!Quellen müssen nicht mehr geprüft werden)

Ein Agent erhält Zugriff auf alle Schuldateien, obwohl er nur einen Stundenplan lesen soll. Was ist das Hauptproblem? (Die Berechtigungen sind weiter als für das Ziel notwendig) (!Der Agent hat zu wenig Rechenleistung) (!Der Agent nutzt zu wenige Daten) (!Der Agent plant zu wenige Schritte)

Ein System erreicht in einem Test 98 Prozent Genauigkeit. Welche Zusatzinformation ist für eine Bewertung besonders wichtig? (Welche Fälle getestet wurden und welche Folgen Fehler haben) (!Welche Farbe die Benutzeroberfläche hat) (!Wie lang der Produktname ist) (!Wie viele Werbevideos veröffentlicht wurden)

Ein KI-Agent verändert seine nächsten Schritte aufgrund eines Zwischenergebnisses. Was zeigt das? (Der Ablauf besitzt Rückkopplung und Anpassung) (!Der Ablauf ist vollständig ohne Daten) (!Das System kann keine Werkzeuge nutzen) (!Das System hat keinerlei Ziel)

Warum ist ein Protokoll bei mehrstufigen Agenten hilfreich? (Es macht wichtige Schritte und Entscheidungen nachvollziehbar) (!Es verhindert automatisch jeden Fehler) (!Es ersetzt menschliche Verantwortung vollständig) (!Es macht Datenschutz unnötig)

Bei welchem Vorgang ist ein menschlicher Kontrollpunkt besonders wichtig? (Vor einer nicht leicht rückgängig zu machenden Zahlung) (!Beim Anzeigen einer Überschrift) (!Beim Sortieren einer privaten Notiz nach Datum) (!Beim Erzeugen eines unveröffentlichten Entwurfs)

Ein System behandelt formal alle Personen nach derselben Regel, benachteiligt aber eine Gruppe systematisch. Welche Frage muss geprüft werden? (Ob Daten und Kriterien zu algorithmischer Verzerrung führen) (!Ob das System eine moderne Schriftart verwendet) (!Ob der Computer schnell genug startet) (!Ob der Bildschirm groß genug ist)

Welche Aussage beschreibt Autonomie am besten? (Autonomie besteht aus mehreren Dimensionen wie Planung, Handlung und Berechtigung) (!Autonomie bedeutet immer menschliches Bewusstsein) (!Autonomie ist identisch mit hoher Genauigkeit) (!Autonomie lässt sich nur an der Textlänge erkennen)

Ein KI-Agent soll nur Vorschläge machen, führt aber selbstständig eine externe Aktion aus. Was fehlt? (Eine wirksame technische Begrenzung der Handlungsmöglichkeiten) (!Mehr Werbung für das System) (!Eine längere Aufgabenbeschreibung ohne Regeln) (!Ein größerer Bildschirm)

Was kennzeichnet ein gutes Gesamturteil über einen KI-Agenten? (Es verbindet Kriterien, Belege, Risiken und eine nachvollziehbare Abwägung) (!Es übernimmt die Herstellerbeschreibung unverändert) (!Es besteht nur aus einer Punktzahl) (!Es erklärt jedes KI-System grundsätzlich für sicher)

Memory

KI-Agent	zielgerichtetes System mit Wahrnehmung und Handlung
Freigabepunkt	menschliche Zustimmung vor einer kritischen Aktion
Protokoll	nachvollziehbare Aufzeichnung wichtiger Systemschritte
Bias	systematische Verzerrung von Ergebnissen
Berechtigung	erlaubter Zugriff auf Daten oder Werkzeuge
Rückkopplung	Anpassung aufgrund eines Zwischenergebnisses
Reversibilität	Möglichkeit eine Handlung rückgängig zu machen
Human Agency	menschliche Fähigkeit Ziele und Entscheidungen selbst zu bestimmen

Drag and Drop

Ordne die richtigen Begriffe zu.	Thema
Zielklarheit	überprüfbarer Auftrag
Datenqualität	passende und aktuelle Datengrundlage
Freigabe	menschliche Zustimmung
Protokollierung	Nachvollziehbarkeit
Fairness	Prüfung unterschiedlicher Auswirkungen
Risikobegrenzung	Folgen und Berechtigungen einschränken

...

Kreuzworträtsel

Agent	Welcher Begriff bezeichnet ein System, das zielgerichtet wahrnimmt und handelt?
Freigabe	Wie heißt die ausdrückliche menschliche Zustimmung vor einer kritischen Aktion?
Protokoll	Wie heißt eine nachvollziehbare Aufzeichnung wichtiger Systemereignisse?
Fairness	Welcher Begriff beschreibt die gerechte Behandlung unterschiedlicher Personen oder Gruppen?
Kontrolle	Welcher Begriff bezeichnet die gezielte Überprüfung eines Systems durch Menschen?
Risiko	Wie nennt man die Verbindung aus möglicher Eintrittswahrscheinlichkeit und Schadensfolge?

LearningApps

Lückentext

Ein KI-Agent arbeitet auf ein festgelegtes

hin.

Ein stärker agentisches System kann mehrere

planen.

Externe Programme oder Schnittstellen werden als

genutzt.

Vor einer folgenreichen Aktion kann eine menschliche

verlangt werden.

Die Aufzeichnung wichtiger Ereignisse heißt

.

Für ein Urteil müssen Aussagen durch geeignete

gestützt werden.

Systematische Verzerrungen werden als

bezeichnet.

Ein wichtiger Schutz besteht in möglichst kleinen

.

Menschen müssen bei kritischen Entscheidungen wirksame

behalten.

Am Ende steht eine begründete

von Chancen und Risiken.

Offene Aufgaben

Leicht

Autonomie-Linie: Ordne fünf digitale Systeme von geringer zu hoher Autonomie und begründe Deine Reihenfolge mit mindestens zwei Kriterien.
Handlungskette: Zeichne für einen einfachen KI-Agenten eine Kette aus Ziel, Planung, Werkzeug, Prüfung, Handlung und Kontrolle.
Quellencheck: Suche zwei unterschiedliche Quellen zu KI-Agenten und vergleiche, welche Aussagen belegt, unklar oder werblich formuliert sind.
Stop-Regel: Gestalte ein kleines Poster mit drei Situationen, in denen ein KI-Agent unbedingt einen Menschen um Freigabe bitten sollte.

Standard

Agenten-Audit: Untersuche den Klassenfahrt-Agenten mit dem Bewertungsraster und trage zu jedem Kriterium einen konkreten Beleg oder eine offene Frage ein.
Fairness-Test: Entwickle drei Testfälle, mit denen geprüft werden kann, ob ein Planungssystem bestimmte Gruppen systematisch benachteiligt.
Pro-und-Contra-Debatte: Diskutiert in Gruppen, welche Schulaufgaben automatisiert werden dürfen und welche nicht. Jede Seite muss mindestens einen Beleg und ein Gegenargument berücksichtigen.
Kontrollarchitektur: Entwirf für einen Einkaufsagenten eine Ablaufkette mit mindestens drei menschlichen Kontrollpunkten und begründe deren Position.

Schwer

Risikomodell: Entwickle ein eigenes Bewertungsmodell aus Wahrscheinlichkeit, Schadensausmaß, Autonomie und Kontrollqualität. Erkläre, warum eine reine Punktzahl nicht genügt.
Red-Team-Test: Versuche in einer sicheren Plansituation, Schwachstellen eines fiktiven Agenten zu finden. Entwickle anschließend Schutzmaßnahmen gegen die gefundenen Fehler.
Stakeholder-Anhörung: Simuliere eine Anhörung mit Lernenden, Eltern, Lehrkräften, Datenschutzbeauftragten und Softwareanbietern. Formuliert danach gemeinsame Mindestanforderungen.
KI-Nutzungsordnung: Entwirf eine kurze schulische Regelung für agentische KI, die erlaubte Aufgaben, Verbote, Freigaben, Protokolle, Datenschutz und Verantwortung festlegt.

Lernkontrolle

Fallvergleich: Vergleiche einen Agenten, der nur Recherchen durchführt, mit einem Agenten, der zusätzlich selbst Zahlungen auslösen darf. Erkläre, welche zusätzlichen Risiken und Kontrollen entstehen.
Belegprüfung: Ein Anbieter behauptet, sein System sei „zu 99 Prozent sicher“. Formuliere mindestens fünf Rückfragen, die Du vor einer Bewertung stellen würdest.
Systemdesign: Entwickle für einen Schulbibliotheks-Agenten einen Ablauf, bei dem Routineaufgaben automatisiert werden, aber folgenschwere Entscheidungen menschlich bleiben.
Fehlerkette: Beschreibe, wie eine falsche Information in einem frühen Agentenschritt zu mehreren späteren Fehlentscheidungen führen kann. Zeige mindestens zwei Stellen, an denen die Kette unterbrochen werden könnte.
Verantwortungsanalyse: Ein Agent trifft eine fehlerhafte Auswahl, ein Mensch klickt ohne Prüfung auf „Bestätigen“. Analysiere die Verantwortung von Entwicklung, Betrieb und nutzender Person.
Urteilsaufgabe: Bewerte, ob ein stark automatisierter KI-Agent für die Planung einer Klassenfahrt eingesetzt werden sollte. Nutze mindestens fünf Kriterien, zwei Belege und ein Gegenargument.

Lernnachweis

Für einen erfolgreichen Lernnachweis ist wichtig, dass Du nicht nur Begriffe wiedergeben kannst. Du solltest zeigen, dass Du ein agentisches KI-System als Gesamtsystem analysieren kannst.

Du kannst den Unterschied zwischen fester Automatisierung, Assistenz und agentischem Handeln erklären.
Du kannst ein Autonomieprofil aus Zielsetzung, Planung, Werkzeugwahl, Berechtigung und Handlungsfolgen erstellen.
Du kannst Daten, Quellen und Leistungsangaben kritisch prüfen.
Du kannst Risiko anhand von Wahrscheinlichkeit und Schadensausmaß argumentativ einschätzen.
Du kannst geeignete Grenzen, Freigaben und menschliche Kontrollpunkte begründen.
Du kannst erklären, warum Protokollierung und Verantwortlichkeiten wichtig sind.
Du kannst Fairness, Sicherheit, Datenschutz und Reversibilität in eine Bewertung einbeziehen.
Du kannst aus Belegen und Gegenargumenten ein eigenständiges, nachvollziehbares Urteil formulieren.

Reflexion und Transfer

Überlege am Ende, ob sich Deine Einschätzung aus der Aktivierungsphase verändert hat. Welche Eigenschaft eines KI-Agenten hältst Du nun für wichtiger: seine technische Leistungsfähigkeit oder die Gestaltung seiner Grenzen und Kontrollen? Begründe Deine Antwort.

Übertrage das Bewertungsraster anschließend auf einen anderen Bereich, zum Beispiel Onlinehandel, Verkehr, Gesundheitsinformationen, Hausautomation, Verwaltung oder Schülerfirma. Achte darauf, dass ein System in einem Bereich vertretbar und in einem anderen ungeeignet sein kann.

OERs zum Thema

Die eingebundenen Wikimedia-Commons-Medien stehen gemäß den jeweiligen Dateibeschreibungen unter freien Lizenzen oder sind gemeinfrei. Prüfe bei einer Weiterverwendung immer die konkrete Lizenzseite und die erforderliche Namensnennung.

Weiterführend sind die Wikipedia-Artikel Künstliche Intelligenz, Algorithmic Bias und Automatisierung hilfreich.

Offizielle rechtliche Grundlage: Verordnung EU 2024/1689 – Artificial Intelligence Act

Informationen der Europäischen Kommission: Regulatory framework for AI

Verknüpfte Lernbereiche

KI-Agenten und Autonomie bewerten

aiMOOC-Projekte

Inhalte werden geladen ...

Mediathek wird aus dem Wiki geladen ...

Frag mich zum aktuellen Lerninhalt oder wähle eine kurze Hilfe.

Textmodus bereit

Sprache