Glanz: aiMOOC über GPT aiMOOC Action erstellt

2026-06-16T14:52:53Z

aiMOOC über GPT aiMOOC Action erstellt

Neue Seite

{{T}}
{{BR}}
= KI-Agenten Observability / From Vibe Coding to Agentic Coding =

{{BR}}
= Einleitung =

Dieser aiMOOC führt Dich in das Thema '''[[KI-Agenten Observability]]''' ein und verbindet es mit dem Wandel von '''[[Vibe Coding]]''' zu '''[[Agentic Coding]]'''. Im Mittelpunkt steht die Frage: Wie kannst Du [[KI-Agent|KI-Agenten]], die Code schreiben, Werkzeuge benutzen, Tests ausführen und Entscheidungen vorbereiten, so beobachten, prüfen und steuern, dass ihre Ergebnisse nachvollziehbar, sicher und verbesserbar werden?

{{#ev:youtube| https://www.youtube.com/watch?v=XpYbNqsereM |500|center}}

Das eingebundene Video behandelt den Übergang von schnellem, intuitivem KI-unterstütztem Programmieren hin zu stärker strukturierten agentischen Entwicklungsprozessen. Es eignet sich als Einstieg, um über Chancen, Risiken und neue Kompetenzen in der [[Softwareentwicklung]] zu diskutieren.

{{BR}}
== Lernziele ==

Nach diesem aiMOOC kannst Du erklären, was '''[[Observability]]''' in Softwaresystemen bedeutet, warum [[KI-Agent|KI-Agenten]] andere Beobachtungsformen benötigen als klassische Programme und wie [[Tracing]], [[Metrik|Metriken]], [[Logdatei|Logs]], [[Evaluation|Evals]] und [[Human-in-the-Loop]] zusammenwirken. Du kannst den Unterschied zwischen '''[[Vibe Coding]]''' und '''[[Agentic Coding]]''' beschreiben, typische Risiken agentischer Coding-Workflows analysieren und einen einfachen Observability-Plan für einen KI-Agenten entwerfen.

{{BR}}
== Warum das Thema wichtig ist ==

[[Künstliche Intelligenz]] verändert das Programmieren grundlegend. Früher stand meist das direkte Schreiben von [[Quellcode]] im Zentrum. Heute können [[Large Language Model|große Sprachmodelle]] Code vorschlagen, Fehler erklären, Tests erzeugen, Dokumentation schreiben und sogar mehrere Werkzeuge nacheinander bedienen. Dadurch entsteht eine neue Arbeitsteilung: Der Mensch formuliert Ziele, bewertet Ergebnisse, setzt Grenzen und verantwortet die Qualität. Der [[KI-Agent]] übernimmt Teile der Ausführung, bleibt aber probabilistisch, kontextabhängig und fehleranfällig. Genau deshalb brauchst Du [[Observability]].

[[Datei:Artificial neural network.svg|500px|rahmenlos|center]]

Die Abbildung zeigt vereinfacht ein [[Künstliches neuronales Netz|künstliches neuronales Netz]]. Sie erinnert daran, dass KI-Systeme nicht wie klassische Regelprogramme Schritt für Schritt nach festen Wenn-dann-Regeln funktionieren. Ihre Ausgaben entstehen aus gelernten Mustern, Wahrscheinlichkeiten und Kontextinformationen. Für Lernende, Entwicklerinnen und Entwickler bedeutet das: Eine Antwort kann plausibel klingen und trotzdem falsch, unvollständig oder unsicher sein.

{{BR}}
== Grundbegriffe: Observability, Monitoring und Telemetrie ==

'''[[Monitoring]]''' fragt häufig: Ist ein System gerade gesund? Es nutzt zum Beispiel Warnmeldungen, Dashboards und Schwellenwerte. '''[[Observability]]''' geht weiter. Sie fragt: Warum verhält sich ein System so, wie es sich verhält? Dafür werden [[Telemetrie|Telemetriedaten]] gesammelt, verbunden und analysiert. In modernen Systemen sind besonders vier Signalarten wichtig: [[Logdatei|Logs]], [[Metrik|Metriken]], [[Tracing|Traces]] und [[Profiling|Profiles]].

{| class="wikitable"
! Begriff
! Bedeutung
! Beispiel bei KI-Agenten
|-
| [[Logdatei|Log]]
| Ereignisprotokoll mit einzelnen Meldungen
| Der Agent ruft ein Werkzeug auf und erhält eine Fehlermeldung
|-
| [[Metrik]]
| Messwert über Zeit
| Durchschnittliche Antwortzeit, Tokenverbrauch oder Fehlerrate
|-
| [[Tracing|Trace]]
| Ablaufspur einer Anfrage über mehrere Schritte
| Prompt, Modellaufruf, Tool Call, Testlauf und finale Antwort werden als zusammenhängender Lauf sichtbar
|-
| [[Span]]
| Teilabschnitt eines Traces
| Ein einzelner Datenbankzugriff oder ein einzelner Codegenerierungs-Schritt
|-
| [[Evaluation|Eval]]
| Bewertungsverfahren für Qualität, Sicherheit oder Zielerreichung
| Ein Test prüft, ob generierter Code die Anforderungen erfüllt
|}

{{BR}}
== Warum KI-Agenten besondere Observability brauchen ==

Ein klassisches Programm führt vorab festgelegte Anweisungen aus. Ein [[KI-Agent]] kann dagegen Ziele interpretieren, Zwischenschritte planen, externe Werkzeuge nutzen und seinen nächsten Schritt auf Basis vorheriger Ergebnisse anpassen. Das macht ihn leistungsfähig, aber auch schwerer vorhersehbar. Ohne [[Observability]] bleibt oft unklar, welcher Prompt, welche Kontextdaten, welches Modell, welcher Tool Call oder welche Zwischenentscheidung zu einem Ergebnis geführt hat.

Besonders wichtig ist das bei [[Agentic Coding]], weil hier nicht nur Text erzeugt wird. Ein Agent kann Dateien ändern, Abhängigkeiten installieren, Tests ausführen, Pull Requests vorbereiten oder Deployments anstoßen. Jede dieser Aktionen kann Kosten verursachen, Sicherheitsrisiken erhöhen oder bestehende Software verändern. Deshalb reicht es nicht, nur das Endergebnis anzuschauen. Du musst den Weg zum Ergebnis nachvollziehen können.

{{BR}}
== Von Vibe Coding zu Agentic Coding ==

'''[[Vibe Coding]]''' beschreibt eine intuitive, dialogische Form des Programmierens mit KI. Du beschreibst in natürlicher Sprache, was Du ungefähr möchtest, lässt Dir Code generieren, probierst ihn aus, gibst Feedback und verfeinerst die Lösung. Dieser Ansatz ist hilfreich für Ideen, schnelle Prototypen, Lernprozesse und kreative Experimente. Er kann aber riskant werden, wenn Anforderungen unklar bleiben, Tests fehlen oder generierter Code ungeprüft übernommen wird.

'''[[Agentic Coding]]''' geht einen Schritt weiter. Hier arbeitet ein [[KI-Agent]] zielgerichtet in einem Entwicklungsprozess: Er zerlegt Aufgaben, plant Schritte, verändert Code, führt Tests aus, beobachtet Ergebnisse, korrigiert Fehler und dokumentiert Entscheidungen. Dadurch entsteht ein geschlossener Arbeitszyklus aus Ziel, Handlung, Beobachtung und Verbesserung. Dieser Zyklus braucht klare Grenzen, überprüfbare Kriterien und [[Observability]], damit Du als Mensch verantwortlich steuern kannst.

[[Datei:SDLC - Software Development Life Cycle.jpg|500px|rahmenlos|center]]

Die Abbildung zum [[Software Development Life Cycle|Softwareentwicklungszyklus]] zeigt, dass professionelle Softwareentwicklung nicht nur aus Coding besteht. Anforderungen, Design, Implementierung, Testen und Weiterentwicklung hängen zusammen. [[Agentic Coding]] muss sich in diesen Zyklus einfügen, statt ihn zu ersetzen.

{{BR}}
== Vergleich: Vibe Coding und Agentic Coding ==

{| class="wikitable"
! Aspekt
! [[Vibe Coding]]
! [[Agentic Coding]]
|-
| Ausgangspunkt
| Idee, Stimmung, grobe Absicht
| Ziel, Aufgabe, Kontext und Akzeptanzkriterien
|-
| Rolle des Menschen
| Prompten, Ausprobieren, Korrigieren
| Ziele setzen, Grenzen definieren, Ergebnisse prüfen, Freigaben erteilen
|-
| Rolle der KI
| Code vorschlagen und erklären
| Planen, ausführen, testen, beobachten, iterieren
|-
| Qualitätssicherung
| Häufig informell und manuell
| Tests, Traces, Reviews, Evals und Regeln im Workflow
|-
| Risiko
| Unklare Anforderungen und ungeprüfte Annahmen
| Tool-Missbrauch, Kosten, Sicherheitslücken, fehlerhafte autonome Entscheidungen
|-
| Geeignet für
| Prototypen, Lernen, Ideenskizzen
| Wiederholbare Entwicklungsaufgaben, Refactoring, Testgenerierung, größere Codebasen
|}

{{BR}}
== Agenten-Observability als Denkmodell ==

Ein guter Observability-Ansatz für [[KI-Agent|KI-Agenten]] beantwortet vier Kernfragen. Erstens: '''Was hat der Agent gesehen?''' Dazu gehören [[Prompt]], Systemanweisung, Kontextfenster, abgerufene Dokumente und Eingabedaten. Zweitens: '''Was hat der Agent entschieden?''' Dazu gehören Plan, Zwischenschritte, Tool-Auswahl und Abbruchkriterien. Drittens: '''Was hat der Agent getan?''' Dazu gehören Dateiänderungen, Befehle, API-Aufrufe, Tests und externe Aktionen. Viertens: '''Wie gut war das Ergebnis?''' Dazu gehören funktionale Tests, Sicherheitsprüfungen, Kosten, Latenz, Nutzerfeedback und [[Evaluation|Evals]].

{{BR}}
== Signale für KI-Agenten ==

{| class="wikitable"
! Signal
! Beobachtbare Frage
! Nutzen
|-
| [[Prompt]]
| Welche Anweisung wurde verwendet?
| Erklärt Absicht, Rahmen und mögliche Fehlinterpretationen
|-
| [[Kontextfenster]]
| Welche Informationen lagen dem Modell vor?
| Hilft, fehlende oder veraltete Informationen zu erkennen
|-
| [[Tool Call]]
| Welche Werkzeuge wurden wann aufgerufen?
| Macht externe Aktionen und Nebenwirkungen sichtbar
|-
| [[Token]]
| Wie viele Eingabe- und Ausgabetoken wurden verbraucht?
| Unterstützt Kostenkontrolle und Effizienzbewertung
|-
| [[Latenz]]
| Wie lange dauerte ein Schritt?
| Zeigt Engpässe und Wartezeiten
|-
| [[Trace]]
| Welche Schrittfolge führte zum Ergebnis?
| Ermöglicht Debugging über den gesamten Agentenlauf
|-
| [[Eval]]
| Wurde das Ziel erfüllt?
| Verbindet Beobachtung mit Qualitätsbewertung
|}

{{BR}}
== Beispiel: Trace eines Coding-Agenten ==

Stell Dir vor, Du beauftragst einen [[KI-Agent|Coding-Agenten]]: „Erstelle eine Login-Funktion mit Passwort-Reset und schreibe Tests.“ Ein einfacher [[Trace]] könnte so aussehen:

{| class="wikitable"
! Schritt
! Span
! Beobachtung
! Mögliche Qualitätsfrage
|-
| Anforderung verstehen
| intent.parse
| Der Agent fasst die Aufgabe zusammen
| Hat er Datenschutz und Sicherheit erwähnt?
|-
| Plan erstellen
| plan.create
| Der Agent plant Datenmodell, API und Tests
| Sind die Schritte vollständig und realistisch?
|-
| Code ändern
| code.edit
| Der Agent bearbeitet mehrere Dateien
| Sind Änderungen nachvollziehbar und begrenzt?
|-
| Tests ausführen
| test.run
| Unit-Tests laufen durch oder schlagen fehl
| Wurden relevante Fehler erkannt?
|-
| Fehler korrigieren
| code.fix
| Der Agent passt Code nach Testergebnissen an
| Entstehen neue Nebenwirkungen?
|-
| Ergebnis bewerten
| eval.security
| Sicherheitsregeln werden geprüft
| Gibt es Risiken wie unsichere Token oder fehlende Rate Limits?
|}

Ohne diesen [[Trace]] würdest Du nur das Endergebnis sehen. Mit Trace erkennst Du, wo ein Fehler entstanden ist, ob der Agent wichtige Anforderungen vergessen hat und ob eine Korrektur wirklich begründet war.

{{BR}}
== Werkzeuge und Standards ==

Ein zentraler Begriff ist '''[[OpenTelemetry]]'''. OpenTelemetry ist ein herstellerneutraler Ansatz, um [[Telemetrie|Telemetriedaten]] wie [[Tracing|Traces]], [[Metrik|Metriken]] und [[Logdatei|Logs]] zu erzeugen, zu sammeln und an Auswertungssysteme weiterzugeben. Für KI-Agenten ist das wichtig, weil Teams nicht an ein einzelnes Tool gebunden sein sollten. Standards erleichtern den Vergleich, die Integration und die langfristige Wartbarkeit.

[[Datei:Observability dashboard.png|500px|rahmenlos|center]]

Dashboards helfen, Muster zu erkennen. Sie ersetzen aber nicht die Analyse. Ein Dashboard kann zeigen, dass die Latenz steigt oder die Fehlerrate zunimmt. Ein Trace kann zeigen, welcher Agentenschritt verantwortlich war. Eine Evaluation kann zeigen, ob die Antwort fachlich korrekt, sicher und nützlich war. Erst das Zusammenspiel macht [[KI-Agenten Observability]] stark.

{{BR}}
== Typische Risiken in agentischen Coding-Workflows ==

# [[Halluzination]]: Der Agent erfindet Funktionen, Bibliotheken oder Testergebnisse, die nicht existieren.
# [[Prompt Injection]]: Eingaben oder Dokumente enthalten Anweisungen, die den Agenten zu unerwünschtem Verhalten verleiten.
# [[Sicherheitslücke]]: Generierter Code enthält unsichere Authentifizierung, geheime Schlüssel oder fehlende Eingabevalidierung.
# [[Kostenkontrolle]]: Zu viele Modellaufrufe, lange Kontexte oder Endlosschleifen erhöhen Kosten und Wartezeit.
# [[Datenleck]]: Vertrauliche Informationen werden in Prompts, Logs oder externen Tools sichtbar.
# [[Regressionstest|Regression]]: Eine Änderung löst ein altes Problem, erzeugt aber neue Fehler.
# [[Verantwortung]]: Unklarheit darüber, wer eine Änderung geprüft und freigegeben hat, erschwert Governance.

{{BR}}
== Gute Praxis: Mensch, Agent und System gemeinsam denken ==

Professionelles [[Agentic Coding]] bedeutet nicht, dass der Mensch verschwindet. Im Gegenteil: Die menschliche Rolle wird anspruchsvoller. Du musst Ziele präzise formulieren, Risiken einschätzen, Tests lesen, Logs interpretieren und entscheiden, wann ein Agent stoppen oder nachfragen soll. Besonders wirksam sind klare [[Akzeptanzkriterium|Akzeptanzkriterien]], kleine Arbeitspakete, versionierte Prompts, reproduzierbare Tests, getrennte Entwicklungsumgebungen und [[Human-in-the-Loop|menschliche Freigaben]] vor riskanten Aktionen.

{{BR}}
== Minimaler Observability-Plan für einen KI-Coding-Agenten ==

Ein einfacher Plan kann so aussehen:

{| class="wikitable"
! Bereich
! Beobachtung
! Mindestregel
|-
| Eingabe
| Nutzerziel, Systemanweisung, relevante Dateien
| Keine geheimen Daten in Prompts
|-
| Planung
| Aufgabenzerlegung und Annahmen
| Agent muss offene Fragen markieren
|-
| Ausführung
| Tool Calls, Dateiänderungen, Befehle
| Riskante Befehle nur nach Freigabe
|-
| Qualität
| Tests, Linting, Sicherheitsprüfung
| Keine Übergabe ohne Testbericht
|-
| Kosten
| Token, Laufzeit, Wiederholungen
| Abbruch bei Schleifen oder Kostenlimit
|-
| Nachvollziehbarkeit
| Trace, Modellversion, Promptversion
| Jeder Lauf erhält eine eindeutige ID
|}

{{BR}}
== Didaktischer Merksatz ==

'''[[Vibe Coding]]''' hilft Dir, schnell Ideen in Code zu verwandeln. '''[[Agentic Coding]]''' hilft Dir, komplexere Entwicklungsziele in wiederholbare Arbeitsabläufe zu überführen. '''[[KI-Agenten Observability]]''' sorgt dafür, dass diese Arbeitsabläufe sichtbar, prüfbar, sicher und verbesserbar bleiben.

{{BR}}
= Interaktive Aufgaben =

{{BR}}
== Quiz: Teste Dein Wissen ==

{{MC}}
'''Was ist das Hauptziel von Observability in Softwaresystemen?'''
(Die Ursachen eines Systemverhaltens nachvollziehbar machen)
(!Nur die Farbe eines Dashboards anpassen)
(!Programmiersprachen automatisch ersetzen)
(!Alle Tests grundsätzlich abschalten)
{{E}}
<br>

{{MC}}
'''Was beschreibt ein Trace am besten?'''
(Die zusammenhängende Ablaufspur einer Anfrage oder Aufgabe)
(!Eine zufällige Liste von Passwörtern)
(!Eine grafische Dekoration im Codeeditor)
(!Eine Lizenz für offene Software)
{{E}}
<br>

{{MC}}
'''Was ist ein typisches Merkmal von Vibe Coding?'''
(Intuitives Programmieren durch natürliche Sprache und schnelles Ausprobieren)
(!Ausschließliches Programmieren in Maschinencode)
(!Vollständig papierbasierte Softwareentwicklung)
(!Verbot jeder KI-Unterstützung)
{{E}}
<br>

{{MC}}
'''Was unterscheidet Agentic Coding besonders von einfachem KI-Codevorschlag?'''
(Ein Agent kann planen, Werkzeuge nutzen, testen und iterieren)
(!Der Mensch darf keine Ziele mehr setzen)
(!Code wird ohne Computer geschrieben)
(!Alle Ergebnisse sind automatisch fehlerfrei)
{{E}}
<br>

{{MC}}
'''Welche Information ist für KI-Agenten Observability besonders wichtig?'''
(Welcher Prompt, Kontext und Tool Call zu einem Ergebnis geführt hat)
(!Wie laut die Tastatur beim Schreiben war)
(!Welche Hintergrundfarbe die Webseite hat)
(!Wie viele Fenster im Raum geöffnet sind)
{{E}}
<br>

{{MC}}
'''Warum sind Evals in agentischen Workflows wichtig?'''
(Sie bewerten, ob Ergebnisse fachlich, funktional oder sicher passend sind)
(!Sie ersetzen jede menschliche Verantwortung)
(!Sie löschen alle Traces automatisch)
(!Sie verhindern jede Softwareänderung)
{{E}}
<br>

{{MC}}
'''Was ist ein Risiko bei ungeprüftem KI-generiertem Code?'''
(Er kann Sicherheitslücken oder falsche Annahmen enthalten)
(!Er ist immer mathematisch bewiesen)
(!Er benötigt nie Tests)
(!Er kann nie externe Bibliotheken verwenden)
{{E}}
<br>

{{MC}}
'''Welche Rolle hat Human-in-the-Loop in sicheren Agentenprozessen?'''
(Menschen prüfen, steuern und geben riskante Schritte frei)
(!Menschen dürfen keine Entscheidungen treffen)
(!Der Agent wird dauerhaft deaktiviert)
(!Alle Logs werden unlesbar gemacht)
{{E}}
<br>

{{MC}}
'''Was kann eine Metrik in einem KI-Agenten-System messen?'''
(Latenz, Fehlerrate oder Tokenverbrauch)
(!Die Lieblingsfarbe des Agenten)
(!Die physische Größe des Servers)
(!Den Namen jeder Programmiertaste)
{{E}}
<br>

{{MC}}
'''Welche Aussage beschreibt gute Agenten-Observability am besten?'''
(Sie verbindet Beobachtung, Bewertung und nachvollziehbare Verantwortung)
(!Sie macht Tests überflüssig)
(!Sie verbirgt alle Zwischenschritte)
(!Sie erlaubt unbegrenzte Tool-Nutzung ohne Regeln)
{{E}}
<br>

{{BR}}
== Memory ==

<div class="memo-quiz">
{|
|-
| Trace || Ablaufspur
|-
| Span || Teilschritt
|-
| Metrik || Messwert
|-
| Log || Ereignisprotokoll
|-
| Eval || Qualitätsbewertung
|-
| Prompt || Anweisung
|-
| Tool Call || Werkzeugaufruf
|-
| Latenz || Wartezeit
|}
{{E}}
<br>

{{BR}}
== Drag and Drop ==

<div class="lueckentext-quiz">

{| class="wikitable"
! Ordne die richtigen Begriffe zu.
! Thema
|-
| '''Prompt'''
| Eingabe oder Arbeitsanweisung an das KI-System
|-
| '''Trace'''
| Zusammenhängende Spur eines Agentenlaufs
|-
| '''Eval'''
| Bewertung der Ergebnisqualität
|-
| '''Sandbox'''
| Begrenzte und geschützte Ausführungsumgebung
|-
| '''Human Review'''
| Menschliche Prüfung vor Freigabe
|-
| '''Kostenlimit'''
| Begrenzung von Tokenverbrauch und Laufzeit
|}

{{E}}

<br>
...
<br />

{{BR}}
== Kreuzworträtsel ==

<div class="kreuzwort-quiz">
{|
|-
| Tracing || Wie heißt das Verfahren, das einen Ablauf über mehrere Schritte sichtbar macht?
|-
| Prompt || Wie heißt eine Anweisung an ein KI-Sprachmodell?
|-
| Metrik || Wie nennt man einen messbaren Wert über Zeit?
|-
| Latenz || Wie heißt die Wartezeit bis zu einer Antwort?
|-
| Sandbox || Wie nennt man eine geschützte Ausführungsumgebung?
|-
| Agent || Wie nennt man ein KI-System, das Ziele verfolgt und Werkzeuge nutzen kann?
|}
{{E}}
<br>

{{BR}}
== LearningApps ==

<iframe> https://learningapps.org/index.php?s=KI-Agenten+Observability </iframe>

{{BR}}
== Lückentext ==

<quiz display=simple>
{'''Vervollständige den Text.'''<br>
|type="{}"}
Bei der { Observability } geht es darum, das Verhalten eines Systems nachvollziehbar zu machen. Ein { Trace } zeigt den Ablauf einer Aufgabe über mehrere Schritte hinweg. Ein einzelner Abschnitt innerhalb eines solchen Ablaufs heißt { Span }. Beim { Vibe Coding } entstehen Programme oft durch natürliche Sprache, schnelles Ausprobieren und iterative Rückmeldungen. Beim { Agentic Coding } übernimmt ein KI-Agent mehr Planung, Werkzeugnutzung, Testausführung und Korrektur. Für sichere Workflows braucht der Agent klare { Grenzen }. Ein { Eval } bewertet, ob ein Ergebnis fachlich, funktional oder sicher passend ist. Der Mensch bleibt durch { Human-in-the-Loop } verantwortlich eingebunden. Besonders wichtig sind Schutzmaßnahmen gegen { Prompt Injection }, Datenlecks und unsichere Befehle. Gute Agenten-Observability verbindet Telemetrie, Tests, Kostenkontrolle und { Verantwortung }.
</quiz>

<br>

{{BR}}
= Offene Aufgaben =

{{BR}}
=== Leicht ===
# [[Begriffskarte Observability]]: Erstelle eine Begriffskarte mit mindestens acht zentralen Begriffen wie Trace, Span, Log, Metrik, Eval, Prompt, Tool Call und Latenz. Schreibe zu jedem Begriff ein eigenes Beispiel aus einem Coding-Agenten-Workflow.
# [[Vibe Coding Tagebuch]]: Protokolliere eine kleine KI-unterstützte Programmieraufgabe. Notiere, welche Prompts Du genutzt hast, welche Fehler auftraten und wie Du entschieden hast, ob der Code brauchbar ist.
# [[Fehler erkennen]]: Sammle drei Beispiele für plausible, aber falsche KI-Antworten beim Programmieren. Erkläre, woran Du die Fehler erkannt hast.
# [[Dashboard Skizze]]: Zeichne ein einfaches Dashboard für einen KI-Agenten. Es soll mindestens Latenz, Fehlerrate, Tokenverbrauch und letzte Tool Calls anzeigen.

{{BR}}
=== Standard ===
# [[Trace-Modell entwickeln]]: Entwirf für einen Coding-Agenten ein Trace-Schema mit mindestens sechs Spans. Beschreibe für jeden Span, welche Daten gespeichert werden und welche nicht gespeichert werden dürfen.
# [[Risikomatrix KI-Agenten]]: Erstelle eine Risikomatrix für Agentic Coding mit den Kategorien Wahrscheinlichkeit, Schaden, Erkennbarkeit und Gegenmaßnahme. Nutze mindestens fünf Risiken.
# [[Eval-Datensatz]]: Entwickle zehn Testfälle für einen Agenten, der kleine Python-Funktionen schreibt. Jeder Testfall soll Eingabe, erwartetes Ergebnis und Bewertungskriterium enthalten.
# [[Human-in-the-Loop Prozess]]: Entwirf einen Freigabeprozess für riskante Agentenaktionen wie Dateilöschung, Paketinstallation oder Deployment. Erkläre, wann der Agent stoppen und nachfragen muss.

{{BR}}
=== Schwer ===
# [[Observability-Prototyp]]: Plane einen technischen Prototyp, der Prompts, Tool Calls, Testergebnisse und Kosten eines Coding-Agenten protokolliert. Beschreibe Architektur, Datenmodell und Datenschutzmaßnahmen.
# [[Vergleichsanalyse]]: Vergleiche Vibe Coding und Agentic Coding anhand eines realistischen Projekts. Analysiere, welche Aufgaben sich für schnelle Exploration eignen und welche strukturierte Agenten-Workflows benötigen.
# [[Sicherheitsreview]]: Entwickle eine Checkliste für ein Sicherheitsreview von KI-generiertem Code. Berücksichtige Eingabevalidierung, Authentifizierung, Geheimnisse, Abhängigkeiten und Logging.
# [[Governance-Konzept]]: Erstelle ein Governance-Konzept für den Einsatz von KI-Agenten in einer Schule, einem Ausbildungsbetrieb oder einem Softwareteam. Gehe auf Rollen, Verantwortung, Nachvollziehbarkeit, Datenschutz und Lernkultur ein.

{{:Offene Aufgabe - MOOC erstellen}}

{{BR}}
= Lernkontrolle =

# [[Transfer Agenten-Workflow]]: Erkläre an einem selbst gewählten Softwareprojekt, welche Teile Du mit Vibe Coding bearbeiten würdest und welche nur mit strukturiertem Agentic Coding. Begründe Deine Entscheidung mit Risiken und Qualitätsanforderungen.
# [[Ursachenanalyse]]: Ein KI-Agent hat funktionierenden Code erzeugt, aber dabei eine Sicherheitslücke eingebaut. Beschreibe, welche Observability-Daten Du untersuchen würdest, um die Ursache zu finden.
# [[Evaluationsdesign]]: Entwickle ein Eval-Konzept für einen Agenten, der Fehlerberichte automatisch in Codeänderungen übersetzt. Berücksichtige funktionale Korrektheit, Verständlichkeit, Sicherheit und Kosten.
# [[Grenzen der Automatisierung]]: Diskutiere, warum mehr Autonomie nicht automatisch bessere Software bedeutet. Beziehe Tests, menschliche Verantwortung und Kontextverständnis ein.
# [[Datenschutzabwägung]]: Analysiere, welche Daten in Traces eines KI-Agenten gespeichert werden sollten und welche aus Datenschutzgründen maskiert, gekürzt oder gar nicht erfasst werden dürfen.
# [[Organisationsentscheidung]]: Eine Schule oder Firma möchte KI-Agenten für Programmieraufgaben einführen. Formuliere eine begründete Empfehlung mit Mindestanforderungen an Observability, Schulung, Freigabeprozesse und Dokumentation.

{{BR}}
= Lernnachweis =

Für den Lernnachweis erstellst Du ein eigenes Mini-Konzept für einen beobachtbaren KI-Coding-Agenten. Dein Konzept soll zeigen, dass Du die Zusammenhänge zwischen [[KI-Agent]], [[Softwareentwicklung]], [[Observability]], [[Evaluation]] und [[Verantwortung]] verstanden hast.

{{BR}}
== Anforderungen an den Lernnachweis ==

# [[Szenario]]: Beschreibe eine konkrete Coding-Aufgabe, die ein KI-Agent bearbeiten soll.
# [[Agentenprozess]]: Stelle dar, wie der Agent Ziel, Planung, Ausführung, Test und Korrektur durchläuft.
# [[Observability-Konzept]]: Lege fest, welche Traces, Logs, Metriken und Evals erfasst werden.
# [[Sicherheitsregeln]]: Formuliere mindestens fünf Grenzen, bei denen der Agent stoppen oder menschliche Freigabe einholen muss.
# [[Reflexion]]: Bewerte, welche Risiken trotz Observability bleiben und welche Rolle der Mensch übernimmt.

{{BR}}
== Bewertungskriterien ==

{| class="wikitable"
! Kriterium
! Erwartung
|-
| Fachlichkeit
| Die Begriffe werden korrekt verwendet und sinnvoll verbunden
|-
| Transfer
| Das Konzept wird auf ein eigenes realistisches Szenario angewendet
|-
| Sicherheit
| Datenschutz, Zugriffsbeschränkung und Freigabeprozesse werden berücksichtigt
|-
| Nachvollziehbarkeit
| Die geplanten Telemetriedaten ermöglichen eine Ursachenanalyse
|-
| Reflexion
| Chancen und Grenzen agentischer Entwicklung werden ausgewogen dargestellt
|}

<br>
<br>

{{BR}}
= OERs zum Thema =

<iframe> https://de.m.wikipedia.org/wiki/K%C3%BCnstliche_Intelligenz </iframe>

<iframe> https://de.m.wikipedia.org/wiki/Softwaretechnik </iframe>

<iframe> https://en.m.wikipedia.org/wiki/Observability_(software) </iframe>

<br>

{{BR}}
= Quellen und Vertiefung =

# [[OpenTelemetry]]: [https://opentelemetry.io/docs/ Offizielle OpenTelemetry-Dokumentation] zur Erfassung und Weitergabe von Telemetriedaten.
# [[Grafana]]: [https://grafana.com/docs/grafana/latest/visualizations/simplified-exploration/traces/concepts/telemetry/ Grafana-Dokumentation] zu Traces, Logs, Metriken und weiteren Observability-Signalen.
# [[LangSmith]]: [https://docs.langchain.com/langsmith/home LangSmith-Dokumentation] zu Observability, Evaluation und Entwicklung von LLM-Anwendungen.
# [[Langfuse]]: [https://langfuse.com/docs/ Langfuse-Dokumentation] zu Open-Source-LLM-Observability, Tracing und Evaluation.
# [[Wikimedia Commons]]: [https://commons.wikimedia.org/wiki/File:Artificial_neural_network.svg Artificial neural network.svg], [https://commons.wikimedia.org/wiki/File:SDLC_-_Software_Development_Life_Cycle.jpg SDLC - Software Development Life Cycle.jpg] und [https://commons.wikimedia.org/wiki/File:Observability_dashboard.png Observability dashboard.png] als freie Lernmedien.
# [[Wikipedia]]: [https://de.wikipedia.org/wiki/K%C3%BCnstliche_Intelligenz Künstliche Intelligenz], [https://de.wikipedia.org/wiki/Softwaretechnik Softwaretechnik] und [https://en.wikipedia.org/wiki/Observability_(software) Observability software] als Einstieg in Grundbegriffe.

{{BR}}
= Links =

{| align=center
{{:D-Tab}}
'''[[KI-Agenten Observability]]'''
# [[KI-Agent]]
# [[Künstliche Intelligenz]]
# [[Large Language Model]]
# [[Vibe Coding]]
# [[Agentic Coding]]
# [[Observability]]
# [[Monitoring]]
# [[Telemetrie]]
# [[Tracing]]
# [[Logdatei]]
# [[Metrik]]
# [[Evaluation]]
# [[OpenTelemetry]]
# [[Softwareentwicklung]]
# [[DevOps]]
# [[Prompt Engineering]]
# [[Prompt Injection]]
# [[Human-in-the-Loop]]
# [[Datenschutz]]
# [[IT-Sicherheit]]
|}

[[Kategorie:Informatik]]
[[Kategorie:Künstliche Intelligenz]]
[[Kategorie:Softwareentwicklung]]
[[Kategorie:DevOps]]
[[Kategorie:Medienbildung]]
[[Kategorie:Berufliche Bildung]]
[[Kategorie:Sekundarstufe II]]
[[Kategorie:Studium]]
{{BR}}
= aiMOOC-Projekte =
[[Kategorie:AI_MOOC]] [[Kategorie:GPT aiMOOC]]
{{MT}}

KI-Agenten Observability - aiMOOC - Versionsgeschichte

Glanz: aiMOOC über GPT aiMOOC Action erstellt