Glanz: aiMOOC über GPT aiMOOC Action erstellt

2026-06-30T11:06:04Z

aiMOOC über GPT aiMOOC Action erstellt

Neue Seite

{{T}}
{{BR}}
= Einleitung =

[[Anthropic]] ist ein US-amerikanisches Unternehmen für [[Künstliche Intelligenz]], das vor allem durch die Modellfamilie [[Claude]] bekannt wurde. Das Unternehmen wurde 2021 gegründet und beschreibt seine Arbeit als Forschung und Entwicklung zuverlässiger, interpretierbarer und steuerbarer [[KI-Systeme]]. Im Zentrum stehen [[KI-Sicherheit]], [[KI-Alignment]], [[Interpretierbarkeit künstlicher neuronaler Netze|Interpretierbarkeit]] und die Frage, wie leistungsfähige [[Large Language Model|Sprachmodelle]] nützlich sein können, ohne vermeidbare Schäden zu verursachen.

[[Datei:Anthropic.png|400px|rahmenlos|center]]

Dieser aiMOOC hilft Dir, [[Anthropic]] als Unternehmen, als Forschungsakteur und als Fallbeispiel für moderne [[KI-Governance]] zu verstehen. Du lernst, wie [[Claude]] grundsätzlich funktioniert, was [[Constitutional AI]] bedeutet, welche Rolle [[Reinforcement Learning from Human Feedback|RLHF]] und [[Reinforcement Learning from AI Feedback|RLAIF]] spielen und warum die öffentliche Debatte über [[KI-Ethik]], [[Datenschutz]], [[Urheberrecht]], [[Transparenz]] und [[Regulierung künstlicher Intelligenz|Regulierung]] so wichtig ist. Der Kurs ist besonders geeignet für [[Informatik]], [[Medienbildung]], [[Ethik]], [[Wirtschaft]], [[Politische Bildung]], [[Berufliche Bildung]] und einführende Veranstaltungen im [[Studium]].

{{BR}}
== Lernziele ==

Nach diesem aiMOOC kannst Du erklären, was [[Anthropic]] ist, wofür [[Claude]] steht und weshalb [[KI-Sicherheit]] bei modernen [[Sprachmodell|Sprachmodellen]] eine zentrale Rolle spielt. Du kannst Grundbegriffe wie [[Large Language Model]], [[Transformer]], [[Token]], [[Training künstlicher neuronaler Netze|Training]], [[Alignment]], [[Halluzination (Künstliche Intelligenz)|Halluzination]], [[Prompt Injection]] und [[Red Teaming]] verwenden. Außerdem kannst Du Chancen, Grenzen und Risiken von [[Generative KI|generativer KI]] an konkreten Beispielen beurteilen.

{{BR}}
= Überblick über Anthropic =

{{BR}}
== Entstehung und Selbstverständnis ==

[[Anthropic]] wurde 2021 von ehemaligen Mitarbeitenden aus dem Umfeld von [[OpenAI]] gegründet, darunter [[Dario Amodei]] und [[Daniela Amodei]]. Das Unternehmen hat seinen Sitz in [[San Francisco]] und arbeitet an [[Frontier Model|Frontier-Modellen]], also besonders leistungsfähigen KI-Systemen an der Grenze des jeweils technisch Machbaren. Anthropic ist als [[Public Benefit Corporation]] organisiert. Das bedeutet, dass neben wirtschaftlichen Zielen auch ein öffentlicher Nutzen in der Unternehmensmission verankert ist. Anthropic nutzt zusätzlich eine besondere Governance-Struktur, zu der ein [[Long-Term Benefit Trust]] gehört. Dieser soll dazu beitragen, Entscheidungen stärker am langfristigen Nutzen für die Gesellschaft auszurichten.

[[Datei:Dario Amodei at TechCrunch Disrupt 2023 01.jpg|450px|rahmenlos|center]]

Wichtig ist: Eine solche Struktur garantiert noch nicht automatisch gesellschaftlich gute Ergebnisse. Sie ist vielmehr ein Beispiel dafür, wie Unternehmen versuchen, [[Corporate Governance]], [[Technikfolgenabschätzung]] und [[KI-Sicherheit]] miteinander zu verbinden. In einer kritischen Auseinandersetzung solltest Du deshalb immer fragen, welche Interessen beteiligt sind, welche unabhängigen Prüfungen stattfinden und wie transparent Entscheidungen getroffen werden.

{{BR}}
== Anthropic im KI-Ökosystem ==

[[Anthropic]] gehört neben Unternehmen wie [[OpenAI]], [[Google DeepMind]], [[Meta Platforms|Meta]], [[Microsoft]] und weiteren Forschungslaboren zu den wichtigen Akteuren im Bereich [[Generative KI]]. Anthropic entwickelt Modelle, stellt sie über Weboberflächen und Programmierschnittstellen bereit und kooperiert mit großen Cloud-Plattformen. Solche Kooperationen sind für moderne [[KI-Entwicklung]] bedeutsam, weil das Training und der Betrieb großer Modelle enorme [[Rechenzentrum|Rechenzentrums-]], [[Cloud Computing|Cloud-]] und [[Halbleiter|Chip-Ressourcen]] erfordern.

Für die gesellschaftliche Bewertung ist dieser wirtschaftliche Kontext wichtig. Moderne KI ist nicht nur eine technische Innovation, sondern auch ein Feld mit starken [[Wettbewerb|Wettbewerbsinteressen]], hohen Investitionen, Infrastrukturabhängigkeiten und politischen Folgen. Wer [[Anthropic]] verstehen will, sollte deshalb neben den Modellen auch Fragen nach [[Marktmacht]], [[Datenschutz]], [[Arbeitswelt]], [[Energieverbrauch]], [[Urheberrecht]] und [[Demokratie]] berücksichtigen.

{{BR}}
= Claude: Die Modellfamilie von Anthropic =

{{BR}}
== Was ist Claude? ==

[[Claude]] ist eine Familie großer [[Sprachmodell|Sprachmodelle]], die von [[Anthropic]] entwickelt wird. Solche Modelle werden mit sehr großen Text- und teilweise auch Bilddaten trainiert, um Muster in Sprache, Wissen, Argumentation und Kommunikation zu lernen. Claude kann Texte verfassen, zusammenfassen, übersetzen, Fragen beantworten, Code erklären, Tabellen analysieren, Bilder beschreiben und in bestimmten Anwendungen Werkzeuge nutzen. Je nach Version und Produktumgebung kann Claude unterschiedliche Fähigkeiten besitzen. Die konkreten Modellnamen, Leistungsgrenzen, Preise und Verfügbarkeiten ändern sich regelmäßig; für praktische Arbeit solltest Du deshalb immer die aktuellen offiziellen Informationen prüfen.

Claude wird häufig mit Begriffen wie '''hilfreich''', '''ehrlich''' und '''harmlos''' beschrieben. Diese Kurzformel bedeutet nicht, dass das Modell immer fehlerfrei oder objektiv ist. Sie benennt ein Ziel der Modellgestaltung: Das System soll nützlich antworten, Unsicherheit offenlegen und gefährliche oder missbräuchliche Anfragen begrenzen.

{{BR}}
== Wie funktioniert ein großes Sprachmodell grundsätzlich? ==

Ein [[Large Language Model]] verarbeitet Sprache nicht so, wie ein Mensch einen Satz erlebt. Es zerlegt Texte in kleinere Einheiten, sogenannte [[Token]], und berechnet Wahrscheinlichkeiten für passende Fortsetzungen. Moderne Modelle nutzen meist die [[Transformer|Transformer-Architektur]], die mit [[Attention (Machine Learning)|Attention-Mechanismen]] arbeitet. Dadurch kann ein Modell Beziehungen zwischen Wörtern, Sätzen und längeren Textabschnitten berücksichtigen.

[[Datei:The-Transformer-model-architecture.png|600px|rahmenlos|center]]

Ein Sprachmodell besitzt kein menschliches Bewusstsein und keine eigenen Erfahrungen. Es erzeugt Antworten auf Grundlage gelernter Muster, Eingaben, Systemvorgaben und möglicher Werkzeuge. Deshalb können auch überzeugend formulierte Antworten falsch sein. Dieses Problem wird oft als [[Halluzination (Künstliche Intelligenz)|Halluzination]] bezeichnet. Für Schule, Ausbildung, Studium und Beruf bedeutet das: Ergebnisse müssen geprüft, Quellen müssen bewertet und wichtige Entscheidungen dürfen nicht blind an KI-Systeme delegiert werden.

{{BR}}
== Neuronale Netze und Training ==

Große Sprachmodelle beruhen auf [[Künstliches neuronales Netz|künstlichen neuronalen Netzen]]. Ein Netz besteht aus vielen rechnerischen Einheiten, deren Verbindungen während des Trainings angepasst werden. Beim Training werden Modellparameter so verändert, dass das Modell in den Trainingsaufgaben bessere Vorhersagen macht. Nach dem Vortraining folgt häufig ein Nachtraining, bei dem das Modell stärker an menschliche Erwartungen, Sicherheitsregeln oder bestimmte Einsatzbereiche angepasst wird.

[[Datei:Artificial neural network.svg|500px|rahmenlos|center]]

Für das Verständnis von [[Anthropic]] ist wichtig, dass Sicherheit nicht erst am Ende als Filter hinzugefügt wird. Sicherheit wird durch Datenauswahl, Training, Nachtraining, Tests, Richtlinien, Produktgestaltung, Monitoring und organisatorische Entscheidungen beeinflusst. Deshalb ist [[KI-Sicherheit]] ein interdisziplinäres Feld zwischen [[Informatik]], [[Statistik]], [[Ethik]], [[Psychologie]], [[Rechtswissenschaft]], [[Politikwissenschaft]] und [[Wirtschaft]].

{{BR}}
= Constitutional AI =

{{BR}}
== Grundidee ==

[[Constitutional AI]] ist ein Ansatz, mit dem Anthropic KI-Modelle an Prinzipien ausrichten möchte. Eine "Konstitution" ist dabei keine staatliche Verfassung, sondern eine Sammlung von Regeln, Werten und Abwägungen, an denen sich das Modell beim Bewerten und Verbessern von Antworten orientieren soll. Die Idee lautet: Ein Modell soll problematische Antworten nicht nur vermeiden, sondern anhand expliziter Prinzipien begründen können, warum eine bessere Antwort hilfreicher, sicherer oder ehrlicher ist.

{{#ev:youtube| https://www.youtube.com/watch?v=Tjsox6vfsos |500|center}}

Im klassischen [[Reinforcement Learning from Human Feedback|RLHF]] bewerten Menschen Modellantworten. Bei [[Constitutional AI]] wird zusätzlich oder teilweise ein Modell genutzt, das Antworten anhand einer Prinzipienliste kritisiert und überarbeitet. In der Forschung von Anthropic umfasst dies eine Phase, in der Antworten erzeugt, kritisiert und verbessert werden, sowie eine Phase, in der ein Modell Präferenzen lernt. Wenn KI-Feedback zur Ausrichtung genutzt wird, spricht man häufig von [[Reinforcement Learning from AI Feedback|RLAIF]].

[[Datei:RLHF diagram.svg|600px|rahmenlos|center]]

{{BR}}
== Claude's Constitution ==

Anthropic hat eine ausführliche "Claude's Constitution" veröffentlicht. Sie beschreibt, welche Werte und Verhaltensweisen Anthropic für Claude anstrebt. Dazu gehören unter anderem hilfreiche Antworten, Ehrlichkeit, Vermeidung von Schaden, Respekt gegenüber Nutzerinnen und Nutzern, Umgang mit Unsicherheit und die Fähigkeit, gefährliche Anfragen abzulehnen. Die Veröffentlichung der Konstitution ist auch ein Beitrag zur [[Transparenz]], weil Außenstehende besser erkennen können, welche Werte in das Verhalten eines Modells einfließen sollen.

Gleichzeitig bleibt eine wichtige Frage offen: Eine veröffentlichte Konstitution zeigt Absichten, aber sie beweist nicht automatisch, dass ein Modell sich in allen Situationen entsprechend verhält. Gerade bei [[Prompt Injection]], manipulativen Eingaben, mehrdeutigen Situationen, politischen Konflikten oder sehr komplexen Aufgaben können Modelle abweichen. Deshalb braucht es [[Evaluation]], [[Red Teaming]], unabhängige Forschung und gesellschaftliche Debatten.

{{BR}}
== Stärken des Ansatzes ==

# [[Transparenz]]: Prinzipien werden sichtbarer als bei rein impliziten Trainingszielen.
# [[Skalierbarkeit]]: KI-Feedback kann helfen, mehr Trainingsbeispiele zu bewerten, als Menschen allein prüfen könnten.
# [[Konsistenz]]: Ein Modell kann lernen, Antworten nach wiederkehrenden Kriterien zu überarbeiten.
# [[Reflexion]]: Der Ansatz fördert Begründungen, Kritik und Revision statt bloßer Ergebnisproduktion.
# [[Sicherheit]]: Gefährliche, täuschende oder missbräuchliche Inhalte sollen besser erkannt und begrenzt werden.

{{BR}}
== Grenzen und Kritik ==

[[Constitutional AI]] löst nicht alle Probleme. Erstens müssen die Prinzipien selbst ausgewählt werden. Dabei entstehen Fragen nach kultureller Vielfalt, demokratischer Legitimation und Macht: Wer entscheidet, welche Werte ein global genutztes KI-System verkörpern soll? Zweitens kann ein Modell Regeln missverstehen, zu starr anwenden oder in Grenzfällen inkonsistent handeln. Drittens kann ein zu sicherheitsorientiertes System zu viele harmlose Anfragen ablehnen. Das nennt man [[Overblocking]] oder [[Overrefusal]]. Viertens können wirtschaftliche Interessen, Wettbewerb und Produktdruck beeinflussen, wie Sicherheit in der Praxis umgesetzt wird.

Eine faire Bewertung von Anthropic muss deshalb zwei Dinge gleichzeitig sehen: Das Unternehmen hat wichtige Methoden der [[KI-Sicherheit]] mitentwickelt und öffentlich diskutiert. Zugleich ist es ein wirtschaftlicher Akteur in einem intensiven globalen Wettbewerb. Gerade diese Spannung macht Anthropic zu einem spannenden Lerngegenstand.

{{BR}}
= KI-Sicherheit und Alignment =

{{BR}}
== Was bedeutet Alignment? ==

[[KI-Alignment]] beschreibt das Ziel, KI-Systeme so zu gestalten, dass ihr Verhalten mit menschlichen Absichten, gesellschaftlichen Normen und Sicherheitsanforderungen vereinbar ist. Bei einfachen Programmen kann man gewünschtes Verhalten oft direkt festlegen. Bei großen [[Sprachmodell|Sprachmodellen]] ist das schwieriger, weil sie nicht durch einzelne Regeln, sondern durch sehr viele Parameter und Trainingsdaten geprägt sind.

Alignment bedeutet nicht, dass alle Menschen dieselben Werte haben. Es bedeutet vielmehr, Verfahren zu entwickeln, mit denen KI-Systeme in pluralistischen Gesellschaften verantwortbar eingesetzt werden können. Dazu gehören Transparenz, Korrekturmöglichkeiten, Grenzen für gefährliche Anwendungen, Schutz vor Diskriminierung und robuste Tests.

{{BR}}
== Typische Risiken bei Sprachmodellen ==

# [[Halluzination (Künstliche Intelligenz)|Halluzination]]: Das Modell formuliert falsche Informationen überzeugend.
# [[Bias]]: Trainingsdaten oder Bewertungsprozesse können Vorurteile verstärken.
# [[Datenschutz]]: Vertrauliche oder personenbezogene Daten können unbedacht eingegeben oder verarbeitet werden.
# [[Prompt Injection]]: Versteckte Anweisungen können ein Modell oder ein KI-Agentensystem fehlleiten.
# [[Desinformation]]: Generative KI kann irreführende Inhalte in großer Menge erzeugen.
# [[Cybersecurity]]: Modelle können sowohl beim Schützen als auch beim Angreifen digitaler Systeme relevant werden.
# [[Abhängigkeit]]: Menschen können Entscheidungen zu stark an KI-Systeme auslagern.
# [[Arbeitswelt]]: Automatisierung kann Tätigkeiten verändern, erleichtern oder verdrängen.

{{BR}}
== Red Teaming und Evaluation ==

[[Red Teaming]] bedeutet, ein System gezielt herauszufordern, um Schwachstellen zu finden. Dabei werden riskante, mehrdeutige oder manipulative Eingaben getestet. Bei KI-Modellen kann Red Teaming prüfen, ob ein Modell gefährliche Anleitungen liefert, sich täuschen lässt, falsche Gewissheit erzeugt oder diskriminierende Muster zeigt. [[Evaluation]] umfasst außerdem Benchmarks, Sicherheitstests, Nutzerstudien, System Cards, externe Audits und laufende Beobachtung im Betrieb.

Für Lernende ist wichtig: Ein einzelner Benchmark zeigt nie die gesamte Qualität eines Modells. Ein Modell kann in einem Test sehr gut sein und in einem anderen Kontext trotzdem scheitern. Gute KI-Bewertung braucht mehrere Perspektiven: technische Leistung, Sicherheit, Fairness, Nutzbarkeit, Robustheit, Kosten, Energieverbrauch und gesellschaftliche Folgen.

{{BR}}
== Responsible Scaling Policy ==

Anthropic veröffentlichte eine [[Responsible Scaling Policy]], also eine freiwillige Richtlinie zum verantwortungsvollen Skalieren leistungsfähiger KI-Systeme. Solche Richtlinien versuchen zu klären, welche Sicherheitsmaßnahmen nötig sind, wenn Modelle neue Fähigkeiten erreichen. Dazu gehören etwa strengere Tests, Sicherheitsstandards, Risikoberichte und Entscheidungen darüber, wie ein Modell bereitgestellt wird.

Freiwillige Selbstverpflichtungen können ein nützlicher Anfang sein, ersetzen aber keine demokratische [[Regulierung künstlicher Intelligenz|Regulierung]], unabhängige Kontrolle und klare Haftungsregeln. Ein zentrales Lernziel ist daher, freiwillige Unternehmenspolitik von rechtlich verbindlicher öffentlicher Kontrolle zu unterscheiden.

{{BR}}
= Anwendungen von Claude =

{{BR}}
== Bildung und Lernen ==

In der [[Bildung]] kann Claude beim Erklären schwieriger Begriffe, beim Strukturieren von Lernplänen, beim Formulieren von Feedback, beim Üben von Fremdsprachen oder beim Erstellen von Beispielaufgaben helfen. Lehrkräfte können KI als Assistenz nutzen, etwa für Differenzierung, Materialentwürfe oder Ideen für Lernkontrollen. Lernende können mit Claude Fragen klären, Entwürfe überarbeiten oder Argumentationen prüfen.

Dabei gelten klare Regeln: KI darf eigenes Denken nicht ersetzen. Quellen müssen geprüft werden. Bei Leistungsnachweisen muss transparent sein, ob und wie KI genutzt wurde. Persönliche Daten, Noten, sensible Gesundheitsdaten oder vertrauliche Informationen gehören nicht unbedacht in ein KI-System.

{{BR}}
== Programmieren und Arbeit mit Code ==

Ein wichtiger Einsatzbereich von Claude ist [[Softwareentwicklung]]. Claude kann Code erklären, Fehlermeldungen analysieren, Tests vorschlagen, Dokumentation verfassen oder bei Refactoring helfen. Produkte wie Claude Code zeigen, wie Sprachmodelle in Entwicklungsumgebungen eingebunden werden können.

{{#ev:youtube| https://www.youtube.com/watch?v=AJpK3YTTKZ4 |500|center}}

Trotzdem bleibt menschliche Verantwortung zentral. KI-generierter Code kann Sicherheitslücken, Lizenzprobleme, veraltete Bibliotheken oder logische Fehler enthalten. Professionelle Nutzung erfordert [[Code Review]], Tests, Versionskontrolle und ein Verständnis der zugrunde liegenden Systeme.

{{BR}}
== Wissenschaft, Analyse und Büroarbeit ==

Claude kann beim Zusammenfassen langer Dokumente, beim Vergleichen von Argumenten, beim Entwerfen von E-Mails, beim Analysieren von Tabellen oder beim Planen von Projekten unterstützen. In der Wissenschaft kann KI helfen, Literaturfragen vorzustrukturieren oder Methoden zu erklären. Sie darf aber keine Quellen erfinden und keine wissenschaftliche Prüfung ersetzen.

Für seriöses Arbeiten gilt: Nutze KI als Denkpartner, nicht als Autorität. Stelle Rückfragen, verlange Belege, prüfe Originalquellen und dokumentiere Deine Nutzung. Besonders bei [[Medizin]], [[Rechtswissenschaft]], [[Finanzen]], [[Sicherheit]] und [[Politik]] ist besondere Sorgfalt nötig.

{{BR}}
= Kritische Perspektiven =

{{BR}}
== Macht, Markt und Infrastruktur ==

Die Entwicklung großer KI-Modelle ist teuer. Sie benötigt Daten, Rechenleistung, spezialisierte Chips, Energie, Fachpersonal und Zugang zu Märkten. Dadurch können sich Macht und Einfluss auf wenige große Unternehmen konzentrieren. Anthropic ist hierfür ein gutes Beispiel: Einerseits verfolgt das Unternehmen ein starkes Sicherheitsprofil. Andererseits ist es Teil eines kapitalintensiven Marktes, in dem Geschwindigkeit, Produktintegration und Infrastrukturpartnerschaften entscheidend sind.

Diese Spannung führt zu wichtigen Fragen: Können Unternehmen sich selbst ausreichend kontrollieren? Wie lassen sich Innovation und Vorsicht verbinden? Welche Rolle sollen Staaten, Wissenschaft, Zivilgesellschaft und internationale Organisationen spielen? Wer haftet, wenn KI-Systeme Schaden verursachen?

{{BR}}
== Datenschutz und Urheberrecht ==

[[Datenschutz]] ist bei generativer KI zentral, weil Nutzende häufig Texte, Dokumente oder Bilder eingeben, die personenbezogene oder vertrauliche Informationen enthalten. Deshalb solltest Du vor jeder Nutzung prüfen, welche Daten verarbeitet werden, welche Einstellungen zur Datennutzung gelten und ob eine Eingabe rechtlich und organisatorisch erlaubt ist.

Auch [[Urheberrecht]] ist bedeutsam. Modelle werden mit großen Datenmengen trainiert, und Ausgaben können an bestehende Werke erinnern. In Schule und Studium ist deshalb wichtig, KI-Ausgaben nicht ungeprüft als eigene Leistung auszugeben und bei kreativen oder wissenschaftlichen Arbeiten transparent zu dokumentieren, wie KI eingesetzt wurde.

{{BR}}
== Anthropomorphisierung ==

Der Name [[Claude]] und die dialogische Form können dazu führen, dass Menschen dem System menschliche Eigenschaften zuschreiben. Das nennt man [[Anthropomorphismus]]. Ein Modell kann freundlich klingen, aber es hat keine menschlichen Gefühle, keine Biografie und keine eigene Verantwortung. Für einen reflektierten Umgang ist es hilfreich, zwischen sprachlicher Wirkung und technischer Funktionsweise zu unterscheiden.

{{BR}}
= Praktische Leitlinien für den Umgang mit Claude und ähnlichen KI-Systemen =

# [[Zielklärung]]: Formuliere genau, was Du erreichen willst.
# [[Quellenkritik]]: Prüfe wichtige Aussagen anhand verlässlicher Quellen.
# [[Datensparsamkeit]]: Gib keine unnötigen personenbezogenen oder vertraulichen Daten ein.
# [[Transparenz]]: Dokumentiere KI-Nutzung bei schulischen, wissenschaftlichen oder beruflichen Aufgaben.
# [[Gegenprüfung]]: Vergleiche KI-Antworten mit Fachliteratur, offiziellen Informationen oder Expertinnen und Experten.
# [[Verantwortung]]: Triff wichtige Entscheidungen nicht allein auf Grundlage einer KI-Antwort.
# [[Fairness]]: Achte darauf, ob Antworten Gruppen benachteiligen oder Stereotype verstärken.
# [[Sicherheit]]: Sei vorsichtig bei Code, Medizin, Recht, Finanzen, Cybersecurity und anderen Hochrisikobereichen.

{{BR}}
= Zusammenfassung =

[[Anthropic]] ist ein bedeutendes Unternehmen im Bereich [[Künstliche Intelligenz]], dessen bekannteste Produktlinie [[Claude]] ist. Der besondere Fokus liegt auf [[KI-Sicherheit]], [[Alignment]], [[Interpretierbarkeit]] und verantwortungsvollem Einsatz leistungsfähiger [[Sprachmodell|Sprachmodelle]]. Mit [[Constitutional AI]] versucht Anthropic, Modellverhalten stärker an expliziten Prinzipien auszurichten. Das ist ein wichtiger Beitrag zur Debatte über sichere KI, aber keine endgültige Lösung. Gerade weil Claude und ähnliche Systeme immer leistungsfähiger werden, müssen technische, ethische, rechtliche und politische Fragen gemeinsam betrachtet werden.

{{BR}}
= Interaktive Aufgaben =

{{BR}}
== Quiz: Teste Dein Wissen ==

{{MC}}

'''Was ist Anthropic vor allem?'''
(Ein Unternehmen für KI-Sicherheit und KI-Forschung)
(!Ein soziales Netzwerk für Bilder)
(!Ein Betriebssystem für Smartphones)
(!Eine staatliche Universität)

{{E}}
<br>

{{MC}}

'''Wie heißt die bekannte Modellfamilie von Anthropic?'''
(Claude)
(!Siri)
(!Alexa)
(!Excel)

{{E}}
<br>

{{MC}}

'''Was beschreibt der Begriff Constitutional AI am besten?'''
(Ein Ansatz zur Ausrichtung von KI-Modellen an expliziten Prinzipien)
(!Eine Methode zur Kühlung von Rechenzentren)
(!Ein Dateiformat für Trainingsdaten)
(!Ein Gesetzbuch für Roboter im Straßenverkehr)

{{E}}
<br>

{{MC}}

'''Was ist ein Large Language Model?'''
(Ein großes Sprachmodell, das Muster in Sprache verarbeitet und erzeugt)
(!Ein besonders großer Bildschirm)
(!Ein Speicherchip für Fotos)
(!Ein Programm nur für Tabellenkalkulation)

{{E}}
<br>

{{MC}}

'''Wofür steht RLHF?'''
(Reinforcement Learning from Human Feedback)
(!Random Logic for Human Files)
(!Reliable Language Hardware Format)
(!Robot Learning for High Frequency)

{{E}}
<br>

{{MC}}

'''Was bedeutet Halluzination bei KI-Sprachmodellen?'''
(Eine überzeugend formulierte, aber falsche oder unbelegte Ausgabe)
(!Eine optische Täuschung im Display)
(!Ein geplanter Neustart des Servers)
(!Eine besonders schnelle Übersetzung)

{{E}}
<br>

{{MC}}

'''Warum ist Red Teaming bei KI-Systemen wichtig?'''
(Es hilft, Schwachstellen und riskantes Verhalten aufzudecken)
(!Es ersetzt jede rechtliche Prüfung)
(!Es macht Trainingsdaten automatisch urheberrechtsfrei)
(!Es verhindert jeden Energieverbrauch)

{{E}}
<br>

{{MC}}

'''Welche Architektur ist für viele moderne Sprachmodelle besonders wichtig?'''
(Transformer)
(!Dampfturbine)
(!Lochkartenmaschine)
(!Druckerpipeline)

{{E}}
<br>

{{MC}}

'''Was ist eine Prompt Injection?'''
(Ein Versuch, ein KI-System durch versteckte oder manipulative Anweisungen fehlzuleiten)
(!Ein Verfahren zum Drucken von Prompts auf Papier)
(!Ein Update für den Grafikkartentreiber)
(!Eine Methode zur Messung der Bildschirmhelligkeit)

{{E}}
<br>

{{MC}}

'''Welche Aussage beschreibt einen verantwortungsvollen Umgang mit Claude am besten?'''
(Antworten prüfen, Quellen bewerten und sensible Daten schützen)
(!Alle Antworten ungeprüft übernehmen)
(!Persönliche Daten möglichst vollständig eingeben)
(!KI-Ausgaben immer als eigene Leistung ausgeben)

{{E}}
<br>

{{BR}}
== Memory ==

<div class="memo-quiz">
{|
|-
| Anthropic || KI-Sicherheitsunternehmen
|-
| Claude || Sprachmodellfamilie
|-
| Constitutional AI || Prinzipienbasierte Ausrichtung
|-
| RLHF || Lernen aus menschlichem Feedback
|-
| RLAIF || Lernen aus KI-Feedback
|-
| Transformer || Architektur moderner Sprachmodelle
|-
| Red Teaming || Gezielte Sicherheitstests
|-
| Prompt Injection || Manipulative Anweisung
|}
{{E}}
<br>

{{BR}}
== Drag and Drop ==

<div class="lueckentext-quiz">

{| class="wikitable"
! Ordne die richtigen Begriffe zu.
! Thema
|-
| '''Anthropic'''
| Unternehmen
|-
| '''Claude'''
| Modellfamilie
|-
| '''Constitutional AI'''
| Sicherheitsmethode
|-
| '''Transformer'''
| Modellarchitektur
|-
| '''Red Teaming'''
| Prüfung auf Schwachstellen
|-
| '''Datenschutz'''
| Schutz personenbezogener Informationen

|}
{{E}}

<br>

{{BR}}
== Kreuzworträtsel ==

<div class="kreuzwort-quiz">
{|
|-
| Claude || Wie heißt die bekannte KI-Assistentenfamilie von Anthropic?
|-
| Safety || Welches englische Wort steht im KI-Kontext für Sicherheit?
|-
| Alignment || Wie nennt man die Ausrichtung von KI-Systemen an Zielen und Werten?
|-
| Feedback || Welche Rückmeldung wird bei RLHF zum Lernen genutzt?
|-
| Transformer || Welche Architektur ist für moderne Sprachmodelle besonders wichtig?
|-
| Governance || Wie nennt man Strukturen zur verantwortlichen Steuerung von Organisationen und Technik?
|}
{{E}}
<br>

{{BR}}
== LearningApps ==

<iframe> https://learningapps.org/index.php?s=Anthropic+Claude+KI-Sicherheit </iframe>

{{BR}}
== Lückentext ==

<quiz display=simple>
{'''Vervollständige den Text.'''<br>
|type="{}"}
Anthropic ist ein Unternehmen mit starkem Schwerpunkt auf { KI-Sicherheit }. Die bekannteste Modellfamilie des Unternehmens heißt { Claude }. Große Sprachmodelle zerlegen Sprache in kleinere Einheiten, die man { Token } nennt. Viele moderne Sprachmodelle beruhen auf der { Transformer }-Architektur. Beim Ansatz Constitutional AI orientiert sich das Modell an einer Sammlung von { Prinzipien }. RLHF bedeutet Lernen aus menschlichem { Feedback }. Wenn KI-Feedback für die Ausrichtung genutzt wird, spricht man von { RLAIF }. Eine überzeugend formulierte, aber falsche Ausgabe nennt man oft { Halluzination }. Versteckte manipulative Anweisungen können eine { Prompt Injection } sein. Verantwortungsvolle KI-Nutzung erfordert Prüfung, Transparenz und { Datenschutz }.
</quiz>

<br>

{{BR}}
= Offene Aufgaben =

{{BR}}
=== Leicht ===
# [[Begriffsplakat]]: Gestalte ein digitales oder analoges Plakat mit den Begriffen [[Anthropic]], [[Claude]], [[KI-Sicherheit]], [[Alignment]] und [[Constitutional AI]]. Erkläre jeden Begriff in einem eigenen Satz.
# [[Alltagsbeispiele]]: Sammle fünf Situationen, in denen ein KI-Assistent wie Claude beim Lernen helfen könnte. Notiere zu jeder Situation auch ein mögliches Risiko.
# [[Quellencheck]]: Suche eine offizielle Informationsseite zu Anthropic und eine unabhängige Quelle. Vergleiche, welche Informationen gleich sind und welche unterschiedlich betont werden.
# [[Prompt verbessern]]: Formuliere eine ungenaue Frage an Claude und verbessere sie in drei Schritten, sodass sie klarer, sicherer und überprüfbarer wird.

{{BR}}
=== Standard ===
# [[Chancen-Risiken-Tabelle]]: Erstelle eine Tabelle mit Chancen und Risiken von Claude in Schule, Studium oder Beruf. Ergänze zu jedem Risiko eine Gegenmaßnahme.
# [[Fallanalyse Datenschutz]]: Entwickle ein Fallbeispiel, in dem jemand versehentlich vertrauliche Daten in ein KI-System eingibt. Beschreibe Folgen und bessere Handlungsoptionen.
# [[Constitutional AI erklären]]: Schreibe einen kurzen Erklärtext für jüngere Lernende, der den Unterschied zwischen RLHF und Constitutional AI verständlich macht.
# [[Red Teaming Mini-Test]]: Entwirf fünf harmlose Testprompts, mit denen Du prüfen würdest, ob ein KI-System Unsicherheit, Quellenbedarf und Grenzen korrekt kommuniziert.

{{BR}}
=== Schwer ===
# [[Ethik-Debatte]]: Organisiert eine Debatte zur Frage, ob Unternehmen wie Anthropic ihre KI-Sicherheitsregeln selbst festlegen dürfen oder ob staatliche Regulierung Vorrang haben sollte.
# [[Governance-Analyse]]: Untersuche die Idee einer Public Benefit Corporation und eines Long-Term Benefit Trust. Bewerte, welche Stärken und Schwächen solche Strukturen im KI-Bereich haben.
# [[Technikfolgenabschätzung]]: Erstelle eine Folgenabschätzung für den Einsatz von Claude in einer Schule, einem Krankenhaus oder einer Behörde. Berücksichtige Nutzen, Risiken, Betroffene und Schutzmaßnahmen.
# [[KI-Nutzungsleitfaden]]: Entwickle einen Leitfaden für Deine Klasse, Hochschule oder Ausbildungsgruppe, der transparente und faire Regeln zur Nutzung von KI-Assistenten enthält.

{{:Offene Aufgabe - MOOC erstellen}}

{{BR}}
= Lernkontrolle =

# [[Transferaufgabe KI-Sicherheit]]: Erkläre an einem selbst gewählten Beispiel, warum ein KI-System zugleich hilfreich und riskant sein kann. Zeige, welche Sicherheitsmaßnahmen sinnvoll wären.
# [[Vergleich Governance]]: Vergleiche freiwillige Selbstverpflichtungen eines KI-Unternehmens mit staatlicher Regulierung. Arbeite heraus, wann welche Form der Kontrolle stärker ist.
# [[Analyse einer KI-Antwort]]: Nimm eine KI-generierte Antwort zu einem Fachthema und prüfe sie auf Belege, Unsicherheit, mögliche Fehler, Bias und fehlende Perspektiven.
# [[Szenario Prompt Injection]]: Beschreibe ein realistisches Szenario, in dem eine Prompt Injection Schaden verursachen könnte, und entwickle Schutzmaßnahmen.
# [[Urteilsaufgabe Bildung]]: Beurteile, unter welchen Bedingungen Claude in einer Prüfungsvorbereitung hilfreich wäre und unter welchen Bedingungen die Nutzung problematisch wäre.

<br>
<br>
{{BR}}
= Lernnachweis =

Für einen Lernnachweis zu [[Anthropic]] solltest Du zeigen, dass Du technische Grundlagen, ethische Fragen und gesellschaftliche Zusammenhänge verbinden kannst.
# [[Fachbegriffe]]: Du verwendest zentrale Begriffe wie [[Claude]], [[Large Language Model]], [[Transformer]], [[Constitutional AI]], [[RLHF]], [[Alignment]], [[Red Teaming]] und [[Prompt Injection]] korrekt.
# [[Zusammenhänge]]: Du erklärst, wie Modelltraining, Sicherheitsmethoden, Unternehmensziele und gesellschaftliche Kontrolle zusammenhängen.
# [[Quellenkompetenz]]: Du unterscheidest zwischen Unternehmensdarstellung, unabhängiger Berichterstattung, wissenschaftlicher Forschung und persönlicher Meinung.
# [[Anwendung]]: Du entwickelst sichere und transparente Regeln für den Einsatz von KI-Assistenten in einem konkreten Kontext.
# [[Reflexion]]: Du bewertest Chancen und Risiken von Anthropic und Claude differenziert, ohne in Technikbegeisterung oder pauschale Ablehnung zu verfallen.
# [[Dokumentation]]: Du legst offen, ob und wie Du KI-Tools bei der Bearbeitung genutzt hast.

<br>
<br>
{{BR}}
= OERs zum Thema =

<iframe> https://de.m.wikipedia.org/wiki/Anthropic </iframe>

<br>

{{BR}}
= Quellen und Vertiefung =

# [[Anthropic]]: Offizielle Unternehmensinformationen: https://www.anthropic.com/company
# [[Claude]]: Offizielle Modell- und Plattforminformationen: https://docs.anthropic.com/
# [[Constitutional AI]]: Anthropic-Forschung zu Constitutional AI: https://www.anthropic.com/research/constitutional-ai-harmlessness-from-ai-feedback
# [[Claude's Constitution]]: Veröffentlichung der Claude-Konstitution: https://www.anthropic.com/constitution
# [[Responsible Scaling Policy]]: Anthropic-Richtlinie zum verantwortungsvollen Skalieren: https://www.anthropic.com/responsible-scaling-policy
# [[Wikipedia]]: Überblicksartikel zu Anthropic: https://de.wikipedia.org/wiki/Anthropic

{{BR}}
= Links =

{| align=center
{{:D-Tab}}
'''[[Anthropic]]'''
# [[Künstliche Intelligenz]]
# [[Claude]]
# [[Large Language Model]]
# [[Sprachmodell]]
# [[Transformer]]
# [[KI-Sicherheit]]
# [[KI-Alignment]]
# [[Constitutional AI]]
# [[Reinforcement Learning from Human Feedback]]
# [[Red Teaming]]
# [[Prompt Injection]]
# [[Halluzination (Künstliche Intelligenz)]]
# [[Datenschutz]]
# [[Urheberrecht]]
# [[KI-Ethik]]
# [[KI-Governance]]
# [[Regulierung künstlicher Intelligenz]]
|}

[[Kategorie:Informatik]]
[[Kategorie:Künstliche Intelligenz]]
[[Kategorie:Medienbildung]]
[[Kategorie:Ethik]]
[[Kategorie:Politische Bildung]]
[[Kategorie:Wirtschaft]]
[[Kategorie:Berufliche Bildung]]
[[Kategorie:Sekundarstufe II]]
[[Kategorie:Studium]]
[[Kategorie:Claude]]
[[Kategorie:Anthropic]]

{{BR}}
= aiMOOC-Projekte =
[[Kategorie:AI_MOOC]] [[Kategorie:GPT aiMOOC]]
{{MT}}

Anthropic - Versionsgeschichte

Glanz: aiMOOC über GPT aiMOOC Action erstellt