Anthropic

Einleitung

Anthropic ist ein US-amerikanisches Unternehmen für Künstliche Intelligenz, das vor allem durch die Modellfamilie Claude bekannt wurde. Das Unternehmen wurde 2021 gegründet und beschreibt seine Arbeit als Forschung und Entwicklung zuverlässiger, interpretierbarer und steuerbarer KI-Systeme. Im Zentrum stehen KI-Sicherheit, KI-Alignment, Interpretierbarkeit und die Frage, wie leistungsfähige Sprachmodelle nützlich sein können, ohne vermeidbare Schäden zu verursachen.

Dieser aiMOOC hilft Dir, Anthropic als Unternehmen, als Forschungsakteur und als Fallbeispiel für moderne KI-Governance zu verstehen. Du lernst, wie Claude grundsätzlich funktioniert, was Constitutional AI bedeutet, welche Rolle RLHF und RLAIF spielen und warum die öffentliche Debatte über KI-Ethik, Datenschutz, Urheberrecht, Transparenz und Regulierung so wichtig ist. Der Kurs ist besonders geeignet für Informatik, Medienbildung, Ethik, Wirtschaft, Politische Bildung, Berufliche Bildung und einführende Veranstaltungen im Studium.

Lernziele

Nach diesem aiMOOC kannst Du erklären, was Anthropic ist, wofür Claude steht und weshalb KI-Sicherheit bei modernen Sprachmodellen eine zentrale Rolle spielt. Du kannst Grundbegriffe wie Large Language Model, Transformer, Token, Training, Alignment, Halluzination, Prompt Injection und Red Teaming verwenden. Außerdem kannst Du Chancen, Grenzen und Risiken von generativer KI an konkreten Beispielen beurteilen.

Überblick über Anthropic

Entstehung und Selbstverständnis

Anthropic wurde 2021 von ehemaligen Mitarbeitenden aus dem Umfeld von OpenAI gegründet, darunter Dario Amodei und Daniela Amodei. Das Unternehmen hat seinen Sitz in San Francisco und arbeitet an Frontier-Modellen, also besonders leistungsfähigen KI-Systemen an der Grenze des jeweils technisch Machbaren. Anthropic ist als Public Benefit Corporation organisiert. Das bedeutet, dass neben wirtschaftlichen Zielen auch ein öffentlicher Nutzen in der Unternehmensmission verankert ist. Anthropic nutzt zusätzlich eine besondere Governance-Struktur, zu der ein Long-Term Benefit Trust gehört. Dieser soll dazu beitragen, Entscheidungen stärker am langfristigen Nutzen für die Gesellschaft auszurichten.

Wichtig ist: Eine solche Struktur garantiert noch nicht automatisch gesellschaftlich gute Ergebnisse. Sie ist vielmehr ein Beispiel dafür, wie Unternehmen versuchen, Corporate Governance, Technikfolgenabschätzung und KI-Sicherheit miteinander zu verbinden. In einer kritischen Auseinandersetzung solltest Du deshalb immer fragen, welche Interessen beteiligt sind, welche unabhängigen Prüfungen stattfinden und wie transparent Entscheidungen getroffen werden.

Anthropic im KI-Ökosystem

Anthropic gehört neben Unternehmen wie OpenAI, Google DeepMind, Meta, Microsoft und weiteren Forschungslaboren zu den wichtigen Akteuren im Bereich Generative KI. Anthropic entwickelt Modelle, stellt sie über Weboberflächen und Programmierschnittstellen bereit und kooperiert mit großen Cloud-Plattformen. Solche Kooperationen sind für moderne KI-Entwicklung bedeutsam, weil das Training und der Betrieb großer Modelle enorme Rechenzentrums-, Cloud- und Chip-Ressourcen erfordern.

Für die gesellschaftliche Bewertung ist dieser wirtschaftliche Kontext wichtig. Moderne KI ist nicht nur eine technische Innovation, sondern auch ein Feld mit starken Wettbewerbsinteressen, hohen Investitionen, Infrastrukturabhängigkeiten und politischen Folgen. Wer Anthropic verstehen will, sollte deshalb neben den Modellen auch Fragen nach Marktmacht, Datenschutz, Arbeitswelt, Energieverbrauch, Urheberrecht und Demokratie berücksichtigen.

Claude: Die Modellfamilie von Anthropic

Was ist Claude?

Claude ist eine Familie großer Sprachmodelle, die von Anthropic entwickelt wird. Solche Modelle werden mit sehr großen Text- und teilweise auch Bilddaten trainiert, um Muster in Sprache, Wissen, Argumentation und Kommunikation zu lernen. Claude kann Texte verfassen, zusammenfassen, übersetzen, Fragen beantworten, Code erklären, Tabellen analysieren, Bilder beschreiben und in bestimmten Anwendungen Werkzeuge nutzen. Je nach Version und Produktumgebung kann Claude unterschiedliche Fähigkeiten besitzen. Die konkreten Modellnamen, Leistungsgrenzen, Preise und Verfügbarkeiten ändern sich regelmäßig; für praktische Arbeit solltest Du deshalb immer die aktuellen offiziellen Informationen prüfen.

Claude wird häufig mit Begriffen wie hilfreich, ehrlich und harmlos beschrieben. Diese Kurzformel bedeutet nicht, dass das Modell immer fehlerfrei oder objektiv ist. Sie benennt ein Ziel der Modellgestaltung: Das System soll nützlich antworten, Unsicherheit offenlegen und gefährliche oder missbräuchliche Anfragen begrenzen.

Wie funktioniert ein großes Sprachmodell grundsätzlich?

Ein Large Language Model verarbeitet Sprache nicht so, wie ein Mensch einen Satz erlebt. Es zerlegt Texte in kleinere Einheiten, sogenannte Token, und berechnet Wahrscheinlichkeiten für passende Fortsetzungen. Moderne Modelle nutzen meist die Transformer-Architektur, die mit Attention-Mechanismen arbeitet. Dadurch kann ein Modell Beziehungen zwischen Wörtern, Sätzen und längeren Textabschnitten berücksichtigen.

Ein Sprachmodell besitzt kein menschliches Bewusstsein und keine eigenen Erfahrungen. Es erzeugt Antworten auf Grundlage gelernter Muster, Eingaben, Systemvorgaben und möglicher Werkzeuge. Deshalb können auch überzeugend formulierte Antworten falsch sein. Dieses Problem wird oft als Halluzination bezeichnet. Für Schule, Ausbildung, Studium und Beruf bedeutet das: Ergebnisse müssen geprüft, Quellen müssen bewertet und wichtige Entscheidungen dürfen nicht blind an KI-Systeme delegiert werden.

Neuronale Netze und Training

Große Sprachmodelle beruhen auf künstlichen neuronalen Netzen. Ein Netz besteht aus vielen rechnerischen Einheiten, deren Verbindungen während des Trainings angepasst werden. Beim Training werden Modellparameter so verändert, dass das Modell in den Trainingsaufgaben bessere Vorhersagen macht. Nach dem Vortraining folgt häufig ein Nachtraining, bei dem das Modell stärker an menschliche Erwartungen, Sicherheitsregeln oder bestimmte Einsatzbereiche angepasst wird.

Für das Verständnis von Anthropic ist wichtig, dass Sicherheit nicht erst am Ende als Filter hinzugefügt wird. Sicherheit wird durch Datenauswahl, Training, Nachtraining, Tests, Richtlinien, Produktgestaltung, Monitoring und organisatorische Entscheidungen beeinflusst. Deshalb ist KI-Sicherheit ein interdisziplinäres Feld zwischen Informatik, Statistik, Ethik, Psychologie, Rechtswissenschaft, Politikwissenschaft und Wirtschaft.

Constitutional AI

Grundidee

Constitutional AI ist ein Ansatz, mit dem Anthropic KI-Modelle an Prinzipien ausrichten möchte. Eine "Konstitution" ist dabei keine staatliche Verfassung, sondern eine Sammlung von Regeln, Werten und Abwägungen, an denen sich das Modell beim Bewerten und Verbessern von Antworten orientieren soll. Die Idee lautet: Ein Modell soll problematische Antworten nicht nur vermeiden, sondern anhand expliziter Prinzipien begründen können, warum eine bessere Antwort hilfreicher, sicherer oder ehrlicher ist.

{{#ev:youtube| https://www.youtube.com/watch?v=Tjsox6vfsos |500|center}}

Im klassischen RLHF bewerten Menschen Modellantworten. Bei Constitutional AI wird zusätzlich oder teilweise ein Modell genutzt, das Antworten anhand einer Prinzipienliste kritisiert und überarbeitet. In der Forschung von Anthropic umfasst dies eine Phase, in der Antworten erzeugt, kritisiert und verbessert werden, sowie eine Phase, in der ein Modell Präferenzen lernt. Wenn KI-Feedback zur Ausrichtung genutzt wird, spricht man häufig von RLAIF.

Claude's Constitution

Anthropic hat eine ausführliche "Claude's Constitution" veröffentlicht. Sie beschreibt, welche Werte und Verhaltensweisen Anthropic für Claude anstrebt. Dazu gehören unter anderem hilfreiche Antworten, Ehrlichkeit, Vermeidung von Schaden, Respekt gegenüber Nutzerinnen und Nutzern, Umgang mit Unsicherheit und die Fähigkeit, gefährliche Anfragen abzulehnen. Die Veröffentlichung der Konstitution ist auch ein Beitrag zur Transparenz, weil Außenstehende besser erkennen können, welche Werte in das Verhalten eines Modells einfließen sollen.

Gleichzeitig bleibt eine wichtige Frage offen: Eine veröffentlichte Konstitution zeigt Absichten, aber sie beweist nicht automatisch, dass ein Modell sich in allen Situationen entsprechend verhält. Gerade bei Prompt Injection, manipulativen Eingaben, mehrdeutigen Situationen, politischen Konflikten oder sehr komplexen Aufgaben können Modelle abweichen. Deshalb braucht es Evaluation, Red Teaming, unabhängige Forschung und gesellschaftliche Debatten.

Stärken des Ansatzes

Transparenz: Prinzipien werden sichtbarer als bei rein impliziten Trainingszielen.
Skalierbarkeit: KI-Feedback kann helfen, mehr Trainingsbeispiele zu bewerten, als Menschen allein prüfen könnten.
Konsistenz: Ein Modell kann lernen, Antworten nach wiederkehrenden Kriterien zu überarbeiten.
Reflexion: Der Ansatz fördert Begründungen, Kritik und Revision statt bloßer Ergebnisproduktion.
Sicherheit: Gefährliche, täuschende oder missbräuchliche Inhalte sollen besser erkannt und begrenzt werden.

Grenzen und Kritik

Constitutional AI löst nicht alle Probleme. Erstens müssen die Prinzipien selbst ausgewählt werden. Dabei entstehen Fragen nach kultureller Vielfalt, demokratischer Legitimation und Macht: Wer entscheidet, welche Werte ein global genutztes KI-System verkörpern soll? Zweitens kann ein Modell Regeln missverstehen, zu starr anwenden oder in Grenzfällen inkonsistent handeln. Drittens kann ein zu sicherheitsorientiertes System zu viele harmlose Anfragen ablehnen. Das nennt man Overblocking oder Overrefusal. Viertens können wirtschaftliche Interessen, Wettbewerb und Produktdruck beeinflussen, wie Sicherheit in der Praxis umgesetzt wird.

Eine faire Bewertung von Anthropic muss deshalb zwei Dinge gleichzeitig sehen: Das Unternehmen hat wichtige Methoden der KI-Sicherheit mitentwickelt und öffentlich diskutiert. Zugleich ist es ein wirtschaftlicher Akteur in einem intensiven globalen Wettbewerb. Gerade diese Spannung macht Anthropic zu einem spannenden Lerngegenstand.

KI-Sicherheit und Alignment

Was bedeutet Alignment?

KI-Alignment beschreibt das Ziel, KI-Systeme so zu gestalten, dass ihr Verhalten mit menschlichen Absichten, gesellschaftlichen Normen und Sicherheitsanforderungen vereinbar ist. Bei einfachen Programmen kann man gewünschtes Verhalten oft direkt festlegen. Bei großen Sprachmodellen ist das schwieriger, weil sie nicht durch einzelne Regeln, sondern durch sehr viele Parameter und Trainingsdaten geprägt sind.

Alignment bedeutet nicht, dass alle Menschen dieselben Werte haben. Es bedeutet vielmehr, Verfahren zu entwickeln, mit denen KI-Systeme in pluralistischen Gesellschaften verantwortbar eingesetzt werden können. Dazu gehören Transparenz, Korrekturmöglichkeiten, Grenzen für gefährliche Anwendungen, Schutz vor Diskriminierung und robuste Tests.

Typische Risiken bei Sprachmodellen

Halluzination: Das Modell formuliert falsche Informationen überzeugend.
Bias: Trainingsdaten oder Bewertungsprozesse können Vorurteile verstärken.
Datenschutz: Vertrauliche oder personenbezogene Daten können unbedacht eingegeben oder verarbeitet werden.
Prompt Injection: Versteckte Anweisungen können ein Modell oder ein KI-Agentensystem fehlleiten.
Desinformation: Generative KI kann irreführende Inhalte in großer Menge erzeugen.
Cybersecurity: Modelle können sowohl beim Schützen als auch beim Angreifen digitaler Systeme relevant werden.
Abhängigkeit: Menschen können Entscheidungen zu stark an KI-Systeme auslagern.
Arbeitswelt: Automatisierung kann Tätigkeiten verändern, erleichtern oder verdrängen.

Red Teaming und Evaluation

Red Teaming bedeutet, ein System gezielt herauszufordern, um Schwachstellen zu finden. Dabei werden riskante, mehrdeutige oder manipulative Eingaben getestet. Bei KI-Modellen kann Red Teaming prüfen, ob ein Modell gefährliche Anleitungen liefert, sich täuschen lässt, falsche Gewissheit erzeugt oder diskriminierende Muster zeigt. Evaluation umfasst außerdem Benchmarks, Sicherheitstests, Nutzerstudien, System Cards, externe Audits und laufende Beobachtung im Betrieb.

Für Lernende ist wichtig: Ein einzelner Benchmark zeigt nie die gesamte Qualität eines Modells. Ein Modell kann in einem Test sehr gut sein und in einem anderen Kontext trotzdem scheitern. Gute KI-Bewertung braucht mehrere Perspektiven: technische Leistung, Sicherheit, Fairness, Nutzbarkeit, Robustheit, Kosten, Energieverbrauch und gesellschaftliche Folgen.

Responsible Scaling Policy

Anthropic veröffentlichte eine Responsible Scaling Policy, also eine freiwillige Richtlinie zum verantwortungsvollen Skalieren leistungsfähiger KI-Systeme. Solche Richtlinien versuchen zu klären, welche Sicherheitsmaßnahmen nötig sind, wenn Modelle neue Fähigkeiten erreichen. Dazu gehören etwa strengere Tests, Sicherheitsstandards, Risikoberichte und Entscheidungen darüber, wie ein Modell bereitgestellt wird.

Freiwillige Selbstverpflichtungen können ein nützlicher Anfang sein, ersetzen aber keine demokratische Regulierung, unabhängige Kontrolle und klare Haftungsregeln. Ein zentrales Lernziel ist daher, freiwillige Unternehmenspolitik von rechtlich verbindlicher öffentlicher Kontrolle zu unterscheiden.

Anwendungen von Claude

Bildung und Lernen

In der Bildung kann Claude beim Erklären schwieriger Begriffe, beim Strukturieren von Lernplänen, beim Formulieren von Feedback, beim Üben von Fremdsprachen oder beim Erstellen von Beispielaufgaben helfen. Lehrkräfte können KI als Assistenz nutzen, etwa für Differenzierung, Materialentwürfe oder Ideen für Lernkontrollen. Lernende können mit Claude Fragen klären, Entwürfe überarbeiten oder Argumentationen prüfen.

Dabei gelten klare Regeln: KI darf eigenes Denken nicht ersetzen. Quellen müssen geprüft werden. Bei Leistungsnachweisen muss transparent sein, ob und wie KI genutzt wurde. Persönliche Daten, Noten, sensible Gesundheitsdaten oder vertrauliche Informationen gehören nicht unbedacht in ein KI-System.

Programmieren und Arbeit mit Code

Ein wichtiger Einsatzbereich von Claude ist Softwareentwicklung. Claude kann Code erklären, Fehlermeldungen analysieren, Tests vorschlagen, Dokumentation verfassen oder bei Refactoring helfen. Produkte wie Claude Code zeigen, wie Sprachmodelle in Entwicklungsumgebungen eingebunden werden können.

{{#ev:youtube| https://www.youtube.com/watch?v=AJpK3YTTKZ4 |500|center}}

Trotzdem bleibt menschliche Verantwortung zentral. KI-generierter Code kann Sicherheitslücken, Lizenzprobleme, veraltete Bibliotheken oder logische Fehler enthalten. Professionelle Nutzung erfordert Code Review, Tests, Versionskontrolle und ein Verständnis der zugrunde liegenden Systeme.

Wissenschaft, Analyse und Büroarbeit

Claude kann beim Zusammenfassen langer Dokumente, beim Vergleichen von Argumenten, beim Entwerfen von E-Mails, beim Analysieren von Tabellen oder beim Planen von Projekten unterstützen. In der Wissenschaft kann KI helfen, Literaturfragen vorzustrukturieren oder Methoden zu erklären. Sie darf aber keine Quellen erfinden und keine wissenschaftliche Prüfung ersetzen.

Für seriöses Arbeiten gilt: Nutze KI als Denkpartner, nicht als Autorität. Stelle Rückfragen, verlange Belege, prüfe Originalquellen und dokumentiere Deine Nutzung. Besonders bei Medizin, Rechtswissenschaft, Finanzen, Sicherheit und Politik ist besondere Sorgfalt nötig.

Kritische Perspektiven

Macht, Markt und Infrastruktur

Die Entwicklung großer KI-Modelle ist teuer. Sie benötigt Daten, Rechenleistung, spezialisierte Chips, Energie, Fachpersonal und Zugang zu Märkten. Dadurch können sich Macht und Einfluss auf wenige große Unternehmen konzentrieren. Anthropic ist hierfür ein gutes Beispiel: Einerseits verfolgt das Unternehmen ein starkes Sicherheitsprofil. Andererseits ist es Teil eines kapitalintensiven Marktes, in dem Geschwindigkeit, Produktintegration und Infrastrukturpartnerschaften entscheidend sind.

Diese Spannung führt zu wichtigen Fragen: Können Unternehmen sich selbst ausreichend kontrollieren? Wie lassen sich Innovation und Vorsicht verbinden? Welche Rolle sollen Staaten, Wissenschaft, Zivilgesellschaft und internationale Organisationen spielen? Wer haftet, wenn KI-Systeme Schaden verursachen?

Datenschutz und Urheberrecht

Datenschutz ist bei generativer KI zentral, weil Nutzende häufig Texte, Dokumente oder Bilder eingeben, die personenbezogene oder vertrauliche Informationen enthalten. Deshalb solltest Du vor jeder Nutzung prüfen, welche Daten verarbeitet werden, welche Einstellungen zur Datennutzung gelten und ob eine Eingabe rechtlich und organisatorisch erlaubt ist.

Auch Urheberrecht ist bedeutsam. Modelle werden mit großen Datenmengen trainiert, und Ausgaben können an bestehende Werke erinnern. In Schule und Studium ist deshalb wichtig, KI-Ausgaben nicht ungeprüft als eigene Leistung auszugeben und bei kreativen oder wissenschaftlichen Arbeiten transparent zu dokumentieren, wie KI eingesetzt wurde.

Anthropomorphisierung

Der Name Claude und die dialogische Form können dazu führen, dass Menschen dem System menschliche Eigenschaften zuschreiben. Das nennt man Anthropomorphismus. Ein Modell kann freundlich klingen, aber es hat keine menschlichen Gefühle, keine Biografie und keine eigene Verantwortung. Für einen reflektierten Umgang ist es hilfreich, zwischen sprachlicher Wirkung und technischer Funktionsweise zu unterscheiden.

Praktische Leitlinien für den Umgang mit Claude und ähnlichen KI-Systemen

Zielklärung: Formuliere genau, was Du erreichen willst.
Quellenkritik: Prüfe wichtige Aussagen anhand verlässlicher Quellen.
Datensparsamkeit: Gib keine unnötigen personenbezogenen oder vertraulichen Daten ein.
Transparenz: Dokumentiere KI-Nutzung bei schulischen, wissenschaftlichen oder beruflichen Aufgaben.
Gegenprüfung: Vergleiche KI-Antworten mit Fachliteratur, offiziellen Informationen oder Expertinnen und Experten.
Verantwortung: Triff wichtige Entscheidungen nicht allein auf Grundlage einer KI-Antwort.
Fairness: Achte darauf, ob Antworten Gruppen benachteiligen oder Stereotype verstärken.
Sicherheit: Sei vorsichtig bei Code, Medizin, Recht, Finanzen, Cybersecurity und anderen Hochrisikobereichen.

Zusammenfassung

Anthropic ist ein bedeutendes Unternehmen im Bereich Künstliche Intelligenz, dessen bekannteste Produktlinie Claude ist. Der besondere Fokus liegt auf KI-Sicherheit, Alignment, Interpretierbarkeit und verantwortungsvollem Einsatz leistungsfähiger Sprachmodelle. Mit Constitutional AI versucht Anthropic, Modellverhalten stärker an expliziten Prinzipien auszurichten. Das ist ein wichtiger Beitrag zur Debatte über sichere KI, aber keine endgültige Lösung. Gerade weil Claude und ähnliche Systeme immer leistungsfähiger werden, müssen technische, ethische, rechtliche und politische Fragen gemeinsam betrachtet werden.

Interaktive Aufgaben

Quiz: Teste Dein Wissen

Was ist Anthropic vor allem? (Ein Unternehmen für KI-Sicherheit und KI-Forschung) (!Ein soziales Netzwerk für Bilder) (!Ein Betriebssystem für Smartphones) (!Eine staatliche Universität)

Wie heißt die bekannte Modellfamilie von Anthropic? (Claude) (!Siri) (!Alexa) (!Excel)

Was beschreibt der Begriff Constitutional AI am besten? (Ein Ansatz zur Ausrichtung von KI-Modellen an expliziten Prinzipien) (!Eine Methode zur Kühlung von Rechenzentren) (!Ein Dateiformat für Trainingsdaten) (!Ein Gesetzbuch für Roboter im Straßenverkehr)

Was ist ein Large Language Model? (Ein großes Sprachmodell, das Muster in Sprache verarbeitet und erzeugt) (!Ein besonders großer Bildschirm) (!Ein Speicherchip für Fotos) (!Ein Programm nur für Tabellenkalkulation)

Wofür steht RLHF? (Reinforcement Learning from Human Feedback) (!Random Logic for Human Files) (!Reliable Language Hardware Format) (!Robot Learning for High Frequency)

Was bedeutet Halluzination bei KI-Sprachmodellen? (Eine überzeugend formulierte, aber falsche oder unbelegte Ausgabe) (!Eine optische Täuschung im Display) (!Ein geplanter Neustart des Servers) (!Eine besonders schnelle Übersetzung)

Warum ist Red Teaming bei KI-Systemen wichtig? (Es hilft, Schwachstellen und riskantes Verhalten aufzudecken) (!Es ersetzt jede rechtliche Prüfung) (!Es macht Trainingsdaten automatisch urheberrechtsfrei) (!Es verhindert jeden Energieverbrauch)

Welche Architektur ist für viele moderne Sprachmodelle besonders wichtig? (Transformer) (!Dampfturbine) (!Lochkartenmaschine) (!Druckerpipeline)

Was ist eine Prompt Injection? (Ein Versuch, ein KI-System durch versteckte oder manipulative Anweisungen fehlzuleiten) (!Ein Verfahren zum Drucken von Prompts auf Papier) (!Ein Update für den Grafikkartentreiber) (!Eine Methode zur Messung der Bildschirmhelligkeit)

Welche Aussage beschreibt einen verantwortungsvollen Umgang mit Claude am besten? (Antworten prüfen, Quellen bewerten und sensible Daten schützen) (!Alle Antworten ungeprüft übernehmen) (!Persönliche Daten möglichst vollständig eingeben) (!KI-Ausgaben immer als eigene Leistung ausgeben)

Memory

Anthropic	KI-Sicherheitsunternehmen
Claude	Sprachmodellfamilie
Constitutional AI	Prinzipienbasierte Ausrichtung
RLHF	Lernen aus menschlichem Feedback
RLAIF	Lernen aus KI-Feedback
Transformer	Architektur moderner Sprachmodelle
Red Teaming	Gezielte Sicherheitstests
Prompt Injection	Manipulative Anweisung

Drag and Drop

Ordne die richtigen Begriffe zu.	Thema
Anthropic	Unternehmen
Claude	Modellfamilie
Constitutional AI	Sicherheitsmethode
Transformer	Modellarchitektur
Red Teaming	Prüfung auf Schwachstellen
Datenschutz	Schutz personenbezogener Informationen

Kreuzworträtsel

Claude	Wie heißt die bekannte KI-Assistentenfamilie von Anthropic?
Safety	Welches englische Wort steht im KI-Kontext für Sicherheit?
Alignment	Wie nennt man die Ausrichtung von KI-Systemen an Zielen und Werten?
Feedback	Welche Rückmeldung wird bei RLHF zum Lernen genutzt?
Transformer	Welche Architektur ist für moderne Sprachmodelle besonders wichtig?
Governance	Wie nennt man Strukturen zur verantwortlichen Steuerung von Organisationen und Technik?

LearningApps

Lückentext

Anthropic ist ein Unternehmen mit starkem Schwerpunkt auf

. Die bekannteste Modellfamilie des Unternehmens heißt

. Große Sprachmodelle zerlegen Sprache in kleinere Einheiten, die man

nennt. Viele moderne Sprachmodelle beruhen auf der

-Architektur. Beim Ansatz Constitutional AI orientiert sich das Modell an einer Sammlung von

. RLHF bedeutet Lernen aus menschlichem

. Wenn KI-Feedback für die Ausrichtung genutzt wird, spricht man von

. Eine überzeugend formulierte, aber falsche Ausgabe nennt man oft

. Versteckte manipulative Anweisungen können eine

sein. Verantwortungsvolle KI-Nutzung erfordert Prüfung, Transparenz und

.

Offene Aufgaben

Leicht

Begriffsplakat: Gestalte ein digitales oder analoges Plakat mit den Begriffen Anthropic, Claude, KI-Sicherheit, Alignment und Constitutional AI. Erkläre jeden Begriff in einem eigenen Satz.
Alltagsbeispiele: Sammle fünf Situationen, in denen ein KI-Assistent wie Claude beim Lernen helfen könnte. Notiere zu jeder Situation auch ein mögliches Risiko.
Quellencheck: Suche eine offizielle Informationsseite zu Anthropic und eine unabhängige Quelle. Vergleiche, welche Informationen gleich sind und welche unterschiedlich betont werden.
Prompt verbessern: Formuliere eine ungenaue Frage an Claude und verbessere sie in drei Schritten, sodass sie klarer, sicherer und überprüfbarer wird.

Standard

Chancen-Risiken-Tabelle: Erstelle eine Tabelle mit Chancen und Risiken von Claude in Schule, Studium oder Beruf. Ergänze zu jedem Risiko eine Gegenmaßnahme.
Fallanalyse Datenschutz: Entwickle ein Fallbeispiel, in dem jemand versehentlich vertrauliche Daten in ein KI-System eingibt. Beschreibe Folgen und bessere Handlungsoptionen.
Constitutional AI erklären: Schreibe einen kurzen Erklärtext für jüngere Lernende, der den Unterschied zwischen RLHF und Constitutional AI verständlich macht.
Red Teaming Mini-Test: Entwirf fünf harmlose Testprompts, mit denen Du prüfen würdest, ob ein KI-System Unsicherheit, Quellenbedarf und Grenzen korrekt kommuniziert.

Schwer

Ethik-Debatte: Organisiert eine Debatte zur Frage, ob Unternehmen wie Anthropic ihre KI-Sicherheitsregeln selbst festlegen dürfen oder ob staatliche Regulierung Vorrang haben sollte.
Governance-Analyse: Untersuche die Idee einer Public Benefit Corporation und eines Long-Term Benefit Trust. Bewerte, welche Stärken und Schwächen solche Strukturen im KI-Bereich haben.
Technikfolgenabschätzung: Erstelle eine Folgenabschätzung für den Einsatz von Claude in einer Schule, einem Krankenhaus oder einer Behörde. Berücksichtige Nutzen, Risiken, Betroffene und Schutzmaßnahmen.
KI-Nutzungsleitfaden: Entwickle einen Leitfaden für Deine Klasse, Hochschule oder Ausbildungsgruppe, der transparente und faire Regeln zur Nutzung von KI-Assistenten enthält.

type=create break=no preload=CHAT GPT TEXT HIER EINFÜGEN default= width=30 placeholder= Dein MOOC Titel buttonlabel=MOOC erstellen </inputbox>

Lernkontrolle

Transferaufgabe KI-Sicherheit: Erkläre an einem selbst gewählten Beispiel, warum ein KI-System zugleich hilfreich und riskant sein kann. Zeige, welche Sicherheitsmaßnahmen sinnvoll wären.
Vergleich Governance: Vergleiche freiwillige Selbstverpflichtungen eines KI-Unternehmens mit staatlicher Regulierung. Arbeite heraus, wann welche Form der Kontrolle stärker ist.
Analyse einer KI-Antwort: Nimm eine KI-generierte Antwort zu einem Fachthema und prüfe sie auf Belege, Unsicherheit, mögliche Fehler, Bias und fehlende Perspektiven.
Szenario Prompt Injection: Beschreibe ein realistisches Szenario, in dem eine Prompt Injection Schaden verursachen könnte, und entwickle Schutzmaßnahmen.
Urteilsaufgabe Bildung: Beurteile, unter welchen Bedingungen Claude in einer Prüfungsvorbereitung hilfreich wäre und unter welchen Bedingungen die Nutzung problematisch wäre.

Lernnachweis

Für einen Lernnachweis zu Anthropic solltest Du zeigen, dass Du technische Grundlagen, ethische Fragen und gesellschaftliche Zusammenhänge verbinden kannst.

Fachbegriffe: Du verwendest zentrale Begriffe wie Claude, Large Language Model, Transformer, Constitutional AI, RLHF, Alignment, Red Teaming und Prompt Injection korrekt.
Zusammenhänge: Du erklärst, wie Modelltraining, Sicherheitsmethoden, Unternehmensziele und gesellschaftliche Kontrolle zusammenhängen.
Quellenkompetenz: Du unterscheidest zwischen Unternehmensdarstellung, unabhängiger Berichterstattung, wissenschaftlicher Forschung und persönlicher Meinung.
Anwendung: Du entwickelst sichere und transparente Regeln für den Einsatz von KI-Assistenten in einem konkreten Kontext.
Reflexion: Du bewertest Chancen und Risiken von Anthropic und Claude differenziert, ohne in Technikbegeisterung oder pauschale Ablehnung zu verfallen.
Dokumentation: Du legst offen, ob und wie Du KI-Tools bei der Bearbeitung genutzt hast.

OERs zum Thema

Quellen und Vertiefung

Anthropic: Offizielle Unternehmensinformationen: https://www.anthropic.com/company
Claude: Offizielle Modell- und Plattforminformationen: https://docs.anthropic.com/
Constitutional AI: Anthropic-Forschung zu Constitutional AI: https://www.anthropic.com/research/constitutional-ai-harmlessness-from-ai-feedback
Claude's Constitution: Veröffentlichung der Claude-Konstitution: https://www.anthropic.com/constitution
Responsible Scaling Policy: Anthropic-Richtlinie zum verantwortungsvollen Skalieren: https://www.anthropic.com/responsible-scaling-policy
Wikipedia: Überblicksartikel zu Anthropic: https://de.wikipedia.org/wiki/Anthropic

Links

Anthropic

aiMOOC-Projekte

Schulfach+

Prüfungsliteratur 2026
Bundesland	Bücher	Kurzbeschreibung
Baden-Württemberg	Abitur Der zerbrochne Krug - Heinrich von Kleist Heimsuchung - Jenny Erpenbeck Mittlere Reife Der Markisenmann - Jan Weiler oder Als die Welt uns gehörte - Liz Kessler Ein Schatten wie ein Leopard - Myron Levoy oder Pampa Blues - Rolf Lappert	Abitur Dorfrichter-Komödie über Wahrheit/Schuld; Roman über einen Ort und deutsche Geschichte. Mittlere Reife Wahllektüren (Roadtrip-Vater-Sohn / Jugendroman im NS-Kontext / Coming-of-age / Provinzroman).
Bayern	Abitur Der zerbrochne Krug - Heinrich von Kleist Heimsuchung - Jenny Erpenbeck	Abitur Lustspiel über Machtmissbrauch und Recht; Roman als Zeitschnitt deutscher Geschichte an einem Haus/Grundstück.
Berlin/Brandenburg	Abitur Der zerbrochne Krug - Heinrich von Kleist Woyzeck - Georg Büchner Der Biberpelz - Gerhart Hauptmann Heimsuchung - Jenny Erpenbeck	Abitur Gerichtskomödie; soziales Drama um Ausbeutung/Armut; Komödie/Satire um Diebstahl und Obrigkeit; Roman über Erinnerungsräume und Umbrüche.
Bremen	Abitur Nach Mitternacht - Irmgard Keun Mario und der Zauberer - Thomas Mann Emilia Galotti - Gotthold Ephraim Lessing oder Miss Sara Sampson - Gotthold Ephraim Lessing	Abitur Roman in der NS-Zeit (Alltag, Anpassung, Angst); Novelle über Verführung/Massenpsychologie; bürgerliche Trauerspiele (Moral, Macht, Stand).
Hamburg	Abitur Der zerbrochne Krug - Heinrich von Kleist Das kunstseidene Mädchen - Irmgard Keun	Abitur Justiz-/Machtkritik als Komödie; Großstadtroman der Weimarer Zeit (Rollenbilder, Aufstiegsträume, soziale Realität).
Hessen	Abitur Der zerbrochne Krug - Heinrich von Kleist Woyzeck - Georg Büchner Heimsuchung - Jenny Erpenbeck Der Prozess - Franz Kafka	Abitur Gerichtskomödie; Fragmentdrama über Gewalt/Entmenschlichung; Erinnerungsroman über deutsche Brüche; moderner Roman über Schuld, Macht und Bürokratie.
Niedersachsen	Abitur Der zerbrochene Krug - Heinrich von Kleist Das kunstseidene Mädchen - Irmgard Keun Die Marquise von O. - Heinrich von Kleist Über das Marionettentheater - Heinrich von Kleist	Abitur Schwerpunkt auf Drama/Roman sowie Kleist-Prosatext und Essay (Ehre, Gewalt, Unschuld; Ästhetik/„Anmut“).
Nordrhein-Westfalen	Abitur Der zerbrochne Krug - Heinrich von Kleist Heimsuchung - Jenny Erpenbeck	Abitur Komödie über Wahrheit und Autorität; Roman als literarische „Geschichtsschichtung“ an einem Ort.
Saarland	Abitur Heimsuchung - Jenny Erpenbeck Furor - Lutz Hübner und Sarah Nemitz Bahnwärter Thiel - Gerhart Hauptmann	Abitur Erinnerungsroman an einem Ort; zeitgenössisches Drama über Eskalation/Populismus; naturalistische Novelle (Pflicht/Überforderung/Abgrund).
Sachsen (berufliches Gymnasium)	Abitur Der zerbrochne Krug - Heinrich von Kleist Woyzeck - Georg Büchner Irrungen, Wirrungen - Theodor Fontane Der gute Mensch von Sezuan - Bertolt Brecht Heimsuchung - Jenny Erpenbeck Der Trafikant - Robert Seethaler	Abitur Mischung aus Klassiker-Drama, sozialem Drama, realistischem Roman, epischem Theater und Gegenwarts-/Erinnerungsroman; zusätzlich Coming-of-age im historischen Kontext.
Sachsen-Anhalt	Abitur (keine fest benannte landesweite Pflichtlektüre veröffentlicht; Themenfelder)	Abitur Schwerpunktsetzung über Themenfelder (u. a. Literatur um 1900; Sprache in politisch-gesellschaftlichen Kontexten), ohne feste Einzeltitel.
Schleswig-Holstein	Abitur Der zerbrochne Krug - Heinrich von Kleist Heimsuchung - Jenny Erpenbeck	Abitur Recht/Gerechtigkeit und historische Tiefenschichten eines Ortes – umgesetzt über Drama und Gegenwartsroman.
Thüringen	Abitur (keine fest benannte landesweite Pflichtlektüre veröffentlicht; Orientierung am gemeinsamen Aufgabenpool)	Abitur In der Praxis häufig Orientierung am gemeinsamen Aufgabenpool; landesweite Einzeltitel je nach Vorgabe/Handreichung nicht einheitlich ausgewiesen.
Mecklenburg-Vorpommern	Abitur (Quelle aktuell technisch nicht abrufbar; Beteiligung am gemeinsamen Aufgabenpool bekannt)	Abitur Land beteiligt sich am länderübergreifenden Aufgabenpool; konkrete, veröffentlichte Einzeltitel konnten hier nicht ausgelesen werden.
Rheinland-Pfalz	Abitur (keine landesweit einheitliche Pflichtlektüre; schulische Auswahl)	Abitur Keine landesweite Einheitsliste; Auswahl kann schul-/kursbezogen erfolgen.