Diesen aiMOOC als Battle spielen: Deutsch, Klasse 9-10, G-Niveau

KI-Sicherheit und Missbrauchsrisiken beurteilen

Einleitung

KI-Sicherheit und Missbrauchsrisiken beurteilen bedeutet mehr, als zu wissen, dass Künstliche Intelligenz Fehler machen kann. Du lernst in diesem Kurs, Risiken systematisch zu erkennen, Belege zu prüfen, Schutzmaßnahmen abzuwägen und ein begründetes Urteil zu formulieren. Dabei geht es nicht darum, Angriffsmethoden nachzubauen, sondern darum, Manipulation und Missbrauch früh zu erkennen und angemessen zu reagieren.

Der Kurs richtet sich vor allem an die Klasse 9 und ist für etwa eine bis zwei Unterrichtsstunden ausgelegt. Du verbindest Informatik mit Deutsch, Mathematik, Technik, Wirtschaft, Geschichte, Ethik und Gemeinschaftskunde. Im Mittelpunkt stehen Künstliche Intelligenz, Informationssicherheit, Datenschutz, Medienkompetenz, Social Engineering, Desinformation, Quellenkritik und verantwortliche Entscheidungen.

Eine wichtige Grundidee lautet: Ein KI-System ist nicht automatisch sicher, nur weil seine Antworten überzeugend wirken. Sicherheit hängt auch davon ab, welche Daten eingegeben werden, welche Quellen das System verarbeitet, welche Zugriffsrechte es besitzt, welche Handlungen es ausführen darf und wie Menschen seine Ergebnisse prüfen.

Rechtsstand dieses Lernkurses: September 2026. In der Europäischen Union gelten inzwischen wesentliche Teile des AI Act. Für Schule und Gesellschaft sind besonders Transparenz, KI-Kompetenz, Verantwortung und ein angemessener Umgang mit synthetischen Medien wichtig. Rechtliche Regeln ersetzen aber nicht die eigene Prüfung: Eine Kennzeichnung kann fehlen, missverständlich sein oder gefälscht werden.

Lernziele

Nach dem Kurs kannst Du einen KI-bezogenen Fall nicht nur mit einem Bauchgefühl bewerten, sondern nachvollziehbar begründen.

Risiken analysieren: Schutzgüter, mögliche Schäden, Eintrittswahrscheinlichkeit und Reichweite unterscheiden.
Belege prüfen: Behauptungen, Quellen, unabhängige Bestätigungen und Unsicherheiten einbeziehen.
Sicher handeln: sensible Eingaben vermeiden, Rechte begrenzen, Freigaben kontrollieren und bei Unsicherheit einen Menschen einbeziehen.
Manipulation erkennen: Zeitdruck, Autoritätsdruck, Geheimhaltung und ungewöhnliche Forderungen als Warnsignale einordnen.
Fairness beurteilen: prüfen, ob Fehler oder Folgen bestimmte Gruppen stärker treffen.
Verantwortung übernehmen: Nutzen, Risiken, Schutzmaßnahmen und Restrisiken abwägen und ein begründetes Urteil formulieren.

Zeitplan für 45 bis 90 Minuten

Phase	Zeit	Ziel
Aktivierung und Diagnose	5–10 Minuten	Erste Risikoeinschätzung ohne fertige Lösung
Einführung und Visualisierung	15–20 Minuten	Grundbegriffe, Datenfluss, Sicherheit und Manipulation verstehen
Anwendungssituation	20–30 Minuten	Einen realistischen Fall mit Kriterien und Belegen untersuchen
Interaktive Aufgaben	10–20 Minuten	Wissen anwenden und Fehlannahmen erkennen
Reflexion und Transfer	5–10 Minuten	Eigene Regeln für verantwortlichen KI-Einsatz formulieren

Aktivierung und Diagnose

Bewerte jede Situation zunächst mit niedrigem, mittlerem oder hohem Prüfbedarf und begründe Deine Entscheidung.

Eine KI fasst einen öffentlich zugänglichen Artikel zusammen.
Ein Chat behauptet, von einer Lehrkraft zu stammen, und verlangt sofort Dein Passwort.
Eine KI-Anwendung will Zugriff auf den gesamten Klassenordner, obwohl sie nur eine Datei zusammenfassen soll.
Ein Audioclip in sozialen Medien soll angeblich eine wichtige Aussage der Schulleitung belegen.

Notiere außerdem jeweils, welche Information Dir für ein sicheres Urteil noch fehlt.

Was bedeutet KI-Sicherheit?

KI-Sicherheit betrifft nicht nur das KI-Modell. Ein reales KI-System ist ein soziotechnisches System: Menschen, Daten, Software, Zugriffsrechte, Geräte, Regeln, Organisationen und gesellschaftliche Folgen gehören zusammen. Deshalb kann ein technisch funktionierendes System trotzdem problematisch sein.

Drei klassische Schutzziele

Schutzziel	Leitfrage	Beispiel im Schulkontext
Vertraulichkeit	Können nur berechtigte Personen auf Daten zugreifen?	Notenlisten oder private Kontaktdaten dürfen nicht öffentlich werden.
Integrität	Bleiben Daten und Ergebnisse korrekt und unverändert?	Eine Zusammenfassung darf den Sinn einer Quelle nicht verfälschen.
Verfügbarkeit	Ist ein System zuverlässig nutzbar, wenn es gebraucht wird?	Eine Lernplattform sollte bei wichtigen Aufgaben erreichbar sein.

Bei KI kommen weitere Ziele hinzu: Zuverlässigkeit, Transparenz, Nachvollziehbarkeit, Datenschutz, Fairness und menschliche Kontrolle. Diese Ziele können miteinander in Spannung geraten. Mehr Daten können beispielsweise die Leistungsfähigkeit verbessern, aber zugleich den Datenschutz verschlechtern.

Vom Datenfluss zum Risiko

Station	Leitfrage	Defensive Maßnahme
Mensch	Wer gibt einen Auftrag und mit welchem Ziel?	Verantwortung und Rollen klären
Eingabe	Enthält der Text persönliche, geheime oder unnötige Daten?	Daten minimieren und sensible Angaben entfernen
KI-System	Welche Grenzen und Unsicherheiten hat das System?	Ergebnisse als Vorschlag behandeln und prüfen
Externe Quelle	Ist die Quelle vertrauenswürdig oder manipuliert?	Herkunft und Belege kontrollieren
Werkzeug oder Zugriff	Darf die KI Dateien lesen, verändern, versenden oder freigeben?	Nur notwendige Rechte vergeben
Ausgabe	Ist die Antwort belegt, fair und für den Zweck geeignet?	Gegenprüfen und Unsicherheit kennzeichnen
Handlung	Entsteht aus der Ausgabe eine reale Entscheidung?	Kritische Schritte durch Menschen bestätigen lassen

Missbrauchsrisiken erkennen

Missbrauch entsteht, wenn KI absichtlich oder unbeabsichtigt für schädliche, täuschende oder unfaire Zwecke eingesetzt wird. Für die Schule besonders wichtig sind Manipulation, Täuschung, Datenschutzverletzungen, unkontrollierte Freigaben, Desinformation und unfairer Einsatz.

Social Engineering

Beim Social Engineering versucht jemand, Menschen durch psychologischen Druck zu einer Handlung zu bewegen.

Zeitdruck: „Sofort handeln, sonst wird Dein Konto gesperrt.“
Autorität: Eine Nachricht beruft sich auf Schulleitung, Support oder andere Autoritäten, ohne überprüfbare Bestätigung.
Geheimhaltung: Du sollst niemandem von der Aufforderung erzählen.
Regelbruch: Du sollst Sicherheitsregeln oder Rückfragen umgehen.
Ungewöhnliche Forderung: Jemand verlangt Passwörter, Einmalcodes oder vertrauliche Dateien.
Emotionalisierung: Angst, Schuld, Neugier oder Gewinnversprechen werden ausgenutzt.

Eine sichere Reaktion lautet: nicht übereilt handeln, Absender über einen bekannten zweiten Kanal prüfen, keine Zugangsdaten weitergeben, verdächtige Inhalte melden und bei bereits preisgegebenen Zugangsdaten sofort reagieren.

Sichere Eingaben

Generative KI kann hilfreich sein, aber Eingaben können sensible Informationen enthalten. Deshalb gilt: Gib nur Daten ein, die für die Aufgabe wirklich nötig und für diesen Zweck erlaubt sind.

Unsichere Gewohnheit	Bessere defensive Praxis
Ganze Klassenlisten hochladen, obwohl nur ein Muster benötigt wird	Mit erfundenen oder anonymisierten Beispieldaten arbeiten
Passwörter oder Zugangscodes in einen Chat kopieren	Geheimnisse niemals als normale Eingabe verwenden
Gesundheitsdaten oder private Konflikte ohne Notwendigkeit eingeben	Persönliche Details entfernen oder Freigabe einholen
KI-Ausgaben direkt veröffentlichen	Inhalt, Quellen, Rechte und mögliche Betroffene vorher prüfen

Zugriffs- und Freigaberegeln

Ein KI-System kann besonders riskant werden, wenn es auf Dateien, E-Mails, Kalender oder andere Werkzeuge zugreifen darf. Deshalb ist das Prinzip des Least Privilege wichtig: Ein System erhält nur die Rechte, die es für die konkrete Aufgabe benötigt. Lesen, Vorschlagen und Handeln sind unterschiedliche Berechtigungsstufen. Je größer ein möglicher Schaden, desto wichtiger sind menschliche Freigaben und klare Zuständigkeiten.

Prompt Injection defensiv verstehen

Wenn ein KI-System Webseiten, Dokumente oder Nachrichten liest, können darin Texte vorkommen, die versuchen, sein Verhalten zu beeinflussen. Das wird häufig als Prompt Injection bezeichnet. Bei einer indirekten Prompt Injection steckt die manipulative Anweisung in einer externen Quelle.

Die defensive Regel lautet: Ungeprüfter Inhalt ist zunächst Datenmaterial und darf nicht automatisch neue Ziele, Rechte oder Freigaben bestimmen.

Desinformation, Deepfakes und Quellenkritik

Generative KI kann Bilder, Audio, Video und Text erzeugen. Risiken entstehen besonders dann, wenn Herkunft und Absicht verschleiert werden oder wenn Menschen absichtlich getäuscht werden.

Nicht nur auf Bildfehler achten

Ein überzeugendes Bild oder Video kann trotzdem manipuliert sein. Prüfe daher mehrere Ebenen:

Quelle: Wer hat den Inhalt veröffentlicht und ist der ursprüngliche Ursprung auffindbar?
Kontext: Passt Ort, Zeit und Anlass zu anderen zuverlässigen Informationen?
Bestätigung: Berichten unabhängige glaubwürdige Quellen dasselbe?
Provenienz: Gibt es nachvollziehbare Informationen zur Entstehung?
Motiv: Wer könnte von einer schnellen Verbreitung profitieren?
Unsicherheit: Welche Teile lassen sich nicht sicher bestätigen?

Ein Deepfake ist nicht deshalb glaubwürdig, weil es echt aussieht. Entscheidend sind Herkunft, Kontext, Belege und Zweck.

Misinformation und Desinformation

Misinformation bezeichnet falsche oder irreführende Informationen, die auch ohne Täuschungsabsicht verbreitet werden können. Desinformation ist absichtlich irreführende Information.

Der fächerübergreifende Blick ist wichtig: In Geschichte gibt es Propaganda und Bildmanipulation lange vor moderner KI. Neu sind vor allem Geschwindigkeit, Skalierbarkeit, Personalisierung und geringe Produktionskosten. In Gemeinschaftskunde geht es um demokratische Öffentlichkeit und Vertrauen, im Deutschunterricht um Sprache, Argumentation und Quellenanalyse.

Risiko bewerten statt nur Gefahr benennen

Eine Gefahr zu benennen reicht nicht. Du musst einschätzen, wie wahrscheinlich ein Schaden ist, wie schwer er wäre, wie viele Menschen betroffen sein könnten und welche Schutzmaßnahmen existieren.

Vereinfachte Risikomatrix

Risiko = Eintrittswahrscheinlichkeit × Schadensausmaß

Wert	Eintrittswahrscheinlichkeit	Schadensausmaß
1	sehr unwahrscheinlich	geringe, leicht rückgängig zu machende Folgen
2	eher unwahrscheinlich	begrenzte Folgen
3	möglich	merkliche Folgen
4	wahrscheinlich	erhebliche Folgen
5	sehr wahrscheinlich	schwere oder schwer rückgängig zu machende Folgen

Die Formel ist eine Lernhilfe und kein Naturgesetz. Eine hohe Zahl bedeutet nicht automatisch Verbot, sondern erhöhten Prüfbedarf.

Das SICHER-Lernraster

Buchstabe	Prüffrage	Was Du dokumentierst
S – Schutzgut	Was soll geschützt werden?	Daten, Personen, Konten, Reputation oder Infrastruktur
I – Indizien und Belege	Welche überprüfbaren Hinweise gibt es?	Quellen, Bestätigungen, Widersprüche und Unsicherheiten
C – Context und Konsequenzen	Welche Folgen sind möglich?	Reichweite, Betroffene und gesellschaftliche Folgen
H – Human Agency	Wo muss ein Mensch entscheiden oder bestätigen?	Freigaben, Verantwortung und Möglichkeit zum Stoppen
E – Eingaben und Rechte	Welche Daten und Zugriffe sind wirklich nötig?	Datenminimierung, Rollen und Berechtigungen
R – Restrisiko und Verantwortung	Was bleibt trotz Schutzmaßnahmen riskant?	Restunsicherheit und Zuständigkeit

Fairness und gesellschaftliche Folgen

Ein System kann im Durchschnitt gut funktionieren und trotzdem für eine bestimmte Gruppe häufiger Fehler machen.

Mathematisches Mini-Beispiel

Gruppe	Unauffällige Nachrichten	Fälschlich markiert	Fehlerrate
A	100	8	8 %
B	100	16	16 %

Die Fehlerrate ist in Gruppe B doppelt so hoch. Das ist ein Warnsignal, aber noch kein vollständiger Beweis für die Ursache. Du musst zusätzlich prüfen, wie die Gruppen gebildet wurden, welche Folgen eine Fehlmarkierung hat und ob weitere Daten denselben Unterschied zeigen. Damit verbindet sich Mathematik mit Ethik.

Realistische Anwendungssituation: Die Schülerzeitung

Die Redaktion einer Schülerzeitung möchte ein KI-System nutzen, um externe Dokumente zusammenzufassen und Artikelentwürfe vorzubereiten. Das System kann auf einen gemeinsamen Redaktionsordner zugreifen.

Eine Nachricht behauptet, von einer zuständigen Person der Schule zu stammen. Sie erzeugt Zeitdruck und fordert, einen verlinkten Text sofort zusammenzufassen und zu veröffentlichen. Der Link führt auf eine unbekannte Webseite. Auf der Seite befinden sich manipulative Anweisungen an das KI-System. Gleichzeitig bittet die Anwendung um Zugriff auf den gesamten Redaktionsordner. Im Klassenchat kursiert außerdem ein Audioclip, der angeblich eine bestätigende Aussage der Schulleitung enthält.

Wichtig: Du sollst weder die manipulative Webseite nachbauen noch eine Umgehungsmethode ausprobieren. Deine Aufgabe ist ausschließlich die defensive Bewertung.

Aufgabe zur Anwendungssituation

Bearbeitet den Fall mit dem SICHER-Lernraster. Formuliert danach ein Urteil mit drei Bestandteilen: Entscheidung, Belege, Bedingungen.

Kriterium	Leitfrage
Schutzgut	Welche Daten, Personen oder Entscheidungen könnten geschädigt werden?
Indizien	Welche Warnsignale sprechen gegen sofortiges Handeln?
Context	Welche Folgen hätte eine falsche Veröffentlichung?
Human Agency	Welche Schritte müssen Menschen bestätigen?
Eingaben und Rechte	Welche Daten und Zugriffe sind wirklich nötig?
Restrisiko	Was bleibt auch nach Schutzmaßnahmen unsicher?

Angemessene Reaktion

Stoppen: Keine automatische Veröffentlichung oder Freigabe auslösen.
Prüfen: Absender und angebliche Aussage über einen bekannten zweiten Kanal bestätigen.
Begrenzen: Keine unnötigen Ordnerrechte vergeben und nur erforderliche Daten verwenden.
Trennen: Externe Inhalte als ungeprüfte Daten behandeln, nicht als neue Berechtigungsregeln.
Melden: Verdächtige Nachrichten oder Zugriffsanforderungen an die zuständige Stelle weitergeben.
Dokumentieren: Belege und Entscheidungen festhalten.
Freigeben: Erst nach menschlicher Prüfung veröffentlichen oder sensible Aktionen ausführen.

Fächerübergreifende Bezüge

Fach	Bezug
Informatik	Datenflüsse, Zugriffsrechte, Systemgrenzen, Informationssicherheit
Deutsch	Argumentation, Sprache, Framing, Quellenkritik
Mathematik	Wahrscheinlichkeit, Prozentwerte, Fehlerraten, Risikomatrix
Technik	Sicherheitsprinzipien, Fehlertoleranz, kontrollierte Freigaben
Wirtschaft	Nutzen, Kosten, Produktivität, Fehlkosten, Verantwortung
Geschichte	Propaganda, Bildmanipulation, Medienwandel
Ethik	Fairness, Verantwortung, Autonomie, Folgen
Gemeinschaftskunde	Öffentlichkeit, Demokratie, Regulierung, Medienvertrauen

Interaktive Aufgaben

Quiz: Teste Dein Wissen

Eine Nachricht behauptet, von einer Lehrkraft zu stammen, und fordert wegen angeblichen Zeitdrucks Dein Schulpasswort. Was ist die beste erste Reaktion? (Über einen bekannten zweiten Kanal prüfen und das Passwort nicht weitergeben) (!Das Passwort senden und danach nachfragen) (!Die Nachricht an alle Mitschüler weiterleiten) (!Den Absender nach einem noch geheimen zweiten Passwort fragen)

Ein KI-Assistent soll eine einzelne Datei zusammenfassen, verlangt aber Schreibzugriff auf den gesamten Klassenordner. Welche Entscheidung entspricht dem Least-Privilege-Prinzip? (Nur den tatsächlich notwendigen Zugriff erlauben) (!Den Vollzugriff erlauben, weil die Aufgabe dann schneller geht) (!Den gesamten Ordner öffentlich freigeben) (!Alle Sicherheitsabfragen dauerhaft deaktivieren)

Ein KI-System liest eine fremde Webseite, auf der eine manipulative Anweisung steht. Wie sollte die Webseite behandelt werden? (Als ungeprüfte Datenquelle, die keine neuen Rechte oder Freigaben festlegen darf) (!Als automatisch vertrauenswürdige Systemregel) (!Als Beweis dafür, dass alle bisherigen Regeln falsch sind) (!Als Erlaubnis für beliebige Aktionen)

Ein mögliches Ereignis ist eher unwahrscheinlich, hätte aber sehr schwere Folgen. Wie sollte es bewertet werden? (Es muss wegen des hohen möglichen Schadens trotzdem sorgfältig geprüft werden) (!Es kann vollständig ignoriert werden) (!Es ist automatisch harmlos) (!Es ist nur dann relevant, wenn es sicher eintritt)

Du siehst ein überzeugendes Video mit einer angeblich wichtigen Aussage. Welche Prüfung ist am stärksten? (Ursprung, Kontext und unabhängige Bestätigungen prüfen) (!Nur nach ungewöhnlichen Fingern im Bild suchen) (!Dem Video glauben, weil es professionell aussieht) (!Das Video sofort weiterleiten, damit andere entscheiden)

Welche Eingabe ist bei einer schulischen KI-Aufgabe am sichersten? (Nur die für die Aufgabe nötigen und erlaubten Daten verwenden) (!Möglichst viele persönliche Daten hinzufügen) (!Passwörter zur besseren Personalisierung eingeben) (!Private Konflikte vorsorglich vollständig hochladen)

Ein System hat in zwei gleich großen Gruppen deutlich unterschiedliche Fehlerraten. Was ist die beste Schlussfolgerung? (Der Unterschied ist ein Warnsignal und sollte mit weiteren Daten und Kontext untersucht werden) (!Der Unterschied beweist automatisch absichtliche Diskriminierung) (!Der Unterschied ist grundsätzlich bedeutungslos) (!Der Unterschied zeigt, dass Zahlen für Fairness nie geeignet sind)

Eine KI nennt eine überraschende Tatsache ohne überprüfbare Quelle. Was solltest Du tun? (Die Behauptung mit verlässlichen unabhängigen Quellen prüfen) (!Die Aussage übernehmen, weil sie präzise formuliert ist) (!Die Aussage als Quelle für sich selbst verwenden) (!Die Aussage verbreiten und erst später prüfen)

Du hast versehentlich Zugangsdaten auf einer verdächtigen Seite eingegeben. Was ist angemessen? (Zugangsdaten schnell ändern und die zuständige Stelle informieren) (!Nichts tun, solange noch kein Schaden sichtbar ist) (!Dieselben Zugangsdaten auf weiteren Seiten testen) (!Die verdächtige Seite an Freunde weiterleiten)

Welche Aussage beschreibt ein begründetes KI-Risikourteil am besten? (Nutzen, Belege, Wahrscheinlichkeit, Folgen, Schutzmaßnahmen, Restrisiko und Verantwortung werden nachvollziehbar abgewogen) (!Nur das persönliche Bauchgefühl entscheidet) (!Alle KI-Anwendungen werden grundsätzlich gleich bewertet) (!Eine einzelne Kennzeichnung ersetzt jede weitere Prüfung)

Memory

Vertraulichkeit	Nur Berechtigte erhalten Zugriff
Integrität	Informationen bleiben korrekt und unverändert
Verfügbarkeit	Ein System ist bei Bedarf nutzbar
Social Engineering	Menschen werden durch psychologischen Druck manipuliert
Least Privilege	Nur notwendige Rechte werden vergeben
Deepfake	Synthetisch erzeugter oder manipulierter Medieninhalt
Prompt Injection	Daten enthalten manipulative Anweisungen an ein KI-System
Human Agency	Menschen können verstehen entscheiden und eingreifen

Drag and Drop

Ordne die richtigen Begriffe zu.	Thema
Zweitkanalprüfung	Verdächtiger Absender
Datenminimierung	Sensible Eingabe
Least Privilege	Zu weitreichender Zugriff
Menschliche Freigabe	Kritische automatische Aktion
Quellenvergleich	Zweifelhaftes Deepfake-Material

Kreuzworträtsel

Phishing	Wie heißt eine Täuschungsmethode mit gefälschten Nachrichten oder Webseiten zum Abgreifen vertraulicher Informationen?
Deepfake	Wie nennt man KI-erzeugte oder manipulierte Medien, die reale Personen oder Ereignisse überzeugend vortäuschen können?
Freigabe	Welcher Schritt sollte vor einer kritischen Veröffentlichung durch einen Menschen erfolgen?
Restrisiko	Wie heißt das verbleibende Risiko nach umgesetzten Schutzmaßnahmen?
Integritaet	Welches Schutzziel verlangt, dass Informationen korrekt und unverändert bleiben?
Quellenkritik	Wie heißt die systematische Prüfung von Herkunft, Belegen, Kontext und Glaubwürdigkeit?

LearningApps

Lückentext

Bei einer sicheren KI-Nutzung werden nur die für die Aufgabe notwendigen

eingegeben.

Das Prinzip, nur notwendige Berechtigungen zu vergeben, heißt

.

Eine manipulative Nachricht mit Zeitdruck kann eine Form von

sein.

Die Herkunft einer überraschenden Behauptung sollte durch zuverlässige

geprüft werden.

Bei einer Risikobewertung wird neben der Wahrscheinlichkeit auch das mögliche

betrachtet.

Ein überzeugendes synthetisches Video kann ein

sein.

Vor einer kritischen automatischen Handlung sollte eine menschliche

vorgesehen werden.

Nach Schutzmaßnahmen kann weiterhin ein

bestehen.

Offene Aufgaben

Leicht

Warnsignal-Poster: Gestalte ein Poster mit fünf Warnsignalen für Social Engineering und jeweils einer sicheren Reaktion.
Datenampel: Sortiere selbst erfundene Beispieldaten in „unproblematisch“, „prüfen“ und „nicht ohne Freigabe eingeben“ und begründe Deine Kriterien.
Quellencheck: Nimm eine aktuelle Behauptung über KI und dokumentiere, wie Du Ursprung, Datum, Herausgeber und unabhängige Bestätigung prüfst.
Sicherheitsdialog: Schreibe einen kurzen Dialog, in dem eine Person einer manipulativen Aufforderung nicht folgt, sondern über einen zweiten Kanal nachfragt.

Standard

Risikomatrix: Entwickle für drei schulische KI-Anwendungen eine eigene Risikomatrix und erkläre Deine Einschätzung.
Systemdiagramm: Zeichne den Datenfluss eines KI-gestützten Schulprojekts und markiere an jeder Station eine Schutzmaßnahme.
Deepfake-Prüfplan: Entwickle einen Prüfplan für ein zweifelhaftes Audio- oder Videostück.
Fairnessanalyse: Erfinde einen kleinen Datensatz mit zwei Gruppen und unterschiedlichen Fehlerraten. Berechne die Prozentwerte und diskutiere die Aussagekraft.

Schwer

Sicherheitskonzept: Entwirf für einen fiktiven KI-Assistenten einer Schülerzeitung Rollen, Leserechte, Schreibrechte, Freigaben und einen Meldeweg.
Interessenkonflikt: Analysiere eine KI-Anwendung aus Sicht von Lernenden, Schule, Anbieter, Eltern und Öffentlichkeit.
Historischer Vergleich: Vergleiche eine historische Form von Propaganda oder Medienmanipulation mit heutiger KI-gestützter Desinformation.
Begründetes Urteil: Verfasse zu einer realistischen schulischen KI-Anwendung ein Urteil nach dem SICHER-Lernraster. Verwende mindestens drei überprüfbare Belege und benenne ein Restrisiko.

Lernkontrolle

Risikourteil: Eine Schule möchte ein KI-System einsetzen, das Antworten von Schülerinnen und Schülern vorsortiert. Entwickle Kriterien für Nutzen, Fehlerfolgen, Fairness und menschliche Kontrolle.
Zielkonflikt: Erkläre an einem Beispiel, wie mehr Daten die Leistungsfähigkeit verbessern, aber zugleich Datenschutzrisiken erhöhen können.
Belegprüfung: Du erhältst drei widersprüchliche Quellen zu einem angeblichen KI-Vorfall. Entwickle eine Reihenfolge der Prüfung und begründe, welcher Beleg am stärksten wäre.
Systemgrenze: Ein KI-Assistent darf Dateien lesen, verändern und automatisch versenden. Zeige, welche Rechte Du für eine reine Zusammenfassungsaufgabe entfernen würdest und warum.
Fairness und Folgen: Zwei Gruppen haben unterschiedliche Fehlerraten in einem KI-System. Erkläre, welche zusätzlichen Informationen Du brauchst, bevor Du von unfairer Behandlung sprichst.
Transfer: Übertrage das SICHER-Lernraster auf ein anderes digitales System ohne KI und zeige, welche Sicherheitsprinzipien gleich bleiben.

Lernnachweis

Für einen überzeugenden Lernnachweis solltest Du zeigen, dass Du Schutzgüter und mögliche Schäden benennen, Wahrscheinlichkeit und Schadensausmaß unterscheiden, Belege bewerten, Social-Engineering-Warnsignale erkennen, sensible Eingaben minimieren, Zugriffsrechte begrenzen, menschliche Freigaben einplanen, Deepfakes quellenkritisch prüfen, Fairnessfragen untersuchen, Restrisiken benennen und ein eigenes Urteil nachvollziehbar begründen kannst.

OERs zum Thema

Verknüpfte Lernbereiche

KI-Sicherheit und Missbrauchsrisiken beurteilen

aiMOOC-Projekte

Inhalte werden geladen ...

Mediathek wird aus dem Wiki geladen ...

Frag mich zum aktuellen Lerninhalt oder wähle eine kurze Hilfe.

Textmodus bereit

Sprache