KI-Sicherheit und Missbrauchsrisiken beurteilen
KI-Sicherheit und Missbrauchsrisiken beurteilen
Einleitung
KI-Sicherheit und Missbrauchsrisiken beurteilen bedeutet mehr, als zu wissen, dass Künstliche Intelligenz Fehler machen kann. Du lernst in diesem Kurs, Risiken systematisch zu erkennen, Belege zu prüfen, Schutzmaßnahmen abzuwägen und ein begründetes Urteil zu formulieren. Dabei geht es nicht darum, Angriffsmethoden nachzubauen, sondern darum, Manipulation und Missbrauch früh zu erkennen und angemessen zu reagieren.
Der Kurs richtet sich vor allem an die Klasse 9 und ist für etwa eine bis zwei Unterrichtsstunden ausgelegt. Du verbindest Informatik mit Deutsch, Mathematik, Technik, Wirtschaft, Geschichte, Ethik und Gemeinschaftskunde. Im Mittelpunkt stehen Künstliche Intelligenz, Informationssicherheit, Datenschutz, Medienkompetenz, Social Engineering, Desinformation, Quellenkritik und verantwortliche Entscheidungen.
Eine wichtige Grundidee lautet: Ein KI-System ist nicht automatisch sicher, nur weil seine Antworten überzeugend wirken. Sicherheit hängt auch davon ab, welche Daten eingegeben werden, welche Quellen das System verarbeitet, welche Zugriffsrechte es besitzt, welche Handlungen es ausführen darf und wie Menschen seine Ergebnisse prüfen.
Rechtsstand dieses Lernkurses: September 2026. In der Europäischen Union gelten inzwischen wesentliche Teile des AI Act. Für Schule und Gesellschaft sind besonders Transparenz, KI-Kompetenz, Verantwortung und ein angemessener Umgang mit synthetischen Medien wichtig. Rechtliche Regeln ersetzen aber nicht die eigene Prüfung: Eine Kennzeichnung kann fehlen, missverständlich sein oder gefälscht werden.
Lernziele
Nach dem Kurs kannst Du einen KI-bezogenen Fall nicht nur mit einem Bauchgefühl bewerten, sondern nachvollziehbar begründen.
- Risiken analysieren: Schutzgüter, mögliche Schäden, Eintrittswahrscheinlichkeit und Reichweite unterscheiden.
- Belege prüfen: Behauptungen, Quellen, unabhängige Bestätigungen und Unsicherheiten einbeziehen.
- Sicher handeln: sensible Eingaben vermeiden, Rechte begrenzen, Freigaben kontrollieren und bei Unsicherheit einen Menschen einbeziehen.
- Manipulation erkennen: Zeitdruck, Autoritätsdruck, Geheimhaltung und ungewöhnliche Forderungen als Warnsignale einordnen.
- Fairness beurteilen: prüfen, ob Fehler oder Folgen bestimmte Gruppen stärker treffen.
- Verantwortung übernehmen: Nutzen, Risiken, Schutzmaßnahmen und Restrisiken abwägen und ein begründetes Urteil formulieren.
Zeitplan für 45 bis 90 Minuten
| Phase | Zeit | Ziel |
|---|---|---|
| Aktivierung und Diagnose | 5–10 Minuten | Erste Risikoeinschätzung ohne fertige Lösung |
| Einführung und Visualisierung | 15–20 Minuten | Grundbegriffe, Datenfluss, Sicherheit und Manipulation verstehen |
| Anwendungssituation | 20–30 Minuten | Einen realistischen Fall mit Kriterien und Belegen untersuchen |
| Interaktive Aufgaben | 10–20 Minuten | Wissen anwenden und Fehlannahmen erkennen |
| Reflexion und Transfer | 5–10 Minuten | Eigene Regeln für verantwortlichen KI-Einsatz formulieren |
Aktivierung und Diagnose
Bewerte jede Situation zunächst mit niedrigem, mittlerem oder hohem Prüfbedarf und begründe Deine Entscheidung.
- Eine KI fasst einen öffentlich zugänglichen Artikel zusammen.
- Ein Chat behauptet, von einer Lehrkraft zu stammen, und verlangt sofort Dein Passwort.
- Eine KI-Anwendung will Zugriff auf den gesamten Klassenordner, obwohl sie nur eine Datei zusammenfassen soll.
- Ein Audioclip in sozialen Medien soll angeblich eine wichtige Aussage der Schulleitung belegen.
Notiere außerdem jeweils, welche Information Dir für ein sicheres Urteil noch fehlt.
Was bedeutet KI-Sicherheit?
KI-Sicherheit betrifft nicht nur das KI-Modell. Ein reales KI-System ist ein soziotechnisches System: Menschen, Daten, Software, Zugriffsrechte, Geräte, Regeln, Organisationen und gesellschaftliche Folgen gehören zusammen. Deshalb kann ein technisch funktionierendes System trotzdem problematisch sein.
Drei klassische Schutzziele
| Schutzziel | Leitfrage | Beispiel im Schulkontext |
|---|---|---|
| Vertraulichkeit | Können nur berechtigte Personen auf Daten zugreifen? | Notenlisten oder private Kontaktdaten dürfen nicht öffentlich werden. |
| Integrität | Bleiben Daten und Ergebnisse korrekt und unverändert? | Eine Zusammenfassung darf den Sinn einer Quelle nicht verfälschen. |
| Verfügbarkeit | Ist ein System zuverlässig nutzbar, wenn es gebraucht wird? | Eine Lernplattform sollte bei wichtigen Aufgaben erreichbar sein. |
Bei KI kommen weitere Ziele hinzu: Zuverlässigkeit, Transparenz, Nachvollziehbarkeit, Datenschutz, Fairness und menschliche Kontrolle. Diese Ziele können miteinander in Spannung geraten. Mehr Daten können beispielsweise die Leistungsfähigkeit verbessern, aber zugleich den Datenschutz verschlechtern.
Vom Datenfluss zum Risiko
| Station | Leitfrage | Defensive Maßnahme |
|---|---|---|
| Mensch | Wer gibt einen Auftrag und mit welchem Ziel? | Verantwortung und Rollen klären |
| Eingabe | Enthält der Text persönliche, geheime oder unnötige Daten? | Daten minimieren und sensible Angaben entfernen |
| KI-System | Welche Grenzen und Unsicherheiten hat das System? | Ergebnisse als Vorschlag behandeln und prüfen |
| Externe Quelle | Ist die Quelle vertrauenswürdig oder manipuliert? | Herkunft und Belege kontrollieren |
| Werkzeug oder Zugriff | Darf die KI Dateien lesen, verändern, versenden oder freigeben? | Nur notwendige Rechte vergeben |
| Ausgabe | Ist die Antwort belegt, fair und für den Zweck geeignet? | Gegenprüfen und Unsicherheit kennzeichnen |
| Handlung | Entsteht aus der Ausgabe eine reale Entscheidung? | Kritische Schritte durch Menschen bestätigen lassen |
Missbrauchsrisiken erkennen
Missbrauch entsteht, wenn KI absichtlich oder unbeabsichtigt für schädliche, täuschende oder unfaire Zwecke eingesetzt wird. Für die Schule besonders wichtig sind Manipulation, Täuschung, Datenschutzverletzungen, unkontrollierte Freigaben, Desinformation und unfairer Einsatz.
Social Engineering
Beim Social Engineering versucht jemand, Menschen durch psychologischen Druck zu einer Handlung zu bewegen.
- Zeitdruck: „Sofort handeln, sonst wird Dein Konto gesperrt.“
- Autorität: Eine Nachricht beruft sich auf Schulleitung, Support oder andere Autoritäten, ohne überprüfbare Bestätigung.
- Geheimhaltung: Du sollst niemandem von der Aufforderung erzählen.
- Regelbruch: Du sollst Sicherheitsregeln oder Rückfragen umgehen.
- Ungewöhnliche Forderung: Jemand verlangt Passwörter, Einmalcodes oder vertrauliche Dateien.
- Emotionalisierung: Angst, Schuld, Neugier oder Gewinnversprechen werden ausgenutzt.
Eine sichere Reaktion lautet: nicht übereilt handeln, Absender über einen bekannten zweiten Kanal prüfen, keine Zugangsdaten weitergeben, verdächtige Inhalte melden und bei bereits preisgegebenen Zugangsdaten sofort reagieren.
Sichere Eingaben
Generative KI kann hilfreich sein, aber Eingaben können sensible Informationen enthalten. Deshalb gilt: Gib nur Daten ein, die für die Aufgabe wirklich nötig und für diesen Zweck erlaubt sind.
| Unsichere Gewohnheit | Bessere defensive Praxis |
|---|---|
| Ganze Klassenlisten hochladen, obwohl nur ein Muster benötigt wird | Mit erfundenen oder anonymisierten Beispieldaten arbeiten |
| Passwörter oder Zugangscodes in einen Chat kopieren | Geheimnisse niemals als normale Eingabe verwenden |
| Gesundheitsdaten oder private Konflikte ohne Notwendigkeit eingeben | Persönliche Details entfernen oder Freigabe einholen |
| KI-Ausgaben direkt veröffentlichen | Inhalt, Quellen, Rechte und mögliche Betroffene vorher prüfen |
Zugriffs- und Freigaberegeln
Ein KI-System kann besonders riskant werden, wenn es auf Dateien, E-Mails, Kalender oder andere Werkzeuge zugreifen darf. Deshalb ist das Prinzip des Least Privilege wichtig: Ein System erhält nur die Rechte, die es für die konkrete Aufgabe benötigt. Lesen, Vorschlagen und Handeln sind unterschiedliche Berechtigungsstufen. Je größer ein möglicher Schaden, desto wichtiger sind menschliche Freigaben und klare Zuständigkeiten.
Prompt Injection defensiv verstehen
Wenn ein KI-System Webseiten, Dokumente oder Nachrichten liest, können darin Texte vorkommen, die versuchen, sein Verhalten zu beeinflussen. Das wird häufig als Prompt Injection bezeichnet. Bei einer indirekten Prompt Injection steckt die manipulative Anweisung in einer externen Quelle.
Die defensive Regel lautet: Ungeprüfter Inhalt ist zunächst Datenmaterial und darf nicht automatisch neue Ziele, Rechte oder Freigaben bestimmen.
Desinformation, Deepfakes und Quellenkritik
Generative KI kann Bilder, Audio, Video und Text erzeugen. Risiken entstehen besonders dann, wenn Herkunft und Absicht verschleiert werden oder wenn Menschen absichtlich getäuscht werden.
Nicht nur auf Bildfehler achten
Ein überzeugendes Bild oder Video kann trotzdem manipuliert sein. Prüfe daher mehrere Ebenen:
- Quelle: Wer hat den Inhalt veröffentlicht und ist der ursprüngliche Ursprung auffindbar?
- Kontext: Passt Ort, Zeit und Anlass zu anderen zuverlässigen Informationen?
- Bestätigung: Berichten unabhängige glaubwürdige Quellen dasselbe?
- Provenienz: Gibt es nachvollziehbare Informationen zur Entstehung?
- Motiv: Wer könnte von einer schnellen Verbreitung profitieren?
- Unsicherheit: Welche Teile lassen sich nicht sicher bestätigen?
Ein Deepfake ist nicht deshalb glaubwürdig, weil es echt aussieht. Entscheidend sind Herkunft, Kontext, Belege und Zweck.
Misinformation und Desinformation
Misinformation bezeichnet falsche oder irreführende Informationen, die auch ohne Täuschungsabsicht verbreitet werden können. Desinformation ist absichtlich irreführende Information.
Der fächerübergreifende Blick ist wichtig: In Geschichte gibt es Propaganda und Bildmanipulation lange vor moderner KI. Neu sind vor allem Geschwindigkeit, Skalierbarkeit, Personalisierung und geringe Produktionskosten. In Gemeinschaftskunde geht es um demokratische Öffentlichkeit und Vertrauen, im Deutschunterricht um Sprache, Argumentation und Quellenanalyse.
Risiko bewerten statt nur Gefahr benennen
Eine Gefahr zu benennen reicht nicht. Du musst einschätzen, wie wahrscheinlich ein Schaden ist, wie schwer er wäre, wie viele Menschen betroffen sein könnten und welche Schutzmaßnahmen existieren.
Vereinfachte Risikomatrix
Risiko = Eintrittswahrscheinlichkeit × Schadensausmaß
| Wert | Eintrittswahrscheinlichkeit | Schadensausmaß |
|---|---|---|
| 1 | sehr unwahrscheinlich | geringe, leicht rückgängig zu machende Folgen |
| 2 | eher unwahrscheinlich | begrenzte Folgen |
| 3 | möglich | merkliche Folgen |
| 4 | wahrscheinlich | erhebliche Folgen |
| 5 | sehr wahrscheinlich | schwere oder schwer rückgängig zu machende Folgen |
Die Formel ist eine Lernhilfe und kein Naturgesetz. Eine hohe Zahl bedeutet nicht automatisch Verbot, sondern erhöhten Prüfbedarf.
Das SICHER-Lernraster
| Buchstabe | Prüffrage | Was Du dokumentierst |
|---|---|---|
| S – Schutzgut | Was soll geschützt werden? | Daten, Personen, Konten, Reputation oder Infrastruktur |
| I – Indizien und Belege | Welche überprüfbaren Hinweise gibt es? | Quellen, Bestätigungen, Widersprüche und Unsicherheiten |
| C – Context und Konsequenzen | Welche Folgen sind möglich? | Reichweite, Betroffene und gesellschaftliche Folgen |
| H – Human Agency | Wo muss ein Mensch entscheiden oder bestätigen? | Freigaben, Verantwortung und Möglichkeit zum Stoppen |
| E – Eingaben und Rechte | Welche Daten und Zugriffe sind wirklich nötig? | Datenminimierung, Rollen und Berechtigungen |
| R – Restrisiko und Verantwortung | Was bleibt trotz Schutzmaßnahmen riskant? | Restunsicherheit und Zuständigkeit |
Fairness und gesellschaftliche Folgen
Ein System kann im Durchschnitt gut funktionieren und trotzdem für eine bestimmte Gruppe häufiger Fehler machen.
Mathematisches Mini-Beispiel
| Gruppe | Unauffällige Nachrichten | Fälschlich markiert | Fehlerrate |
|---|---|---|---|
| A | 100 | 8 | 8 % |
| B | 100 | 16 | 16 % |
Die Fehlerrate ist in Gruppe B doppelt so hoch. Das ist ein Warnsignal, aber noch kein vollständiger Beweis für die Ursache. Du musst zusätzlich prüfen, wie die Gruppen gebildet wurden, welche Folgen eine Fehlmarkierung hat und ob weitere Daten denselben Unterschied zeigen. Damit verbindet sich Mathematik mit Ethik.
Realistische Anwendungssituation: Die Schülerzeitung
Die Redaktion einer Schülerzeitung möchte ein KI-System nutzen, um externe Dokumente zusammenzufassen und Artikelentwürfe vorzubereiten. Das System kann auf einen gemeinsamen Redaktionsordner zugreifen.
Eine Nachricht behauptet, von einer zuständigen Person der Schule zu stammen. Sie erzeugt Zeitdruck und fordert, einen verlinkten Text sofort zusammenzufassen und zu veröffentlichen. Der Link führt auf eine unbekannte Webseite. Auf der Seite befinden sich manipulative Anweisungen an das KI-System. Gleichzeitig bittet die Anwendung um Zugriff auf den gesamten Redaktionsordner. Im Klassenchat kursiert außerdem ein Audioclip, der angeblich eine bestätigende Aussage der Schulleitung enthält.
Wichtig: Du sollst weder die manipulative Webseite nachbauen noch eine Umgehungsmethode ausprobieren. Deine Aufgabe ist ausschließlich die defensive Bewertung.
Aufgabe zur Anwendungssituation
Bearbeitet den Fall mit dem SICHER-Lernraster. Formuliert danach ein Urteil mit drei Bestandteilen: Entscheidung, Belege, Bedingungen.
| Kriterium | Leitfrage |
|---|---|
| Schutzgut | Welche Daten, Personen oder Entscheidungen könnten geschädigt werden? |
| Indizien | Welche Warnsignale sprechen gegen sofortiges Handeln? |
| Context | Welche Folgen hätte eine falsche Veröffentlichung? |
| Human Agency | Welche Schritte müssen Menschen bestätigen? |
| Eingaben und Rechte | Welche Daten und Zugriffe sind wirklich nötig? |
| Restrisiko | Was bleibt auch nach Schutzmaßnahmen unsicher? |
Angemessene Reaktion
- Stoppen: Keine automatische Veröffentlichung oder Freigabe auslösen.
- Prüfen: Absender und angebliche Aussage über einen bekannten zweiten Kanal bestätigen.
- Begrenzen: Keine unnötigen Ordnerrechte vergeben und nur erforderliche Daten verwenden.
- Trennen: Externe Inhalte als ungeprüfte Daten behandeln, nicht als neue Berechtigungsregeln.
- Melden: Verdächtige Nachrichten oder Zugriffsanforderungen an die zuständige Stelle weitergeben.
- Dokumentieren: Belege und Entscheidungen festhalten.
- Freigeben: Erst nach menschlicher Prüfung veröffentlichen oder sensible Aktionen ausführen.
Fächerübergreifende Bezüge
| Fach | Bezug |
|---|---|
| Informatik | Datenflüsse, Zugriffsrechte, Systemgrenzen, Informationssicherheit |
| Deutsch | Argumentation, Sprache, Framing, Quellenkritik |
| Mathematik | Wahrscheinlichkeit, Prozentwerte, Fehlerraten, Risikomatrix |
| Technik | Sicherheitsprinzipien, Fehlertoleranz, kontrollierte Freigaben |
| Wirtschaft | Nutzen, Kosten, Produktivität, Fehlkosten, Verantwortung |
| Geschichte | Propaganda, Bildmanipulation, Medienwandel |
| Ethik | Fairness, Verantwortung, Autonomie, Folgen |
| Gemeinschaftskunde | Öffentlichkeit, Demokratie, Regulierung, Medienvertrauen |
Interaktive Aufgaben
Quiz: Teste Dein Wissen
Eine Nachricht behauptet, von einer Lehrkraft zu stammen, und fordert wegen angeblichen Zeitdrucks Dein Schulpasswort. Was ist die beste erste Reaktion? (Über einen bekannten zweiten Kanal prüfen und das Passwort nicht weitergeben) (!Das Passwort senden und danach nachfragen) (!Die Nachricht an alle Mitschüler weiterleiten) (!Den Absender nach einem noch geheimen zweiten Passwort fragen)
Ein KI-Assistent soll eine einzelne Datei zusammenfassen, verlangt aber Schreibzugriff auf den gesamten Klassenordner. Welche Entscheidung entspricht dem Least-Privilege-Prinzip? (Nur den tatsächlich notwendigen Zugriff erlauben) (!Den Vollzugriff erlauben, weil die Aufgabe dann schneller geht) (!Den gesamten Ordner öffentlich freigeben) (!Alle Sicherheitsabfragen dauerhaft deaktivieren)
Ein KI-System liest eine fremde Webseite, auf der eine manipulative Anweisung steht. Wie sollte die Webseite behandelt werden? (Als ungeprüfte Datenquelle, die keine neuen Rechte oder Freigaben festlegen darf) (!Als automatisch vertrauenswürdige Systemregel) (!Als Beweis dafür, dass alle bisherigen Regeln falsch sind) (!Als Erlaubnis für beliebige Aktionen)
Ein mögliches Ereignis ist eher unwahrscheinlich, hätte aber sehr schwere Folgen. Wie sollte es bewertet werden? (Es muss wegen des hohen möglichen Schadens trotzdem sorgfältig geprüft werden) (!Es kann vollständig ignoriert werden) (!Es ist automatisch harmlos) (!Es ist nur dann relevant, wenn es sicher eintritt)
Du siehst ein überzeugendes Video mit einer angeblich wichtigen Aussage. Welche Prüfung ist am stärksten? (Ursprung, Kontext und unabhängige Bestätigungen prüfen) (!Nur nach ungewöhnlichen Fingern im Bild suchen) (!Dem Video glauben, weil es professionell aussieht) (!Das Video sofort weiterleiten, damit andere entscheiden)
Welche Eingabe ist bei einer schulischen KI-Aufgabe am sichersten? (Nur die für die Aufgabe nötigen und erlaubten Daten verwenden) (!Möglichst viele persönliche Daten hinzufügen) (!Passwörter zur besseren Personalisierung eingeben) (!Private Konflikte vorsorglich vollständig hochladen)
Ein System hat in zwei gleich großen Gruppen deutlich unterschiedliche Fehlerraten. Was ist die beste Schlussfolgerung? (Der Unterschied ist ein Warnsignal und sollte mit weiteren Daten und Kontext untersucht werden) (!Der Unterschied beweist automatisch absichtliche Diskriminierung) (!Der Unterschied ist grundsätzlich bedeutungslos) (!Der Unterschied zeigt, dass Zahlen für Fairness nie geeignet sind)
Eine KI nennt eine überraschende Tatsache ohne überprüfbare Quelle. Was solltest Du tun? (Die Behauptung mit verlässlichen unabhängigen Quellen prüfen) (!Die Aussage übernehmen, weil sie präzise formuliert ist) (!Die Aussage als Quelle für sich selbst verwenden) (!Die Aussage verbreiten und erst später prüfen)
Du hast versehentlich Zugangsdaten auf einer verdächtigen Seite eingegeben. Was ist angemessen? (Zugangsdaten schnell ändern und die zuständige Stelle informieren) (!Nichts tun, solange noch kein Schaden sichtbar ist) (!Dieselben Zugangsdaten auf weiteren Seiten testen) (!Die verdächtige Seite an Freunde weiterleiten)
Welche Aussage beschreibt ein begründetes KI-Risikourteil am besten? (Nutzen, Belege, Wahrscheinlichkeit, Folgen, Schutzmaßnahmen, Restrisiko und Verantwortung werden nachvollziehbar abgewogen) (!Nur das persönliche Bauchgefühl entscheidet) (!Alle KI-Anwendungen werden grundsätzlich gleich bewertet) (!Eine einzelne Kennzeichnung ersetzt jede weitere Prüfung)
Memory
| Vertraulichkeit | Nur Berechtigte erhalten Zugriff |
| Integrität | Informationen bleiben korrekt und unverändert |
| Verfügbarkeit | Ein System ist bei Bedarf nutzbar |
| Social Engineering | Menschen werden durch psychologischen Druck manipuliert |
| Least Privilege | Nur notwendige Rechte werden vergeben |
| Deepfake | Synthetisch erzeugter oder manipulierter Medieninhalt |
| Prompt Injection | Daten enthalten manipulative Anweisungen an ein KI-System |
| Human Agency | Menschen können verstehen entscheiden und eingreifen |
Drag and Drop
| Ordne die richtigen Begriffe zu. | Thema |
|---|---|
| Zweitkanalprüfung | Verdächtiger Absender |
| Datenminimierung | Sensible Eingabe |
| Least Privilege | Zu weitreichender Zugriff |
| Menschliche Freigabe | Kritische automatische Aktion |
| Quellenvergleich | Zweifelhaftes Deepfake-Material |
Kreuzworträtsel
| Phishing | Wie heißt eine Täuschungsmethode mit gefälschten Nachrichten oder Webseiten zum Abgreifen vertraulicher Informationen? |
| Deepfake | Wie nennt man KI-erzeugte oder manipulierte Medien, die reale Personen oder Ereignisse überzeugend vortäuschen können? |
| Freigabe | Welcher Schritt sollte vor einer kritischen Veröffentlichung durch einen Menschen erfolgen? |
| Restrisiko | Wie heißt das verbleibende Risiko nach umgesetzten Schutzmaßnahmen? |
| Integritaet | Welches Schutzziel verlangt, dass Informationen korrekt und unverändert bleiben? |
| Quellenkritik | Wie heißt die systematische Prüfung von Herkunft, Belegen, Kontext und Glaubwürdigkeit? |
LearningApps
Lückentext
Offene Aufgaben
Leicht
- Warnsignal-Poster: Gestalte ein Poster mit fünf Warnsignalen für Social Engineering und jeweils einer sicheren Reaktion.
- Datenampel: Sortiere selbst erfundene Beispieldaten in „unproblematisch“, „prüfen“ und „nicht ohne Freigabe eingeben“ und begründe Deine Kriterien.
- Quellencheck: Nimm eine aktuelle Behauptung über KI und dokumentiere, wie Du Ursprung, Datum, Herausgeber und unabhängige Bestätigung prüfst.
- Sicherheitsdialog: Schreibe einen kurzen Dialog, in dem eine Person einer manipulativen Aufforderung nicht folgt, sondern über einen zweiten Kanal nachfragt.
Standard
- Risikomatrix: Entwickle für drei schulische KI-Anwendungen eine eigene Risikomatrix und erkläre Deine Einschätzung.
- Systemdiagramm: Zeichne den Datenfluss eines KI-gestützten Schulprojekts und markiere an jeder Station eine Schutzmaßnahme.
- Deepfake-Prüfplan: Entwickle einen Prüfplan für ein zweifelhaftes Audio- oder Videostück.
- Fairnessanalyse: Erfinde einen kleinen Datensatz mit zwei Gruppen und unterschiedlichen Fehlerraten. Berechne die Prozentwerte und diskutiere die Aussagekraft.
Schwer
- Sicherheitskonzept: Entwirf für einen fiktiven KI-Assistenten einer Schülerzeitung Rollen, Leserechte, Schreibrechte, Freigaben und einen Meldeweg.
- Interessenkonflikt: Analysiere eine KI-Anwendung aus Sicht von Lernenden, Schule, Anbieter, Eltern und Öffentlichkeit.
- Historischer Vergleich: Vergleiche eine historische Form von Propaganda oder Medienmanipulation mit heutiger KI-gestützter Desinformation.
- Begründetes Urteil: Verfasse zu einer realistischen schulischen KI-Anwendung ein Urteil nach dem SICHER-Lernraster. Verwende mindestens drei überprüfbare Belege und benenne ein Restrisiko.
|
|
Lernkontrolle
- Risikourteil: Eine Schule möchte ein KI-System einsetzen, das Antworten von Schülerinnen und Schülern vorsortiert. Entwickle Kriterien für Nutzen, Fehlerfolgen, Fairness und menschliche Kontrolle.
- Zielkonflikt: Erkläre an einem Beispiel, wie mehr Daten die Leistungsfähigkeit verbessern, aber zugleich Datenschutzrisiken erhöhen können.
- Belegprüfung: Du erhältst drei widersprüchliche Quellen zu einem angeblichen KI-Vorfall. Entwickle eine Reihenfolge der Prüfung und begründe, welcher Beleg am stärksten wäre.
- Systemgrenze: Ein KI-Assistent darf Dateien lesen, verändern und automatisch versenden. Zeige, welche Rechte Du für eine reine Zusammenfassungsaufgabe entfernen würdest und warum.
- Fairness und Folgen: Zwei Gruppen haben unterschiedliche Fehlerraten in einem KI-System. Erkläre, welche zusätzlichen Informationen Du brauchst, bevor Du von unfairer Behandlung sprichst.
- Transfer: Übertrage das SICHER-Lernraster auf ein anderes digitales System ohne KI und zeige, welche Sicherheitsprinzipien gleich bleiben.
Lernnachweis
Für einen überzeugenden Lernnachweis solltest Du zeigen, dass Du Schutzgüter und mögliche Schäden benennen, Wahrscheinlichkeit und Schadensausmaß unterscheiden, Belege bewerten, Social-Engineering-Warnsignale erkennen, sensible Eingaben minimieren, Zugriffsrechte begrenzen, menschliche Freigaben einplanen, Deepfakes quellenkritisch prüfen, Fairnessfragen untersuchen, Restrisiken benennen und ein eigenes Urteil nachvollziehbar begründen kannst.
OERs zum Thema
Verknüpfte Lernbereiche