IM6 - KI-Bilder auf Fehler und Manipulation prüfen
IM6 - KI-Bilder auf Fehler und Manipulation prüfen
IM6 - KI-Bilder auf Fehler und Manipulation prüfen
Einleitung
Bilder wirken oft wie direkte Beweise: „Ich sehe es doch!“ Genau das macht sie so überzeugend. Doch ein Bild kann echt sein und trotzdem eine falsche Geschichte erzählen. Es kann alt sein, an einem anderen Ort aufgenommen worden sein, zugeschnitten, bearbeitet oder mit einer falschen Bildunterschrift verbreitet werden. Ein Bild kann außerdem vollständig oder teilweise mit Künstlicher Intelligenz erzeugt worden sein. Umgekehrt können echte Fotos ungewöhnlich aussehen, weil Licht, Bewegung, Perspektive oder Kompression merkwürdige Effekte erzeugen.
In diesem aiMOOC lernst Du deshalb keine vermeintlich sicheren Augen-Tricks wie „Sechs Finger = KI“. Solche Auffälligkeiten können Hinweise sein, aber keine Beweise. Du trainierst stattdessen eine stärkere Methode: Behauptung klären, Quelle prüfen, Ursprung suchen, Kontext kontrollieren, mit unabhängigen Quellen vergleichen und das Ergebnis vorsichtig bewerten.
Bildquelle und Lernidee: Die Datei „Recognizing fake news & misinformation.jpg“ auf Wikimedia Commons wurde als Material zum Faktenchecken mit Kindern veröffentlicht. Nutze nicht nur das Bild selbst, sondern öffne bei einer Recherche immer auch die Dateibeschreibungsseite: Dort findest Du Angaben zu Autor, Datum und Lizenz. Wikimedia Commons
Ein guter Faktencheck beantwortet nicht nur die Frage „Ist dieses Bild KI?“, sondern vor allem: Ist die Behauptung, die mit diesem Bild verbreitet wird, belegt? Genau das ist in Nachrichten, Social Media, Werbung und Schulreferaten wichtig.
Lernziele
Nach diesem aiMOOC kannst Du Bilder systematisch prüfen und Deine Entscheidung begründen.
- Quellen prüfen: Du kannst unterscheiden, wer ein Bild hochgeladen hat, wer es ursprünglich erstellt hat und ob diese Angaben nachvollziehbar sind.
- Kontext prüfen: Du achtest auf Ort, Zeit, Ereignis, Bildunterschrift und mögliche Ausschnitte.
- Bilder rückwärts suchen: Du weißt, wie ältere Fundstellen und andere Verwendungen eines Bildes helfen können.
- Fakten abgleichen: Du vergleichst Behauptungen mit mehreren voneinander unabhängigen und möglichst verlässlichen Quellen.
- KI-Hinweise einordnen: Du behandelst auffällige Hände, Schriften, Schatten oder Detektor-Ergebnisse als Hinweise, nicht als sicheren Beweis.
- Ergebnisse bewerten: Du kannst zwischen belegt, widerlegt, unbelegt und unklar unterscheiden.
Vier Dinge, die Du auseinanderhalten solltest
| Begriff | Was bedeutet er? | Warum ist die Unterscheidung wichtig? |
|---|---|---|
| Originalaufnahme | Ein Foto wurde mit einer Kamera aufgenommen. Auch ein Original kann falsch beschriftet oder aus dem Zusammenhang gerissen werden. | „Echt fotografiert“ bedeutet nicht automatisch „richtig erklärt“. |
| Bildbearbeitung | Ein vorhandenes Bild wurde verändert, zum Beispiel zugeschnitten, aufgehellt, retuschiert oder montiert. | Nicht jede Bearbeitung täuscht. Ein Zuschnitt kann harmlos sein, aber auch wichtigen Kontext entfernen. |
| KI-Bild | Ein Bild wurde ganz oder teilweise mit generativer KI erzeugt oder stark verändert. | Ein KI-Bild kann als Illustration völlig in Ordnung sein, darf aber nicht ohne Kennzeichnung als Beweis für ein reales Ereignis dienen. |
| Kontexttäuschung | Ein echtes oder künstliches Bild wird mit einer falschen Behauptung zu Ort, Zeit, Person oder Ereignis verbunden. | Hier hilft oft die Quellen- und Kontextprüfung mehr als die Suche nach Bildfehlern. |
Eine wichtige Denkregel lautet: Die Herkunft eines Bildes und die Wahrheit einer Behauptung sind zwei verschiedene Fragen. Ein nachweislich echtes Foto kann mit einer falschen Überschrift täuschen. Ein klar als KI-Illustration gekennzeichnetes Bild kann dagegen ehrlich eingesetzt werden.
Bildmanipulation gab es schon vor generativer KI
Fotografien wurden schon lange vor heutigen KI-Systemen verändert. Das folgende historische Beispiel aus Wikimedia Commons zeigt, warum Du bei Bildern immer nach ihrer Entstehungs- und Veröffentlichungsgeschichte fragen solltest.
Quelle des Ausgangsbildes: Wikimedia Commons
Quelle der veränderten Version: Wikimedia Commons
Auf der Dateibeschreibungsseite wird dokumentiert, dass in der später bearbeiteten Fassung eine Person entfernt wurde. Das Beispiel ist keine KI-Manipulation. Es zeigt etwas Grundsätzliches: Bildmanipulation ist älter als generative KI. Wer nur nach „typischen KI-Fehlern“ sucht, würde solche Formen der Täuschung übersehen.
Bildquelle: Wikimedia Commons – eine Zusammenstellung historischer Bildveränderungen. Entscheidend ist nicht, ob Du die Bearbeitung mit bloßem Auge findest, sondern ob Du die dokumentierte Bildgeschichte recherchierst.
Warum optische Auffälligkeiten keine sicheren Regeln sind
Frühere Bildgeneratoren hatten häufig Probleme mit Händen, Text, Schmuck, Spiegelungen oder sich wiederholenden Mustern. Solche Fehler gibt es weiterhin. Aber moderne Systeme werden besser. Gleichzeitig können echte Fotos durch Bewegungsunschärfe, Weitwinkelobjektive, starke Kompression, Filter oder ungünstige Perspektive seltsam aussehen.
Diese Wikimedia-Commons-Datei zeigt eine mit Stable Diffusion 1.5 erzeugte Hand mit sechs Fingern. Die sechs Finger sind hier ein auffälliger Hinweis. Der stärkere Nachweis ist aber die dokumentierte Quelle: Die Dateibeschreibung nennt ausdrücklich die KI-Erzeugung und das verwendete Modell. Wikimedia Commons
Merksatz: Ein Bildfehler kann Deinen Verdacht wecken. Die Quellenlage soll Deinen Schluss tragen.
Die Zeitleiste auf Wikimedia Commons zeigt Beispiele für die Entwicklung KI-generierter Gesichter. Sie erinnert daran, dass sich Bildgeneratoren verändern. Regeln, die bei älteren Modellen oft funktionierten, können bei neueren Bildern versagen. Wikimedia Commons
Das US-amerikanische NIST weist in einer Übersicht zu synthetischen Medien darauf hin, dass die Leistung automatischer KI-Bild-Detektoren je nach Werkzeug, Bildtyp, Kompression und verwendetem Generator schwanken kann. Ein Prozentwert eines Detektors ist deshalb kein Urteilsspruch.
Der Sieben-Schritte-Faktencheck für Bilder
Nutze diese Reihenfolge, bevor Du ein Bild weiterleitest, in einem Referat verwendest oder als Beweis akzeptierst.
- Behauptung klären: Schreibe in einem Satz auf, was das Bild angeblich beweisen soll. Beispiel: „Dieses Foto zeigt das heutige Hochwasser in unserer Stadt.“
- Quelle prüfen: Wer veröffentlicht das Bild gerade? Ist das der ursprüngliche Fotograf, eine Redaktion, eine Behörde, eine Firma, ein privater Account oder nur ein Repost?
- Ursprung suchen: Gibt es einen früheren Beitrag, eine Bildagentur, eine Wikimedia-Dateiseite oder eine andere nachvollziehbare Erstquelle?
- Rückwärtssuche nutzen: Suche nach älteren oder ähnlichen Versionen des Bildes. Ein älterer Treffer kann zeigen, dass das Bild aus einem anderen Ereignis stammt.
- Kontext prüfen: Passen Ort, Datum, Wetter, Gebäude, Kleidung, Beschriftungen und die behauptete Situation zusammen? Wurde ein wichtiger Bildteil weggeschnitten?
- Quercheck machen: Berichten mehrere voneinander unabhängige, verlässliche Quellen über dasselbe Ereignis? Gibt es weitere Fotos oder Videos aus anderen Perspektiven?
- Ergebnis benennen: Formuliere vorsichtig: belegt, widerlegt, unbelegt oder unklar. „Unbelegt“ bedeutet nicht automatisch „falsch“.
Das englischsprachige Poster auf Wikimedia Commons erinnert unter anderem an Quellen-, Autoren- und Datumsprüfung. Übertrage diese Idee auf Bilder: Nicht nur anschauen, sondern den Informationsweg untersuchen. Wikimedia Commons
Faktencheck-Protokoll zum Ausfüllen
| Prüfschritt | Deine Notiz |
|---|---|
| Behauptung | Was genau soll das Bild beweisen? |
| Aktuelle Quelle | Wer hat es dort veröffentlicht, wo Du es gefunden hast? |
| Möglicher Ursprung | Wer hat es zuerst aufgenommen, erzeugt oder veröffentlicht? |
| Frühere Fundstellen | Was zeigt die Rückwärtssuche? |
| Zeit und Ort | Passen Datum, Ort und Ereignis zusammen? |
| Unabhängige Bestätigung | Welche anderen Quellen bestätigen oder widersprechen? |
| Technische Hinweise | Gibt es Metadaten, Content Credentials oder auffällige Bilddetails? |
| Ergebnis | Belegt, widerlegt, unbelegt oder unklar? |
Dieses Protokoll ist absichtlich so aufgebaut, dass technische Hinweise erst spät kommen. Dadurch trainierst Du, nicht vorschnell von einem seltsamen Finger oder einem Detektorwert auf „Fake“ zu schließen.
Quellen prüfen: Wer sagt eigentlich was?
Eine Quelle ist nicht einfach die Webseite, auf der Du ein Bild gerade siehst. Bei Bildern gibt es oft mehrere Ebenen: den Fotografen oder Ersteller, die erste Veröffentlichung, spätere Reposts und schließlich den Account, der das Bild heute mit einer bestimmten Behauptung teilt.
Prüfe, ob ein Beitrag einen Autor nennt, ob das Profil nachvollziehbar ist, ob es einen Link zur ursprünglichen Veröffentlichung gibt und ob eine Redaktion oder Organisation transparent mit Fehlern und Korrekturen umgeht. Ein blaues Häkchen, viele Follower oder viele Likes beweisen die Wahrheit einer Aussage nicht.
Wichtig: Zehn Accounts, die denselben ursprünglichen Post kopieren, sind nicht zehn unabhängige Quellen. Suche nach Quellen, die selbst Belege liefern.
Beim sogenannten seitlichen Lesen öffnest Du weitere Tabs: Was sagen andere Quellen über den Account, die Organisation oder das Ereignis? Das ist oft hilfreicher, als lange auf derselben Seite nach Vertrauenszeichen zu suchen.
Kontext prüfen: Das Bild kann echt und die Geschichte trotzdem falsch sein
Kontext bedeutet die Umgebung einer Information: Wann, wo, von wem, in welcher Situation und mit welcher Bildunterschrift wurde ein Bild erstellt und verwendet?
Ein häufiges Täuschungsmuster ist ein altes Foto, das bei einem neuen Ereignis erneut auftaucht. Ein anderes Muster ist ein echtes Bild aus einem anderen Land. Auch ein enger Zuschnitt kann Menschen oder Gegenstände außerhalb des Bildrandes verstecken und dadurch eine falsche Wirkung erzeugen.
Frage deshalb: Passt das angebliche Datum? Passt die Jahreszeit? Gibt es erkennbare Gebäude oder Straßenschilder? Gibt es denselben Schauplatz auf Karten oder in anderen Bildern? Zeigen andere Aufnahmen das Ereignis aus einer zweiten Perspektive? Und besonders wichtig: Gibt es verlässliche Berichte, die das behauptete Ereignis überhaupt bestätigen?
Bilderrückwärtssuche: Wo war dieses Bild schon einmal?
Bei einer Bilderrückwärtssuche suchst Du nicht nach Wörtern, sondern mit einem Bild oder Bildausschnitt. Suchmaschinen können ähnliche oder frühere Fundstellen zeigen. Das hilft besonders bei alten Fotos, die mit neuer Bildunterschrift wiederverwendet werden.
Bildquelle: Wikimedia Commons
Ein sinnvoller Ablauf ist: Zuerst einen Screenshot oder die Bilddatei verwenden, dann mehrere Treffer öffnen, auf Veröffentlichungsdaten achten und die frühesten glaubwürdigen Fundstellen vergleichen. Bei einem stark zugeschnittenen Bild kann es helfen, verschiedene Ausschnitte zu testen.
Grenze der Methode: Wenn die Rückwärtssuche nichts findet, ist das kein Beweis für KI oder Fälschung. Ein neues Foto kann ebenfalls noch keine älteren Treffer haben. Das korrekte Ergebnis lautet dann zunächst: „Mit dieser Suche nicht bestätigt.“
Der BR-#Faktenfuchs und CORRECTIV beschreiben die Rückwärtssuche als wichtiges Werkzeug, um frühere Verwendungen, andere Kontexte und mögliche Ursprünge zu finden.
Metadaten: nützlich, aber nicht unfehlbar
Digitale Bilddateien können EXIF-Metadaten enthalten, zum Beispiel Kameramodell, Aufnahmezeit oder technische Einstellungen. Manche Dateien enthalten auch Ortsdaten. Solche Informationen können bei der Prüfung helfen.
Bildquelle: Wikimedia Commons
Metadaten fehlen jedoch häufig, weil Plattformen sie beim Hochladen entfernen oder weil ein Screenshot angefertigt wurde. Außerdem können Metadaten verändert werden. Deshalb gilt: Vorhandene Metadaten können Hinweise liefern; fehlende Metadaten beweisen nichts.
Bei privaten Fotos ist zusätzlich Datenschutz wichtig. Lade Bilder von Dir, Mitschülerinnen oder Mitschülern nicht ohne Erlaubnis auf unbekannte Prüfseiten hoch. Nutze im Unterricht nur freigegebene Beispielbilder oder frage eine Lehrkraft.
Content Credentials: ein Herkunftszettel für digitale Medien
Einige Bilder können sogenannte Content Credentials nach dem C2PA-Standard enthalten. Vereinfacht gesagt sind sie wie ein Herkunftszettel: Sie können Informationen darüber enthalten, mit welchem Werkzeug ein Bild erstellt oder bearbeitet wurde und welche Stationen dokumentiert sind.
Aber auch hier gilt eine wichtige Grenze: Content Credentials sagen nicht automatisch, ob eine Aussage über die Welt wahr ist. Ein korrekt gekennzeichnetes KI-Bild kann eine fiktive Szene zeigen. Ein echtes Foto mit Herkunftsnachweis kann trotzdem in einer falschen Bildunterschrift verwendet werden. Umgekehrt beweist das Fehlen solcher Angaben nicht, dass ein Bild echt oder falsch ist.
Die C2PA selbst betont: Herkunftsinformationen helfen bei Ursprung und Bearbeitungsgeschichte, ersetzen aber nicht Faktencheck und Medienkompetenz.
Automatische KI-Detektoren: Warum ein Prozentwert nicht reicht
Manche Webseiten versprechen, mit einem Upload zu erkennen, ob ein Bild von KI stammt. Solche Systeme können nützlich sein, aber sie machen Fehler. Ihre Leistung kann davon abhängen, mit welchem Generator ein Bild erstellt wurde, wie stark es komprimiert wurde und ob es zugeschnitten oder bearbeitet wurde.
Deshalb sollst Du einen Detektorwert so formulieren: „Das Werkzeug liefert einen Hinweis.“ Nicht: „Das Werkzeug hat bewiesen, dass das Bild KI ist.“
Für einen starken Faktencheck kombinierst Du stattdessen mehrere Belege: Quelle, früheste Fundstelle, Rückwärtssuche, Kontext, unabhängige Berichte, mögliche Herkunftsdaten und erst dann technische Analyse.
Optische Hinweise: Beobachten ja, urteilen nein
| Auffälligkeit | Was sie bedeuten kann | Warum sie kein Beweis ist |
|---|---|---|
| Ungewöhnliche Finger oder Gelenke | Ein älterer oder schwächerer Bildgenerator könnte Fehler erzeugt haben. | Echte Hände können durch Bewegung oder Perspektive seltsam wirken; moderne KI kann Hände korrekt darstellen. |
| Verformte oder unlesbare Schrift | Manche Bildgeneratoren erzeugen Buchstaben fehlerhaft. | Bewegungsunschärfe, niedrige Auflösung oder fremde Schriften können ebenfalls ungewöhnlich aussehen. |
| Unpassende Schatten oder Spiegelungen | Eine Montage oder KI-Erzeugung ist möglich. | Mehrere Lichtquellen, Glas oder Bildbearbeitung können komplexe Effekte erzeugen. |
| Wiederholte Gesichter oder Gegenstände | Ein generatives Muster ist möglich. | Auch echte Szenen können ähnliche Gegenstände, Uniformen oder Muster enthalten. |
| Sehr glatte Haut oder „perfektes“ Licht | Filter, Retusche oder KI sind möglich. | Studiofotografie und Smartphone-Filter können denselben Eindruck erzeugen. |
| Merkwürdige Ränder | Ausschneiden, Einfügen oder Generieren ist möglich. | Kompression, Freistellung und automatische Porträtmodi können ebenfalls Ränder verändern. |
Ein Bild über Deepfakes kann selbst ein echtes Foto sein
Der Dateiname „Deepfake.jpg“ könnte Dich zu einer schnellen Annahme verleiten. Die Wikimedia-Commons-Dateiseite dokumentiert jedoch, dass es sich um eine Fotografie einer Veranstaltung in Den Haag handelt, auf der das Thema manipulierte Inhalte dargestellt wird. Das Bild ist damit ein gutes Beispiel für Kontextprüfung: Dateiname und Motiv allein sagen nicht, wie die Datei entstanden ist. Wikimedia Commons
Use-Case 1: Nachricht
Situation: In einem Nachrichtenfeed erscheint ein dramatisches Bild. Die Überschrift behauptet: „Heute Morgen hat ein Unwetter die Innenstadt überflutet.“
Ein schwacher Check wäre: „Das Wasser sieht echt aus.“ Ein besserer Check beginnt bei der Behauptung. Prüfe, welche Redaktion oder Stelle berichtet, ob ein Ort und Datum genannt werden und ob weitere lokale Quellen dasselbe Ereignis melden. Nutze die Rückwärtssuche: Wenn dasselbe Bild bereits vor mehreren Jahren bei einem Hochwasser in einem anderen Land veröffentlicht wurde, ist das Bild als Beleg für die heutige Meldung ungeeignet – selbst wenn das alte Foto völlig echt war.
Faktencheck-Frage: Was ist stärker als ein „echt wirkender“ Wasserspiegel? Eine nachvollziehbare Quelle, ein passender Ort und Zeitpunkt sowie unabhängige Berichte über dasselbe Ereignis.
Use-Case 2: Social Media
Situation: Ein spektakuläres Bild eines ungewöhnlichen Tieres auf einer Stadtstraße wird tausendfach geteilt. Im Post steht nur: „Unglaublich, gerade eben bei uns!“
Viele Likes sind kein Herkunftsnachweis. Suche nach dem frühesten auffindbaren Post, lies die Profilbeschreibung, suche nach einer ursprünglichen Bildquelle und prüfe, ob lokale Medien oder Behörden über das angebliche Ereignis berichten. Eine Rückwärtssuche kann zeigen, ob das Bild älter ist. Wenn Du keine Bestätigung findest, lautet das Ergebnis nicht automatisch „Fake“, sondern zunächst unbelegt oder unklar.
Achte auch auf die Kopierkette: Viele Reposts können alle von derselben unbelegten Quelle stammen.
Use-Case 3: Werbung
Situation: Eine Anzeige zeigt ein perfektes Vorher-Nachher-Bild und behauptet, ein Produkt habe innerhalb kurzer Zeit eine starke Wirkung erzielt.
Hier ist die Frage „Ist das Model KI-generiert?“ nur ein Teil des Problems. Selbst ein echtes Vorher-Nachher-Foto beweist nicht, dass das Produkt die Ursache für die Veränderung war. Es könnten Licht, Pose, Make-up, Auswahl, Bearbeitung oder andere Faktoren beteiligt sein.
Prüfe deshalb die Werbeaussage: Gibt es nachvollziehbare Belege? Wird erklärt, ob Bilder bearbeitet oder generiert wurden? Finden sich unabhängige Tests oder seriöse Informationen? Das Bild ist ein Teil der Werbung, aber nicht automatisch ein wissenschaftlicher Nachweis.
Use-Case 4: Schulreferat
Situation: Du findest für ein Referat ein beeindruckendes Bild einer historischen Stadt. Es sieht realistisch aus, aber die Seite nennt keinen Fotografen und kein Datum.
Verwende das Bild nicht einfach als „Foto von damals“. Suche nach der Originalquelle. Eine Wikimedia-Commons-Dateiseite kann zum Beispiel Autor, Datum, Lizenz und Beschreibung enthalten. Bei einer KI-Rekonstruktion gilt: Du kannst sie als Illustration nutzen, wenn das im Unterricht erlaubt ist und Du sie klar kennzeichnest. Sie darf aber nicht so präsentiert werden, als sei sie ein historisches Foto oder ein Beweis für jedes dargestellte Detail.
Für Dein Referat notierst Du möglichst: Bildtitel, Urheber oder Quelle, Datum, Lizenz und eine sachliche Bildbeschreibung. Prüfe außerdem, ob der Text, den Du mit dem Bild verbindest, wirklich durch verlässliche Sachquellen gestützt wird.
Interaktive Faktenchecks zu den vier Use-Cases
Ein fünfter Faktencheck: Detektor gegen Quellenlage
Stell Dir vor, ein automatischer Detektor meldet „hohe Wahrscheinlichkeit für KI“. Gleichzeitig findest Du die Originaldatei auf der Seite einer bekannten Bildagentur, eine Bildserie desselben Fotografen, passende Aufnahmedaten und weitere Perspektiven desselben Ereignisses.
Was wiegt stärker? Ein Detektorwert allein sollte die dokumentierte Quellenlage nicht überstimmen. Du würdest den Widerspruch notieren, weitere Prüfungen durchführen und das Ergebnis erst danach formulieren. Ein Werkzeug ersetzt keine Begründung.
Ein sechster Faktencheck: Herkunft bekannt, Wahrheit noch offen
Stell Dir vor, Content Credentials zeigen eindeutig, dass ein Bild mit einem KI-Werkzeug erzeugt wurde. Damit ist die Herkunftsfrage teilweise geklärt. Aber die Frage „Ist die Behauptung im Begleittext wahr?“ ist noch offen.
Beispiel: Eine KI-Illustration zeigt eine mögliche Stadt der Zukunft. Die Aussage „So sieht unsere Stadt im Jahr 2050 sicher aus“ wäre trotzdem nicht belegt. Herkunftsdaten erklären die Entstehung des Bildes, nicht die Zukunft.
Mediengalerie für die Quellenprüfung
Bildquelle: Wikimedia Commons. Die Dateibeschreibung dokumentiert die KI-Erzeugung und das verwendete Stable-Diffusion-Modell. Nutze das Bild als Beispiel dafür, wie stark eine klare Quellenbeschreibung die Einordnung erleichtert.
Bildquelle: Wikimedia Commons. Die Grafik unterscheidet absichtliche Täuschung von irrtümlich falscher Information. Für Deinen Faktencheck ist die Absicht oft schwer sicher festzustellen. Konzentriere Dich deshalb zuerst darauf, ob eine konkrete Behauptung belegt ist.
Bildquelle: Wikimedia Commons. Das Beispiel zeigt Metadaten auf einer Wikimedia-Dateiseite. Auch hier gilt: Metadaten sind ein Puzzleteil, nicht das ganze Bild.
Videos: Beobachte die Tipps kritisch
Das folgende Video von DW Deutsch behandelt Hinweise auf KI-generierte Bilder.
Arbeitsauftrag zum Video: Teile die genannten Tipps in zwei Gruppen ein: „optischer Hinweis“ und „Quellen- oder Kontextprüfung“. Markiere danach, welche Tipps allein keinen Beweis liefern.
Das folgende Video von DW Deutsch beschäftigt sich mit manipulierten Bildern allgemein.
Arbeitsauftrag zum Video: Notiere drei Prüfschritte, die auch dann noch funktionieren, wenn KI-Bilder irgendwann fast keine sichtbaren Fehler mehr zeigen.
Ein weiteres DW-Video zeigt verschiedene Ansätze zum Erkennen KI-generierter Bilder.
Arbeitsauftrag zum Video: Suche im Video nach mindestens einem Tipp, der mit der Zeit unsicherer werden kann, und nach einem Tipp, der auf Quelle oder Kontext zielt.
Quellen und Vertiefung
- NIST – Synthetic Content: Übersicht zu technischen Verfahren und Grenzen der Erkennung synthetischer Inhalte. Für diesen aiMOOC besonders wichtig: Die Genauigkeit automatischer Detektoren hängt von Werkzeug, Datensatz, Bildqualität und Generator ab.
- BR24 #Faktenfuchs: Toolbox zum Prüfen von Quellen und Bildern. Dort wird unter anderem die Bilderrückwärtssuche erklärt.
- CORRECTIV.Faktencheck: Anleitung zur Bilderrückwärtssuche. Sie zeigt, wie frühere Bildverwendungen helfen können, falschen Kontext zu entdecken.
- AFP Fact Check: Fact-Checking Stylebook. AFP beschreibt KI-Detektoren als fehleranfällig und kombiniert technische Hinweise mit Rückwärtssuche und Quellenarbeit.
- C2PA: Explainer zu Content Credentials. C2PA betont, dass Herkunftsinformationen nicht allein entscheiden, ob eine dargestellte Behauptung wahr ist.
- Wikimedia Commons: Hinweise zu KI-Medien auf Commons. Auch dort wird die Quelle ausdrücklich als wichtiger Prüfansatz genannt.
- DW Deutsch: Die eingebetteten Videos stammen vom verifizierten Nachrichtenangebot DW Deutsch und dienen hier als Ausgangspunkt für die kritische Einordnung verschiedener Prüftipps.
Interaktive Aufgaben
Quiz: Teste Dein Wissen
Was solltest Du bei einem verdächtigen Bild zuerst klären? (Welche Behauptung mit dem Bild gemacht wird) (!Ob die Farben besonders kräftig sind) (!Ob das Bild viele Likes hat) (!Ob Du das Motiv schön findest)
Was beweist eine Hand mit ungewöhnlich vielen Fingern? (Sie ist ein Hinweis, aber allein kein Beweis für ein KI-Bild) (!Das Bild ist sicher mit KI erzeugt) (!Das Bild ist sicher eine echte Fotografie) (!Die Bildunterschrift ist automatisch falsch)
Eine Rückwärtssuche findet dasselbe Foto fünf Jahre früher in einem anderen Land. Was ist die beste Schlussfolgerung? (Das Foto belegt das angeblich heutige Ereignis so nicht) (!Das ältere Foto muss ebenfalls KI-generiert sein) (!Alle Berichte über das heutige Ereignis sind automatisch falsch) (!Eine Rückwärtssuche ist bei alten Bildern nutzlos)
Die Rückwärtssuche liefert keinen Treffer. Was folgt daraus? (Das Bild ist dadurch noch nicht bestätigt oder widerlegt) (!Das Bild ist sicher KI-generiert) (!Das Bild ist sicher echt) (!Das Bild darf ohne weitere Prüfung weitergeteilt werden)
Ein automatischer Detektor meldet eine hohe KI-Wahrscheinlichkeit. Wie gehst Du damit um? (Du behandelst das Ergebnis als einen Hinweis und prüfst weitere Belege) (!Du erklärst das Bild sofort zum Fake) (!Du ignorierst Quelle und Kontext) (!Du verbreitest den Prozentwert als endgültigen Beweis)
Was bedeutet es, wenn ein Bild keine EXIF-Metadaten enthält? (Allein daraus lässt sich nicht sicher auf echt oder falsch schließen) (!Das Bild wurde sicher mit KI erzeugt) (!Das Bild wurde sicher mit einer Kamera aufgenommen) (!Das Bild ist automatisch manipuliert)
Was können Content Credentials besonders gut unterstützen? (Die Prüfung von Herkunft und Bearbeitungsgeschichte) (!Die sichere Vorhersage zukünftiger Ereignisse) (!Den Beweis, dass jede Bildunterschrift wahr ist) (!Die Garantie, dass ein Bild niemals kopiert wurde)
Eine Werbung zeigt ein beeindruckendes Vorher-Nachher-Bild. Was beweist dieses Bild allein? (Die behauptete Produktwirkung noch nicht) (!Dass das Produkt wissenschaftlich geprüft wurde) (!Dass keine Bildbearbeitung stattgefunden hat) (!Dass alle Kundinnen und Kunden dasselbe Ergebnis erhalten)
Was solltest Du bei einem Bild für ein Schulreferat dokumentieren? (Quelle, Urheber, Datum, Lizenz und passenden Kontext) (!Nur die Bildgröße) (!Nur die Suchmaschine, über die Du es gefunden hast) (!Nur die Anzahl der Likes unter dem Bild)
Welche Bewertung passt, wenn Du für eine Behauptung noch keine ausreichenden Belege findest? (Unbelegt oder unklar) (!Sicher wahr) (!Sicher KI-generiert) (!Sicher absichtlich gelogen)
Memory
| Rückwärtssuche | Frühere Bildfundstellen finden |
| Quelle | Herkunft einer Information prüfen |
| Kontext | Ort Zeit und Situation einordnen |
| Quercheck | Unabhängige Berichte vergleichen |
| Metadaten | Zusatzinformationen einer Datei |
| KI-Detektor | Technischer Hinweis mit Fehlerrisiko |
| Content Credentials | Dokumentierte Herkunftsgeschichte |
Drag and Drop
| Ordne die richtigen Begriffe zu. | Thema |
|---|---|
| Quelle prüfen | Wer veröffentlicht das Bild und woher stammt es? |
| Rückwärtssuche | Wo tauchte das Bild früher oder in anderer Form auf? |
| Kontext prüfen | Passen Ort Zeit Ereignis und Bildunterschrift zusammen? |
| Quercheck | Welche unabhängigen Quellen bestätigen die Behauptung? |
| Ergebnis bewerten | Ist die Behauptung belegt widerlegt unbelegt oder unklar? |
...
Kreuzworträtsel
| Ursprung | Wie nennt man den Ausgangspunkt oder die früheste nachvollziehbare Herkunft eines Bildes? |
| Kontext | Welches Wort bezeichnet Ort Zeit Situation und Zusammenhang einer Information? |
| Retusche | Wie heißt das gezielte Nachbearbeiten einzelner Teile eines Fotos? |
| Metadaten | Wie heißen Zusatzinformationen einer Bilddatei etwa zu Aufnahmezeit oder Kamera? |
| Deepfake | Wie heißt ein realistisch wirkender mit KI erzeugter oder manipulierter Medieninhalt häufig? |
| Quercheck | Wie nennt man das Vergleichen einer Behauptung mit unabhängigen weiteren Quellen? |
LearningApps
Lückentext
Offene Aufgaben
Leicht
- Behauptung formulieren: Suche mit einer Lehrkraft ein unproblematisches Beispielbild aus Wikimedia Commons und schreibe zwei verschiedene Bildunterschriften dazu. Erkläre, wie eine falsche Bildunterschrift den Kontext verändern könnte.
- Dateiseite lesen: Öffne die Wikimedia-Commons-Dateiseite eines Bildes aus diesem aiMOOC und notiere Autor, Datum, Lizenz und Beschreibung. Markiere, welche Angabe Dir am meisten bei der Einordnung hilft.
- Hinweise sortieren: Erstelle zwei Spalten „Hinweis“ und „stärkerer Beleg“. Ordne ungewöhnliche Finger, ursprüngliche Bildquelle, viele Likes, Rückwärtssuche und unabhängige Berichte ein und begründe Deine Auswahl.
- Bewertungen üben: Formuliere je ein eigenes Beispiel für belegt, widerlegt, unbelegt und unklar.
Standard
- Rückwärtssuche dokumentieren: Führe mit einem freigegebenen Beispielbild eine Rückwärtssuche durch. Dokumentiere drei Treffer und vergleiche Datum, Quelle und Kontext.
- Repost-Kette untersuchen: Erstelle eine fiktive Kette aus fünf Social-Media-Posts, die alle dasselbe Bild weiterteilen. Zeige, warum fünf Posts nicht fünf unabhängige Quellen sind.
- Werbebild prüfen: Wähle eine unproblematische Anzeige und trenne Bildaussage, Werbeversprechen und tatsächlich vorhandene Belege. Schreibe danach ein vorsichtiges Faktencheck-Fazit.
- Bildnachweis erstellen: Finde für ein Referat ein frei lizenziertes Bild und erstelle einen vollständigen Bildnachweis mit Titel, Urheber, Quelle, Lizenz und passender Bildbeschreibung.
Schwer
- Vier-Kontexte-Vergleich: Nutze dasselbe frei lizenzierte Bild in vier erfundenen Kontexten: Nachricht, Social Media, Werbung und Schulreferat. Erkläre, welche Prüffragen sich jeweils ändern.
- Mini-Faktencheck schreiben: Prüfe mit Deiner Lehrkraft eine harmlose öffentliche Bildbehauptung. Dokumentiere Behauptung, Quelle, Ursprung, Rückwärtssuche, Kontext, Quercheck und Ergebnis.
- Detektor kritisch testen: Vergleiche bei freigegebenen Beispielbildern die Ergebnisse von zwei technischen Prüfansätzen. Bewerte nicht nur Treffer, sondern auch Fehlermöglichkeiten und Datenschutz.
- Erklärvideo produzieren: Produziere ein kurzes Erklärvideo für jüngere Schülerinnen und Schüler mit dem Titel „Nicht auf die Finger hereinfallen“. Zeige darin, warum Quellen- und Kontextprüfung langfristig stärker sind als eine Liste optischer KI-Merkmale.
|
|
Lernkontrolle
- Nachrichtenfall analysieren: Ein echtes Foto aus einem früheren Hochwasser wird heute mit einer neuen Ortsangabe geteilt. Erkläre Schritt für Schritt, wie Du den falschen Kontext nachweisen würdest und welche Belege Du dafür brauchst.
- Viralität bewerten: Ein Bild hat hunderttausende Aufrufe, aber keine klare Quelle. Erkläre, warum Reichweite keine Verlässlichkeit beweist und wie Du nach unabhängigen Bestätigungen suchst.
- Werbeaussage prüfen: Eine Anzeige nutzt ein vermutlich echtes Vorher-Nachher-Foto. Beurteile, welche zusätzliche Information nötig wäre, um die behauptete Produktwirkung zu bewerten.
- Illustration oder Beleg: Du findest eine fotorealistische KI-Rekonstruktion einer antiken Stadt. Entscheide, wie Du sie in einem Referat korrekt einsetzen und kennzeichnen würdest und welche Aussagen Du damit nicht belegen darfst.
- Detektor-Widerspruch: Ein KI-Detektor meldet „wahrscheinlich KI“, eine dokumentierte Quelle nennt Fotograf, Bildserie und Aufnahmeort. Entwickle einen Prüfplan, der den Widerspruch klärt, ohne einem einzelnen Werkzeug blind zu vertrauen.
- Fazit formulieren: Zwei seriöse Quellen widersprechen sich bei Datum und Ort eines Bildes. Formuliere ein verantwortungsvolles Zwischenfazit und beschreibe, welche weiteren Belege Du suchen würdest.
Lernnachweis
Für einen Lernnachweis zu diesem Thema ist wichtig, dass Du nicht nur Begriffe kennst, sondern Deinen Prüfweg nachvollziehbar dokumentierst.
- Du formulierst die konkrete Behauptung, die ein Bild angeblich stützt.
- Du unterscheidest aktuelle Fundstelle, ursprüngliche Quelle und spätere Reposts.
- Du nutzt eine Rückwärtssuche sinnvoll und interpretierst auch einen fehlenden Treffer vorsichtig.
- Du prüfst Ort, Zeit, Ereignis, Bildunterschrift und mögliche Ausschnitte als Kontext.
- Du vergleichst mindestens zwei voneinander unabhängige Quellen.
- Du erklärst, warum optische Auffälligkeiten und KI-Detektoren Hinweise, aber keine sicheren Beweise sind.
- Du ordnest Metadaten und Content Credentials korrekt als Herkunftshinweise ein.
- Du unterscheidest die Ergebnisse belegt, widerlegt, unbelegt und unklar.
- Du gibst bei einem Schulreferat Bildquelle, Urheber, Lizenz und Kontext an.
- Du formulierst ein begründetes Fazit und kennzeichnest verbleibende Unsicherheit.
OERs zum Thema
Der Wikipedia-Artikel zu Deepfakes erklärt KI-basierte erzeugte und manipulierte Medieninhalte:
Der Wikipedia-Artikel zu Fotomanipulation zeigt, dass Bildveränderungen nicht erst mit generativer KI begonnen haben:
Verknüpfte Lernbereiche