Deepfakes: Manipulierte Videos im Netz
Dass man nicht allem glauben darf, was im Internet so zu lesen ist, ist vielen bereits bewusst (Stichwort: Fake News). Doch nicht nur Texte und Fotos, auch Videos lassen sich heutzutage bereits mit vergleichsweise einfachen Mitteln manipulieren und fälschen. Mit dem Begriff “Deepfakes” werden manipulierte Videos bezeichnet, die von einer Künstlichen Intelligenz generiert werden. Wir erklären, was man sich darunter vorstellen kann und wie das Thema im Unterricht aufgegriffen werden kann.
Deepfakes: Gefälschte Videos
Der Begriff Deepfake setzt sich aus den Begriffen “Deep Learning” und “Fake” zusammen. “Deep Learning” beschreibt einen Teilbereich des maschinellen Lernens. Dabei werden große Datenmengen nach Mustern analysiert, um diese mit anderen Daten zu verknüpfen. Genau das passiert auch bei der Erstellung von Deepfakes: Will man z.B. ein Deepfake-Video eines Prominenten generieren, wird dazu eine Künstliche Intelligenz (KI) mit möglichst vielen Bildern und Videos des Prominenten gefüttert. Die KI berechnet aus den Bildern die exakten Gesichtspunkte des Prominenten aus verschiedenen Perspektiven und Positionen und berechnet aufgrund dessen, wie sich das Gesicht des Prominenten bewegt. Schon kann das Gesicht des Prominenten z.B. auf ein Video gelegt werden, in dem man selbst spricht.
Programme, mit denen Deepfakes generiert werden können, sind online oder als Apps oft frei zugänglich. Da die Technologie laufend verbessert wird, werden auch die Ergebnisse zunehmend glaubwürdiger. Benötigt wird vor allem möglichst viel Bild- oder auch Videomaterial von einer Person, um anhand dessen ein Deepfake-Video zu generieren. Daher sind auch häufig Prominente und Politiker:innen von Deepfakes betroffen, da von ihnen viele Bildaufnahmen online kursieren.
Schwerwiegende Konsequenzen
Die Folgen solcher manipulierten Videos können schwerwiegend sein und von Ruf- oder Imageschädigung über Erpressung bis hin zur Manipulation der öffentlichen Meinung reichen. Leider sind auch Privatpersonen nicht vor Deepfakes gefeit. Hier wird die Technologie immer wieder für Rachepornografie eingesetzt. Vor allem bei Privatpersonen greift hierbei jedoch das Recht am eigenen Bild: Demzufolge darf jeder Mensch selbst entscheiden ob ein Foto von ihm/ihr veröffentlicht werden darf und in welchem Kontext es verwendet werden darf.
Die Deepfake-Technologie hat jedoch auch das Potential künftig im positiven Kontext eingesetzt zu werden: Im Dalí-Museum in Florida wurde so der verstorbene Künstler Salvador Dalí für interaktive Ausstellungselemente wieder “zum Leben erweckt”. Bei Übersetzungen von Filmen oder Serien besteht dadurch z.B. die Möglichkeit, die Mundbewegungen des/der Schauspieler:in noch besser an die Übersetzung anzupassen. In der Werbebranche wäre es z.B. denkbar, dass Models künftig nicht mehr zwingend zu Fotoshootings erscheinen müssen, sondern dass stattdessen ihr Gesicht über jenes einer anderen Person gelegt wird.
Im Unterricht: Erklärvideos & Reflexion
Um das Thema im Unterricht aufzugreifen, könnten Sie Ihre Schüler:innen z.B. mit einem Deepfake-Video konfrontieren und sie fragen, ob ihnen an dem Video etwas auffällt oder ob sie es für echt halten. Beispiele sind vielfach auf YouTube zu finden, einige bekannte Beispiele sind die folgenden:
Im Anschluss kann erklärt werden, was unter Deepfakes zu verstehen ist. Um besser verstehen zu können, wie solche Videos erstellt werden, eignen sich diverse Erklärvideos oder Ausschnitte daraus:
- So geht Medien: Erklärvideo + Unterrichtsmaterial
- MrWissen2go: Erklärvideo
- reporter: Reportage
Danach könnten die Schüler:innen z.B. in Gruppen- oder Partner:innenarbeit besprechen, welche positiven und negativen Konsequenzen und Einsatzmöglichkeiten ihnen für Deepfakes einfallen. Die Ergebnisse können im Anschluss im Plenum besprochen und diskutiert werden.
Tipp: Deepfakes erkennen
Deepfake-Videos zu erkennen kann mitunter sehr schwer sein. Die folgenden Tipps zeigen, worauf Sie achten können.
- Kontext bedenken: Ist es realistisch, dass diese Person so etwas gesagt oder getan hat?
- Auf Details der Gesichter/Köpfe achten: zB wackelnde Gesichter, unscharfe/undeutliche Ränder, oft auch unscharfer Mundinnenraum
- Hintergrund: Licht und Farben von Gesicht und Hintergrund passen oft nicht richtig zusammen
- Blick: Unnatürliche Blickrichtung, leerer Blick
- Synchronität: Ton und Mundbewegungen können asynchron sein
- Quelle überprüfen: Ist die ursprüngliche Quelle vertrauenswürdig?