Diese Auswirkungen hat der neue "AI Act" der EU
Mit 2. August 2026 sind mit Artikel 50 des “AI Acts” der Europäischen Union auch jene Teile des Regelwerks in Kraft getreten (mit Ende Juli 2026 geltende Version unter diesem Link als PDF), welche gewisse Transparenzpflichten von all jenen einfordern, die KI-generierte Inhalte veröffentlichen. Für Konsument:innen von Medien soll damit klar ersichtlich sein, wenn sie mit Produkten Künstlicher Intelligenz konfrontiert werden.
Sehr weite Definition von "Deepfake"
Konkret heißt es dazu in Absatz 4 von Artikel 50 AI Act: “Betreiber eines KI-Systems, das Bild-, Ton- oder Videoinhalte erzeugt oder manipuliert, die ein Deepfake sind, müssen offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden.” Unter “Deepfake” wird dabei aber eine weitaus breitere Definition angenommen, als sie bisweilen in der öffentlichen Diskussion gilt.
Der AI Act versteht darunter nämlich alle von KI generierten oder mit KI manipulierten Bild-, Ton- oder Videoinhalte, die realistisch genug wirken, um Konsument:innen zu täuschen. “Deep Fake” geht daher in der Regelung weit über manipulierte Bilder oder Videos von Personen hinaus.
Ein Beispiel, angelehnt an das Storybild oben, wo ein Comic-Roboter ein Landschaftsbild malt:
Eben jene idyllische Szene vor einem Bergpanorama - mehr im Stil eines Fotos umgesetzt - kann durchaus kennzeichnungspflichtig sein, weil sie für real gehalten werden könnte.
Ebenso könnte das gesamte Storybild in einem anderen Stil generiert durchaus mit einer Kennzeichnung im Sinne des AI Acts versehen werden müssen. Auch hier präsentieren wir ein Beispiel:
Welche Ausnahmen gibt es?
Zuerst ein wichtiger Hinweis: KI-generierte Inhalte, die rein für den privaten Gebrauch produziert werden, sind IMMER von der Regelung ausgenommen, müssen also nicht gekennzeichnet werden.
Weiters gilt diese Pflicht auch dann nicht, wenn der erzeugte Content etwa zur Verhinderung oder Aufdeckung einer Straftat verwendet wird. Zudem besteht auch noch folgende Ausnahme: “Ist der Inhalt Teil eines offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder analogen Werks oder Programms, so beschränken sich die in diesem Absatz festgelegten Transparenzpflichten darauf, das Vorhandensein solcher erzeugten oder manipulierten Inhalte in geeigneter Weise offenzulegen, die die Darstellung oder den Genuss des Werks nicht beeinträchtigt.”
Heißt übersetzt: Das ursprüngliche Storybild oben müsste nicht UNBEDINGT mit einem Hinweis im Bild selbst versehen werden, weil es eindeutig als Comic-Stil erkennbar sein sollte. Stattdessen könnte auch etwa im Credit oder Untertitel eindeutig darauf verwiesen werden, dass es sich um einen KI-generierten Inhalt handelt.
Mimikama-Check hilft bei Unsicherheiten
Zum ersten Mal mit den Regelungen konfrontiert, können diese durchaus verwirren, noch dazu weil die Grauzonen bei der Anwendung nicht gerade klein sind. Ein gutes Hilfsmittel in der Praxis ist hierfür etwa der KI-Check von Mimikama, bei dem nach der Eingabe einiger Grundvoraussetzungen klare Aussagen dazu getroffen werden, ob in diesem Fall zu kennzeichnen ist oder nicht. Auch die damit verbundenen konkreten Beispiele bieten einen guten Überblick zu diesem Thema.
Eine sehr ausführliche, aber auch durchwegs gut verständliche erweiterte Einschätzung der Gesetzeslage gibt zudem auch dieser Artikel der Ombudsstelle Internet. In diesem wird ebenfalls zur - hier bisher nicht behandelten - Kennzeichnungspflicht von Texten informiert. Unsere kurze Einschätzung: Diese ist wesentlich “softer” als jene bei Bild-, Ton- oder Videoinhalten. Sobald der KI-generierte Text eine abschließende menschliche Kontrolle unterlaufen hat, gilt laut AI Act nämlich keinerlei Kennzeichnungspflicht.
Wie wir mit KI-Inhalten verfahren
Wie wir bereits in unseren Zehn Geboten für den Einsatz von KI im Unterricht (ebenso wie auch im Kindergarten) ausgeführt haben, treten wir als Wiener Bildungsserver für größtmögliche Transparenz bei der Verwendung von KI-Inhalten ein. Aus diesem Grund hatten wir bereits vor Inkrafttreten von Artikel 50 des AI Acts alle von uns KI-generierten Bilder über den Credit gekennzeichnet.
Seit dem 2. August gehen wir aber nun einen Schritt weiter und versehen diese mit den von der EU dafür zur Verfügung gestellten Icons (in vier Versionen auf dieser Seite verfügbar). Bei entsprechenden Bildern werden sie sich meist entweder in der linken oder rechten oberen Ecke befinden. Als Beispiel finden Sie sie selbstverständlich auch in den drei Bildern dieses Artikels.