Künstliche Intelligenz und die Ausbeutung von Klickarbeiter:innen
Kompetenzen der Digitalen Grundbildung
- Information
- Orientierung
Ressourcen
- PDF Linksammlung zu Klickarbeitenden
- Schüler:innen-Endgeräte inkl. Kopfhörer
Kontext
Oftmals scheint es, als würden KI-Systeme autonom lernen und ihr “Wissen” stets eigenständig, ohne die Unterstützung von Menschen, erweitern. Damit allerdings eine Künstliche Intelligenz zu einem Ergebnis kommen kann, muss sie vorab mit Trainingsdaten trainiert werden (siehe Praxisidee Künstliche Intelligenz verstehen: Maschinenlernen). Das bedeutet jedoch noch lange nicht, dass diese Ergebnisse auch den gewünschten Output generieren (siehe Praxisidee Coded Bias).
In dieser Praxisidee setzen sich die Schüler:innen mit der Arbeit von Klickarbeitenden auseinander. Zunächst lernen sie anhand einer Webanwendung, wie KIs “trainiert werden” bzw. wie sie zu einem Ergebnis kommen (Modul A). Anschließend recherchieren die Schüler:innen, unter welchen Bedingungen die Klickarbeitenden im globalen Süden arbeiten müssen und welche Folgen das Trainieren von Künstlichen Intelligenzen für die in diesem Sektor arbeitenden Menschen haben kann (Modul B). Sie reflektieren die globalen Machtstrukturen und diskutieren ethische Verantwortung.
Anmerkung: In den Artikeln und Videos zur Recherche im Modul B wird dargestellt, mit welchen brutalen, menschenverachtenden und pornografischen Inhalten die Klickarbeitenden konfrontiert sind. Die Schüler:innen sollten eine gewisse Reife haben, über Themen wie Kindesmisshandlungen und Hinrichtungen inhaltlich zu diskutieren, auch wenn keine expliziten Szenen gezeigt werden.
Der Einstieg sowie die 2 Module dieser Praxisidee bauen inhaltlich aufeinander auf und sollten deshalb nach der Reihe durchgeführt werden. Die gesamte Praxisidee umfasst ca. 3-4 Unterrichtseinheiten (UE). Weitere Hintergrundinformationen für die Lehrkraft stehen weiter unten in den Sachinformationen.
Einstieg
DISKUSSION | Wie “lernt” eine KI?
Plenum
Der Einstieg in das Thema soll anhand folgender Fragen an die Klasse erfolgen:
- Glaubt ihr, dass KI-Systeme autonom lernen oder braucht es menschliche Hilfe?
- Muss Künstliche Intelligenz programmiert werden?
- Woher weiß eine Künstliche Intelligenz, wie sie Entscheidungen treffen soll?
- Wie kommt eine KI zu einem Ergebnis? Ist das Ergebnis einer KI immer richtig?
Die Fragen sollen erste Denkimpulse bei den Schüler:innen anregen. Die Gedanken können mit der Klasse geteilt und auch kurz besprochen werden. Anschließend sollten sich die Schüler:innen reflektiertere Antworten auf diese Fragen im folgenden Modul selbst erarbeiten.
Modul A: Eine KI mit Daten trainieren
VIDEOINPUT | Video “Machine Learning einfach erklärt”
Plenum
Für den Einstieg in dieses Modul eignet sich das kurze Video Machine Learning einfach erklärt (2:04 min) von der Hochschule Luzern.
Im Video wird bildhaft verdeutlicht, wie Maschinen aus Datensätzen lernen, indem sie in den eingespeisten Input-Daten Muster, Strukturen und Zusammenhänge erkennen. Das Video soll als Grundlage dienen, mit der die Schüler:innen nun die folgende Aufgabe eigenständig in einer spielerischen Webanwendung durchführen sollen.
ÜBUNG | “KI für Meere” - eine KI spielerisch trainieren
Einzelarbeit oder Partner:innenarbeit
Damit die Schüler:innen sich den Vorgang des Labelns bzw. Kategorisierens von Daten besser vorstellen können, sollen sie nun in Einzelarbeit oder in Partner:innenarbeit die Webanwendung KI für Meere absolvieren. Hierbei trainieren sie eine KI, damit sie später selbstständig unterscheiden kann, bei welchen Objekten es sich um Meeresbewohner und bei welchen Objekten es sich um im Meer gelandeten Müll handelt, der aus dem Meer entnommen werden soll.
Zu Beginn und zwischen den einzelnen Levels können sich die Schüler:innen Lernvideos anschauen, die Informationen zum maschinellen Lernen und zur Diversität von Datensätzen enthalten. Für das Anschauen aller Videos und das Durchspielen der Levels werden die Schüler:innen ca. 25 Minuten benötigen.
Die Videos sind in englischer Sprache, es können aber deutsche Untertitel eingestellt werden. Die Webanwendung lässt sich auf Deutsch und viele andere Sprachen umstellen, eignet sich daher auch sehr gut als Übung für den Fremdsprachenunterricht. Für das Abspielen der Videos benötigen die Schüler:innen Kopfhörer, um andere Mitschüler:innen nicht zu stören.
ZWISCHENREFLEXION | Labeln von Daten
Plenum
achdem die Schüler:innen alle Levels der Webanwendung durchgespielt haben, können die Erfahrungen und Eindrücke mit der gesamten Klasse geteilt werden. Folgende Fragen können hierfür hilfreich sein:
- Hat eure trainierte KI alle Gegenstände richtig einordnen können? Wo gab es eventuell Schwierigkeiten?
- Ist euch das Prinzip des Kategorisierens bzw. Labelns durch die Webanwendung und die Videos verständlicher geworden?
- Wie lässt sich das anfangs gezeigte Video Machine Learning einfach erklärt mit dieser Übung verbinden? Welche Inhalte habt ihr in dieser Übung wiedergefunden?
INPUT & AKTIVITÄT | Objekterkennung
Plenum
Um das spielerische Beispiel mit den Meerestieren nun in eine Anwendung des Alltages zu übertragen, kann die Lehrperson auf dem Beamer oder der digitalen Tafel die Webseite www.ki-entdecken.de vorzeigen. Diese stellt eine Anwendung zur Verfügung, die automatisch Objekte auf einem Bild erkennt. Um ein Bild zu analysieren, klickt die Lehrperson einfach auf eines der Beispielbilder oder gibt in die Leiste Bild-URL einen Link zu einer Bilddatei ein und klickt anschließend auf “Bild analysieren”.
Tipp: Unserer Einschätzung nach lohnt es sich, auch eigens ausgewählte Bilder bzw. URLs in die Anwendung zu laden, um zu schauen, welche Objekte die Anwendung im Bild erkennt - und bei welchen sie Schwierigkeiten hat (bei der Analyse werden keine Bilder auf der Webseite gespeichert).
Je nach zur Verfügung stehender Zeit können die Schüler:innen die Webseite eigenständig ausprobieren und von ihren Erfahrungen berichten, bzw. gute wie auch weniger gute Beispiele den Mitschüler:innen auf dem Beamer oder der digitalen Tafel vorzeigen.
ZWISCHENREFLEXION | Objekterkennung
Plenum
- Wie gut ordnet die KI die Objekte im Bild in verschiedene Kategorien ein?
- Bei welchen Objekten liegt die KI falsch?
- Wofür ist so eine Objekterkennungs-KI sinnvoll?
- Wo wird Objekterkennung durch KI bereits eingesetzt? (z.B. beim autonomen Fahren im Straßenverkehr, in der Medizin zur Erkennung von Tumoren oder anderen Krankheiten sowie in der Überwachung des öffentlichen Raums; Tipp: siehe hierzu die Praxisidee Gesichtserkennung und KI).
Modul B: Die Bedingungen von Klickarbeitenden im globalen Süden
RECHERCHE | Klickarbeiter:innen
Gruppenarbeit
Die Schüler:innen werden in Gruppen eingeteilt und recherchieren eigenständig zum ausgewählten Thema. Jede Gruppe bearbeitet eine Fragestellung. Anschließend erstellt jede Gruppe eine kurze Präsentation (max. 10 Minuten), die die Ergebnisse ihrer Recherche zusammenfasst.
Fragestellungen für die Gruppen:
- Gruppe 1: Was sind Klickarbeiter:innen? Welche Aufgaben übernehmen sie konkret, um KI-Systeme zu trainieren?
- Gruppe 2: Warum findet Clickwork häufig im globalen Süden statt und welche Bedingungen herrschen dort für die Arbeiter:innen?
- Gruppe 3: Unter welchen Folgen leiden viele Klickarbeiter:innen? Warum ist die Arbeit teilweise so belastend?
- Gruppe 4: Welche Unternehmen oder Plattformen profitieren von der Klickarbeit? Welche Kritik gibt es an dem Arbeitsmodell von Klickarbeitenden?
Materialien zur Unterstützung
Die Schüler:innen können eigenständig auf der Grundlage ihrer Fragestellungen die Recherche mit ihren Endgeräten beginnen und Materialien für ihre Präsentationen sammeln. Sollte der Zeitrahmen begrenzt sein, kann die Lehrperson folgende Linksammlung mit der Klasse teilen: Linksammlung zu Klickarbeitenden
PRÄSENTATION | Rechercheergebnisse zu Klickarbeitenden
Plenum
Die Gruppen stellen ihre Ergebnisse vor. Um die Präsentationen abwechslungsreich zu gestalten, können die Schüler:innen aus folgenden Präsentationsmethoden wählen:
- Klassische Präsentation: Kurze PowerPoint-Präsentation mit Bildern oder Diagrammen.
- Nachrichtenformat: Die Gruppe dreht mit einem Smartphone oder einem Tablet eine kurze Nachrichtensendung, die über das in der Gruppe recherchierte Thema berichtet.
- Infografik: Die Gruppe erstellt eine digitale Infografik (z.B. mit Canva) und erklärt diese.
- Talkshow: Drei Gruppenmitglieder führen eine Diskussion zwischen einer/einem KI-Expert:in, einer/einem Klickarbeiter:in und einer/einem Moderator:in.
Reflexion
- Was hat euch an diesem Thema besonders überrascht?
- Was würdet ihr jemandem antworten, der/die euch fragt, ob eine KI unabhängig ist?
- Wie bewertet ihr die ethische Verantwortung von Unternehmen, die solche Arbeitsmodelle für Klickarbeitende nutzen?
- Welche Forderungen an die Politik und damit auch an die Wirtschaft könnten gestellt werden, um Klickarbeitende zu unterstützen?
- Gibt es Möglichkeiten, wie ihr als Konsument:innen Einfluss nehmen könnt?
- Wie kann KI in Zukunft entwickelt werden, ohne Menschen auszubeuten? Ist das überhaupt möglich?
Optional können die Schüler:innen einen kurzen anonymen Satz auf einem digitalen Board (z.B. EduPad, EtherPad oder Padlet) posten, was sie aus den Einheiten mitgenommen haben. Die Sätze können ebenfalls dazu dienen, das Thema gemeinsam zu reflektieren.
Weiterführende Ideen
Dokumentarfilm “The Cleaners”
Der Dokumentarfilm “The Cleaners” (2018) zeigt die Arbeit von Content-Moderator:innen in Ländern des globalen Südens, die für Großkonzerne auf deren Plattformen ungeeignete Inhalte ansehen und löschen müssen. Der Film knüpft inhaltlich an das Thema dieser Praxisidee an und kann mit der Klasse gemeinsam angeschaut und reflektiert werden. Die DVD lässt sich über die Bibliotheken in Wien ausleihen (Altersfreigabe 16 Jahre). Zusätzlich gibt es noch filmpädagogisches Begleitmaterial der farbfilm verleih GmbH.
Filmbeschreibung:
The Cleaners enthüllt eine gigantische Schattenindustrie digitaler Zensur in Manila, dem weltweit größten Outsourcing-Standort für Content Moderation. Dort löschen zehntausende Menschen in zehn Stunden Schichten im Auftrag der großen Silicon Valley-Konzerne belastende Fotos und Videos von Facebook, YouTube, Twitter & Co. Die Grausamkeit und die kontinuierliche Belastung dieser traumatisierenden Arbeit verändert die Wahrnehmung und Persönlichkeit der Content Moderatoren. Doch damit nicht genug. Ihnen ist es verboten, über ihre Erfahrungen zu sprechen.
Sachinformationen
Im Trainieren von Künstlicher Intelligenz steckt oft Arbeit, die unsichtbar bleibt. Sogenannte Klickarbeiter:innen (engl.: Clickworker) markieren Bilder, überprüfen Texte oder filtern unerwünschte Inhalte. In einigen Fällen müssen sich die Menschen brutale, menschenverachtende und pornografische Inhalte anschauen, um KIs zu trainieren, damit sie diese ungewünschten Inhalte z.B. in Sozialen Medien umgehend sperren bzw. nicht veröffentlichen. Diese Arbeit wird häufig in Ländern des globalen Südens zu sehr niedrigen Löhnen verrichtet und die Menschen leiden oft an psychischen Problemen durch das stundenlange Ansehen und Bewerten verstörender Fotos und Videos.
Damit eine KI lernt, muss sie oft mit gelabelten (kategorisierten) Trainingsdaten gefüttert werden (siehe Praxisidee Künstliche Intelligenz verstehen: Maschinenlernen). Menschen teilen die Daten in Gruppen oder Kategorien ein, damit die KI weiß, was sie lernen soll. Möchte man einer KI beibringen, Katzen auf Fotos zu erkennen, zeigt man ihr viele Bilder von Katzen und anderen Tieren. Jedes Bild erhält ein Label wie „Katze“, „Hund“ oder „Vogel“. Die KI analysiert diese gelabelten Daten und erkennt Muster, etwa dass Katzen spitze Ohren, Schnurrhaare und eine bestimmte Körperform haben.
In der Praxis erstellen Menschen diese Labels manuell oder nutzen Verfahren mit bereits existierenden Daten. Dieses Labeln von Daten ist entscheidend, damit die KI weiß, worauf sie achten muss, um später ähnliche Aufgaben selbstständig zu lösen. Dieses Verfahren ist Teil des maschinellen Lernens (engl. machine learning), bei dem die KI aus vorgegebenen Daten und deren Labels Muster erkennt und daraus Regeln ableitet, um zukünftige Daten korrekt zu analysieren und Entscheidungen zu treffen.