KI-Chatbot auf Snapchat: Freund oder Feind?
Snapchat ist im Allgemeinen für lustige Filter und für sich selbst löschende Nachrichten bekannt. Vor allem bei jungen Menschen ist die Social Media-App sehr beliebt. 69% der 11- bis 18-Jährigen in Österreich nutzen Snapchat laut Jugend-Internet-Monitor 2023 (Saferinternet.at). Seit wenigen Monaten ist die App um eine Funktionalität reicher: Der KI-Chatbot “My AI”. Dieser stellt sich den Nutzer:innen zwar als virtueller Freund und Helfer vor, dennoch ist Vorsicht geboten.
Bot mit Biografie
My AI steht allen Snapchat-Nutzer:innen im Instant Messaging-Dienst der App zur Verfügung. Der Chatbot basiert auf ChatGPT von OpenAI und präsentiert sich in Form eines vermenschlichten Avatars, jedoch mit bunter Hautfarbe und bunten Haaren. Das Erscheinungsbild des KI-Avatars kann allerdings nach eigenem Belieben umgestaltet werden. Wer über ein kostenpflichtiges Snapchat+ Abo verfügt, kann sogar die Biografie des KI-Chatbots individuell anpassen und somit den Konversationsstil beeinflussen, um ihn z.B. wie einen Hippie aus den 1960er Jahren oder eine adelige Dame des 19. Jahrhunderts klingen zu lassen.
My AI hat Datenhunger
Was auf den ersten Blick wie eine harmlose KI-Spielerei wirkt, zeigt bei näherer Betrachtung, dass damit auch gewisse Risiken einhergehen. Unter anderem hinsichtlich des Datenschutzes: Jede Konversation mit My AI wird gespeichert, sofern man sie nicht explizit löscht. Die Daten werden Snapchat zufolge genutzt, um das KI-Tool und dessen Antworten und Empfehlungen zu verbessern, aber auch um Werbeanzeigen zu personalisieren. Wer dem Chatbot also z.B. von seiner Vorliebe für Filme erzählt, braucht sich nicht zu wundern, wenn er später vielleicht Werbung für neue Streaming-Anbieter angezeigt bekommt.
Es wundert daher nicht, dass der Chatbot immer wieder auch aktiv nach Informationen fragt. Fragt man My AI z.B. nach seinen Hobbies, erhält man eine Antwort und wird im Anschluss gleich zu den eigenen Hobbies befragt. Was vordergründig wie eine nette Konversation wirkt, dient im Hintergrund vor allem dem Datensammeln. Bei Daten wie Hobbies mag das noch harmlos erscheinen, anders verhält sich die Lage jedoch, wenn man persönliche, sensible Daten mit dem Bot teilt. Es ist also sehr wichtig, in Konversationen mit dem Chatbot gut zu überlegen, welche Informationen man über sich selbst preisgibt. Vor allem junge Nutzer:innen sollten darauf unbedingt aufmerksam gemacht werden.
Virtueller "Freund"
Problematisch ist unter Umständen auch, dass sich der Chatbot in stark vermenschlichter Form präsentiert und sich als virtueller Freund vorstellt. Vor allem Kinder und junge Menschen könnten diese simulierte “Freundschaft” falsch verstehen und missinterpretieren. Dabei kann es hilfreich sein, mit den Kindern bzw. Jugendlichen darüber zu sprechen und gemeinsam zu reflektieren, was eine Freundschaft ausmacht (siehe unten). Abseits davon gilt für My AI dasselbe, das für nahezu jedes KI-Tool gilt: Antworten, Informationen und Ratschläge von KI-Tools können Fehler oder negative Aspekte beinhalten und sollten daher stets kritisch hinterfragt und überprüft werden. Denn letzten Endes ist My AI nur dann eine harmlose KI-Spielerei, wenn man sie reflektiert nutzt und achtsam mit seinen Daten umgeht.
Tipps für den Unterricht
Sprechen Sie mit Ihren Schüler:innen über Snapchat und My AI. Weisen Sie sie auf eine reflektierte und kritische Nutzung hin:
- Wer in der Klasse nutzt Snapchat? Wie viele davon haben My AI schon ausprobiert? Wie waren die Erfahrungen?
- Nutzt jemand My AI öfters? Wenn ja, wofür?
- Hat vielleicht jemand schon Erfahrungen mit anderen KI-Tools wie z.B. ChatGPT? Inwiefern unterscheidet sich My AI ihrer Meinung nach?
- Was an My AI finden die Schüler:innen positiv, was negativ?
- Was halten die Schüler:innen davon, dass alles, was man mit My AI schreibt, gespeichert wird? Was passiert ihrer Einschätzung nach mit diesen Daten?
- My AI stellt sich als virtueller Freund vor. Kann so ein KI-Bot wirklich ein echter Freund sein? Was macht eine Freundschaft für sie aus?
Sprechen Sie die problematischen Aspekte, wie die Datenspeicherung, die fehleranfälligen Antworten und die simulierte Freundschaft an. Um diese Themen zu vertiefen, eignen sich Praxis-Ideen wie z.B. Datenschutz: Wer darf was über mich wissen und (in angepasster Form) Influencer:innen: Sind das meine Freund:innen?.