SCHAU HIN! Was Dein Kind mit Medien macht.
Künstliche Intelligenz: Vorsicht vor Mobbing – SCHAU HIN!-PM
Ein Dokument
Künstliche Intelligenz: Vorsicht vor Mobbing
Durch die Manipulation von Bildern und Videos können Kinder und Jugendliche schnell zur Zielscheibe von Cybermobbing werden. Dies gilt vor allem, wenn Gesichter und Stimmen durch „Künstliche Intelligenz (KI)“ täuschend echt gefälscht wurden, um Heranwachsende bloßzustellen. Die Initiative „SCHAU HIN! Was Dein Kind mit Medien macht.“ rät Eltern, ihre Kinder im Umgang mit den neuen Technologien zu sensibilisieren und sie zu unterstützen, künstliche Intelligenz verantwortungsvoll zu nutzen.
Peinliche Situationen oder bloßstellende Handlungen: KI-Anwendungen vereinfachen die Erstellung von Inhalten, die andere demütigen oder ihnen schaden sollen. Gefälschte Online-Inhalte sind kein neues Phänomen. „Mit der schnellen Entwicklung von KI gibt es aber viel mehr Möglichkeiten, vermeintlich authentische Text- und Sprachdokumente, vor allem Bilder und Videos, zu erstellen, die eine große Glaubwürdigkeit vortäuschen“, sagt Iren Schulz, Mediencoach bei der Initiative „SCHAU HIN! Was Dein Kind mit Medien macht.“. Junge Nutzer*innen müssten über diese Möglichkeiten Bescheid wissen, um sich selbst zu schützen, und sich gleichzeitig der Verantwortung bei der Nutzung von KI-Werkzeugen bewusst zu sein.
Durch nutzer*innenfreundliche, oftmals kostenfreie KI-Tools ist es heute auch Heranwachsenden möglich, mit wenigen Klicks eine Person oder auch nur ihr Gesicht auf Motive in anderen Umgebungen zu setzen. So entstehen vermeintliche Nacktbilder oder peinliche Momentaufnahmen. Mit der Hilfe von KI ist es zudem möglich, Videoinhalte zu erstellen, die frei erfundene Botschaften übermitteln. Zusätzlich zu Bild und Video können auch neue Audio-Inhalte mit KI erstellt werden. Sogenannte „Voice-Generators“ geben jeden Text als gesprochenes Wort in der Stimme einer Person aus. Werden die gefälschten Sprachnachrichten per Messenger verschickt, können die Empfänger*innen getäuscht oder die vermeintlichen Sprecher*innen bloßgestellt werden.
Schwere Folgen bei Betroffenen
Die Veröffentlichung von manipulierten Bildern, Videos oder Audios kann sehr unangenehme Auswirkungen auf Betroffene haben. Bei den KI-Fälschungen handelt es sich um schwerwiegende Persönlichkeitsrechtsverletzungen für diejenigen, deren Erscheinungsbild nachgeahmt wird. Wenn eigene Fotos oder Videos ohne Zustimmung verwendet werden, entsteht außerdem das Gefühl von Ohnmacht. Denn durch die Technologien können mühelos immer neue Inhalte – auch aus den KI-Fälschungen selbst – erstellt werden. Einmal hochgeladen und verbreitet, lassen sie sich nur schwer wieder löschen.
Das können Eltern gegen Mobbing tun
Wenn Kinder von Cybermobbing auch durch KI-Inhalte betroffen sind, sollten die Inhalte umgehend bei den Plattformbetreibern gemeldet werden, um sie entfernen zu lassen. Sind die Beteiligten bekannt, können Eltern sie, in Absprache mit ihren Kindern, auffordern, die Inhalte zu entfernen. „Manchmal ist den Beteiligten gar nicht klar, dass und wie sehr sie damit andere verletzen“, sagt die Medienpädagogin. Hilft das alles nicht, bleibt die Möglichkeit, die Polizei einzuschalten.
Dafür sensibilisieren Eltern ihre Kinder: Insbesondere echt wirkende Bild- und Tonmaterialien mit herabwürdigenden Inhalten sollte mit Skepsis begegnet und diese auf keinen Fall weiterverbreitet werden. „Damit Heranwachsende nicht in die Opferrolle geraten, aber auch nicht zu Täter*innen werden, können Eltern mit ihren Kindern besprechen, wie man KI verantwortungsvoll nutzt und sich sicher in digitalen Medien bewegt“, empfiehlt Schulz. Beispielsweise kann das von einer KI bearbeitete und als Scherz geplante, peinliche Foto von Klassenkamerad*innen sehr demütigend sein und zudem die Persönlichkeits- und Urheberrechte der betreffenden Person verletzen. Denn Bilder und Videos von Personen dürfen nur mit deren Zustimmung verwendet werden. „Wenn ihre Kinder Interesse an KI-Tools zeigen, können Eltern die Anwendungen gemeinsam mit ihnen ausprobieren, Regeln für eine gute Nutzung absprechen und sie so dabei unterstützen, die Chancen von KI mit Bedacht zu nutzen.“
Anmerkungen für Redaktionen: Wir vermitteln gern Interviewpartner*innen zu diesem Thema. Sie finden Bildmaterial zur Verwendung im Zusammenhang mit der Berichterstattung über SCHAU HIN! und bei Nennung der Quelle „SCHAU HIN!“ unter www.schau-hin.info/presse.
„SCHAU HIN! Was Dein Kind mit Medien macht.“ ist eine gemeinsame Initiative des Bundesministeriums für Familie, Senioren, Frauen und Jugend, der beiden öffentlich-rechtlichen Sender ARD und ZDF sowie der AOK – Die Gesundheitskasse. Der Medienratgeber für Familien unterstützt seit 2003 Eltern und Erziehende dabei, ihre Kinder im Umgang mit Medien zu stärken.
Kontakt: SCHAU HIN! Was Dein Kind mit Medien macht. Patrizia Barth Chausseestraße 13, 10115 Berlin Tel.: 030 5268 52 132 E-Mail: presse@schau-hin.info www.schau-hin.info