Wenn der Chatbot der Kummerkasten ist: „Intime Kommunikation“ mit KI-Systemen sicherer machen
- Bild-Infos
- Download
Wenn der Chatbot der Kummerkasten ist: „Intime Kommunikation“ mit KI-Systemen sicherer machen
Längst ist dies keine Science Fiction mehr: Eine Person chattet mit einer künstlichen Intelligenz. Dabei offenbart sie intime Details oder geheime Gefühle – denn die KI ist von einem menschlichen Gesprächspartner kaum noch oder gar nicht mehr zu unterscheiden. Die Universität Kassel und die Kunsthochschule Kassel beteiligen sich an einem Forschungsprojekt, das solche Kommunikation zumindest datenschutzkonform und sicher machen soll.
Das Forschungsprojekt SENTIMENT befasst sich mit intimer Kommunikation mit sogenannten natürlichsprachlichen Dialogsystemen. Diese kommen einer authentischen und menschenähnlichen Kommunikation immer näher. In der Folge verschwimmen die Grenzen zwischen einer abgrenzbaren künstlichen Intelligenz und einem anthropomorphisierten, also quasi-menschlichen Kommunikationspartner. Es gibt zudem immer mehr Programme, die bewusst die neuen Fähigkeiten der Sprachmodelle dazu einsetzen, aktiv Beziehungen zu Nutzenden aufzubauen und so an besonders sensible Informationen zu gelangen.
Beispiele sind die Apps Replika, Romantic AI, EVA AI, Anima AI, Crushon AI, die aktuell verfügbar und in der EU nutzbar sind. Daneben gibt es Anwendungen mit Fokus auf mentale Gesundheit, etwa Woebot oder Wysa. Ein besonders untersuchungswerter Mechanismus ist die Selbstoffenbarung: Menschen neigen dazu, mehr Informationen über sich selbst preiszugeben, wenn das Gegenüber ebenfalls etwas Persönliches mitteilt. Die Dialogsysteme nutzen zudem die gewonnenen Informationen systematisch dazu, die Kommunikation individueller erscheinen zu lassen. Personalisierte Sprachmodelle sind in der Lage, Nutzerprofile auf Basis vergangener Interaktionen zu kreieren und von den Nutzenden oft verwendete Worte in die Kommunikation einfließen zu lassen. Solch persönlich erscheinende Kommunikation kann im Umkehrschluss die Bindung und das Vertrauen zum Gegenüber stärken und dazu beitragen, dass eine noch intimere Kommunikation stattfindet. Die Künstlichkeit des Gegenübers bietet zudem gerade bei besonders intimen und sensiblen Themen, die in der Gesellschaft weniger offen besprochen oder gar akzeptiert werden, eine vermeintliche Sicherheit vor potenziellen sozialen Konsequenzen wie z.B. Unverständnis, Scham, Erklärungsnot oder Kontakteinschränkungen. Dementsprechend fallen in diesen Interaktionen aber auch sehr viele äußerst sensible Daten an.
Studien mit Nutzenden solcher dialogsystembasierten companion apps zeigen, dass Datenschutzbedenken seitens der Nutzenden solcher Applikationen durch emotional geprägte Betrachtungen, also den eben beschriebenen Vorgängen von Selbstoffenbarung, Vertrauens- und Beziehungsbildung und positiver Bestätigung beiseitegeschoben werden. Die Nutzenden machen sich dadurch selbst verletzlich. Schließlich werden so äußerst sensible Daten auf der Grundlage des menschlichen Grundbedürfnisses nach sozialer Zugehörigkeit erhoben und können so (mehr oder weniger anonymisiert) an Dritte weitergegeben werden. Vor diesem Hintergrund beschäftigt sich das Projekt mit der Frage der Gewährleistung eines angemessenen Schutzes von Nutzenden im Umgang mit intimen Kommunikationstechnologien.
Das juristische Teilprojekt wird von PD Dr. Christian Geminn vom Fachgebiet Öffentliches Recht der Universität Kassel geleitet und von Dr. Maxi Nebel bearbeitet. Es beschäftigt sich dabei mit Fragen der rechtlichen Anforderungen des Privatheitschutzes und Selbstbestimmung auf verfassungsrechtlicher und einfachgesetzlicher Ebene, mit der Regulierung zu Künstlicher Intelligenz und erarbeitet praktische Empfehlungen zur Technikgestaltung und zu bereichspezifischer Rechtsfortbildung.
Eine Besonderheit des Forschungsprojekts besteht darin, durch die Zusammenarbeit mit der Kunsthochschule Kassel die Methoden und Forschungsansätze sowie die inhaltlichen Fragestellungen, Themen und Ergebnisse aller Verbundpartner aus einer Perspektive der Gestaltung und Kunst zu reflektieren und erlebbar zu machen. So ist für 2027 eine Abschlusspräsentation im Rahmen einer interdisziplinären Ausstellung geplant.
Das Projekt SENTIMENT (die Abkürzung steht für „Sichere Selbstoffenbarung bei intimer Kommunikation mit Dialogsystemen“) ist Gegenstand der Förderrichtlinie „Plattform Privatheit – IT-Sicherheit schützt Privatheit und stützt Demokratie“ im Rahmen des Forschungsrahmenprogramms der Bundesregierung zur IT-Sicherheit „Digital. Sicher. Souverän“. Das BMBF fördert das Projekt seit 2024 und noch bis 2027 mit insgesamt 1,24 Mio Euro. Neben Universität und Kunsthochschule Kassel sind die Universität Duisburg-Essen und die Ruhr-Universität Bochum beteiligt.
Weitere Informationen finden sich auf der Webseite des BMBF.
------------------------------------ Ihr Ansprechpartner in der Pressestelle der Universität Kassel:
Sebastian Mense Universität Kassel Stabsstelle Kommunikation und Marketing Tel.: +49 561 804-1961 E-Mail: presse@uni-kassel.de www.uni-kassel.de