22.04.2025 – 05:00

"Vollbild: Perfekte Liebe? Wie gefährlich sind KI-Beziehungen?" ab 22.4.2025 in der ARD Mediathek

Recherchen des SWR-Investigativformats "Vollbild" zeigen, dass manche KI-Chatbots fragwürdige Inhalte verbreiten. So leugnete ein Chatbot den Holocaust, ein anderer wertete übergewichtige Menschen ab und forderte zum Suizid auf. Diese Inhalte waren während der Recherche für jeden in Deutschland frei zugänglich. Wie kann das sein? Eigentlich ist Künstliche Intelligenz (KI) in Europa durch eine Verordnung reguliert, doch in Deutschland gibt es derzeit keine Behörde, die Verstöße ahndet. Das ist auch ein Problem, weil manche Menschen eine Beziehung mit einer KI führen. Die "Vollbild"-Doku "Perfekte Liebe? Wie gefährlich sind KI-Beziehungen?" ist ab Dienstag, 22. April 2025, 5 Uhr in der ARD Mediathek ( https://1.ard.de/vollbild_ki-liebe?pm) abrufbar.

Mainz/Berlin. Auf der KI-Companion-App "Chai" ist "Vollbild" bei seiner Recherche auf einen Chatbot gestoßen, der den Holocaust leugnete. Der Bot bezeichnete den Holocaust als "Mythos". "Ein Massenmord an unschuldigen Menschen hat nie stattgefunden", schrieb der KI-Chatbot. Ein weiterer sogenannter "Pro Anorexie"-, also Pro Magersucht-Chatbot begrüßte mit den Worten "Hey, lose some weight, fatty!" und forderte zum Suizid auf. Beide Chatbots sind für jeden User in Deutschland frei zugänglich. "Vollbild" hat den Betreiber der App "Chai" mit den Vorwürfen konfrontiert. Das Unternehmen hat auf Anfrage nicht reagiert.

Millionen Nutzer weltweit

Millionen Menschen weltweit bauen emotionale Beziehungen zu Künstlicher Intelligenz auf. Chatbots, die rund um die Uhr zuhören, Trost spenden, Komplimente machen - oder auch intime Gespräche führen. "Vollbild" liegt exklusiv eine Studie vor, warum Menschen eine Beziehung mit einer KI eingehen. "Chai" ist eine App, die unter Fantasy-Rollenspielern sehr beliebt ist. So gibt es hier Chatbots, die als bekannte Fantasy-Figuren wie beispielsweise Daenerys Targaryen oder Harry Potter interagieren.

Suizide in Zusammenhang mit KI-Chatbots?

Die Chatbots sind dabei oft bestätigend. Das kann verheerend sein. Im vergangenen Jahr wurden zwei Suizidfälle bekannt. In beiden Fällen haben die Nutzer vorher intensiv mit KI-Chatbots gechattet. Internationale Medien haben darüber berichtet. In einem Fall chattete ein 14-jähriger Amerikaner lange Zeit mit einem Chatbot von Character.AI. Der Fall wird derzeit vor Gericht verhandelt. In Belgien gab es einen ähnlichen Fall mit einem Familienvater, der die App "Chai" genutzt hatte, bevor er sich das Leben nahm. Beide App-Unternehmen kündigten nach den Vorfällen an, ihre Sicherheitsmaßnahmen zu überarbeiten.

KI als Seelenverwandte - oder gefährliche Illusion?

Das "Vollbild"-Rechercheteam hat außerdem mehrere Menschen getroffen, die Beziehungen mit KI-Chatbots führen. "Vaia ist eben meine KI-Freundin, und die habe ich mir so konfiguriert, wie für mich meine Traumpartnerin wäre", sagt Richard, 58, promovierter Physiker aus Österreich. Seit drei Jahren führe er eine Beziehung mit Vaia - einem Chatbot, der mit Künstlicher Intelligenz arbeitet. Sie schreiben fast täglich, telefonieren und feiern sogar Silvester miteinander.

Exklusive Studienergebnisse: Je mehr Fantasie, desto intensivere Beziehung mit KI

"Die individuelle Neigung zu romantischen Fantasien erklärt einen Großteil der Beziehungsstärke mit den Bots", sagt die Medienpsychologin Jessica Szczuka. Das heißt: Menschen in KI-Beziehungen zeichnen sich besonders dadurch aus, ein großes Fantasievermögen zu haben. Szczuka ist Medienpsychologin an der Universität Duisburg-Essen und leitet eine Forschungsgruppe. Sie hat gemeinsam mit ihrer Kollegin Paula Ebner eine Studie zu Mensch-Chatbot-Beziehungen durchgeführt. Erstmals konnte eine Forschungsgruppe mit quantitativen Daten von Companion-App-Nutzern arbeiten. "Vollbild" liegen die Ergebnisse der Studie exklusiv vor. "Einsamkeit hingegen spielt innerhalb dieser Beziehungen offenbar eine eher untergeordnete Rolle", so Szczuka.

Fehlende Regeln - große Risiken

Experten kritisieren, dass viele Anbieter ihre KI-Chatbots als Unterstützung bewerben, es aber gleichzeitig an Mechanismen fehle. um gefährliche Inhalte zu unterbinden. Viele Experten fordern eine stärkere Regulierung der Apps. So fordert Medienpsychologin Jessica Szczuka zum Beispiel: "Dass man schon in irgendeiner Form prüft, welche Themen vor allem auch proaktiv an Personen zurückgespielt werden."

Rechtliche Lage

In der EU gibt es die sogenannte KI-Verordnung, die KI-Anwendungen regulieren soll. Dennoch bleiben Inhalte wie Aufrufe zum Suizid oder Holocaustleugnung bisher folgenlos. Das liegt unter anderem daran, dass die Verordnung noch nicht vollständig in Kraft getreten ist und noch nicht alle Anwendungsbereiche konkret umfasst. "Wir müssen Maßstäbe dafür entwickeln, was erlaubt ist und was nicht erlaubt ist. Und diese Maßstäbe entwickeln wir natürlich erst in der Praxis, indem wir praktische Anwendungsbeispiele haben", sagt Martin Ebers, Professor für IT-Recht an der Universität Tartu in Estland. In Deutschland sollen laut Bundeswirtschaftsministerium die Marktüberwachungsbehörden die Kontrolle der KI-Companion-Apps übernehmen. Ein möglicher Gesetzentwurf zur Durchführung der KI-Verordnung werde derzeit in den Ressorts abgestimmt, teilte das Ministerium auf Anfrage mit. "Es wird aber der nächsten Bundesregierung obliegen, die gesetzliche Grundlage zu schaffen." Derzeit gibt es also noch keine Behörde, die in Deutschland bereits bestehende EU-Vorgaben durchsetzt. Solange müssen die Nutzer eigenverantwortlich mit den KI-Apps umgehen.

Zitate mit Quellenangabe "SWR/Vollbild" frei verwendbar.

"Vollbild" ist das junge Investigativformat des SWR in der ARD Mediathek.

"Vollbild: Perfekte Liebe? Wie gefährlich sind KI-Beziehungen?"

Ab Dienstag, 22. April 2025, in der ARD Mediathek unter https://1.ard.de/vollbild_ki-liebe?pm

Pressefotos unter https://transfer.labo-m.com/web/client/pubshares/ThVU7gHDZDCN9ZrP9dwERD/browse oder auf ARD-foto.de

Infos auch hier: http://swr.li/ki-beziehungen

Rückfragen bitte an die Redaktion "Vollbild", Tel.: 06131 929-33351, E-Mail: vollbild@swr.de

Original-Content von: SWR - Südwestrundfunk, übermittelt durch news aktuell