30.01.2025 – 08:01

Europäisches Verbraucherzentrum Deutschland

EU schiebt missbräuchlicher Nutzung von KI den Riegel vor

Die Europäische Union geht als weltweit Erster gegen missbräuchliche Anwendungen Künstlicher Intelligenz (KI) vor. Mit dem 2024 verabschiedeten KI-Gesetz („AI Act“) schafft die EU verbindliche Regeln für den Einsatz von KI-Systemen. Diese wirken sich mittlerweile auf viele Lebensbereiche aus. Am 2. Februar treten erste Regelungen in Kraft. Das Europäische Verbraucherzentrum Deutschland (EVZ) erklärt, was nun verboten ist.

KI-Gesetz: Worum geht es?

Bereits seit 2018 schützt die Datenschutz-Grundverordnung (DSGVO) die Privatsphäre von Verbraucherinnen und Verbrauchern in der EU. Doch der Einsatz ausgefeilter Künstlicher Intelligenz hat die Karten neu gemischt. KI-Systeme analysieren heute Internet-Suchen, Kaufverhalten und persönliche Daten, oft in Echtzeit, und häufig ohne das Wissen der Betroffenen. Die anstehende Bundestagswahl gab Anlass zur Warnung vor KI-generierten Desinformationskampagnen und Deepfakes. Also zum Beispiel echt wirkende Videos, in denen bekannten Politikern Sätze in den Mund gelegt werden, die sie nie sagen würden. Aber auch andere bekannte Personen des öffentlichen Lebens, wie Sänger oder Schauspielerinnen, werben in künstlich erstellten Werbeclips im Internet für verschiedenste Produkte.

Für die europäischen Gesetzgeber besteht die Herausforderung darin, Verbraucherrechte zu schützen, ohne den technischen Fortschritt und die Wettbewerbsfähigkeit Europas zu stark einzuschränken. 2024 wurde das EU Gesetz zur künstlichen Intelligenz („AI Act“) verabschiedet. Es gilt unmittelbar in allen Mitgliedstaaten und wird bis 2026 schrittweise umgesetzt. Die Regelungen betreffen alle Unternehmen weltweit, die KI-Systeme in der EU entwickeln, verkaufen oder nutzen. Sie schützen somit alle Verbraucherinnen und Verbraucher in Europa.

Verbotene KI-Anwendungen ab dem 2. Februar

Das sogenannte „Social Scoring“ („soziale Bewertung“) wird ab dem 2. Februar verboten. Ein Beispiel: Wer eine Ferienwohnung in Rom mieten möchte, könnte von einer Buchungsplattform aufgrund seines Social-Media-Verhaltens als „unzuverlässig“ eingestuft werden – etwa, weil frühere Beiträge auf wilde Partys hinweisen. Den Zuschlag für die Wohnung bekommt dann ein anderer Nutzer. Unternehmen dürfen Verbraucherinnen und Verbraucher aber nicht aufgrund ihres sozialen oder wirtschaftlichen Verhaltens benachteiligen.

Weitere missbräuchliche KI-Praktiken, die ab sofort untersagt sind:

• Manipulative Systeme, die Verbraucher beeinflussen, um sie zu finanziellen Verpflichtungen zu verleiten (z. B. gefälschte KI-generierte Videos, die zu riskanten Investitionen animieren).
• KI-Systeme, die gezielt Kinder oder andere besonders schutzbedürftige Gruppen ausnutzen, etwa durch psychologische Tricks, um In-App-Käufe zu fördern.

Alexander Wahl, Jurist im Europäischen Verbraucherzentrum Deutschland (EVZ) begrüßt das Inkrafttreten des Gesetzes: „Der AI Act der EU schützt Verbraucher vor missbräuchlicher Nutzung von KI, indem er manipulative und diskriminierende Praktiken verbietet. Verbraucher müssen künstlicher Intelligenz (KI) vertrauen können. Es braucht aber nicht nur klare Regeln, sondern auch eine starke Kontrolle. Nur so kann KI sicher und fair für alle sein.“

KI-Kennzeichnungspflicht ab 2026

Ab dem 2. August 2026 wird das KI-Gesetz weiter verschärft. Dann gilt eine Kennzeichnungspflicht für KI-generierte Inhalte – egal ob Video, Audio, Bild oder Text. Verbraucherinnen und Verbraucher müssen es klar erkennen können, wenn Inhalte durch KI erstellt oder manipuliert wurden, beispielsweise durch ein Wasserzeichen auf Videos. Unternehmen, die sich nicht an die neuen Regeln halten, drohen Strafen von bis zu 35 Millionen Euro oder 7 Prozent ihres weltweiten Jahresumsatzes .

Ansprechpartnerin für die Presse: Anna Maria Brünke

Europäisches Verbraucherzentrum Deutschland
c / o Zentrums für Europäischen Verbraucherschutz e. V.
Bahnhofsplatz 3, 77694 Kehl
T +49 (0) 78 51.991 48-17 | F +49 (0) 78 51.991 48-11
 presse@evz.de | www.evz.de

Finanziert durch die Europäische Union. Die geäußerten Ansichten und Meinungen sind jedoch ausschließlich die des Autors / der Autoren und spiegeln nicht unbedingt die der Europäischen Union oder des Europäischen Innovationsrates und der Exekutivagentur für kleine und mittlere Unternehmen (EISMEA) wider. Weder die Europäische Union noch die Bewilligungsbehörde können dafür zur Verantwortung gezogen werden.