Forschung zu gesellschaftlichen Auswirkungen Künstlicher Intelligenz mit 850.000 Euro gefördert
Forschung zu gesellschaftlichen Auswirkungen Künstlicher Intelligenz mit 850.000 Euro gefördert
Im Rahmen eines neuen Forschungsprogramms für den gemeinwohlorientierten Umgang mit Künstlicher Intelligenz (KI) werden drei Projekte der Universität Mannheim von der Baden-Württemberg Stiftung gefördert.
KI spielt in vielen Lebensbereichen eine zunehmend wichtige Rolle - und wirft dabei grundlegende rechtliche und ethische Fragen auf. Die Baden-Württemberg Stiftung hat jetzt ein neues Förderprogramm zum Thema "Verantwortliche Künstliche Intelligenz" ausgeschrieben und zehn Projekten den Zuschlag erteilt - davon drei von Wissenschaftlerinnen und Wissenschaftlern der Universität Mannheim. Gefördert werden Forschungsvorhaben, die die Interaktion von KI-Technologien und Gesellschaft untersuchen.
"Dass gleich drei von zehn geförderten Projekten an der Universität Mannheim angesiedelt sind, ist ein großer Erfolg für uns", so Prof. Dr. Heiko Paulheim, der zwei der erfolgreichen Forschungsprojekte leitet. "Dies bestätigt Mannheims zentrale Rolle in den Bereichen Data Science und Künstliche Intelligenz." Die interdisziplinären Projekte bilden ein gemeinsames Cluster im Mannheim Center for Data Science, es sind vier Fakultäten der Universität beteiligt.
Illegale Online-Preisabsprachen
Im Rahmen des Projekts "Kartellrechtskonforme KI (KarekoKI)" werden Prof. Dr. Thomas Fetzer und Prof. Dr. Heiko Paulheim, Inhaber des Lehrstuhls für Data Science, unter anderem Rechtsrahmen und Strategien zur technischen Verhinderung von KI-basierter Preisabsprache erarbeiten. Der Hintergrund: Auf Online-Plattformen wie Amazon sind immer häufiger KI-Systeme im Einsatz, die die Preise von Mitbewerbern beobachten und auf dieser Basis ihre eigenen Preise festsetzen. "Dies wirft rechtliche und technische Fragen auf, wie mit dem Potential illegaler Preisabsprachen durch KI umgegangen werden soll", sagt Prof. Dr. Thomas Fetzer, Inhaber des Lehrstuhls für Öffentliches Recht, Regulierungsrecht und Steuerrecht. Das Team erhält für seine Forschung eine Förderung von 383.000 Euro.
Gesellschaftliche Polarisierung durch Online-Nachrichten
Das Projekt "Responsible News Recommender Systems" (ReNewRS) von Prof. Dr. Heiko Paulheim und Dr. Philipp Müller vom Institut für Medien- und Kommunikationswissenschaft in Zusammenarbeit mit Prof. Dr. Harald Sack (FIZ Karlsruhe) sowie Prof. Dr. Christof Weinhardt (KIT Karlsruhe) erhält knapp 700.000 Euro, wobei rund die Hälfte auf die Universität Mannheim entfällt. Nachrichtenempfehlungssysteme kommen in Social-Media-Plattformen und auf Online-Nachrichtenportalen zum Einsatz und empfehlen dort Nutzern Nachrichten auf Basis ihrer bisherigen Nutzung der Plattform. Die Forscher wollen die Auswirkungen solcher Systeme auf gesellschaftliche Polarisierungsprozesse, politische Teilhabe und prosoziales Verhalten untersuchen. Dazu sollen in dem Projekt verschiedene Versionen solcher Empfehlungssysteme entwickelt und deren Auswirkungen in Online- und Laborstudien getestet werden.
Fairness und Diskriminierung in automatisierten Entscheidungsprozessen
Das Projekt "Fairness in Automated Decision-Making (Fair ADM)" von Prof. Dr. Frauke Kreuter, Dr. Ruben Bach und Dr. Christoph Kern vom Lehrstuhl für Statistik und sozialwissenschaftliche Methodenlehre, beschäftigt sich mit Diskriminierung und Fairness von auf Algorithmen basierten Entscheidungsprozessen (Automated Decision-Making, ADM) im öffentlichen deutschen Sektor. "Während ADM-Systeme bürokratische Verfahren durch Automatisierung optimieren, wirft deren Einsatz zugleich auch neue gesellschaftliche und ethische Fragen auf", so Prof. Dr. Frauke Kreuter. So wird befürchtet, dass ADM bestehende gesellschaftliche Diskriminierung verstärken könnte. ADM Systeme werden im US-amerikanischen Kontext etwa bereits für die Beurteilung des Rückfallrisikos von Angeklagten im Rahmen von Gerichtsprozessen eingesetzt. Ein besonders sensitives Anwendungsfeld von ADM im europäischen Kontext ist die Bewertung der Arbeitsmarktchancen von Jobsuchenden, z.B. zur Zuteilung von Weiterbildungsressourcen, welches aktuell von Arbeitsmarktservice Österreich (AMS) vorgeschlagen wurde. Dabei besteht die Gefahr, dass sensitive Merkmale wie Geschlecht, Alter oder Familienstand in der algorithmischen Entscheidungsfindung herbeigezogen werden und somit die Verteilung von Ressourcen beeinflussen. Um dies näher zu beleuchten und Methoden zur Korrektur unfairer Algorithmen empirisch zu untersuchen, entwickelt und evaluiert das Projekt ein ADM basierend auf administrativen Arbeitsmarktdaten. Unterstützt wird diese Forschung mit 171.000 Euro.
Link zur Pressemitteilung der Baden-Württemberg Stiftung: https://www.bwstiftung.de/news-presse/pressemitteilungen/pressemitteilungen/programm-fuer-verantwortliche-kuenstliche-intelligenz-gestartet/?no_cache=1
Kontakt: Prof. Dr. Thomas Fetzer Universität Mannheim Abteilung Rechtswissenschaft Tel.: +49 621 181-1438 E-Mail: lsfetzer@mail.uni-mannheim.de
Prof. Dr. Frauke Kreuter Lehrstuhl für Statistik und Methodenlehre Co-Direktorin des Mannheim Center for Data Science Universität Mannheim Tel. +49 621 181-2003 E-Mail: frauke.kreuter@uni-mannheim.de
Prof. Dr. Heiko Paulheim Lehrstuhl für Data Science Universität Mannheim Tel. +49 621 181-2652 E-Mail: heiko@informatik.uni-mannheim.de
Yvonne Kaul Forschungskommunikation Universität Mannheim Tel. +49 174 3146512 E-Mail: kaul@uni-mannheim.de