Gesellschaft für Informatik e.V.
Pressemitteilung: AI Act: Fachgremien der Gesellschaft für Informatik beziehen Stellung
AI Act: Fachgremien der Gesellschaft für Informatik beziehen Stellung
Heute, am 1. August, tritt der EU AI Act in Kraft und schafft eine verbindliche Regelung für die Entwicklung und den Einsatz von künstlicher Intelligenz. Mit Positionspapieren ordnen der Fachbereich Künstliche Intelligenz sowie die Fachgruppe Informatik und Ethik der Gesellschaft für Informatik e.V. (GI) den Rechtsakt ein und beziehen Stellung zur erwarteten Wirksamkeit und kritischen Punkten. Auch weitere Gremien der GI erarbeiten aktuell Positionen.
Berlin, 1. August 2024 – Heute läuft die 20-tägige Einspruchsfrist für den AI Act ab. Damit tritt die neue EU-Verordnung über künstliche Intelligenz in Kraft. Die Fachgruppe Informatik und Ethik sowie der Fachbereich Künstliche Intelligenz der Gesellschaft für Informatik e.V. haben Positionspapiere zu der Verordnung veröffentlicht. Diese sollen eine Orientierung in der gegenwärtigen Debatte rund um die Regulierung von KI bieten.
Die GI begrüßt grundsätzlich eine Regulierung gegenwärtiger Entwicklungen im Bereich der künstlichen Intelligenz. GI-Präsidentin Christine Regitz betont: „Die Informatik trägt gesellschaftliche Verantwortung, dies gilt insbesondere für datenverarbeitende IT-Systeme. Im Bereich der künstlichen Intelligenz beobachten wir, dass die von solchen Systemen Betroffenen Unterstützung benötigen und es Regeln für die Entwicklung und Nutzung von KI-Systemen braucht. Viele gute und notwendige Regeln für den sicheren Einsatz von KI treten mit dem AI Act in Kraft. Die Informatik spielt nun eine wichtige Rolle darin, diese Regeln umzusetzen und Lücken zu adressieren.“
Ethische Aspekte im Blick
Beim AI Act ist insbesondere die moralische Dimension zu beachten. Diese sowie den Entstehungskontext und das regulatorische Umfeld beleuchtet das Positionspapier der Fachgruppe Informatik und Ethik. Der AI Act beruht nach eigenen Worten auf den Werten und Grundrechten der EU und verfolgt unter anderen das Ziel, diese in KI-Systemen zu verankern. Entsprechend ist er menschenzentriert, risikobasiert und kritikalitätsbewertend ausgestaltet. Das Positionspapier bietet eine kontextuelle Einordnung, um letztendlich zur Beteiligung am Diskurs anzuregen, ganz im Einklang mit den Ethischen Leitlinien der GI. „KI-Systeme stellen unsere Gesellschaft vor qualitativ neue Herausforderungen. Diese müssen nicht nur technisch, sondern ebenso in rechtlicher, ethischer und sozialer Hinsicht diskutiert werden. Zentral ist dabei die Frage der Technikfolgenabschätzung: In welcher digital transformierten Welt wollen wir künftig leben?“, so Christine Hennig, Sprecherin des GI-Fachbereichs Informatik und Gesellschaft, dem die Fachgruppe angehört.
Wechselwirkung zwischen Menschen und Agenten
Wie der AI Act aus Perspektive der KI-Forschung zu bewerten ist, erläutert das Positionspapier des Fachbereichs KI. Es analysiert den AI Act in Zusammenhang mit generativer KI und unter Berücksichtigung zentraler Merkmale und Ziele der KI-Forschung. Kern ist unter anderem die Untersuchung und Gestaltung der Wechselwirkungen zwischen Menschen und für Menschen handelnden algorithmischen Systemen, auch Agenten genannt. Das Zusammenwirken von Menschen und Agenten, bezeichnet als sozialer Mechanismus, muss gerade im Kontext der generativen KI stets systematisch untersucht werden, um Risiken einzuschätzen und unerwünschten Auswirkungen für Menschen vorzubeugen. Zentral für die KI-Forschung ist daher die Betrachtung und der Nachweis von Eigenschaften sozialer Mechanismen und ihrer Agenten. Regulierungsmaßnahmen müssen am Begriff des sozialen Mechanismus ansetzen. „Der soziale Kontext der Nutzung eines KI-Systems durch Menschen muss analysiert und bewertet werden. Die Technik in ihrer Leistungsfähigkeit zu beschränken oder die Architektur eines Systems zur Grundlage der Regulierung zu machen, erscheint weder zielführend noch übergreifend möglich“, so Prof. Dr. Ralf Möller, Sprecher des Fachbereichs.
In den kommenden Wochen werden weitere Fachbereiche und Fachgruppen der GI Papiere mit unterschiedlichen Schwerpunkten veröffentlichen.
Das entstehende Positionspapier der Fachgruppe Frauen und Informatik beispielsweise beleuchtet die Auswirkungen des AI Acts in Bezug auf Fragen der Geschlechtergerechtigkeit und geschlechterbezogenen Diskriminierung. Dazu die stellvertretende Sprecherin Katharina Best: „Die KI-Verordnung proklamiert Grundprinzipien, hält sich aber nicht daran. KI-Modelle basieren auf Lerndaten, die notwendigerweise Daten aus der Vergangenheit sind. Damit besteht die Gefahr, vergangene Verhältnisse auf sich wandelnde Rollenverständnisse und Arbeits- sowie Lebenswelten zu manifestieren. Die Wege, über die aus den Datensätzen diskriminierende Schritte entstehen, sind aufgrund des Black-Box-Charakters der Modelle nicht vorhersehbar. Daten die für einen bestimmten Zweck, zum Beispiel auch unter einem gemeinnützigen Aspekt, erhoben wurden, können zum Training von Modellen verwendet werden, die in einer anderen Anwendungsdomäne eventuell diskriminierende Ergebnisse liefern.“
Die stellvertretende Sprecherin des Fachbereichs Informatik in Recht und Verwaltung, Tanja Krins, betont, dass die meisten Verfahren in der öffentlichen Verwaltung unter die im AI Act formulierten Anwendungen mit hohem Risiko fallen. Daraus ergeben sich spezifische Verpflichtungen für die Nutzer*innen und Anbieter*innen sowie Anforderungen an eine entsprechende Governance-Struktur auf nationaler Ebene. Es stellt sich insbesondere in der Verwaltungspraxis die Frage, wie Algorithmen sinnvoll und rechtssicher eingesetzt werden können. Aus dem AI Act lassen sich hier nur grobe Leitplanken für die Praxis ableiten. Die konkrete Ausgestaltung ist noch offen. Eine mögliche übergreifende Prozessvereinheitlichung im föderalen System oder zumindest ein gemeinsames Rahmenwerk für organisatorische und technische Maßnahmen wären praxisnahe Ansätze. Der Fachbereich möchte daher mit seinem geplanten Papier konkrete Handreichungen aus den Perspektiven der Rechts- und der Verwaltungsinformatik für die praktische Umsetzung in der Verwaltung bieten.
Das Positionspapier der Fachgruppe Informatik und Ethik ist verfügbar unter: https://gi.de/fileadmin/GI/Allgemein/Positionspapier_GI_FG-IuE_AI-Act.pdf
Das Positionspapier des Fachbereichs Künstliche Intelligenz ist verfügbar unter: https://gi.de/fileadmin/GI/Allgemein/Positionspapier_GI_FBKI_GenAI-und-AI-Act.pdf
Folgende Fachbereiche und Fachgruppen der GI planen weitere Veröffentlichungen zum AI Act:
Fachgruppe Frauen und Informatik: https://fg-frauen-informatik.gi.de/
Fachbereich Informatik in Recht und Verwaltung: https://fb-rvi.gi.de/
Gerne vermitteln wir Ihnen bei Interesse zu allen Teilbereichen die entsprechenden Interviewpartner*innen.
Über den Fachbereich Künstliche Intelligenz
Der Fachbereich KI (FBKI) ist einer von vierzehn Fachbereichen der Gesellschaft für Informatik e. V. und befasst sich mit theoretischen sowie software- und hardwaretechnischen Aspekten der künstlichen Intelligenz und ihrer Anwendungsgebiete. Dabei unterstützt der FBKI relevante Initiativen und Aktivitäten zu Forschung und Bildung im Bereich künstliche Intelligenz in Deutschland. Er ermöglicht unter anderem kostenlose Mitgliedschaften für Studierende sowie Reisestipendien für Doktorand*innen und Forschende des Fachbereichs. Auf der jährlichen Fachtagung „KI – Künstliche Intelligenz“ werden die neuesten Arbeiten zu Forschung und Entwicklung in der KI aus allen Fachgruppen und Arbeitskreisen des FBKI vorgestellt. Der FBKI gibt außerdem die Fachzeitschrift „Künstliche Intelligenz“ im Springer Verlag heraus. Weitere Informationen zum FBKI unter https://fb-ki.gi.de.
Über die Fachgruppe Informatik und Ethik
Die Fachgruppe Informatik und Ethik ist eine von neun Fachgruppen innerhalb des Fachbereichs Informatik und Gesellschaft der GI und hat es sich zur Aufgabe gemacht, Diskurse zu ethischen Problemen der Informatik zu initiieren und zu fördern. Neben Vorträgen, Workshops, Beratung und Aufsätzen stellen die Mitglieder der Fachgruppe Informatik und Ethik regelmäßig hypothetische, aber realistische Fallbeispiele vor, die zur Diskussion anregen sollen. Die Fälle können jeweils von Interessierten im Blog der Fachgruppe auf der GI-Website https://gewissensbits.gi.de kommentiert und diskutiert werden.
Über die Gesellschaft für Informatik e.V. Die Gesellschaft für Informatik e.V. (GI) ist die größte Fachgesellschaft für Informatik im deutschsprachigen Raum. Seit 1969 vertritt sie die Interessen der Informatikerinnen und Informatiker in Wissenschaft, Gesellschaft und Politik und setzt sich für eine gemeinwohlorientierte Digitalisierung ein. Mit 14 Fachbereichen, über 30 aktiven Regionalgruppen und unzähligen Fachgruppen ist die GI Plattform und Sprachrohr für alle Disziplinen in der Informatik. Die GI hat sich Ethische Leitlinien gegeben, die ihren Mitgliedern als Orientierung dienen. Weitere Informationen finden Sie unter www.gi.de
Pressekontakt: Julia Meisner-Dieffendahl Gesellschaft für Informatik e.V. (GI)
Geschäftsstelle Berlin im Spreepalais am Dom Anna-Louisa-Karsch-Str.2, 10178 Berlin Mail: presse@gi.de Web: www.gi.de