TÜV-Verband: Künstliche Intelligenz braucht Regeln
07.09.2020 – 10:01
Berlin (ots)
+++ KI-gestützte Anwendungen in Abhängigkeit vom Risiko regulieren +++ Sicherheit besonders kritischer KI-Systeme durch unabhängige Prüfungen gewährleisten +++ VdTÜV veröffentlicht Positionspapier +++
Der TÜV-Verband hat eine gesetzliche Regulierung von Produkten und Anwendungen mit Künstlicher Intelligenz (KI) gefordert, um die Sicherheit von Menschen und den Schutz der Umwelt auch in der digitalen Welt gewährleisten zu können. "Sind beim Einsatz von Künstlicher Intelligenz die Gesundheit von Menschen oder ihre elementaren Grundrechte in Gefahr, sollten KI-Systeme bestimmte Sicherheitsanforderungen erfüllen müssen", sagte Marc Fliehe, Leiter Digitalisierung und Cybersecurity beim TÜV-Verband (VdTÜV). Das gelte zum Beispiel für automatisierte Fahrzeuge, medizinische Diagnosen, mit Menschen interagierende Roboter oder Entscheidungssysteme, die Personen betreffen.
"Unser Ziel ist es, den breiten Einsatz von Künstlicher Intelligenz zu fördern und gleichzeitig die damit einhergehenden Gefahren zu verringern", betonte Fliehe. Aufgrund der unerschöpflichen Vielfalt möglicher KI-Anwendungen sei klar, dass nicht alle KI-Systeme die gleichen Anforderungen erfüllen müssen. Daher sollten KI-gestützte Systeme in Risikoklassen eingeteilt und nach ihrem Gefährdungspotenzial reguliert werden. Die Maßnahmen können von einem vollständigen Regulierungsverzicht über formelle Anforderungen wie Transparenzpflichten und - im nächsten Schritt - Zulassungsverfahren vor der Markteinführung bis zu einem Verbot bestimmter, besonders gefährlicher oder ethisch fragwürdiger KI-Anwendungen reichen. Der TÜV-Verband unterstützt damit die Pläne der EU-Kommission, die einen europäischen Rechtsrahmen für KI-Systeme schaffen will und ihre Vorstellungen im "Weißbuch zur Künstlichen Intelligenz" zusammengefasst hat.
Hintergrund der Regulierungsbestrebungen ist die zunehmende Digitalisierung und Vernetzung der Welt. Fahrzeuge, Maschinen, Geräte und Produkte aller Art verfügen über digitale Funktionen und treffen autonom Entscheidungen, die Menschen schützen, aber auch in Gefahr bringen können. Darüber hinaus können KI-Systeme falsche Vorhersagen treffen oder Menschen diskriminieren, wenn sie fehlerhaft programmiert oder trainiert worden sind. Der TÜV-Verband hat deshalb folgende Forderungen an die Politik formuliert:
- Rechtsrahmen KI-tauglich machen: Der europäische Rechtsrahmen trägt den Herausforderungen durch KI nicht ausreichend Rechnung. Grundlegende Anforderungen an KI-gestützte Anwendungen sollten sowohl übergreifend als auch sektorspezifisch formuliert werden.
- KI-gestützte Anwendungen in Risikoklassen einteilen: Für die Einteilung in Risikoklassen müssen eindeutige Kriterien definiert werden. Die Risikobewertung bildet die Grundlage für weitere Vorgaben an das jeweilige KI-System.
- Vertrauen durch unabhängige Drittprüfung schaffen: Bei KI-gestützten Anwendungen mit hohem Risiko sollte eine unabhängige Konformitätsbewertung erfolgen. So wird überprüft, ob die Anwendungen die gesetzlich formulierten Anforderungen erfüllen und in der Nutzung sicher sind.
- Verfahren der Konformitätsbewertung weiterentwickeln: Die Methoden der Konformitätsbewertung müssen mit der technologischen Entwicklung Schritt halten. Dafür müssen zum Teil völlig neue Verfahren und Methoden gefunden werden.
- Europäische Datenstrategie sinnvoll gestalten: Daten spielen im Zusammenhang mit Künstlicher Intelligenz eine herausragende Rolle. So ist die Verfügbarkeit sowie die Qualität der Daten ausschlaggebend für die Entwicklung und den Einsatz KI-gestützter Anwendungen. Eine zielführende KI-Regulierung setzt daher eine europäische Datenstrategie voraus.
Seine Forderungen hat der TÜV-Verband in einem Positionspapier zusammengefasst, das abrufbar ist unter: https://www.vdtuev.de/news/positionspapier-ki.
Über den TÜV-Verband: Der Verband der TÜV e.V. (VdTÜV) vertritt die politischen und fachlichen Interessen seiner Mitglieder gegenüber Politik, Verwaltung, Wirtschaft und Öffentlichkeit. Der Verband setzt sich für technische und digitale Sicherheit bei Produkten, Anlagen und Dienstleistungen durch unabhängige Prüfungen und qualifizierte Weiterbildung ein. Mit seinen Mitgliedern verfolgt der TÜV-Verband das Ziel, das hohe Niveau der technischen Sicherheit in unserer Gesellschaft zu wahren und Vertrauen für die digitale Welt zu schaffen.
Pressekontakt:
Maurice Shahd
Pressesprecher
Verband der TÜV e.V. (VdTÜV)
Friedrichstraße 136 | 10117 Berlin
T 030 760095-320, E presse@vdtuev.de
www.vdtuev.de | www.twitter.com/vdtuev_news
Original content of: T�V-Verband e. V., transmitted by news aktuell