Technische Universität München
Prof. Alena Buyx über den "embedded ethics approach" in der KI-Entwicklung
TECHNISCHE UNIVERSITÄT MÜNCHEN
Corporate Communications Center
Tel.: +49 89 289 25439 - E-Mail: presse@tum.de - Web: www.tum.de
Dieser Text im Web: https://www.tum.de/nc/die-tum/aktuelles/pressemitteilungen/details/36210/
Bildmaterial mit hoher Auflösung: https://mediatum.ub.tum.de/1555330
PRESSEMITTEILUNG
"Ethik muss Teil des Entwicklungsprozesses sein"
Alena Buyx über den "embedded ethics approach" in der KI-Entwicklung
Der zunehmende Einsatz Künstlicher Intelligenz (KI) in der Entwicklung neuer Medizin-Technologien verlangt auch die verstärkte Berücksichtigung ethischer Aspekte. Ein interdisziplinäres Team der Technischen Universität München (TUM) spricht sich dafür aus, Ethik von Beginn an in den Entwicklungsprozess neuer Technologien zu integrieren. Alena Buyx, Professorin für Ethik der Medizin und Gesundheitstechnologien, erklärt den sogenannten "embedded ethics approach".
Frau Professorin Buyx, die Diskussionen um mehr Ethik in der KI-Forschung hat in den letzten Jahren sehr zugenommen, man könnte fast von einer Art "Ethik-Hype" sprechen ...
... und viele Gremien in Deutschland und weltweit, wie der Deutsche Ethikrat oder die High-Level Expert Group on Artificial Intelligence der EU-Kommission haben darauf reagiert. Alle sind sich einig: wir brauchen mehr Ethik in der Entwicklung von KI-basierten Gesundheitstechnologien. Doch wie sieht das für Ingenieurinnen und Ingenieure oder Designerinnen und Designer in der Praxis aus? Dafür gibt es bis jetzt kaum konkrete Lösungen.
In einem gemeinsamen Pilotprojekt mit zwei Integrativen Forschungszentren der TUM, der Munich School of Robotics and Machine Intelligence (MSRM) und Direktor Professor Sami Haddadin und dem Munich Center for Technology in Society (MCTS) und Professorin Ruth Müller, wollen wir den Ansatz der "embedded ethics" ausprobieren. Den Vorschlag haben wir Ende Juli in Nature Machine Intelligence veröffentlicht.
Was genau kann man sich unter dem "embedded ethics approach" vorstellen?
Ethik soll als fester Bestandteil in den Forschungsprozess integriert werden, indem Ethikerinnen und Ethiker ab Tag eins Teil des KI-Entwicklungsteams sind.Sie sind zum Beispiel regelmäßig bei Team-Meetings mit dabei und können sowohl eine Art "ethical awareness" für bestimmte Themen schaffen, als auch gezielt ethische und soziale Fragen aufwerfen und analysieren.
Gibt es bereits ein Anwendungsbeispiel?
Im Forschungszentrum Geriatronik, einem Leuchtturm-Projekt der MSRM in Garmisch-Partenkirchen, werden Roboter-Assistenten entwickelt, die Menschen ein selbstständiges Leben im Alter ermöglichen. Unter anderem ist dafür der Bau von Modell-Wohnungen geplant, in denen das Zusammenleben von Seniorinnen und Senioren und Robotern erprobt wird.
Bei einem gemeinsamen Treffen mit den beteiligten Ingenieurinnen und Ingenieuren hatten wir festgestellt, dass die Idee, die Wohnungen komplett nach "open plan", also kaum Türen oder einzelne Räume zu bauen, den Robotern zwar viel Bewegungsfreiheit lässt. Bei den Seniorinnen und Senioren könnte das aber zu Irritation führen, da sie Rückzugsorte gewohnt sind. Diesen Aspekt hatten die Ingenieurinnen und Ingenieure zunächst nicht explizit bedacht.
Der Ansatz klingt vielversprechend - wie lässt sich vermeiden, dass "embedded ethics" als eine Art Alibi verwendet wird, um bei der Entwicklung neuer KI-Technologien vermeintlich auf der ethisch "sicheren" Seite zu sein?
Das kann man nicht sicher vermeiden. Gegenseitige Offenheit und echtes Zuhören mit dem Ziel, eine gemeinsame Sprache zu finden, ist das, worauf es ankommt und Bereitschaft, ethische Aspekte dann auch wirklich umzusetzen. An der TUM haben wir beste Voraussetzungen dafür. Professor Sami Haddadin, Direktor der MSRM, ist selbst Mitglied der EU High-Level Group of Artificial Intelligence. Seine Forschungsarbeit folgt dem Gedanken des "human centered engineering", das den Menschen in den Mittelpunkt stellt. Die Idee des "embedded ethics" wurde von ihm deshalb von Anfang an mitgetragen.
Klar ist aber auch: embedded ethics allein kann KI nicht plötzlich "ethisch machen" - dafür muss es am Ende auch Gesetze und Kodizes sowie gegebenenfalls staatlichen Anreiz geben.
Publikation:
Stuart McLennan, Amelia Fiske, Leo Anthony Celi, Ruth Müller, Jan Harder, Konstantin Ritt, SamiHaddadin, Alena Buyx: "An embedded ethics approach for AI development"Nature Machine Intelligence, erschienen am 31.Juli 2020. DOI: 10.1038/s42256-020-0214-1
https://www.nature.com/articles/s42256-020-0214-1
Mehr Informationen:
- Prof. Alena Buyx, Professur für Ethik der Medizin und Gesundheitstechnologien Die Arbeitsgebiete von Prof. Dr. med. Alena Buyx reichen von medizinethischen Fragen aus der klinischen Praxis über Herausforderungen durch biotechnologische Innovation und medizinische Forschung bis hin zu ethischen und Gerechtigkeitsfragen in modernen Gesundheitssystemen. Im Jahr 2019 wurde Alena Buyx in das WHO Expert Advisory Committee on Developing Global Standards for Governance and Oversight of Human Genome Editing aufgenommen. Seit Mai 2020 ist sie Vorsitzende des Deutschen Ehtikrates.
- Die Munich School of Robotics and Machine Intelligence (MSRM) ist ein Integratives Forschungszentrum an der TUM. Ziel dieses Zentrums ist es, die Grundlagen der Robotik, der Perzeption und der Künstlichen Intelligenz zu erforschen, um Technologien für die Bereiche Gesundheit, Arbeit und Mobilität zu entwickeln. Direktor der MSRM ist Leibnizpreisträger Prof. Sami Haddadin, Professor für Robotik und Systemintelligenz und Mitautor der Publikation.
- Das Munich Center for Technology in Society (MCTS) ist ein Integratives Forschungszentrum an der TUM. Als eines der bedeutendsten Zentren für Wissenschafts- und Technikforschung in Deutschland zielt es darauf ab, die vielfältigen Wechselwirkungen von Wissenschaft, Technologie und Gesellschaft zu verstehen und zu gestalten. Mitautorin der Publikation von Seiten des MCTS ist Ruth Müller, Professorin für Wissenschafts- und Technologiepolitik.
- Das Projekt wird vom Bayerischen Forschungsinstitut für Digitale Transformation (bidt) gefördert.
Kontakt:
Prof. Dr. Alena Buyx
Technische Universität München
Institut für Geschichte und Ethik der Medizin
Tel: +49 89 4140 6961
Die Technische Universität München (TUM) ist mit rund 600 Professorinnen und Professoren, 43.000 Studierenden sowie 10.000 Mitarbeiterinnen und Mitarbeitern eine der forschungsstärksten Technischen Universitäten Europas. Ihre Schwerpunkte sind die Ingenieurwissenschaften, Naturwissenschaften, Lebenswissenschaften und Medizin, verknüpft mit den Wirtschafts- und Sozialwissenschaften. Die TUM handelt als unternehmerische Universität, die Talente fördert und Mehrwert für die Gesellschaft schafft. Dabei profitiert sie von starken Partnern in Wissenschaft und Wirtschaft. Weltweit ist sie mit dem Campus TUM Asia in Singapur sowie Verbindungsbüros in Brüssel, Kairo, Mumbai, Peking, San Francisco und São Paulo vertreten. An der TUM haben Nobelpreisträger und Erfinder wie Rudolf Diesel, Carl von Linde und Rudolf Mößbauer geforscht. 2006, 2012 und 2019 wurde sie als Exzellenzuniversität ausgezeichnet. In internationalen Rankings gehört sie regelmäßig zu den besten Universitäten Deutschlands.