Human in Command: Interdisziplinäre Forschung zur menschlichen Kontrolle von KI-Anwendungen im Projekt KI-Cockpit
- Bild-Infos
- Download
- Ein weiterer Medieninhalt
Die zunehmende Verwendung von Künstlicher Intelligenz (KI) bringt viele Chancen, aber auch Herausforderungen mit sich – insbesondere, wenn es um die Frage der Kontrolle durch den Menschen geht. Im interdisziplinären Forschungsprojekt KI-Cockpit des Bundesministeriums für Arbeit und Soziales wird ein neuer Ansatz zur menschlichen Kontrolle von KI-Anwendungen entwickelt und in den drei Handlungsfeldern Personalwesen (HR), Pflege und Kommunen erprobt. Das interdisziplinäre Projekt wird durch vier Forschungsrichtungen begleitet, die innovative Perspektiven und Lösungen einbringen.
Wirtschaftspsychologie: Feeling in Command
Prof. Regina Kempen (Hochschule Aalen) untersucht, wie Transparenz das Vertrauen und die Akzeptanz von KI-Systemen stärkt. Mit einem speziellen Transparenz-Interface werden Nutzende über Ziele, Datenbasis und Kontrollmöglichkeiten des Systems informiert. Diese psychologische Perspektive zielt darauf ab, Bedingungen zu schaffen, unter denen sich Menschen „in command“ fühlen und so informierte Entscheidungen über die Nutzung von KI treffen können.
Design Engineering: Design4Command
Prof. Dr. Doris Aschenbrenner (Hochschule Aalen) erforscht digitale Methoden in der Produktion. Sie sieht die Zukunft der Arbeit gekennzeichnet durch eine hybride Intelligenz, bei der die Kontrolle des Systems beim Menschen liegt. Ziel ihrer Forschung ist die Entwicklung eines Frameworks für verschiedene Anwendungsfelder, das die Zusammenarbeit entlang des Dreiecks Mensch - Technologie - Organisation optimiert. Der Ansatz Design4Command skizziert hierfür eine Reihe von Methoden für den Aufbau von Mensch-KI-Teams, die sicherstellen, dass KI-Systeme die menschlichen Fähigkeiten nicht ersetzen, sondern verbessern.
Angewandte Kognitionswissenschaften: Awareness in Command
Dr. Nektaria Tagalidou und Michael Bui (Universität Stuttgart, IAT) entwickeln ein neuroadaptives KI-Cockpit, das sich an die mentale Belastung und die Bedürfnisse der Nutzenden anpasst und bedarfsgerecht reagiert. Vergleichbar mit einem Flugzeug-Cockpit, wo auch viele Prozesse automatisch ablaufen und der Mensch den Überblick behalten muss, unterstützt das System den Menschen in seiner Arbeit und vermeidet Unter- bzw. Überforderung in der Aufgabenbewältigung, z. B. durch angepasste Alarme und Informationsflüsse. Ziel ist es in der Zusammenarbeit mit dem KI-Cockpit, Stress zu reduzieren und Fehler in der menschlichen Aufsicht zu vermeiden. Der Ansatz stellt eine neue Form der Mensch-Technik Interaktion dar, bei der die aktuelle Situation und die Ausgangslage der Nutzenden bewusst berücksichtigt werden.
Qualitative Sozialforschung: Partizipation und Inklusion
Dr. Cecilia Colloseus und Dr. Andrea Sell (Hochschule Aalen) legen den Fokus auf die aktive Einbindung der Mitarbeitenden in die Technologieentwicklung. Mit ihrem Ansatz werden Mitarbeitende zu Co-Forschenden, indem sie ihren Arbeitsalltag reflektieren, Routinen hinterfragen und gemeinsam mit den Forschenden Lösungen entwickeln. Dieser partizipative Ansatz erhöht die Akzeptanz und sorgt dafür, dass die Technologie die tatsächlichen Bedürfnisse der Nutzenden erfüllt.
Das Projekt KI-Cockpit, gefördert vom Bundesministerium für Arbeit und Soziales, setzt ein Zeichen für die Zukunft der menschzentrierten KI. Es zeigt, wie Technologie die menschliche Arbeit nicht ersetzt, sondern stärkt – stets mit dem Menschen „in command“. Es möchte die Frage beantworten, wie der Mensch KI-Anwendungen in der betrieblichen Praxis überwachen und die Kontrolle behalten kann. In dem Projekt wird ein neuer Ansatz zur menschlichen Kontrolle KI-basierter Softwaresysteme entwickelt und in drei Handlungsfeldern erprobt: im Personalwesen (HR), in der Pflege und in Kommunen.
Weitere Informationen zum Projekt KI-Cockpit: https://www.kicockpit.eu/
____________________________________________________________
Pressekontakt KI-Cockpit Frau Faten Saleh institut für innovation und technik – iit VDI/VDE Innovation + Technik GmbH // Steinplatz 1 in 10623 Berlin Tel. +49 30 310078 – 241 Mail: presse@kicockpit.eu Weitere Pressemitteilungen finden Sie im Presseportal
