KI-Cockpit: Künstliche Intelligenz am Arbeitsplatz souverän einsetzen, steuern und kontrollieren
- Bild-Infos
- Download
Das Forschungsprojekt „KI-Cockpit“ möchte die Frage beantworten, wie Transparenz und menschliche Kontrolle von KI-Technologien in der betrieblichen Praxis gelingen. Welche Informationen brauchen Beschäftigte in welcher Form, um das Verhalten eines KI-Systems gut einschätzen und überwachen zu können („Situation Awareness“)?
Wie kann menschliche Kontrolle effektiv, beispielsweise durch die Implementierung verschiedener Autonomiestufen oder „Stopp“-Tasten, umgesetzt werden. Lassen sich daraus allgemeine Regeln für die Gestaltung von KI und die konkrete Beteiligung der Beschäftigten bei der Einführung von KI-Anwendungen am Arbeitsplatz herleiten?
Künstliche Intelligenz (KI) kann Beschäftigte entlasten, die Arbeitsqualität verbessern und die Produktivität erhöhen. Eine entscheidende Voraussetzung dafür ist, dass die Entwicklung, Gestaltung und der Einsatz der Technologie menschenzentriert und eng an den Bedürfnissen und Fähigkeiten der Beschäftigten orientiert sind. Dazu gehört auch, dass Beschäftigte KI-Systeme im Arbeitsalltag verstehen, überwachen und steuern können. KI ist nur dann eine sinnvolle Unterstützung, wenn die Entscheidung über ihren Einsatz und die Kontrolle ihrer Ergebnisse beim Menschen liegen.
Ziel des Projekts KI-Cockpit ist es, Beschäftigten einen Überblick über die Entscheidungen des Systems zu vermitteln und sie damit zu befähigen, gut informiert und selbstständig über die Notwendigkeit von Eingriffen in maschinelle Abläufe zu entscheiden. Damit sollen insbesondere gesellschaftliche Risiken von KI-Technologien wie Verzerrungen und Diskriminierungen minimiert und die Akzeptanz ihrer Nutzung in der Arbeitswelt gesteigert werden. Zudem wird ein Vorgehensmodell entwickelt, das Organisationen bei der AI-Act-konformen Einführung von KI-Systemen unterstützt.
Im KI-Cockpit-Projekt greifen Grundlagenforschung, empirische Forschung (u.a. Feldstudien) und Software-Entwicklung eng ineinander.
- In der Grundlagenforschung wird mittels Laborstudien und partizipativer Forschung ein interdisziplinäres Grundlagenmodell für Transparenz und menschliche Kontrolle entwickelt.
- In drei Feldstudien mit KI-Anwendungen (Personalauswahlprozesse, Verkehrslenkung in Kommunen, Pflegekoordination) werden basierend auf den Bedarfen unterschiedlicher Nutzer:innengruppen im betrieblichen Kontext Benutzeroberflächen entwickelt, welche relevante Erklärungsvariablen von KI-Entscheidungssystemen darstellen. Die Entwicklung, Einführung und Evaluation der Software-Lösungen in den Feldstudien folgen dabei einem partizipativen Vorgehen, das die Bedürfnisse der Menschen in den Mittelpunkt stellt.
- Aufbauend auf den Lösungen in den Feldstudien wird außerdem eine generische Mensch-Maschine-Schnittstelle und Maschine-Maschine-Schnittstelle (API) entwickelt und als Open-Source-Produkt veröffentlicht, um eine niedrigschwellige Weiterentwicklung und Nutzung in unterschiedlichen Anwendungsfällen zu ermöglichen.
Das Projekt erarbeitet zudem die theoretischen und praktischen Grundlagen, wie die Vorgaben zu „Human Oversight“ aus der europäischen KI-Verordnung in konkreten betrieblichen Anwendungen umgesetzt werden können. Damit werden in dem Projekt wichtige Erkenntnisse für den Umsetzungsprozess der europäischen KI-Verordnung sowie für die KI-Normung gewonnen.
Im Projekt arbeiten Praxis und Wissenschaft Hand in Hand, um die innovativen Potenziale kleiner und mittlerer Unternehmen mit denen universitärer und angewandter Forschungsinstituten zu kombinieren. Das Projektträgerkonsortium besteht aus der Hochschule Aalen - Technik und Wirtschaft, dem Institut für Arbeitswissenschaft und Technologiemanagement (IAT) der Universität Stuttgart, dem nexus Institut, der Chemistree GmbH, der Starwit Technologies GmbH und der Caritas Dortmund. Ein Projektbeirat aus KI-Expert:innen begleitet und berät das Projekt und fördert das Transfer- und Skalierungspotential der erarbeiteten Lösungen.
Die Abteilung Denkfabrik Digitale Arbeitsgesellschaft des Bundesministeriums für Arbeit und Soziales (BMAS) fördert das KI-Cockpit mit rund 3,5 Millionen Euro.
Pressekontakt KI-Cockpit
Prof. Dr. Doris Aschenbrenner
Hoschule Aalen // Beethovenstraße 1, 73430 Aalen
Tel. +49 7361 576-2388
Mail: presse@kicockpit.eu