CHEMISTREE nimmt im KI-Cockpit Platz: Wollen wir wirklich, dass Maschinen über unsere Karrieren entscheiden?
- Photo Info
- Download
Wollen wir wirklich, dass Maschinen über unsere Karrieren entscheiden? Diese Frage steht im Zentrum der Arbeit im Forschungsprojekt KI-Cockpit. Während die Angst vor unfairen, intransparenten Entscheidungen durch KI wächst, geht es uns darum, zu zeigen: KI kann auch anders – sie kann fair, nachvollziehbar und vor allem im Dienst der Menschen arbeiten. Hier setzt das Münchner Tech-Unternehmen CHEMISTREE gemeinsam mit der Hochschule Aalen an. Mit dem Forschungsprojekt zeigen die Projektpartner, wie KI im Recruiting nicht nur effizient, sondern auch fair und transparent eingesetzt werden kann. Es geht darum, Vertrauen zu schaffen und den Menschen die Kontrolle zu geben – bei jeder Entscheidung, die durch KI unterstützt wird.
Welche Rolle spielt der AI Act für CHEMISTREE im KI-Cockpit?
Der AI Act der Europäischen Union schafft klare Regeln für den Einsatz von Künstlicher Intelligenz. Dabei teilt dieser die Software in verschiedene Risikoklassen ein – von geringem Risiko bis zu den verbotenen Anwendungen mit unvertretbarem Risiko. Unter den Hochrisiko-Bereich fällt das Recruiting. Doch mit den Regelungen des AI Acts kommt auch die Herausforderung: Wie stellt man sicher, dass KI-Systeme fair, transparent und nachvollziehbar agieren? Genau hier setzt das Forschungsprojekt KI-Cockpit an.
Der Mensch soll die letzte Entscheidung haben
„Die Angst vor unkontrollierten Entscheidungen durch KI ist weit verbreitet. Menschen befürchten, dass ihre berufliche Zukunft von Algorithmen bestimmt wird, die unfaire Urteile fällen“, sagt Rosmarie Steininger, CEO von CHEMISTREE. „Mit dem KI-Cockpit wollen wir eine Lösung schaffen, die den Menschen in den Mittelpunkt stellt und die Transparenz des Einsatzes von KI verbessert.“
Die wissenschaftliche Begleitung durch die Hochschule Aalen ist dabei zentral. Prof. Dr. Regina Kempen von der Hochschule Aalen erklärt: „Wir setzen uns intensiv mit den Risiken und Chancen von KI im Personalwesen auseinander. Besonders wichtig ist es, Transparenz herzustellen, um Verzerrungen in den Algorithmen zu erkennen und zu beheben. Nur so kann KI langfristig fair und gerecht eingesetzt werden.“ Die Hochschule Aalen erforscht dabei, wie Algorithmen im Recruiting verlässlich und nachvollziehbar gemacht werden können, um die Einhaltung der hohen Standards des EU-AI-Acts zu gewährleisten.
„Die Angst vor unfairen Entscheidungen betrifft uns alle“
Das KI-Cockpit-Projekt setzt auf das „Jobmatch“-System, das Bewerbende durch automatisiertes Matching direkt mit passenden Stellen verbindet. Dadurch erhalten auch weniger bekannte oder schwer besetzbare Stellen die nötige Aufmerksamkeit. „Mit der wissenschaftlichen Unterstützung der Hochschule Aalen legen wir den Grundstein für eine Zukunft, in der KI-Systeme technisch leistungsfähig und ethisch vertretbar sind und die letztgültige Entscheidung der Mensch hat“, so Steininger abschließend.
Pressekontakt KI-Cockpit: Frau Faten Saleh
Institut für innovation und technik iit in der VDI/VDE Innovation + Technik GmbH
Steinplatz 1 // 10623 Berlin
Tel. +49 30 310078 - 241
Mail: presse@kicockpit.eu