Agentur für Innovation in der Cybersicherheit GmbH
Pressemitteilung Cyberagentur: Cyberagentur will Manipulation intelligenter Systeme rechtssicher detektieren
- Bild-Infos
- Download
Forschungsprojekt zur digitalen Forensik ausgeschrieben
Cyberagentur will Manipulation intelligenter Systeme rechtssicher detektieren
Die Agentur für Innovation in der Cybersicherheit GmbH (Cyberagentur) hat am 8. September 2023 die neue Projektausschreibung „Forensik intelligenter Systeme“ veröffentlicht. Mit dem Forschungsauftrag sollen Manipulationen an sich weiterentwickelnden intelligenten Systemen mithilfe von neuen forensischen Methodiken und Tools detektierbar und rechtssicher nachweisbar gemacht werden.
Die forensische Untersuchung von KI-Systemen hat eine hohe Relevanz für die Strafverfolgung in Deutschland. Daher wurde das neue Forschungsprojekt „Forensik intelligenter Systeme“ entwickelt und am 8. September 2023 veröffentlicht. Das Projektteam um Lars-Martin Knabe als Projektleiter, Olivia Gräupner und Til Weißflog hat Unternehmen und Organisationen aus den Bereichen der IT-Forensik, der Künstlichen Intelligenz und der Strafverfolgung aufgerufen, einen Teilnahmeantrag zur Detektion von Manipulationen an sich weiterentwickelnden intelligenten Systemen mithilfe von neuen forensischen Methodiken und Tools abzugeben.
Für einen Forschungszeitraum von vier Jahren sollen die Interessenten, die sich aus Hochschulen, Universitäten, Unternehmen, Start-ups und weiteren Institutionen zusammensetzen können, einen Teilnahmeantrag bis zum 25. Oktober 2023 einreichen. In den Anwendungsbereichen der Bildverarbeitung, der Textverarbeitung und der autonomen Systeme werden wissenschaftlich untermauerte und bahnbrechende Ergebnisse innerhalb des Forschungsprojektes erwartet. Weiterhin geht es um rechtlich fundierte Erkenntnisse für das Aufdecken, die Sichtung und Analyse von Spuren in KI-Systemen unterschiedlichster Art sowie die Schaffung von Tools.
Die Zielstellung ist es, im Falle von Manipulation, Tatbestände eines Verbrechens, Vergehens und maliziöser Handlungen etwaige Täter festzustellen und diese zu ahnden. Bei Erfolg sind aus den wissenschaftlich gewonnenen Erkenntnissen gesetzliche Rahmenbedingungen sowie Anforderungen und Standards zu formulieren und umzusetzen. Die durch die aufgeworfenen Fragestellungen entstehende Komplexität des Themas „Forensik intelligenter Systeme“ benötigt interdisziplinäre Forschung, welche Grundlage der IT-Forensik ist.
Um die Expertisen aus den verschiedenen Forschungsbereichen zu bündeln, besteht hier die Möglichkeit, dass sich aus den einzelnen Interessenten Konsortien bilden können. In einem vorgeschalteten Partnering-Event konnten sich am 5. April 2023 erste Interessenten bereits einander kennenlernen sowie erste Erfahrungen austauschen. Die jetzige Ausschreibung ist aber über die Teilnahme an dem Partnering-Event hinaus offen für alle Interessenten.
Durch rechtliche Beweisbarkeit und Nachvollziehbarkeit der KI oder anderer sich selbst weiter entwickelnder Systeme werden die Sicherheitsbehörden und Streitkräfte der Bundesrepublik Deutschland in die Lage versetzt, das Recht zu wahren und umzusetzen, welches die gesamte Breite der Gesellschaft repräsentiert. Die Systeme, die sich im Ergebnis aus dem Projekt entwickeln, könnten von den Polizeibehörden genutzt werden.
Im Supplement zum Amtsblatt der Europäischen Union wurde die Ausschreibung mit der Vergabenummer 2023/S 173-539245 veröffentlicht: https://www.evergabe-online.de/tenderdetails.html?3&id=536409.
Weitere Informationen:
https://www.cyberagentur.de/fis
Kontakt
Michael Lindner
Pressesprecher der Cyberagentur
Tel.: +49 151 44150 645
E-Mail: presse@cyberagentur.de
Hintergrund: Cyberagentur
Die Agentur für Innovation in der Cybersicherheit GmbH (Cyberagentur) wurde im Jahr 2020 als vollständige Inhouse-Gesellschaft des Bundes unter der gemeinsamen Federführung des Bundesministeriums der Verteidigung und des Bundesministeriums des Inneren und für Heimat durch die Bundesregierung mit dem Ziel gegründet, einen im Bereich der Cybersicherheit anwendungsstrategiebezogenen und ressortübergreifenden Blick auf die Innere und Äußere Sicherheit einzunehmen. Vor diesem Hintergrund bezweckt die Arbeit der Cyberagentur maßgeblich eine institutionalisierte Durchführung von hochinnovativen Vorhaben, die mit einem hohen Risiko bezüglich der Zielerreichung behaftet sind, gleichzeitig aber ein sehr hohes Disruptionspotenzial bei Erfolg innehaben können.
Die Cyberagentur ist Bestandteil der Nationalen Sicherheitsstrategie der Bundesrepublik Deutschland.
Der Cyberagentur stehen Prof. Dr. Christian Hummert als Forschungsdirektor und Geschäftsführer sowie Daniel Mayer als kaufmännischer Direktor vor.
Agentur für Innovation in der Cybersicherheit GmbH
Große Steinstraße 19 06108 Halle (Saale)
Mobil: +49 151 44150645 Fax: +49 345 68558067 E-Mail: lindner@cyberagentur.de www.cyberagentur.de | @Cyberagentur@social.bund.de | @CybAgBund | www.linkedin.com/company/cyberagentur
Handelsregister: AG Stendal | HRB 28692 Steuer-ID: 110/118/44687
USt.IdNr.: DE332829919 Betriebsnummer: 84529270
Geschäftsführer: Dr. Christian Hummert, Daniel Mayer Vorsitzender des Aufsichtsrats: Dr. Christian Mrugalla