(openPR) Das Zentrum für Human | Data | Society (CHDS) der Universität Konstanz ist Teil des neuen Forschungsprogramms „Forensik intelligenter Systeme“ (FIS) der Agentur für Innovation in der Cybersicherheit GmbH (Cyberagentur). Gemeinsam mit der ZF Friedrichshafen AG analysieren Konstanzer Wissenschaftler*innen den strafrechtlichen und haftungsrechtlichen Rahmen für rechtssichere KI-Systeme im Bereich autonomer Fahrzeuge. Die digitale Forensik liefert die Methodik, um digitale Spuren intelligent vernetzter Systeme zu sichern, zu analysieren und gerichtsfest auszuwerten. Noch fehlen jedoch Standards, Werkzeuge und Verfahren, um Manipulationen an sich verändernden, lernenden KI-Systemen zweifelsfrei zu erkennen und zu belegen. Das Forschungsprogramm FIS soll diese Lücke schließen und eine völlig neue Qualität digitaler Aufklärungsfähigkeit schaffen. Ziel ist es, Verfahren und Werkzeuge zu entwickeln, die das Verhalten von KI-Systemen transparent, rekonstruierbar und belastbar überprüfbar machen.
„Intelligente Systeme entscheiden heute über Sicherheit, Mobilität und gesellschaftliche Abläufe. Mit FIS schaffen wir erstmals eine Forschungsbasis, die es ermöglicht, KI nicht nur leistungsfähig, sondern auch forensisch überprüfbar, rechtssicher und damit vertrauenswürdig zu gestalten“, sagt Prof. Dr. Christian Hummert, Forschungsdirektor der Cyberagentur.
FORAImobility – Forensik autonomer Systeme
Digitale Technologien verändern rechtliche Strukturen, Prozesse und Entscheidungsmechanismen. Das erfordert nicht zuletzt auch Anpassungen gesetzlicher Rahmenbedingungen, um Innovation, Datenschutz und Grundrechte in Einklang zu bringen. So durchdringt die fortschreitende Digitalisierung sämtliche Rechtsgebiete und erfordert rechtliche Lösungen, um die Chancen des KI-Einsatzes nutzbar zu machen und deren Risiken für Individuen und Gesellschaft zu begrenzen.
Die ZF Friedrichshafen AG und die Forschungsinitiative „Recht und Digitalisierung“ des Zentrums für Human | Data | Society der Universität Konstanz erforschen im Konsortium FORAImobility gemeinsam die rechtlichen Maßgaben für autonome Systeme. ZF bringt seine umfassende Expertise in den Bereichen Cybersecurity, IT-Forensik und neuronale Netze ein, indem es Konzepte für „Forensic Readiness“ und „Forensic-by-Design“ entwickelt, also die Fähigkeit, forensische Nachweise bereits in die Systemarchitektur zu integrieren.
Die Forschungsinitiative „Recht und Digitalisierung“ des CHDS analysiert den strafrechtlichen und haftungsrechtlichen Rahmen für rechtssichere KI-Systeme im Bereich autonomer Fahrzeuge. „Konkret geht es darum, die rechtliche Akzeptabilität selbstlernend autonomer Systeme zu untersuchen, also die Maßgaben für Datenablage, Datenschutz, Datensicherheit und Transparenz. Im zweiten Schritt untersuchen wir, wie sich Cyberangriffe beweissicher rekonstruieren lassen“, schildert Prof. Dr. Liane Wörner, Direktorin des CHDS und Leiterin der Forschungsgruppe. Neben dem Team um Liane Wörner beteiligen sich die Arbeitsgruppen von Prof. Dr. Marten Breuer, Prof. Dr. Jochen Glöckner und Prof. Dr. Rüdiger Wilhelmi von der Universität Konstanz an dem Projekt.
Gemeinsam sollen Lösungen entstehen, die sowohl technologisch als auch rechtlich belastbar sind. Die Ergebnisse des FIS-Programms sollen dafür sorgen, dass diese Systeme erklärbar, manipulationsresistent und im Ernstfall rechtsstaatlich bewertbar bleiben. FIS schafft die Grundlagen, damit KI-Systeme nicht nur funktionieren, sondern auch das Vertrauen einer freien und digitalen Gesellschaft verdienen.
Weitere Informationen:
https://www.cyberagentur.de/programme/fis/
Hintergrund: Cyberagentur
Die Agentur für Innovation in der Cybersicherheit GmbH (Cyberagentur) wurde im Jahr 2020 als vollständige Inhouse-Gesellschaft des Bundes unter der gemeinsamen Federführung des Bundesministeriums der Verteidigung und des Bundesministeriums des Inneren und für Heimat durch die Bundesregierung mit dem Ziel gegründet, einen im Bereich der Cybersicherheit anwendungsstrategiebezogenen und ressortübergreifenden Blick auf die Innere und Äußere Sicherheit einzunehmen. Vor diesem Hintergrund bezweckt die Arbeit der Cyberagentur maßgeblich eine institutionalisierte Durchführung von hochinnovativen Vorhaben, die mit einem hohen Risiko bezüglich der Zielerreichung behaftet sind, gleichzeitig aber ein sehr hohes Disruptionspotenzial bei Erfolg innehaben können.
Die Cyberagentur ist Bestandteil der Nationalen Sicherheitsstrategie der Bundesrepublik Deutschland.
Der Cyberagentur stehen als Geschäftsführung Prof. Dr. Christian Hummert als Forschungsdirektor und Bettina Bubnys als kaufmännische Geschäftsführung vor.
Hinweis an die Redaktionen:
Ein Foto steht zum Download bereit: https://www.uni-konstanz.de/fileadmin/pi/fileserver/2025_ab_Oktober/forschungsprogramm_forensik_intelligenter_systeme.jpg
Bildunterschrift: Projektstart für das Forschungsprogramm „Forensik intelligenter Systeme“ (FIS) mit den beteiligten Projektteams. Mittig im Bild: Prof. Dr. Liane Wörner, Direktorin des Zentrums für Human | Data | Society an der Universität Konstanz.
Foto: Cyberagentur
