Monitoring-Systeme für sichere KI-basierte autonome Fahrzeugsysteme

(openPR) Die Vision des autonomen Fahrens treibt Technologie- und Automobilhersteller auf der ganzen Welt an. In den USA gibt es erste autonome Flotten, die Fahrgäste selbstständig abholen und zu ihrem Zielort bringen. Die Fahrzeuge sind inzwischen in der Lage, auch schwierigere Verkehrssituationen zu meistern. Dennoch gibt es Sicherheitslücken und Defizite in der Technik, sodass die komplette Umstellung auf einen autonomen Verkehr weiter in die Zukunft rückt.
Die Entwicklung autonomer Fahrzeugsysteme ist sehr komplex. Die Wissenschaftler*innen des Zukunftslabors Mobilität nutzen für die Entwicklung der Fahrfunktionen das V-Modell: Der Entwicklungsprozess beginnt mit einer allgemeinen funktionalen Beschreibung, die nach und nach weiter verfeinert wird, bis sie in eine detaillierte technische Spezifikation und die Grundlage für die Umsetzung übergeht. Nach der Implementierung erfolgt die Überprüfung der zuvor definierten Spezifikationen. Dadurch soll sichergestellt werden, dass die praktische Umsetzung den Anforderungen entspricht. Dieses Vorgehen erzeugt die visuelle Darstellung eines „V“, bei dem jeder Entwicklungsstufe auf der linken Seite die passende Testphase auf der rechten Seite gegenübersteht.
„Um die Funktionsfähigkeit von Software-Systemen zu prüfen, ist Testen maßgeblich. Aber die Tests garantierten nicht, dass das System fehlerfrei ist, weil Testen nicht vollständig sein kann. Demnach kann das Testen die Anwesenheit von Fehlern sicherstellen, aber nicht die Abwesenheit. Es bleibt also eine gewisse Wahrscheinlichkeit, dass das System fehlerhaft ist. Je mehr Künstliche Intelligenz in Fahrzeugsystemen verwendet wird, desto schwieriger werden die Tests. Deshalb arbeiten wir im Zukunftslabor Mobilität an einem doppelten Netz. Neben der klassischen Absicherung – dem Testen von Funktionen – forschen wir daran, das Fahrzeugsystem während der Betriebszeit zu überwachen“, erklärt Prof. Dr. Andreas Rausch, Technische Universität Clausthal.
Künstliche Intelligenz (KI) wird eingesetzt, um die Informationen aus der Umgebung des automatisierten Fahrzeugs zu erfassen. Mittels KI nimmt das Fahrzeug mithilfe von Sensoren Objekte in seiner Umgebung wahr, z. B. Gebäude, Personen, andere Fahrzeuge, Infrastruktur. Diese Informationen werden anschließend ausgewertet. Die KI lernt in ihrer Trainingsphase diverse Objekte in verschiedenen Szenarien kennen. Dennoch ist es nicht möglich, alle hypothetisch möglichen Fahrsituationen während der Entwicklung des KI-basierten Wahrnehmungssystems zu berücksichtigen. Denn dies würde Unmengen an Datenverarbeitung und Rechenleistung erfordern. Deshalb bleibt ein gewisses Risiko bestehen, dass die KI während der Fahrt Informationen über ihr noch unbekannte Situationen erhält, die sich nicht auswerten kann. Wenn z. B. in den Trainingsdaten nur stehende oder laufende Menschen enthalten waren, würde die KI eine Person, die am Boden liegt, nicht als Mensch erkennen, sondern eventuell als eine Fahrbahnmarkierung.

Überprüfung der Funktionen während der Betriebszeit

Ziel der Wissenschaftler*innen ist es, Unsicherheiten von KI-basierten Systemen zur Umgebungswahrnehmung rechtzeitig zu erkennen und das automatisierte Fahrzeug in einen sicheren Zustand zu bringen. Der grundlegende Ansatz der Wissenschaftler*innen besteht darin, die Funktionen des autonomen Fahrzeugs auch während der Betriebszeit zu überwachen. Dafür entwickelten die Wissenschaftler*inne zwei Monitoring-Systeme: ein funktionales Monitoring und ein situatives Monitoring.
Das funktionale Monitoring überprüft, ob die Funktionen des Fahrzeugs korrekt sind, also ob sich das System während der Betriebszeit in einem sicheren Zustand befindet. Für die Erfassung der Umgebung kommen unterschiedliche Sensoren zum Einsatz und es kann vorkommen, dass die Objekterfassung der Sensoren nicht übereinstimmt (z. B. erfasst die Kamera ein Tier auf der Straße, der LiDAR-Sensor aber nicht). Das funktionale Monitoring erkennt, dass es sich hier um eine ungewisse Situation handelt und bringt das Fahrzeug in einen sicheren Zustand (z. B. durch eine Notfallbremsung). Um das funktionale Monitoring zu prüfen, entwickelten die Wissenschaftler*innen Prototypen und testeten diese auf einem realen Versuchsträger. Die Tests bestätigten, dass das funktionale Monitoring Inkonsistenzen (z. B. bezogen auf die Anzahl der Objektklassen oder die jeweilige Klasse der Objekte) zwischen mehreren redundanten Wahrnehmungssystemen (jeweils LiDAR- und Kamera-basiert) auf dem Versuchsfahrzeug erfasst.
Das situative Monitoring adressiert die KI-Funktionen: Das situative Monitoring prüft, ob die Fahrumgebung in den KI-Trainingsdaten enthalten war. Ist dies nicht der Fall, besteht hohe Wahrscheinlichkeit, dass die KI nur raten und daher nicht korrekt ermitteln kann, was zu tun ist. In diesem unsicheren Fall könnten ebenfalls Notfallmaßnahmen ergriffen werden. Die Wissenschaftler*innen testeten die Funktionsweise des situativen Monitorings. Die Tests bestätigten, dass das situative Monitoring unbekanntes Verhalten einer bekannten Klasse (z. B. liegende Person statt laufender Person) und völlig unbekannte Klassen (Objekte, die im Trainingsdatensatz der KI nicht enthalten waren) erkennt. Für das situative Monitoring meldeten die Wissenschaftler*innen des Zukunftslabors bereits ein Patent an.

Command-And-Control-Center

Für die Tests des funktionalen und des situativen Monitorings nutzten die Wissenschaftler*innen ein Command-And-Control-Center, das die Umgebungserfassung des Versuchsfahrzeuges abbildet. Das Command-And-Control-Center befindet sich an einem Remote-Leitstand, einer Art Kontroll- und Überwachungseinheit, die es ermöglicht, automatisierte Fahrzeuge aus der Ferne zu überwachen und im Bedarfsfall einzugreifen. In Not- oder Ausnahmefällen bringen die zuvor vorgestellten Monitoring-Systeme das Fahrzeug durch Auslösen der Sicherheitsmaßnahmen wie Notbremsung sicher zum Stillstand und melden den Vorfall an das Command-And-Control-Center im Remote-Leitstand. Dies bedeutet, dass Sicherheitsoperator*innen am Leitstand das automatisierte Fahrzeug steuern oder Entscheidungen treffen können, zu denen das System selbst nicht in der Lage ist. Sobald die Sicherheitsoperator*innen das Problem remote gelöst haben, können sie die Fahrkontrolle wieder an das technische Fahrsystem im Fahrzeug übergeben. Auf diese Weise wird die Sicherheits- und Kontrollverantwortung zwischen den menschlichen Sicherheitsoperator*innen (außerhalb des Fahrzeugs) und dem technischen System (innerhalb des Fahrzeugs) verteilt und übergeben.

Ansprechpartnerin für redaktionelle Rückfragen:
Kira Konrad B. A.
Marketing & Kommunikation
Zentrum für digitale Innovationen Niedersachsen (ZDIN)
Am OFFIS – Institut für Informatik, Escherweg 2, 26121 Oldenburg – Germany
Tel: 0441 9722-435, E-Mail:
www.zdin.de