© TÜV Verband

Sichere KI in autonomen Fahrzeugen

Aktuelle Empfehlungen des TÜV-Verbands für die Sicherheit KI-basierter Systeme in autonomen Fahrzeugen.

Hochautomatisierte Fahrzeuge versprechen mehr Komfort, mehr Effizienz und mehr Verkehrssicherheit. Doch vor einem Einsatz in der Breite muss zunächst geklärt werden, welche Standards sicherheitskritische Systeme mit Künstlicher Intelligenz (KI) in der Mobilität erfüllen müssen und wie deren Einhaltung überwacht werden kann.

„Etablierte Prüfprozesse für die Fahrzeugsicherheit lassen sich nicht einfach auf maschinelle Lernverfahren der Künstlichen Intelligenz übertragen“, sagt Frank Schneider, Referent für Fahrzeugtechnik beim TÜV-Verband (VdTÜV). „Die Herausforderung besteht darin, angemessene Anforderungen an die Sicherheit von KI-basierten Fahrzeugsystemen zu definieren und hierfür neue Prüfprozesse zu etablieren.“ Anlässlich des 59. Deutschen Verkehrsgerichtstags (VGT) fordert der TÜV-Verband eine Überarbeitung der bestehenden Vorschriften der Fahrzeugtypgenehmigung und stellt Handlungsfelder von Sicherheitsprüfungen KI-basierter Fahrzeugsystemen vor.

Bestehende Regelwerke anpassen

Das hohe Tempo der technologischen Entwicklungen offenbart Lücken in den bestehenden Vorschriften. „Die Überprüfung von KI ist derzeit in den Regelwerken der Fahrzeugtypgenehmigung noch nicht vorgesehen“, sagt Schneider. Hier sollte so schnell wie möglich nachgebessert werden. Schneider: „Indem wir normative Anforderungen an traditionelle Fahrzeugteile auch auf KI-Systeme übertragen, werden diese Systeme auch automatisch im Rahmen der Typgenehmigung auf Sicherheit geprüft. Reine Systemvorschriften bringen uns hier nicht weiter, denn automatisierte Fahrfunktionen wie EMV, Cybersicherheit oder Software-Update stehen in Abhängigkeit zueinander. Einzelne Systemvorschriften ignorieren diese Wechselwirkungen.“ Sicherheitskritische Themenbereiche sollten daher künftig in einem horizontalen Prüfansatz zusammengefasst werden.

Neue Handlungsfelder berücksichtigen

 „Technisch sind fahrerlose Fahrzeuge bereits möglich“, erklärt Schneider. „Doch autonome Fahrzeuge können nur dann im Straßenverkehr eingesetzt werden, wenn sie zuverlässig funktionieren. Die Fahrzeugsysteme müssen jedes Verkehrsschild und alle Verkehrsteilnehmer erkennen, sie sollten auf plötzliche Situationen sowie auf technische Störungen angemessen reagieren und sie brauchen ein Maximum an Schutz vor dem Zugriff durch Dritte.“ Eine Prüfung von KI-Anwendungen in sicherheitskritischen Bereichen umfasst die funktionale Sicherheit, die Soll-Funktionen und die Cyber-Sicherheit. Diese Funktionen sollten vor Inbetriebnahme und über den gesamten Lebenszyklus eines Fahrzeugs überprüft werden.

Wichtige Kriterien für die Funktionalität von KI-Anwendungen sind Qualität und Quantität der Datensätze, mit denen die Algorithmen trainiert wurden. „In der Regel haben nur die Unternehmen Einblick, mit welchen Trainingsdaten die Systeme trainiert werden“, betont Schneider. „Das ist wenig transparent und schafft kein Vertrauen bei den Nutzer:innen der Fahrzeuge.“ Für die Trainings-, Test- und Evaluierungsdaten müssten daher Qualitätsparameter und -anforderungen verpflichtend sein. Darüber hinaus bedarf es eines Sicherheitskonzeptes für die Mobilitätsdaten von autonomen Fahrzeugen. Die Voraussetzungen für den Zugriff auf Fahrzeugdaten durch Prüforganisationen und andere Interessengruppen wie Versicherer müssen definiert werden. Eine standardisierte Datenschnittstelle kann einen diskriminierungsfreien Zugang ermöglichen. Gleichzeitig könnten die Fahrzeughalter:innen Kontrolle und Souveränität über ihre Daten behalten.

-PM TÜV Verband-