Vertrauenswürdigkeit von KI – Der kritische Erfolgsfaktor für automatisiertes Fahren

AI Trustworthiness & automatisiertes Fahren - Vertrauen in Künstliche Intelligenz: Ein kritischer Erfolgsfaktor auf dem Weg zum automatisierten Fahren

Automatisiertes Fahren wird Teil unserer Zukunft sein. In Oberösterreich laufen dazu bereits Aktivitäten von Industrie und Forschung. Größte Herausforderung dabei: eine vertrauenswürdige Künstliche Intelligenz (KI) am Steuer zu schaffen.

Im Projekt „AI Trustworthiness & automatisiertes Fahren“ haben der Automobil-Cluster (AC) der Standortagentur Business Upper Austria, die DigiTrans GmbH, die RISC Software GmbH und die Software Competence Center Hagenberg GmbH (SCCH) eine Roadmap für den Wirtschaftsstandort Oberösterreich entwickelt.

Klare Vorgehensweise bei der Zertifizierung automatisierter Fahrzeuge

Um automatisiertes Fahren umsetzen zu können, sind noch viele offene Fragen zu beantworten. Das ist eine der wesentlichen Erkenntnisse aus dem Projekt. Auch die Unklarheiten rund um die geeignete Vorgehensweise bei Entwicklung, Zulassung etc. sind groß.

Die Investitionskosten in automatisiertes Fahren und marktreife automatisierte Fahrzeuge sind hoch, daher zögert die Industrie. Sie braucht eine klare Vorgehensweise für eine künftige Zertifizierung von automatisierten Fahrzeugen. Nur so wird die Entwicklung unterstützt und die Nutzung vorangetrieben.

Damit die Industrie beim Umsetzen des automatisierten Fahrens also mitspielt, braucht sie möglichst schnell einen normierten Zertifizierungsprozess. Dafür müssen alle Player, alle Stakeholder – Industrie, Politik, Forschung und Gesetzgebung – an einem Strang ziehen und die Entwicklung gemeinsam vorantreiben.

KI - Vertrauenswürdigkeit für automatisiertes Fahren

Symbolbild – AI Trustworthiness und automatisiertes Fahren,  
metamorworks – www.istockphoto.com

Know-how im Bereich des automatisierten Fahrens auf einer Teststrecke gebündelt

Die Teststrecke in St. Valentin wurde schon in den 1930er Jahren errichtet und befindet sich auf dem Areal des Magna Powertrain Engineering Centers Steyr. Im Sommer 2021 erfolgte durch Digitrans der Spatenstich zum Ausbau in ein hochmodernes Testzentrum für automatisiertes Fahren und automatisierten Gütertransport. Die fertige Teststrecke bietet ab Sommer 2022 zahlreiche zusätzliche Elemente, um automatisierte Fahrfunktionen im realen Umfeld reproduzierbar testen zu können.

Automatisiertes Fahren als komplexe Herausforderung

Ein Mensch am Steuer nimmt alle für ihn relevanten Informationen augenblicklich wahr und filtert sie. Aufgrund seiner Erfahrung reagiert er in Bruchteilen von Sekunden richtig, beurteilt die Situation und fällt eine Handlungsentscheidung: Läuft plötzlich ein Kind auf die Fahrbahn, bremst der Mensch und versucht auszuweichen. Ändern sich die Witterungsverhältnisse, passt er seinen Fahrstil demensprechend an.

Der Mensch steht also permanent mit seiner Umgebung in einer Wechselwirkung. Das muss auch die KI beim automatisierten Fahren am Steuer leisten, damit sie vertrauenswürdig ist. Sie muss die komplexen Situationen im Straßenverkehr erkennen, richtig beurteilen und korrekt reagieren. Dafür müssen unterschiedlichste Systeme gut zusammenspielen und richtig trainiert werden.

Das erfordert das Verarbeiten riesiger Datenmengen während des Fahrens und eine umfangreiche Trainingsdatenbibliothek. Die Trainingsdaten müssen eine enorme Menge unterschiedlichster Verkehrsszenarien, alle Verkehrsregeln, sämtliche Witterungsbedingungen, Verkehrszeichen und Straßenverhältnisse beinhalten.

Zu überprüfen, ob diese Daten vollständig sind und die KI robust genug gegenüber Störungen oder Attacken ist, macht die Zertifizierung von KI-Systemen für Forscherinnen und Forscher sehr komplex. Es braucht ganz neue Methoden und einen einheitlichen, normierten Zertifizierungsprozess.

komplexe Verkehrsszenarien - automatisiertes Fahren - AI Trustworthiness

AI Trustworthiness und automatisiertes Fahren – komplexe Verkehrsszenarien die menschliche Fahrer und Fahrerinnen im Alltag bewältigen müssen auch von einer KI am Steuer gelöst werden können. 

Wie dieser Zertifizierungsprozess aussehen kann und was auf dem Weg zur Zertifizierung noch an Forschungs- und Entwicklungsarbeit zu leisten ist, war Inhalt des Projekts „AI Trustworthiness & automatisiertes Fahren“. Die Klassifizierung und Definition von Begriffen für straßengebundene Kraftfahrzeuge mit Systemen zum automatisierten Fahren erfolgen auf sechs Level.

Das Projekt setzt ab Level 3 der Automatisierung von Fahrzeugen an, wo noch ein Fahrer im Auto sitzen muss, aber nur mehr in bestimmten Situationen oder bei drohender Gefahr eingreift. Bei Level 4 kann das Fahrzeug selbstständig fahren, jedoch in eingeschränkten Einsatzumgebungen. Level 5 beschreibt dann völlig autonome Fahrzeuge, die ganz ohne Einschränkung unterwegs sind.

Definition Vertrauenswürdigkeit - AI Trustworthiness und automatisiertes Fahren

Am Anfang stand die Definition von AI Trustworthiness für automatisiertes Fahren. Das Projektkonsortium definierte sieben Dimensionen, die erfüllt sein müssen, im Einklang mit der EU-Vorlage „Assessment List for Trustworthy Artificial Intelligence (ALTAI)“ der High-Level Expert Group:

  • Erklärbarkeit: Unterstützung beim Verstehen, wie Informationen verwendet werden und wie das Fahrzeug Entscheidungen trifft
  • Verantwortlichkeit: Rechenschaftspflicht für alle getroffenen Handlungen
  • Wahrung der Privatsphäre: Respektieren des Datenschutzes
  • Sicherheit: Schutz aller Akteur:innen und ihrer Umgebung vor physischen und digitalen Schäden
  • Rückverfolgbarkeit: Erlaubt die Überprüfung der Aktionen und die Untersuchung der Methode, mit der sie durchgeführt wurden
  • Unparteilichkeit: Treffen fairer Entscheidungen
  • Zuverlässigkeit: Sicherstellen, dass das Fahrzeug konsistente Aktionen ausführt

.

Vertrauenswürdigkeit von KI - AI Trustworthiness und automatisiertes Fahren-definition

AI Trustworthiness und automatisiertes Fahren – die sieben Dimensionen © DigTrans GmbH 2022

Prüfmethoden und Forschungsroadmap für vertrauenswürdige KI im Bereich des automatisierten Fahrens

Als nächstes leitete das Projektteam sechs Prüfmethoden ab, die für die sieben Dimensionen unterschiedliche Beiträge für das Absichern einer KI liefern. Forscherinnen und Forscher des SCCH beschäftigen sich beispielsweise bereits seit 2019 mit Analysemethoden und Transparenz in Deep-Learning-getriebenen Bildanalysesystemen.

„Vereinfacht ausgedrückt arbeiten wir an KI-Algorithmen, die das Lernen der KI überwachen und Lösungen korrigieren. Es geht dabei um die Dimensionen Erklärbarkeit und Interpretierbarkeit. Am Schluss soll eine vertrauenswürdige KI entstehen“, erklärt SCCH-Geschäftsführer Markus Manz.

Was rund um die Prüfmethoden und für den in weiterer Folge entwickelten Zertifizierungsprozess noch erforscht werden muss, legte das Projektkonsortium in einer Forschungsroadmap fest. Darin spielt auch der enge Austausch mit Politik, Gesetzgebung und Industrie eine wesentliche Rolle, um hier zeitgerecht eine anwendungsorientierte Lösung erarbeiten zu können.

Zertifizierungsprozess - vertrauenswürdige KI für das automatisierte Fahren

Der Zertifizierungsprozess besteht aus einem Stufenplan, der mit einer Simulationsverifikation beginnt. „Dabei müssen kritische und repräsentative Szenarien aus der Einsatzumgebung in der Simulation zufriedenstellend durchlaufen werden, um die Verkehrssicherheit und Effizienz im realen Verkehrsgeschehen garantieren zu können“, erklärt RISC-Geschäftsführer Wolfgang Freiseisen.

Hier kann die RISC Software GmbH ihre langjährige Erfahrung in der virtuellen Verkehrssimulation einbringen, die sie im Projekt EVIS.at beim Simulieren der aktuellen Verkehrsbedingungen auf Oberösterreichs Straßen gesammelt hat.

Anschließend wird mit Realtests am Testgelände in kontrollierter Testumgebung bei unterschiedlichen Wetter- und Lichtverhältnissen das Zusammenspiel der KI, des Fahrzeugs und dessen Sensorik geprüft. Nach diesen erfolgreichen Tests ist eine Vorzertifizierung mithilfe eines Expertenaudits durch ein Prüfungsinstitut vorgesehen. Diese Vorzertifizierung dient als Grundvoraussetzung für den nachfolgenden Feldtest mit Sicherheitslenker auf öffentlichen Straßen.

Hier besitzt die DigiTrans GmbH seit zwei Jahren Forschungserfahrung und kann auch das Testgelände in St. Valentin zur Verfügung stellen. Eine erfolgreiche Absolvierung des Feldtests und der letzten Stufe, dem abschließenden Expertenaudit, führt letztendlich zu einem Trustworthiness-Zertifikat gültig in der vorgesehenen Einsatzumgebung.

Wirtschaftsstandort stärken und Nachhaltigkeitsziele unterstützen -
Potenziale des automatisierten Fahrens

Auch die Potenziale und der Nutzen von automatisiertem Fahren wurden evaluiert. Vier der 17 Sustainable Development Goals (SDGs) der Vereinten Nationen werden dabei adressiert: Automatisierte Fahrzeuge verbessern unsere Gesundheit und Lebensqualität. Denn sie reduzieren die Unfälle und deren Kosten drastisch – laut einer AIT-Studie sind das immerhin derzeit 7,2 Milliarden Euro österreichweit pro Jahr.

Automatisierte Nutzfahrzeuge ermöglichen eine effizientere Nutzung der Infrastruktur und helfen dabei, den Industriestandort auszubauen. Denn die Logistiksysteme werden flexibler und effizienter, was die Verkehrsflüsse optimiert und weniger Leerfahrten zur Folge hat. Es entsteht ein qualitativ hochwertiger Wirtschaftszweig mit enormem Wachstumspotenzial.

Der Umsatz der Fahrzeugsystemhersteller in Oberösterreich könnte sich laut Schätzungen in 15 Jahren verfünffachen. Laut Fortune Business Insights besteht für die Automatisierte-Fahrzeuge-Branche ein potenzieller Umsatzzuwachs von 31 Prozent pro Jahr. Der Wirtschaftsstandort Oberösterreich wird durch die Möglichkeiten zu zertifizieren auch interessant für internationale Investoren.

Weiters ermöglichen automatisierte Nutzahrzeuge nachhaltigere Städte und Gemeinden durch die automatisierte Pflege von Infrastruktur für klimaneutralen Verkehr. Flächen und Raum, die jetzt von Fahrzeugen in Anspruch genommen werden, werden in Zukunft für andere Zwecke frei. Effizientere Verteilung des Verkehrs macht Straßenneubauten obsolet.

Noch ein positiver Effekt: Wir stehen nur mehr halb so lang im Stau wie bisher, was wiederum Kosten einspart. Diese positiven Auswirkungen führen zum vierten SDG: Durch automatisierte Fahrzeuge wird der Weg zu Zero Emission Mobility geebnet. All das trägt natürlich auch zum Erreichen der Klima- und Umweltschutzziele bei.

Zukunftsszenarien - Oberösterreich als Modellregion für automatisiertes Fahren

Das Projektteam hat vier Zukunftsszenarien ausgearbeitet. In Szenario 1 „Tiefschlaf“ setzt Oberösterreich keine weiteren Aktionen. Die Technologie wird im Ausland entwickelt und kann in Oberösterreich nicht genutzt werden.

In Szenario 2 sind wir Mitläufer. „Wir nutzen zwar die im Ausland entwickelte Technologie, mangels Zulassungskompetenz wenden wir automatisiertes Fahren aber verspätet an. Gleichzeitig erhöhen wir das Risiko hinter der Nutzung“, betont Automobil-Cluster-Manager Florian Danmayr.

Anzustreben sei aus seiner Sicht und jener des Projektkonsortium Szenario 3 oder 4:
„Bei ersterem sind wir Fast Follower, nutzen die Technologie des automatisierten Fahrens umfassend und entwickeln mit Volldampf. Idealzustand wäre aber Szenario 4 als Vorreiter: Wir schaffen es, ein Umfeld zu erzeugen, in dem Oberösterreich als Modellregion für automatisiertes Fahren wahrgenommen wird und machen uns damit sehr attraktiv für internationale Investoren.“

„Schafft es Oberösterreich, zu einer Modellregion zu werden, können oberösterreichische Firmen ihre Entwicklungen rechtssicher zugelassen auf den Markt bringen. Oberösterreichs Forscherinnen und Forscher können sich international einen Namen aufbauen und den Forschungsstandort weiter attraktivieren. Oberösterreichs Behörden können wiederum mit diesem Wissen exzellente Entscheidungen über den Einsatz von jedweder KI, auch der im Ausland entwickelten, in unserer Region treffen.“

DI Eva Tatschl-Unterbeger MBA / CEO DigiTRans GmbH

Digitrans-CEO Eva Tatschl Unterberger

Finanzierungsmöglichkeiten

Im Projektkonsortium wurden auch die notwendigen Investitionskosten abgeschätzt und Handlungsempfehlungen für die weiteren Schritte formuliert. Mit einem Letter of Interest wird die Industrie die Trustworthiness-Strategie unterstützen.

Da die Investitionskosten bei Szenario 3 und 4 enorm sein werden, braucht es einen Finanzierungsplan. Ein Teil der Investitionen kann über bereits bestehende regionale, nationale und europäische Förderprogramme abgedeckt werden. Es wird aber auch neue Anreize der öffentlichen Hand brauchen.

Über das Projekt AI Trustworthiness und automatisiertes Fahren

Das Projekt „AI Trustworthiness und  automatisiertes Fahren“ 
soll die Basis schaffen, um in Oberösterreich rechtzeitig ein Kompetenzzentrum für die Beurteilung von KI aufzubauen.

Es wird aus Mitteln des strategischen Wirtschafts- und Forschungsprogramms #upperVISION2030 vom Land Oberösterreich gefördert.

Das könnte Sie auch interessieren

Weitere Insights

Sie haben Fragen zum autonomen Transport der Zukunft?

Wir beraten Sie!