Organisatorische Eckdaten:

• Masterarbeit in Kooperation mit dem Deutschen Zentrum für Luft- und Raumfahrt (DLR) sowie der Universität Oldenburg, Abteilung Foundations and Applications of Systems of Cyber-Physical Systems
  • Das DLR ist eine national und international vernetzte Forschungs- und Technologieeinrichtung, die Studierenden die Möglichkeit bietet, an innovativen Forschungsthemen mit direktem Bezug zu aktuellen wissenschaftlichen und gesellschaftlichen Fragestellungen mitzuwirken
• Betreuung: Lukas Westhofen, M. Sc., Dr. Christian Neurohr (DLR Institut für Systems Engineering für zukünftige Mobilität in Oldenburg) und Prof. Dr. Martin Fränzle (Universität Oldenburg)

Einleitung zum Thema:

Die Absicherung von automatisierten Fahrzeugen ist eine der großen Herausforderungen die gelöst werden muss, bevor "selbstfahrende Autos" flächendeckend eingesetzt werden können. Neben technischen Aspekten (wie der Wahrnehmung des Umfelds durch Sensoren) ist vor allem die Komplexität des Straßenverkehrs zu bewältigen: Das automatisierte Fahrsystem muss sicher mit allen Verkehrsteilnehmern interagieren (bspw. am Straßenrand spielende Kindern oder annähernde Rettungsfahrzeuge) und auch in unübersichtlichen Situationen vorausschauend fahren (wie etwa in zweiter Reihe parkende Fahrzeuge oder bei Baustellen). Mit der steigenden Verbreitung von automatisierten Fahrsystemen insb. im amerikanischen Raum werden immer mehr Fälle publik, in denen die Systeme durch solche Faktoren an ihre Grenzen stoßen:

• Fahrzeuge von Waymo fahren (unerlaubterweise) an haltenden Schulbussen vorbei: https://www.reuters.com/technology/ntsb-says-waymo-robotaxis-illegally-passed-stopped-school-buses-new-incidents-2026-03-03/
• Ein Unfall eines Zoox-Fahrzeugs wurde durch eine inkorrektes Vorhersagen des Verhaltens anderer Verkehrsteilnehmer ausgelöst: https://www.heise.de/news/Amazon-Tochter-Zoox-ruft-autonome-Taxis-nach-Unfall-zurueck-10375346.html
• Ein Waymo-Fahrzeug blockierte einen Krankenwagen bei einer tödlichen Schießerei: https://www.heise.de/news/Nach-Schuessen-in-Ausgehviertel-Waymo-Taxi-blockiert-Krankenwagen-in-Austin-11194469.html

Die Identifikation der dahinterliegenden Einflussfaktoren (sog. "Triggering Conditions") werden in im zentralen Standard ISO 21448 vorgeschrieben, welcher auch in der deutschen Verordnung zum automatisierten Fahren (AFGBV) referenziert wird.

Somit wird eine solche Sammlung von "Triggering Conditions" für jeden Hersteller mindestens empfehlenswert, wenn nicht sogar de facto verpflichtend. Um nicht bei jedem neuen Produkt ohne Vorwissen anzufangen, hofft man, auf herstellerübergreifende Kataloge zurückzugreifen - Ähnlich zu dem, was in Fahrschulen gelehrt wird: Auch dort sind die kritischen Faktoren, auf die im theoretischen Anteil hingewiesen wird, oft gleich. 

Ziele der Masterarbeit:

Die Produkte der Hersteller unterscheiden sich in ihrem Use Case und dem designierten Betriebsbereich (Operational Design Domain, ODD). Die herstellerübergreifenden Kataloge von kritischen Faktoren müssen daher auf das zu entwickelnde Produkt maßgeschneidert werden. Diese Masterarbeit untersucht die automatisierte Filterung von kritischen Faktoren anhand der Systemspezifikation. 

Dafür soll eine Korrespondenz zwischen den Beschreibungen der Faktoren auf der einen Seite (vorliegend in natürlicher Sprache) und der Systemspezifikation auf der anderen Seite (in formaler Sprache, wie bspw. ASAM OpenODD, https://www.asam.net/standards/detail/openodd/) vorgenommen werden. Für dieses "Matching" zwischen formaler Systemspezifikation und sprachlich definierten Faktoren bietet sich insbesondere eine Kombination aus LLMs und klassischen formalen Methoden an. Eine Herausforderung ist, das Verfahren möglichst fehlerfrei zu gestalten - ein fälschlich aussortierter Faktor kann schwerwiegende Sicherheitsimplikationen erzeugen.

Trotz der oben skizzierten Filterung ist eine solche Liste in der Praxis unübersichtlich. Deshalb soll weiterhin ein wahrscheinlichkeitsbasierter Sortiermechanismus entwickelt werden, welcher dem Nutzer die wichtigsten Faktoren priorisiert. Hier können bspw. das Parken in zweiter Reihe auf Grund der deutlich höheren Auftretenswahrscheinlichkeit und des starken Verdeckungspotentials von Fußgängern deutlich relevanter als die Baustelle eingestuft werden, wo häufig sehr langsam gefahren wird.

Übergeordnetes Ziel: 

Ausarbeitung sowie prototypischen Implementierung einer KI-gestützten Methode, um für eine Input-Systemspezifikation eine Auswahl aus einer Liste von sicherheitsrelevanten Einflussfaktoren zu treffen und diese nach Relevanz zu sortieren.

Vorhanden sind im DLR schon:

• Eine Webapp zum Anzeigen und Bearbeiten von sicherheitsrelevanten Faktoren ("HazardDB"), welche auf Typescript (NestJS) und Apache Jena Fuseki basiert und eine erste LLM-Integration hat
• Eine große Liste von sicherheitsrelevanten Faktoren in der HazardDB
• Ein erster Entwurf für einen Relevanzscore für viele dieser Faktoren

Forschungsfragen der Masterarbeit:

• Literaturübersicht: Welche formalen Ansätze gibt es, um ODDs zu spezifizieren?
• Wie kann eine Zuordnung von natürlichsprachlich beschriebenen kritischen Faktoren und einer formal spezifizierten ODD via LLMs durchgeführt werden? Wie kann diese Zuordnung verbessert werden (bspw. Autoencoder oder neurosymbolische Ansätze)?
• Wie kann eine für den Ingenieur sinnvolle und praktisch berechenbare Relevanzsortierung der gefilterten kritischen Faktoren gestaltet werden?

Implementierungsaspekte der Masterarbeit:

Zur Evaluierung der vorgeschlagenen Methoden enthält die Masterarbeit auch einen prototypischen Implementierungsanteil im Framework der HazardDB:

• Anbindung an eine der existierenden ODD-Spezifizierungssprachen (und ggf. weiterer Teile der Systemspezifikation).
• Implementierung eines LLM-basierten ODD-Filters in die HazardDB anhand der ODD-/Systemspezifikation.
• Einbindung des entwickelten Relevanzscores im Rahmen einer Sortierfunktionalität in die HazardDB.

• Grundlegende Programmiererfahrung in Javascript/Typescript oder das Interesse, diese im Rahmen der Masterarbeit zu erlangen
• Strukturierte Denk- und Arbeitsweise
• Interesse am Thema "automatisiertes Fahren"
• Fähigkeiten in der englischen Sprache