Monitoring-Methoden zur Absicherung von KI-basierter Software innerhalb automatisierter Fahrfunktionen

Beschreibung

Kurzfassung Künstliche Intelligenz (KI) ermöglicht das Lösen von komplexen Aufgaben, die nicht oder nur eingeschränkt manuell zu spezifizieren sind. Anstatt Software auf Basis konkreter Regeln zu programmieren, lernt die KI komplexe Zusammenhänge eigenständig aus einer Vielzahl von Daten. Ein bekanntes Anwendungsbeispiel aus der Industrie ist die Umgebungswahrnehmung beim automatisierten Fahren mithilfe von tiefen neuronalen Netzen. Die Vorteile des datengetriebenen Entwicklungsansatzes gehen jedoch im Kontext der funktionalen Sicherheit mit großen Herausforderungen einher. Bekannte Unzulänglichkeiten von KI, wie bspw. die mangelnde Interpretierbarkeit oder die mangelnde Repräsentation von Unsicherheiten, erschweren den Einsatz in sicherheitsrelevanten Systemen. Ein bedeutsamer Sicherheitsmechanismus stellt in diesem Zusammenhang die Überwachung von KI-basierter Software zur Laufzeit dar. Durch zusätzliches Monitoring können falsche Vorhersagen der KI erkannt werden, um Fail-Safe- Strategien und nachträgliche System-Verbesserungen zu unterstützen. In dieser Dissertation wird die Laufzeit-Überwachung von KI innerhalb automatisierter Fahrfunktionen unter Berücksichtigung etablierter Sicherheitsstandards im Automobilbau betrachtet. In diesem Zusammenhang wird ein generisches Monitor-Modell zur Überwachung unterschiedlicher KI- spezifischer Unzulänglichkeiten entwickelt. Hierzu werden heterogene Monitore zur Anomalie- Erkennung, Plausibilisierung, Erklärung, Eingangsrauschen-Erkennung und Unsicherheits- Berechnung in einem Metamodell kombiniert. Im Rahmen der experimentellen Untersuchung am Anwendungsfall der Verkehrszeichen-Erkennung wird eine zuverlässige Detektion von KI- bedingten Fehlern durch das Monitor-Modell demonstriert.

Autor*in

Lukas Hacker

Themen in »Monitoring-Methoden zur Absicherung von KI-basierter Software innerhalb automatisierter Fahrfunktionen«

Künstliche Intelligenz Automatisiertes Fahren Absicherung

Stimmen zu »Monitoring-Methoden zur Absicherung von KI-basierter Software innerhalb automatisierter Fahrfunktionen«

Details

Link teilen