AutoDevSafeOps – Integrierte Entwicklung und Betrieb von sicheren Automotive-Systemen

AutoDevSafeOps führt ein einzigartiges DevOps-Framework ein, das Sicherheitsmechanismen über den gesamten Lebenszyklus hinweg integriert.

Es ermöglicht modulare Over-the-Air-Updates sicherheitskritischer Fahrfunktionen – einschließlich der zugehörigen Sicherheitsprozesse – über Fahrzeug- und Backend-Grenzen hinweg.

Im Zentrum steht ein kontinuierlicher DevOps-Zyklus mit den Phasen:

Plan – Create – Verify – Package – Release – Configure – Monitor

Jede Phase wird durch spezialisierte Modelle, Werkzeuge und Prozesse unterstützt, um sicherzustellen, dass sicherheitskritische Automotive-Software schnell, zuverlässig und mit Blick auf Zertifizierbarkeit entwickelt und aktualisiert werden kann.

Der Ansatz wurde in vier repräsentativen Use Cases validiert, die zentrale Herausforderungen des automatisierten Fahrens adressieren:

1. Validierung und Optimierung auf Basis von Felddaten
   Laufzeitüberwachung von aus STPA abgeleiteten Sicherheitsanforderungen
   Kontinuierliche Überwachung von Metriken zur Steigerung der Sicherheitsleistung
2. Hybrider Modellentwicklungszyklus, der virtuelle Verifikation und Validierung kombiniert
   Bereitstellung mehrerer vECU-Komponenten in der Cloud für szenariobasierte Simulationen
   Bereitstellung von Software-Updates in emulierten Umgebungen (QEMUs) für szenariobasierte Echtzeitvalidierung
3. OTA-Updates für automatisierte kooperative Fahrzeugsysteme
   Beispielhafte inkrementelle Entwicklung und Aktualisierung von Software auf der autonomen Fahrplattform ADORe
4. End-to-End-Dokumentation regulatorischer und forensischer Anforderungen entlang der Lieferkette
   Sicherstellung der Softwareintegrität sowie Überprüfung von Authentizität und Herkunft

Insgesamt wurden mehr als 80 Technologiemodule entwickelt. Sie sind in den vorgeschlagenen ADSO-Prozess integriert und werden durch ein robustes, kontinuierliches und konsistentes Rahmenwerk zur Sicherheitsgewährleistung für automatisierte Fahrfunktionen unterstützt. Gemeinsam decken sie die technischen Schritte ab, die für einen umfassenden Sicherheitsbewertungsprozess erforderlich sind, und bilden damit die Grundlage für die kontinuierliche Weiterentwicklung sicherheitskritischer Software mit Blick auf Zertifizierbarkeit.

Das Fraunhofer IKS leitete das Arbeitspaket zur Erarbeitung der technologischen Grundlagen und analysierte deren Anwendung in den Use Cases von AutoDevSafeOps.

Kernstück des Projekts war eine vertragsbasierte Entwurfssprache, die systemweite Sicherheitsanforderungen mit Komponenten-Garantien verknüpft. Diese Verträge werden durch Laufzeitmonitore überprüft, die Abweichungen erkennen und in Echtzeit Gegenmaßnahmen auslösen. Alle Konzepte wurden sowohl in Digital-Twin-Umgebungen als auch in realen Fahrzeugen evaluiert.

Zentrale Beiträge des Fraunhofer IKS:

•  Entwicklung modularer, ODD-orientierter Architekturen mit hoher Resilienz gegenüber Software-Updates
• Entwicklung von modularen und inkrementellen, ML-basierten Funktionen, die Flexibilität und gezielte Updates ermöglichen
• Integration der automatisierten Funktion »Construction Zone Assist« auf der APIKS-Plattform, validiert mit synthetischen Felddaten und kontinuierlich überwachten Sicherheitskennzahlen
• Implementierung von Laufzeitüberwachung für sicherheitskritische Systeme über den gesamten Entwicklungslebenszyklus hinweg

 Damit zeigt das Fraunhofer IKS, wie sich Sicherheit und Anpassungsfähigkeit in komplexen automobilen Software-Ökosystemen kontinuierlich miteinander vereinbaren lassen.

Durch AutoDevSafeOps treibt das Fraunhofer IKS seinen Forschungsschwerpunkt resiliente und vertrauenswürdige Kognitive Systeme voran. Das Institut zeigt mit seiner Forschung, wie adaptive Architekturen auch unter Unsicherheit und dynamischen Bedingungen einen sicheren Betrieb gewährleisten.

Diese Architekturen bewerten kontinuierlich ihren Kontext, passen ihr Verhalten dynamisch an und erhalten die Sicherheit über den gesamten Lebenszyklus hinweg.

Die Projektergebnisse des Projekts AutoDevSafeOps verdeutlichen zentrale Prinzipien für die sichere und effiziente Weiterentwicklung softwaredefinierter Fahrzeuge:

1. Ein generisches Lebenszyklusmodell ist entscheidend für eine kontinuierliche und konsistente Sicherheitsabsicherung.
2. KI-basierte, sicherheitskritische und aktualisierbare Systeme benötigen fortlaufende Spezifikation, Überwachung und Fallback-Mechanismen.
3. Die kontinuierliche Absicherung von KI-Funktionen erhält die Vertrauenswürdigkeit über den gesamten Lebenszyklus.
4. Frühe, simulationsbasierte Validierung steigert sowohl Effizienz als auch Sicherheit bei Entwicklung und Updates.

Auf Basis dieser Erkenntnisse überführt Fraunhofer IKS die entwickelten Methoden, Architekturen und Toolchains in neue industrielle Kooperationen und unterstützt Partner beim Aufbau sicherer, adaptiver und zertifizierbarer DevOps-Prozesse für die nächste Generation intelligenter, autonomer und vernetzter Systeme.

Über den Automobilbereich hinaus stärken diese Ansätze auch zukünftige Anwendungen in Robotik, industrieller Automatisierung und Luft- und Raumfahrt – überall dort, wo Resilienz, Vertrauenswürdigkeit und kontinuierliche Anpassungsfähigkeit essenziell sind.

Das Projekt wurde vom Bundesministerium für Bildung und Forschung gefördert.

Diese Publikationen sind im Rahmen des Projekts AutoDevSafeOps am Fraunhofer IKS entstanden:

• A. H. Shamseddin, “Increasing Edge-case Testing Coverage through Guided AI Synthetic Scenario Generation,” Master’s Thesis, Technische Universität München, 2025.
• M. Liu, “A Multi-Modal Framework for Reliable Uncertainty-Aware Out-of-Distribution Object Segmentation,” Master’s Thesis, Technische Universität München, 2024.
• G. Gerloni, “Monitoring Framework for Continuous Safety Assurance in Autonomous Driving: A Construction Zone Use Case,” Master’s Thesis, Freie Universität Bozen, 2024.
• A. Castella, “Active learning in ML-training for autonomous vehicles,” Master’s Thesis, Technische Universität München, 2024.
• F. Budic, “Design and Implementation of a Scenario-Based Testing Pipeline for Autonomous Driving,” Bachelor’s thesis, Technische Universität München, 2025.
• Y. Ahmed, “Probabilistic Deep Learning for Safety Monitoring in Autonomous Driving Systems,” Master’s thesis, Technische Universität München, 2025.
• N. Breit, “Impact and Analysis of the EU AI Act’s Transparency Requirements and Their Relation to Existing Standards,” Bachelor’s thesis, Technische Universität München, 2024.
• A. Salvi, G. Weiss, and M. Trapp, “Explaining Unreliable Perception in Automated Driving: A Fuzzy-based Monitoring Approach,” May 2025, doi: 0.48550/arXiv.2505.14407.
• F. F. Okumus, J.-V. Zacchi, M. Salfeld, M. Schweizer, N. Mata, and S. Kugele, “Runtime Monitor Synthesis for Automotive Software Architectures,” in Software Architecture - 19th European Conference, ECSA 2025, in LNCS. Springer, 2025.
• L. Mareis, “Optimizing Experimental Design for Causal Effect Estimation with Partial Measurements,” PCIC, 2024.
• J. P. C. de Araujo et al., “Applying Concept-Based Models for Enhanced Safety Argumentation,” in ISSRE, IEEE, 2024, pp. 272–283.
• Y. Ahmed, F. Roza, and N. Mata, “Temporal Multimodal Probabilistic Transformers for Safety Monitoring in Autonomous Driving Systems,” Proceedings of Machine Learning Research, vol. 266. pp. 535–554, 2025. [Online]. Available: https://www.scopus.com/inward/record.uri?eid=2-s2.0-105013955850&partnerID=40&md5=5741d137cd9e63b5d7f3bc074d7eaab6
• M. Liu, H. Dong, J. I. Kelly, O. Fink, and M. Trapp, “Extremely Simple Multimodal Outlier Synthesis for Out-of-Distribution Detection and Segmentation,” in The Thirty-ninth Annual Conference on Neural Information Processing Systems, 2025.