Fraunhofer-Institut für Kognitive Systeme IKSEinheitlicher Safety-Lebenszyklus für KI-basierte Systeme
Künstliche Intelligenz (KI) eröffnet neue Möglichkeiten für sicherheitskritische Systeme. Die sichere Integration von KI bleibt jedoch aufgrund ihres datengesteuerten Charakters und ihres Einsatzes in einer offenen und realen Umgebung mit vielen Variablen eine große Herausforderung.
Etablierte Normen wie ISO 26262 und ISO 21448 bilden zwar eine Grundlage für funktionale Sicherheit und beabsichtigte Funktionalität, gehen jedoch nicht vollständig auf KI-spezifische Eigenschaften wie Robustheit, Resilienz und Transparenz ein. Neue Normen wie ISO/PAS 8800 beginnen, diese Lücke zu schließen, indem sie KI-spezifische Sicherheitslebenszyklen und -eigenschaften einführen.
Im Whitepaper »Ensuring Trustworthiness of AI-Enhanced Embedded Systems« zeigen Infineon Technologies und Fraunhofer IKS, wie ein einheitlicher Safety-Lebenszyklus, der diese Standards integriert, auf einen anschaulichen Anwendungsfall einer KI-basierten Motorsteuerungseinheit (AI-MC) anwendungsorientiert angewendet werden kann. Es zeigt, wie Robustheit und Resilienz, verstärkt durch Maßnahmen während der Entwicklungsphase und Laufzeitmaßnahmen wie OOD-Erkennung und Unsicherheitsquantifizierung, die Vertrauenswürdigkeit von KI-Systemen gewährleisten. Diese ermöglichen den sicheren und zuverlässigen Einsatz von KI-gestützten eingebetteten Systemen auf Echtzeit-Plattformen mit hoher Integrität wie dem Infineon AURIX™ – TC4x.
Der vorgeschlagene Ansatz eröffnet neue Wege für den Safety-Lebenszyklus und die Einhaltung gesetzlicher Vorschriften und erleichtert den schnelleren Eintritt in Märkte mit strengen Sicherheitsanforderungen.
Whitepaper herunterladen und direkt weiterlesen.
