Sicherheit softwarebasierter Systeme im Verteidigungsbereich gewährleisten

Safety ist eine wichtige Anforderung, die durch Normen geregelt ist, aber oft als Innovationshindernis und Kostenfaktor gilt – besonders, wenn sie erst nachträglich umgesetzt wird. Ungeeignete oder überdimensionierte Sicherheitsmaßnahmen können zu instabilen und unzuverlässigen Systemen führen. Zudem können gängige Fail-Stop-Ansätze unbeabsichtigt die Sicherheit menschlicher Bediener gefährden und erschweren so die Gewährleistung der Betriebseffektivität.

Um diese Komplexität zu bewältigen, braucht es kurze Entwicklungszyklen, die eine schnelle Integration neuer Technologien und eine Anpassung an stark variierende oder unvorhersehbare Einsatzbedingungen ermöglichen. Fehlende Sicherheitskompatibilität zwischen Produktversionen und Komponenten erschwert Reparaturen vor Ort und macht die Sicherheitsgewährleistung noch anspruchsvoller. Hinzu kommt, dass ältere Hard- und Softwarekomponenten, die in Sicherheitsfunktionen eingebettet sind, zusätzliche Innovationsschritte erfordern. Dies erschwert das gewünschte Gleichgewicht zwischen Safety und Innovation weiter.

Unsere Lösungen und Angebote

• Mit unserem Designprozess und unseren Resilienz-Prinzipien entwickeln wir Systeme, die auch bei unbekannten Szenarien, Schäden oder Fehlern sicher und zuverlässig bleiben:
  • Graceful Degradation: Bei einem Ausfall bleibt das System eingeschränkt funktionsfähig, statt vollständig zu versagen. Dies ist besonders in militärischen Operationen entscheidend, da auch eine eingeschränkte Einsatzfähigkeit über den Erfolg oder Misserfolg einer Mission entscheiden kann.
  • Anpassungen vor, während und nach der Mission: Systeme werden vor dem Einsatz auf Missionsanforderungen eingestellt, können sich während der Mission in Echtzeit anpassen und werden nach Abschluss zur Optimierung bewertet. Das erhöht Resilienz und Effektivität in unvorhersehbaren Situationen.
  • Selbstanpassungsfähigkeit und Autonomie: Das System lernt aus seiner Umgebung und trifft eigenständige Entscheidungen, um schnell auf sich ändernde Bedingungen auf dem Schlachtfeld zu reagieren. Diese Autonomie ist besonders in komplexen, dynamischen Szenarien von großem Wert, in denen menschliche Bediener möglicherweise nicht schnell genug reagieren können.
• Wir gestalten Safety-Funktionen neu, um die Auswirkungen von Altkomponenten zu minimieren und nachträgliche Sicherheitsanalysen zu reduzieren.
• Wir integrieren Produktlinien, DevOps und Plattformsysteme nach dem »App-Store«-Prinzip, um die Weiterentwicklung flexibel und schnell voranzutreiben.
   

Jetzt anfragen

Der Einsatz von Künstlicher Intelligenz im Verteidigungsbereich erfordert zuverlässige Echtzeit-KI-Systeme für wichtige Aufgaben wie Informationsbeschaffung, Lageerfassung und Schutz der Streitkräfte. Verteidigungssysteme müssen stets zuverlässig funktionieren und missionskritische Genauigkeit und Resilienz gegenüber aktiven Gegnern gewährleisten. Wir konzentrieren uns auf die Absicherung von KI-Lösungen, um auch in schwierigen Umgebungen zuverlässige Funktionalität zu gewährleisten. Dazu gehören die folgenden Forschungsthemen:
 

Missionskritische Genauigkeit & Unsicherheitsschätzung

Ein zentrales Hindernis bei kritischen Anwendungen ist die fehlende Fähigkeit von Systemen, ihr eigenes Konfidenzniveau einzuschätzen. Gerade im Verteidigungsbereich, wo Fehler schwerwiegende Folgen haben können, ist höchste Zuverlässigkeit unverzichtbar.

Unsere Lösungen und Angebote

• Präzision und Zuverlässigkeit: Wir entwickeln Methoden, um zu bestimmen, inwieweit Modelle und Daten den tatsächlichen Wert der beabsichtigten Eigenschaften in jeweiligen Nutzungskontext korrekt widerspiegeln. So verhindern wir unbeabsichtigtes Verhalten wie Fehlidentifikationen oder übersehene Bedrohungen.
• Erklärbare Zuverlässigkeit: Wir entwickeln Funktionen zur Interpretierbarkeit, die es menschlichen Anwendern ermöglichen, das interne Verhalten von KI zu verstehen. Das ist besonders wichtig ist, wenn Entscheidungen getroffen werden.
   

Resiliente KI-basierte Funktionen

KI-basierte Funktionen müssen widerstandsfähig gegenüber externen Einflüssen wie unvorhergesehenen Ereignissen oder gezielten Manipulationsversuchen durch Dritte sein. Das bedeutet, dass das KI-basierte System auch in dynamischen, unsicheren und nicht-kooperativen Umgebungen zuverlässig funktionieren muss.

Unsere Lösungen und Angebote

• Adaptive Anomalieerkennung: Wir implementieren Mechanismen, die neuartige und unvorhergesehene Muster oder Versuche der Modelltäuschung erkennen und kennzeichnen. So bleibt die Betriebssicherheit auch bei unbekannten Bedrohungen gewährleistet.
• Schutz vor Täuschung und Umgehung: Wir entwickeln KI-Lösungen mit integrierten Funktionen und erhöhter KI-Selbstschutzfähigkeit, um unbeabsichtigte Interaktionen Dritter, wie z. B. feindliche Angriffe zur Täuschung oder Umgehung des Modells, zu verhindern.
• Systemresilienz: Um eine kontinuierliche Bedrohungsüberwachung zu gewährleisten, entwickeln wir Systeme, die sicherstellen, dass die KI-gestützte Plattform nach einem Vorfall oder Angriff schnell wieder betriebsbereit ist.
   

Sicherheitsnachweis für KI-basierte Systeme

Die Entwicklung von KI-basierten Systemen im Verteidigungsbereich erfordert neue Standards und Nachweismethoden, um die Einsatzfähigkeit der Systeme zu gewährleisten. Unsere Forschung konzentriert sich darauf, bestehende Sicherheitsstandards an spezifische Anwendungen und die besonderen Anforderungen an technische Robustheit und Sicherheit im militärischen Bereich anzupassen.

Unsere Lösungen und Angebote

• End-to-End-Tests und Bewertung: Um KI-Systeme zu qualifizieren, definieren wir einen Validierungs- und Verifizierungsprozesses (V&V) und setzen diesen über den gesamten Lebenszyklus um.
• Zertifizierung und Qualifikation: Wir unterstützen Sie bei der Homologation und Zertifizierung, die für die Betriebsfreigabe KI-basierter Systeme notwendig sind.
• Einhaltung rechtlicher Rahmenbedingungen: Wir beraten Sie bereits in der Entwicklungsphase, um sicherzustellen, dass Entwurf und Einsatz von Sensorsystemen mit den erforderlichen Richtlinien, Vorschriften und Standards übereinstimmen. Dies ist eine wesentliche Grundlage für robuste KI-Systeme.

Jetzt anfragen

Im Verteidigungsbereich sind Einsatzszenarien unvorhersehbar. Deshalb ist Resilienz eine zentrale Anforderung für moderne Systeme. Das Fraunhofer IKS entwickelt resiliente Systeme, die sich dynamisch an wechselnde und unsichere Umgebungen anpassen. Dabei optimieren sie gleichzeitig die Safety und den Nutzen. Diese Fähigkeit ist insbesondere für dynamische Verteidigungsanwendungen unverzichtbar, in denen Fehler kaum toleriert werden können.

Warum eine »Emergency Go«-Funktion wichtig ist

Klassische Sicherheitskonzepte setzen bei Unsicherheiten meist darauf, das System anzuhalten. Im Verteidigungskontext ist jedoch oft das Gegenteil entscheidend: Ein »Emergency-Go-Button«, der das Weiterfunktionieren des Systems auch im Notfall ermöglicht, ist wichtiger als ein »Emergency-Stop-Button« oder Not-Aus. Damit wird sichergestellt, dass Systeme auch in einem degradierten Zustand weiterarbeiten können, um essenzielle Funktionen zu erhalten – insbesondere in lebensbedrohlichen Situationen für Panzerbesatzungen oder bei anderen missionskritischen Einsätzen.

Dynamische Risikoanpassung für reale Missionen

Außerdem arbeiten klassische Sicherheitsstandards mit festen Risikoskalen, die schon in der Entwurfsphase festgelegt werden. Während diese für kontrollierte Umgebungen geeignet sind, reichen sie in echten Verteidigungsmissionen nicht aus. Denn hier kann selbst eine eingeschränkte Funktionalität über Erfolg oder Misserfolg entscheidet. Unser Ansatz erweitert deswegen herkömmliche Resilienz, indem Systeme ihre Risikobereitschaft dynamisch zur Laufzeit anpassen können. So können sie in kritischen Situationen gezielt überlebenswichtige und missionskritische Funktionen priorisieren und von Sicherheitsannahmen aus dem Training auf die Anforderungen realer Missionen umschalten.

Unsere Lösungen und Angebote

Das Fraunhofer IKS verfügt über umfangreiche Expertise im Bereich resilienter cyber-physischer Systeme wie autonome Fahrzeuge oder mobile Roboter. Diese Expertise ist auch für Verteidigungstechnologien geeignet. Durch die Integration von Resilienz-Prinzipien stellen wir sicher, dass Verteidigungssysteme auch in unvorhergesehenen Situationen leistungsfähig bleiben und Funktionalität sowie Sicherheit optimal an die unsichersten und dynamischsten Einsatzszenarien anpassen.

Das Fraunhofer IKS bietet Ihnen innovative Forschung und maßgeschneiderte Lösungen, die speziell auf die Herausforderungen des Verteidigungssektors ausgerichtet sind. Egal, ob Sie eine »Emergency-Go«-Funktion implementieren, die Anpassungsfähigkeit von Systemen steigern oder dynamische Sicherheitskonzepte erforschen möchten – wir unterstützen Sie gerne. Kontaktieren Sie uns, um zu erfahren, wie wir Sie beim Aufbau widerstandsfähiger Systeme für moderne Verteidigungsoperationen unterstützen können.

Key Features unserer Resilienz-Lösungen

• Continuous Safety Management: Wir entwickeln Systeme, die Risiken in Echtzeit kontinuierlich bewerten und sich an veränderte Risikolevel anpassen.
• Degradation: Mithilfe von Degradation bleibt die kritische Funktionalität der Systeme erhalten – auch unter erschwerten oder unsicheren Bedingungen.
• Open-World Context Adaptation: Wir entwickeln Systeme, die effektiv in unvorhersehbaren und undefinierten Umgebungen arbeiten können.
• Optimierte Nutzbarkeit: Wir sorgen für ein ausgewogenes Verhältnis von Safety und Leistung, um den Erfolg der Mission auch unter schwierigen Bedingungen zu maximieren.
   

Jetzt anfragen

Im Verteidigungsbereich sind die Anforderungen oft so komplex, dass sie über einzelne Systeme hinausgehen und ganze Systemverbünde (Systems of Systems, SoS) erfordern. Systemverbünde bestehen aus mehreren unabhängigen Systemen, die nahtlos zusammenarbeiten müssen, um übergeordnete Missionsziele zu erreichen. Unvorhersehbare und dynamische Verteidigungsszenarien machen Resilienz für SoS nicht nur wünschenswert, sondern zu einer operativen Notwendigkeit. Das Fraunhofer IKS entwickelt resiliente Systeme, die sich dynamisch an veränderte und unsichere Umgebungen anpassen, dabei die Safety gewährleisten und den Missionsnutzen optimieren.

Dynamische Risikoanpassung in Systemverbünden (SoS)

Klassische Sicherheitsstandards berücksichtigen häufig nicht die dynamische und wechselseitige Art von SoS. Deshalb erweitern wir das Konzept der dynamischen Risikoanpassung auf die Ebene von Systemverbünden. Dies umfasst:

• Risikoanpassung zur Laufzeit: 
  Der Systemverbund passt seine Risikobereitschaft flexibel an die jeweilige Missionsphase und den aktuellen Kontext an. In besonders kritischen Missionsphase können so auch höhere Risiken akzeptiert werden als im Routinebetrieb.
• Verteilte Entscheidungsfindung: Einzelne Systeme innerhalb des Verbunds treffen lokale Entscheidungen, bleiben dabei aber auf die übergeordneten Missionsziele ausgerichtet.
  Skalierbare Degradation: Selbst, wenn einzelne Systeme beeinträchtigt sind oder ausfallen, bleibt der Systemverbund als Ganzes funktionsfähig.

Unsere Lösungen und Angebote

Das Fraunhofer IKS bietet Spitzenforschung und maßgeschneiderte Lösungen für die speziellen Anforderungen von Verteidigungs-Systemverbünden, einschließlich der Integration neuer und bestehender Systeme in ein gemeinsames SoS. Unsere Expertise in den Bereichen Resilienz, dynamische Sicherheit und adaptive Systeme stellt sicher, dass Ihr Systemverbund auch unter schwierigsten und unvorhersehbaren Bedingungen zuverlässig arbeitet.

Egal, ob Sie eine »Emergency Go«-Funktion auf SoS-Ebene umsetzen, die Anpassungsfähigkeit zwischen unterschiedlichen Systemen verbessern oder dynamische Sicherheitskonzepte erforschen möchten – wir unterstützen Sie gerne. Kontaktieren Sie uns, um zu erfahren, wie wir Ihnen helfen können, resiliente Systemverbünde zu entwickeln, die Sicherheit und Leistung für moderne Verteidigungsoperationen neu definieren.

Jetzt anfragen

Wir erforschen Quantencomputing und quanteninspirierte KI-Methoden, um technologische Herausforderungen in der Verteidigungsindustrie zu lösen.

Erfahren Sie mehr auf unserer Quantencomputing-Seite.

Jetzt anfragen