Safety Engineering am Fraunhofer IKS

Die Elektronik von Fahrzeugen und Industrieanlagen wird immer komplexer. Damit steigen sowohl die Anforderungen an die eingesetzte Technik, als auch an die Sicherheit. Um die hohen Sicherheitsansprüche zu erfüllen, spielt Safety Engineering eine wichtige Rolle. Deshalb forscht das Fraunhofer-Institut für Kognitive Systeme IKS genau in diesem für viele Industriezweige wichtigen Bereich.

 

Direkt Kontakt aufnehmen

Was ist Safety Engineering?

Safety Engineering ist ein Teilbereich der Ingenieurswissenschaften. Zu den zentralen Aufgaben des Safety Engineering gehört es, mit Hilfe von Analysen und Maßnahmen die Sicherheit von Systemen zu gewährleisten und zu verbessern.

Das umfasst die Konzeption, Planung und Umsetzung von Maßnahmen, die zur Erhöhung der Sicherheit auf allen relevanten Ebenen eines Projekts oder Prozesses notwendig sind. Als Maßstab für die gewünschten Sicherheitslevels können individuelle Sicherheitsanforderungen sowie Sicherheitsnormen wie DIN- oder ISO-Normen herangezogen werden. Abhängig von der jeweiligen Produktions- und Arbeitsumgebung können entsprechende Sicherheitszertifizierungen notwendig sein, um rechtliche normative Vorgaben zu erfüllen.

Sicherheit als Ideal ist eines der obersten Ziele im Ingenieurswesen

Wer Systeme konzipiert, plant und umsetzt, möchte dabei größtmögliche Sicherheit erzielen. Dabei ist jeder Ingenieurin und jedem Ingenieur bewusst, dass es sich bei »Sicherheit« niemals um absolute Sicherheit handelt. Absolute Sicherheit ist ein Ideal, das für jedes Projekt angesetzt wird, ein Risiko oder eine Unsicherheit bleibt jedoch immer. Mit Hilfe der Methoden im Safety Engineering können alle Beteiligten versuchen, diesem Ideal so nahe wie möglich zu kommen und die Unsicherheiten zu minimieren, indem Sicherheitslücken geschlossen und kritische Systeme so gut wie möglich abgesichert werden. Safety Engineering ist in diesem Zusammenhang auch nicht als ein abgeschlossenes Bündel aus Maßnahmen zu sehen, sondern als ein Ansatz für die kontinuierliche Evaluierung und Verbesserung der Sicherheit.

Wichtige Methoden im Safety Engineering

Im Safety Engineering kommen unterschiedliche Methoden zum Einsatz, um potenzielle Gefahren zu identifizieren und abzuschwächen oder zu beseitigen.

Kleine grüne Blätter
© iStock.com/Jasmina007
Safety by Design: So wird Safety schon von Anfang an mitgedacht.

Safety by Design

Ein wichtiges Ziel für Safety Engineers besteht darin, systemimmanente Gefahren so früh wie möglich im Prozess zu identifizieren und Safety bereits in der Entwicklung zu berücksichtigen. So arbeitet Yuan Liao vom Fraunhofer IKS im Rahmen des European Training Network for Safer Autonomous Systems an einem »Safety by Design«-Ansatz für autonome Systeme. Diese müssen sich insbesondere in sicherheitskritischen Bereichen selbstständig anpassen können. Um Fehlfunktionen zu vermeiden, forscht Yuan Liao an der Entwicklung KI-basierter Algorithmen zur Verbesserung der autonomen Fähigkeiten unter gleichzeitiger Gewährleistung der Sicherheit.

Adaptive Safety

Eine weitere Methode von Sicherheitsingenieurinnen und -ingenieuren ist es, Systeme so zu planen, dass diese über Sicherheitsreserven verfügen. So werden zum Beispiel bei einer Produktionsanlage typischerweise kontinuierlich unterschiedliche Parameter überwacht, um im Falle eines Fehlers die Notabschaltung einer Maschine einzuleiten und so letztendlich einen sicheren Zustand zu erreichen. Damit nicht jeder Fehler zu einem kompletten Stillstand führt, forscht das Fraunhofer IKS an »adaptive safety«, also an adaptiven Sicherheitskonzepten. Mit solchen Konzepten lassen sich unterschiedliche Eskalationsstufen festlegen, innerhalb derer die Sicherheitsmechanismen greifen sollen. In einer Industrieanlage wird dann beispielsweise nur ein bestimmter Bereich einer Maschine gestoppt oder die Geschwindigkeit eines autonomen Systems verringert. Dadurch bleibt der Minimalbetrieb des Systems erhalten.

Sofern sich durch eine Notabschaltung kein sicherer Zustand erreichen lässt, wie es z.B. beim autonomen Fahren der Fall ist, sind weiterreichende Absicherungslösungen erforderlich. Auch hier forscht das Fraunhofer IKS an Verfahren, um kosteneffizient ein vollständiges Fail-Operational-Verhalten zu ermöglichen.

Industrieanlage
© iStock.com/zorazhuang
Durch »adaptive safety« werden Stillstände in der Industrie vermieden.
Wald aus der Vogelperspektive
© iStock.com/franckreporter
Mit Echtzeit-Safety-Contracts bleiben Systeme auch zur Laufzeit sicher.

Safety Engineering in Echtzeit

Doch Safety Engineering ist nicht nur in der Konzeption und Planung wichtig, sondern sorgt auch zur Laufzeit für einen sicheren und fortlaufenden Betrieb der Systeme. Komplexe, autonome Systeme stellen dabei eine besondere Herausforderung dar, da sie sich kontinuierlich weiterentwickeln. Um dieser Herausforderung zu begegnen und gleichzeitig ein sicheres Systemverhalten gewährleisten zu können, forscht beispielsweise João-Vitor Zacchi am Fraunhofer IKS an einer dynamischen Sicherheitsstrategie durch Echtzeit-Safety-Contracts. Mit ihnen können sich interagierende autonome Systeme gegenseitig abstimmen. Die Handlungen von autonomen Systemen und auch Abweichungen vom beabsichtigten Verhalten werden damit besser vorhersehbar.

Direkt Kontakt aufnehmen

In welchen Bereichen kommt Safety Engineering zum Einsatz?

Die Methoden des Safety Engineering lassen sich in nahezu allen Branchen anwenden. Vor allem im Automotive-Bereich, in dem Sicherheitssysteme und -standards eine lange Tradition haben, spielt Safety Engineering eine zentrale Rolle, z.B. bei Sicherheitskonzepten für das autonome Fahren.

In der Industrie gibt es ebenfalls großen Bedarf an Safety Engineering. Hier arbeiten Ingenieurinnen und Ingenieure beispielsweise im Rahmen von Industrie-4.0-Initiativen an einer automatisierten Fertigung auf der Basis von Maschinellem Lernen oder Künstlicher Intelligenz.

Safety Engineering in unserem Safe Intelligence Onlinemagazin

 

Interview mit Edith Holland / 12.6.2025

»Safety ist ein Schlüsselaspekt für die Akzeptanz des automatisierten Fahrens«

Edith Holland ist neue Programmbeirat der Safetronic und Chefingenieurin für funktionale Sicherheit bei HORIBA MIRA. Im Interview sprach über ihre Motivation und die Bedeutung der Sicherheit für Straßenfahrzeuge heute und in Zukunft.

 

Künstliche Intelligenz / 24.4.2025

Generative AI: eine Revolution für das Gesundheitswesen?

Künstliche Intelligenz und vor allem LLMs gelten vielen als Hoffnungsträger für ein überfordertes Gesundheitssystem. Vor allem könnte KI-basierte Automation bei Aufgaben des Wissensmanagements schnell Entlastung bringen. Bis es so weit ist, müssen Probleme mit Security und Safety gelöst sowie rechtliche Anforderungen erfüllt werden. Die Forschung des Fraunhofer IKS nimmt sich beider Themen an.

 

Safetronic 2025 / 2.4.2025

Ganzheitliche Sicherheit von Straßenfahrzeugen im Fokus

Fast ein Vierteljahrhundert! Genauer gesagt 24 Jahre gibt es die Safetronic, die internationale Fachtagung für die ganzheitliche Sicherheit von Straßenfahrzeugen, schon. In dieser Zeit hat sich viel getan – und das soll auch so bleiben.

 

Serie DEEP, Teil 1 / 18.12.2024

Zuverlässige KI ermöglicht Automatisierung von Qualitätsinspektion in der Industrie

Machine Learning (ML) gilt als Hoffnungsträger für die Automatisierung von Qualitätskontrollen in der Produktion, und das auch bei komplexen Anforderungen. Allerdings erfordern ML-Ansätze genügend große Datensätze, um das System zu trainieren, die häufig nicht zur Verfügung stehen. Die ML-Toolkette DEEP (Data Efficient Evaluation Platform) des Fraunhofer IKS schafft hier Abhilfe.

 

Maschinelles Lernen / 1.8.2024

Metriken als Gradmesser für KI-Sicherheit: Reicht das aus?

Maschinelles Lernen (ML) wird oft anhand von Metriken wie Accuracy, Precision, Recall, F1-Score etc. bewertet. Doch wie vertrauenswürdig sind diese einzelnen Werte wirklich? Diese Metriken geben nur einen Teil der Realität wieder und können ein falsches Gefühl der Sicherheit vermitteln. Besonders in sicherheitskritischen Bereichen kann das gefährlich werden. Das Fraunhofer IKS arbeitet an einem formalen Framework, mit dem sich die Unsicherheit quantifizieren lässt. Damit werden Restrisiken »berechenbarer«.

 

Safe Intelligence
Onlinemagazin

Möchten Sie mehr über die Forschung des Fraunhofer IKS zu Safety Engineering erfahren? Dann schauen Sie in unserem Safe Intelligence Onlinemagazin vorbei:

Jetzt Kontakt aufnehmen

Kontaktieren Sie uns unverbindlich über das untenstehende Kontaktformular. Wir freuen uns auf Ihre Anfrage und setzen uns schnellstmöglich mit Ihnen in Verbindung.

Vielen Dank für Ihr Interesse am Fraunhofer IKS.

Wir haben Ihnen soeben eine Bestätigungsmail geschickt. Sollten Sie in den nächsten Minuten keine E-Mail erhalten, prüfen Sie bitte Ihren Spam-Ordner oder schicken Sie uns eine E-Mail an business.development@iks.fraunhofer.de.

* Pflichtfelder

Es ist ein Fehler aufgetreten. Bitte versuchen Sie es erneut oder kontaktieren Sie uns per E-Mail:
business.development@iks.fraunhofer.de

Thematischer Fokus (optional)