Safety Engineering am Fraunhofer IKS

Die Elektronik von Fahrzeugen und Industrieanlagen wird immer komplexer. Damit steigen sowohl die Anforderungen an die eingesetzte Technik, als auch an die Sicherheit. Um die hohen Sicherheitsansprüche zu erfüllen, spielt Safety Engineering eine wichtige Rolle. Deshalb forscht das Fraunhofer-Institut für Kognitive Systeme IKS genau in diesem für viele Industriezweige wichtigen Bereich.

Was ist Safety Engineering?

Safety Engineering ist ein Teilbereich der Ingenieurswissenschaften. Zu den zentralen Aufgaben des Safety Engineering gehört es, mit Hilfe von Analysen und Maßnahmen die Sicherheit von Systemen zu gewährleisten und zu verbessern.

Das umfasst die Konzeption, Planung und Umsetzung von Maßnahmen, die zur Erhöhung der Sicherheit auf allen relevanten Ebenen eines Projekts oder Prozesses notwendig sind. Als Maßstab für die gewünschten Sicherheitslevels können individuelle Sicherheitsanforderungen sowie Sicherheitsnormen wie DIN- oder ISO-Normen herangezogen werden. Abhängig von der jeweiligen Produktions- und Arbeitsumgebung können entsprechende Sicherheitszertifizierungen notwendig sein, um rechtliche normative Vorgaben zu erfüllen.

Sicherheit als Ideal ist eines der obersten Ziele im Ingenieurswesen

Wer Systeme konzipiert, plant und umsetzt, möchte dabei größtmögliche Sicherheit erzielen. Dabei ist jeder Ingenieurin und jedem Ingenieur bewusst, dass es sich bei »Sicherheit« niemals um absolute Sicherheit handelt. Absolute Sicherheit ist ein Ideal, das für jedes Projekt angesetzt wird, ein Risiko oder eine Unsicherheit bleibt jedoch immer. Mit Hilfe der Methoden im Safety Engineering können alle Beteiligten versuchen, diesem Ideal so nahe wie möglich zu kommen und die Unsicherheiten zu minimieren, indem Sicherheitslücken geschlossen und kritische Systeme so gut wie möglich abgesichert werden. Safety Engineering ist in diesem Zusammenhang auch nicht als ein abgeschlossenes Bündel aus Maßnahmen zu sehen, sondern als ein Ansatz für die kontinuierliche Evaluierung und Verbesserung der Sicherheit.

Wichtige Methoden im Safety Engineering

Im Safety Engineering kommen unterschiedliche Methoden zum Einsatz, um potenzielle Gefahren zu identifizieren und abzuschwächen oder zu beseitigen.

Kleine grüne Blätter
© iStock.com/Jasmina007
Safety by Design: So wird Safety schon von Anfang an mitgedacht.

Safety by Design

Ein wichtiges Ziel für Safety Engineers besteht darin, systemimmanente Gefahren so früh wie möglich im Prozess zu identifizieren und Safety bereits in der Entwicklung zu berücksichtigen. So arbeitet Yuan Liao vom Fraunhofer IKS im Rahmen des European Training Network for Safer Autonomous Systems an einem »Safety by Design«-Ansatz für autonome Systeme. Diese müssen sich insbesondere in sicherheitskritischen Bereichen selbstständig anpassen können. Um Fehlfunktionen zu vermeiden, forscht Yuan Liao an der Entwicklung KI-basierter Algorithmen zur Verbesserung der autonomen Fähigkeiten unter gleichzeitiger Gewährleistung der Sicherheit.

Adaptive Safety

Eine weitere Methode von Sicherheitsingenieurinnen und -ingenieuren ist es, Systeme so zu planen, dass diese über Sicherheitsreserven verfügen. So werden zum Beispiel bei einer Produktionsanlage typischerweise kontinuierlich unterschiedliche Parameter überwacht, um im Falle eines Fehlers die Notabschaltung einer Maschine einzuleiten und so letztendlich einen sicheren Zustand zu erreichen. Damit nicht jeder Fehler zu einem kompletten Stillstand führt, forscht das Fraunhofer IKS an »adaptive safety«, also an adaptiven Sicherheitskonzepten. Mit solchen Konzepten lassen sich unterschiedliche Eskalationsstufen festlegen, innerhalb derer die Sicherheitsmechanismen greifen sollen. In einer Industrieanlage wird dann beispielsweise nur ein bestimmter Bereich einer Maschine gestoppt oder die Geschwindigkeit eines autonomen Systems verringert. Dadurch bleibt der Minimalbetrieb des Systems erhalten.

Sofern sich durch eine Notabschaltung kein sicherer Zustand erreichen lässt, wie es z.B. beim autonomen Fahren der Fall ist, sind weiterreichende Absicherungslösungen erforderlich. Auch hier forscht das Fraunhofer IKS an Verfahren, um kosteneffizient ein vollständiges Fail-Operational-Verhalten zu ermöglichen.

Industrieanlage
© iStock.com/zorazhuang
Durch »adaptive safety« werden Stillstände in der Industrie vermieden.
Wald aus der Vogelperspektive
© iStock.com/franckreporter
Mit Echtzeit-Safety-Contracts bleiben Systeme auch zur Laufzeit sicher.

Safety Engineering in Echtzeit

Doch Safety Engineering ist nicht nur in der Konzeption und Planung wichtig, sondern sorgt auch zur Laufzeit für einen sicheren und fortlaufenden Betrieb der Systeme. Komplexe, autonome Systeme stellen dabei eine besondere Herausforderung dar, da sie sich kontinuierlich weiterentwickeln. Um dieser Herausforderung zu begegnen und gleichzeitig ein sicheres Systemverhalten gewährleisten zu können, forscht beispielsweise João-Vitor Zacchi am Fraunhofer IKS an einer dynamischen Sicherheitsstrategie durch Echtzeit-Safety-Contracts. Mit ihnen können sich interagierende autonome Systeme gegenseitig abstimmen. Die Handlungen von autonomen Systemen und auch Abweichungen vom beabsichtigten Verhalten werden damit besser vorhersehbar.

In welchen Bereichen kommt Safety Engineering zum Einsatz?

Die Methoden des Safety Engineering lassen sich in nahezu allen Branchen anwenden. Vor allem im Automotive-Bereich, in dem Sicherheitssysteme und -standards eine lange Tradition haben, spielt Safety Engineering eine zentrale Rolle, z.B. bei Sicherheitskonzepten für das autonome Fahren.

In der Industrie gibt es ebenfalls großen Bedarf an Safety Engineering. Hier arbeiten Ingenieurinnen und Ingenieure beispielsweise im Rahmen von Industrie-4.0-Initiativen an einer automatisierten Fertigung auf der Basis von Maschinellem Lernen oder Künstlicher Intelligenz.

Safe Intelligence Magazin

Das sind die neuesten Artikel auf unserem Bog im Bereich Safety Engineering.

 

Artificial Intelligence / 25.6.2020

Why Safety Matters

Machine learning means a disruptive challenge for safety assurance. It’s therefore no surprise that AI safety has gained much more attention over the past few months. This article focuses on the basic understanding of what safety actually means. It highlights why it is so important to understand that safe AI has less to do with AI itself and much more to do with safety engineering.

 

5.6.2020

Safety Assurance – autonome Systeme stimmen sich ab

Das European Training Network for Safer Autonomous Systems (ETN SAS) hat zum Ziel, autonome Systeme zu schaffen, auf die sich Nutzerinnen und Nutzer verlassen können. João-Vitor Zacchi vom Fraunhofer IKS arbeitet dafür an Safety-Handling-Strategien für komplexe autonome Systeme.

Wie kann man mit Unsicherheiten umgehen?

Unsicherheit (uncertainty) und der Umgang damit spielt insbesondere bei Künstlicher Intelligenz eine wichtige Rolle für die Verlässlichkeit der Systeme und das Vertrauen in die Technologie. Wie man damit umgehen kann, beantworten zwei Artikel auf unserem Blog:

 

 

 

18.5.2020

Safety by Design – Entwicklung sicherheitsbewusster autonomer Systeme

Zwei Forscher des Fraunhofer IKS arbeiten derzeit als Teil des European Training Network for Safer Autonomous Systems. Wir möchten Ihnen die Forscher und ihre Projekte vorstellen, die darauf abzielen, inhärent sichere autonome Systeme zu entwickeln. Den Anfang macht Yuan Liao.

 

Industrie 4.0 / 23.4.2020

Vom Schutzzaun zur kognitiven Produktionsanlage: vier Szenarien für adaptive safety in der Industrie

Herkömmliche Schutzeinrichtungen für Menschen in der industriellen Fertigung gehen auf Kosten der Effizienz. Kognitive Produktionssysteme und adaptive safety sorgen für Sicherheit und reduzieren Einschränkungen der Produktion deutlich.