Fraunhofer-Institut für Kognitive Systeme IKS
Fraunhofer-Institut für Kognitive Systeme IKS

Vertrauenswürdige autonome Systeme

Zwei Forscher des Fraunhofer IKS arbeiten im vom EU-Innovations-Rahmenwerk »Horizon 2020« geförderten Projekt »European Training Network for Safer Autonomous Systems«. Ziel des europaweiten Forschungsprojekts ist es, Sicherheitsstrategien für alle Stufen der Entwicklung autonomer Systeme zu erarbeiten. Der Fokus der IKS-Forscher liegt darauf inhärent sichere Software-Architekturen zu entwerfen.

Datenschutz und Datenverarbeitung

Wir setzen zum Einbinden von Videos den Anbieter YouTube ein. Wie die meisten Websites verwendet YouTube Cookies, um Informationen über die Besucher ihrer Internetseite zu sammeln. Wenn Sie das Video starten, könnte dies Datenverarbeitungsvorgänge auslösen. Darauf haben wir keinen Einfluss. Weitere Informationen über Datenschutz bei YouTube finden Sie in deren Datenschutzerklärung unter: https://policies.google.com/privacy

MSCA ETN SAS - European Training Network for Safer Autonomous Systems

Sicherheit, die bereits im Software-Design verankert ist

Im Trainingsprogramm wird die Nachwuchs-Elite im Bereich sichere autonome Systeme gefördert und ausgebildet. Die ausgewählten Wissenschaftlerinnen und Wissenschaftler sollen in ihrer gemeinsamen Forschung einen geschulten Blick auf autonome Systeme entwickeln mit besonderem Fokus auf Safety. Das Projekt verfolgt dabei einen holistischen Ansatz und ist in aufeinander aufbauende Teilprojekte strukturiert, die sich über den gesamten Innovationsweg autonomer Systeme erstrecken. Von der Entwicklung robuster Software-Architekturen, über kontinuierliches Safety Management bis hin zur Anwendung in konkreten Case Studies. Das zentrale Ziel des Projekts ist es, Sicherheitsstrategien für autonome Systeme zu entwickeln. So können Nutzer den Technologien vertrauen.

Inherently safe systems: Von Haus aus sichere Systeme

Die beiden Forscher des Fraunhofer IKS arbeiten an der Entwicklung inhärent sicherer autonomer Systeme. Nur durch diesen Safety-by-Design-Ansatz kann die Sicherheit intelligenter Systeme garantiert werden. Durch die Integration von leistungsstarken Absicherungsmechanismen direkt im Design der Kognitiven Systeme, können Hersteller und Nutzer auf die sichere Funktion des Systems vertrauen.

Safety by Design

Die Forscher des Fraunhofer IKS behandeln zum einen Echtzeit-Adaption und Fehlertoleranz-Mechanismen. Zum anderen ein darauf aufbauendes dynamisches Safety-Handling zur Laufzeit über Real-Time-Safety-Contracts.

Echtzeit-Adaption und Fehlertoleranz-Mechanismen

Echtzeit-Adaption erweitert die autonomen Fähigkeiten von intelligenten Systemen. Allerdings entstehen durch adaptive Software-Architekturen auch neue Sicherheitsrisiken für das Gesamtsystem. Klassische Absicherungsmethoden gehen von Worst-Case-Bedingungen aus, schränken aber dadurch die Freiheitsgrade des Systems sehr stark ein. Daher entwickeln die Forscher der Fraunhofer IKS dynamische Anpassungsstrategien. Unsichere Middleware kann eine Fehlerquelle sein, weshalb der Nachwuchsforscher Yuan Liao eine Plattform für sichere adaptive Systeme entwickelt. Sie erkennt sicherheitskritische Software-Komponenten und schaltet automatisch auf eine Sicherheitseinstellung, um sich automatisch an die höheren Sicherheitsanforderungen anzupassen. Viele Entwickler verbessern im Design neuer Software-Plattformen in erster Linie die Performance durch Marker wie die Datenrate, Latenz und Speicherverbrauch. Yuan Liao und seine Kolleginnen und Kollegen am Fraunhofer IKS arbeiten daran, gleichzeitig auch die Robustheit und Verlässlichkeit der Systeme zu verbessern. Diese Sicherheit auch unter kritischen inneren oder äußeren Bedingungen des Systems muss prüfbar sein, was die Forschenden über modellbasierte Analysetechniken umsetzen.

Dynamisches Safety Handling durch Run-Time Safety Contracts

Das Ziel des zweiten Teilprojekts ist es, Absicherungs-Strategien zu entwerfen, die Design-Maßnahmen (beispielsweise Adaptive Software-Architekturen) und Informationen aus gesammelten Daten vereinen. Denn autonome Systeme lernen und entwickeln sich laufend weiter. Deshalb muss die Absicherung als ein fortlaufender Prozess gesehen werden. João-Vitor Zacchi vom Fraunhofer IKS will zum einen bei der Absicherung des Systems die Performance nicht aus den Augen verlieren. Zum anderen soll die Sicherheit interagierender autonomer Systeme nicht für sich gesehen werden. In einem Verkehrssystem mit autonomen Fahrzeugen kann die Sicherheit der gesamten Verkehrssituation nur dann erhöht werden, wenn die einzelnen Fahrzeuge untereinander kommunizieren und dadurch weitere Informationen über ihre Umgebung erhalten. Diese Idee setzen die Forschenden am IKS über Echtzeit-Safety-Contracts um. Die einzelnen Systeme einigen sich dabei einvernehmlich darüber, welche Grenzen die einzelnen Systeme nicht überschreiten dürfen und stimmen ihr Verhalten so aufeinander ab. Das ist vergleichbar mit einfachen Handzeichen mit denen sich menschlichen Verkehrsteilnehmer verständigen und ihr Verhalten aufeinander abstimmen.

Marie Skłodowska-Curie Actions

Die Forscher Yuan Liao und João-Vitor Zacchi werden über das Marie Skłodowska-Curie Actions Research Fellowship Programm bei ihrer Forschung gefördert. Das Programm unterstützt besonders engagierte Nachwuchswissenschaftlerinnen und -wissenschaftler. Als ausgewählte Mitglieder des European Training Network for Safer Autonomous Systems werden sie in der frühen Phase ihrer Karriere unterstützt und mit Experten und Gleichgesinnten vernetzt. Institutionen aus der Wirtschaft und Forschung nehmen die Stipendiaten auf und fördern sie durch Ideenaustausch und die Möglichkeit ihre Lösungen in der Praxis anzuwenden.

This project has received funding from the European Union's EU Framework Programme for Research and Innovation Horizon 2020 under Grant Agreement No # 812788