Jahresmagazine und Jahresberichte

Gewinnen Sie Einblicke in unsere Arbeit

In der letzten gedruckten Ausgabe des Safe Intelligence Magazins stellt sich das Fraunhofer-Institut für kognitive Systeme IKS vor.

u.a. mit einem Interview mit Mario Trapp und Simon Burton sowie Fachbeiträgen unserer Forscherinnen und Forscher.

Hier finde Sie unsere Jahresberichte der letzten Jahre. Vor 2019 waren wir noch das Fraunhofer ESK.

Die Sicherheit eines Produkts, d. h. die Tatsache, dass es keinen Schaden verursacht, ist eine entscheidende Eigenschaft für anhaltenden Erfolg auf dem Markt und die Vermeidung rechtlicher Risiken für den Hersteller. Da jedoch vollkommene Sicherheit in der Regel nicht erreichbar ist, stellt sich die Frage, was akzeptable Sicherheit und was akzeptable Risiken ausmacht, oder anders gesagt: Wie sehen doe Risikoakzeptanz-Kriterien (RAC) aus.

Beratungsprojekte spielen eine entscheidende Rolle, um die Fraunhofer-Mission zu erfüllen, nämlich Spitzenforschung in industrielle Anwendungen zu bringen. Vor kurzem arbeitete das Fraunhofer IKS zusammen mit dem südkoreanischen Unternehmen ZIOVISION an der KI-basierten Segmentierung von Gesichtsfrakturen aus medizinischen Bildern. Der erfolgreiche Abschluss des Projekts zeigt die potenziellen Vorteile, die solche Kooperationen für beide Partner bieten.

Delphine Kervarec-Vicq, Product Safety Director bei Valeo, ist neu im Programmbeirat der Safetronic, der internationalen Fachtagung für die ganzheitliche Sicherheit von Straßenfahrzeugen. Im Interview mit dem Safe Intelligence Onlinemagazin spricht sie über ihre Motivation, dort mitzuarbeiten und erläutert den Stellenwert von Safety für das automatisierte Fahren.

Nicht nur Unternehmensberatungen, auch andere wichtige Unternehmen sehen die steigende Bedeutung von Ferngesteuertem Fahren (Remote Driving Systems, RDS) für den Verkehr der Zukunft. Aber ist das Konzept auch sicher genug? Ein umfangreicher zweijähriger Betrieb ohne Sicherheitsfahrer hat die technische Machbarkeit und Sicherheit von RDS bestätigt. Und nicht nur das: Ein umfassender Schulungsrahmen für Remote Driver hat nachweislich die Leistung und die Sicherheit verbessert.

Die Absicherung von KI-Funktionen im Fahrzeug bleibt eine Herausforderung, die Schritt für Schritt gemeistert werden muss. Dabei gibt es sichtbare Fortschritte auf dem Weg zum autonomen Fahren, sagt Dr. Reinhard Stolle, stellvertretender Institutsleiter des Fraunhofer IKS. Und voraussichtlich lässt sich der Erfolg von ChatGPT & Co. auch für hochautomatisierte Fahrzeuge nutzen.

Autonomes Fahren soll nicht nur die Straßen erobern, sondern bietet auch im Schienenverkehr enormes Potenzial für fahrerlose Züge. Ein Beleg dafür ist das Projekt safe.trAIn, in dem das Fraunhofer IKS die zentrale Aufgabe der methodischen Absicherung der KI-Funktionen übernommen hat.

Maschinelles Lernen (ML) wird häufig durch Metriken wie Accuracy, Precision, Recall und F1-Score bewertet. Doch wie vertrauenswürdig sind diese Kennzahlen tatsächlich? Sie spiegeln lediglich einen Teil der Realität wider und können ein irreführendes Gefühl von Sicherheit erzeugen. Dies kann insbesondere in sicherheitskritischen Bereichen gefährlich werden. Das Fraunhofer IKS entwickelt ein formales Framework, um die Unsicherheit quantifizieren zu können, wodurch Restrisiken »berechenbarer« werden.