Jahresmagazine und Jahresberichte

Gewinnen Sie Einblicke in unsere Arbeit

In der letzten gedruckten Ausgabe des Safe Intelligence Magazins stellt sich das Fraunhofer-Institut für kognitive Systeme IKS vor.

u.a. mit einem Interview mit Mario Trapp und Simon Burton sowie Fachbeiträgen unserer Forscherinnen und Forscher.

Hier finde Sie unsere Jahresberichte der letzten Jahre. Vor 2019 waren wir noch das Fraunhofer ESK.

Delphine Kervarec-Vicq, Product Safety Director bei Valeo, ist neu im Programmbeirat der Safetronic, der internationalen Fachtagung für die ganzheitliche Sicherheit von Straßenfahrzeugen. Im Interview mit dem Safe Intelligence Onlinemagazin spricht sie über ihre Motivation, dort mitzuarbeiten und erläutert den Stellenwert von Safety für das automatisierte Fahren.

Nicht nur Unternehmensberatungen, auch andere wichtige Unternehmen sehen die steigende Bedeutung von Ferngesteuertem Fahren (Remote Driving Systems, RDS) für den Verkehr der Zukunft. Aber ist das Konzept auch sicher genug? Ein umfangreicher zweijähriger Betrieb ohne Sicherheitsfahrer hat die technische Machbarkeit und Sicherheit von RDS bestätigt. Und nicht nur das: Ein umfassender Schulungsrahmen für Remote Driver hat nachweislich die Leistung und die Sicherheit verbessert.

Die Absicherung von KI-Funktionen im Fahrzeug bleibt eine Herausforderung, die Schritt für Schritt gemeistert werden muss. Dabei gibt es sichtbare Fortschritte auf dem Weg zum autonomen Fahren, sagt Dr. Reinhard Stolle, stellvertretender Institutsleiter des Fraunhofer IKS. Und voraussichtlich lässt sich der Erfolg von ChatGPT & Co. auch für hochautomatisierte Fahrzeuge nutzen.

Autonomes Fahren soll nicht nur die Straßen erobern, sondern bietet auch im Schienenverkehr enormes Potenzial für fahrerlose Züge. Ein Beleg dafür ist das Projekt safe.trAIn, in dem das Fraunhofer IKS die zentrale Aufgabe der methodischen Absicherung der KI-Funktionen übernommen hat.

Maschinelles Lernen (ML) wird häufig durch Metriken wie Accuracy, Precision, Recall und F1-Score bewertet. Doch wie vertrauenswürdig sind diese Kennzahlen tatsächlich? Sie spiegeln lediglich einen Teil der Realität wider und können ein irreführendes Gefühl von Sicherheit erzeugen. Dies kann insbesondere in sicherheitskritischen Bereichen gefährlich werden. Das Fraunhofer IKS entwickelt ein formales Framework, um die Unsicherheit quantifizieren zu können, wodurch Restrisiken »berechenbarer« werden.

Künstliche Intelligenz, insbesondere große Sprachmodelle (LLMs), werden von vielen als Schlüsselressource für ein überlastetes Gesundheitssystem betrachtet. Besonders die KI-gestützte Automatisierung könnte bei der Bewältigung von Wissensmanagement-Aufgaben schnell Entlastung schaffen. Bevor es soweit ist, müssen Herausforderungen im Bereich Security und Safety sowie rechtliche Vorgaben berücksichtigt werden. Die Forschung des Fraunhofer IKS widmet sich diesen beiden Aspekten.

Wie kann der Bahnverkehr attraktiver und effizienter werden? Eine Antwort darauf sollen KI-Systeme liefern, die in den Bahnbetrieb integriert werden. Dies ist jedoch mit einigen Herausforderungen verbunden. Ganz oben steht die Sicherheit, aber auch die Fahrgastzahlen sollen steigen.