Fraunhofer-Institut für Kognitive Systeme IKS

»Künstliche Intelligenz: Wie Roboterautos unfallfrei fahren.« Das ist der Titel des Vortrags von apl. Prof. Dr. habil. Mario Trapp, geschäftsführender Institutsleiter des Fraunhofer IKS, bei »Campus Talks« auf ARD-alpha. Den Beitrag können Sie hier auf unserem Blog sehen und natürlich bei »Campus Talks«.

Auf unserem Blog, dem Safe Intelligence Magazin, stellen wir unsere Themen vor und geben Einblicke in den Institutsalltag. Hier bleiben Sie immer auf dem Laufenden.

Pünktlich zur Eröffnungsfeier des Fraunhofer-Instituts für Kognitive Systeme IKS ist auch der erste Jahresbericht unter neuem Namen erschienen. Dazu gehört das Safe Intelligence Magazin, das Einblicke in die Arbeit des Fraunhofer IKS gewährt.

Das Fraunhofer ESK wird ausgebaut und so zum Fraunhofer-Institut für Kognitive Systeme IKS. Geplant ist dieser Schritt, weil sich die Anforderungen und Erwartungen beim Einsatz künstlicher Intelligenz deutlich erweitert haben. Künftig sollen am Institut Bereiche wie Software-Architekturen, modellbasierte Software-Entwicklung für dynamische, lernende Systeme sowie KI für autonome Systeme deutlich stärker erforscht werden. Im Interview erklärt Institutsleiter Prof. Mario Trapp die Hintergründe.

Diese Frage beantwortet Mario Trapp, Institutsleiter am Fraunhofer ESK (heute: Fraunhofer IKS), im Industrieanzeiger. Der Artikel zeigt, wie intransparente KI-Systeme abgesichert werden können, um die Vorteile von Künstlicher Intelligenz auch in sicherheitskritischen Bereichen zu nutzen. 

Bei autonomen Systemen oder in der Medizintechnik ist es nötig, die Unsicherheit von Verfahren des Machine Learning (ML) zuverlässig zu bestimmen. Deswegen vergleichen wir vier State-of-the-art-Methoden für die Quantifizierung der Unsicherheit tiefer neuronaler Netze (Deep Neural Network, DNN) im Kontext sicherheitskritischer Systeme – damit die KI lernt, wann Zweifel angebracht sind.

Fehler in autonomen Fahrzeugen gefährden Menschen und können schnell zu Unfällen mit schweren Verletzungen und sogar zu Verkehrstoten führen. Entsprechend müssen gerade auch für Kognitive Systeme und die darin enthaltene Künstliche Intelligenz (KI) stringente Sicherheitsnachweise erbracht werden.

Dr. Petra Steffens, Leiterin des Innovationsprogramms »Kognitive Systeme« am Fraunhofer IKS, spricht im Interview über das Vorgehen und die Ziele beim Aufbau des Instituts.

Unterstützen Sie uns dabei, die Zukunft autonomer Systeme aktiv mitzugestalten und zu prägen.