Künstliche Intelligenz: Forschung am Fraunhofer IKS

Künstliche Intelligenz: Forschung und Entwicklung in Deutschland

Auf der KI-Landkarte des Bundesministeriums für Bild und Forschung (BMBF) werden aktuell über 90 Institutionen aufgeführt, die sich in Deutschland mit Künstlicher Intelligenz und der dazugehörigen Forschung befassen, darunter auch das Fraunhofer-Institut für Kognitive Systeme IKS. Die Plattform, die auch in Kooperation mit dem Bundesministerium für Wirtschaft und Energie (BMWi) entstanden ist, hat das Ziel, sichtbar zu machen, wo Künstliche Intelligenz in Deutschland heute und in Zukunft zum Einsatz kommt.

Die Landkarte verdeutlicht die herausragende Stellung, die Forschung zu Künstlicher Intelligenz in Deutschland hat. Nicht umsonst präsentierte die Bundesregierung im November 2018 eine nationale »Strategie Künstliche Intelligenz«. Ziel ist »KI made in Germany« zu einem internationalen Markenzeichen für moderne, sichere und gemeinwohlorientierte KI-Anwendungen zu etablieren.

Auch auf Landesebene gibt es in Deutschland zahlreiche KI-Strategien, um die Forschung und Entwicklung von Künstlicher Intelligenz zu stärken. In Bayern wurde mit der Strategie »Bayern Digital« und der »Hightech Agenda Bayern« ein umfangreiches Paket geschnürt, um Forschung zu Künstlicher Intelligenz zu stärken. Dafür wird unter anderem ein landesweites KI-Forschungsnetz aufgebaut und die Stadt München zu einem KI-Zentrum etabliert. Hier ist auch das Fraunhofer IKS involviert, das im Rahmen des bayernweiten KI-Netzwerkes am Standort München etabliert wird. Geplant ist hierbei ein personeller Aufwuchs auf ca. 200 Mitarbeiterinnen und Mitarbeiter, sowie der Neubau des Institutsgebäudes auf dem Forschungscampus in Garching: Aufbau des Fraunhofer-Instituts für Kognitive Systeme IKS

Künstliche Intelligenz: Aktueller Forschungsstand

Künstliche Intelligenz als Teilgebiet der Informatik ist ein sehr großes Forschungsfeld. Allein in Deutschland forschen zahlreiche Institutionen und Unternehmen an Künstlicher Intelligenz und gerade Länder wie die USA und China investieren Unsummen in die Entwicklung von KI-basierten Anwendungen.

Gerade die unterschiedlichen Lernverfahren von Künstlicher Intelligenz sind dabei aktuell von großem Interesse für die Forschung:

  • Machine Learning
    • Supervised Machine Learning
    • Unsupervised Machine Learning
    • Reinforcement Learning
  • Deep Learning

KI-Forschung am Fraunhofer IKS in München

Das Fraunhofer IKS in München arbeitet an unterschiedlichen Forschungsfragen im Bereich Künstliche Intelligenz. Besonders im Vordergrund steht dabei die Absicherung von Künstlicher Intelligenz und die Frage, wie Künstliche Intelligenz zuverlässig wird. Gerade für den Einsatz in sicherheitskritischen Systemen wie autonomen Fahrzeugen, bei der Mensch-Roboter-Kollaboration oder in der Medizintechnik ist das von herausragender Bedeutung.

US-Firmen beantworten diese Forschungsfragen häufig mit datengetriebenen Methoden. Die Software, beispielsweise in einem autonomen Fahrzeug, soll dort primär durch Feldtests und Training der KI abgesichert werden. Deswegen fahren autonome Fahrzeuge dort tausende von Testkilometern. Das Problem ist jedoch: Diese Ansätze funktionieren nur eingeschränkt und hängen stark von den Testdaten ab. In den letzten Jahren ist es dabei schon mehrfach zu schweren Unfällen gekommen, bei denen Menschen verletzt oder getötet wurden. Außerdem muss bei jedem kleinen Software-Update das komplette System erneut getestet werden.

Um Künstliche Intelligenz effektiv und kostengünstig abzusichern, müssen deswegen zwei Welten zusammengebraucht werden: Die Künstliche Intelligenz und die Sicherheit (Safety) des klassischen Engineerings. Hieran arbeitet das Fraunhofer IKS in München.

Dabei liegt der Schwerpunkt insbesondere auf drei Forschungsfragen:

  • Wie kann Künstliche Intelligenz nachvollziehbar werden?
    Das Stichwort hierfür heißt »Explainable AI«. Das Fraunhofer IKS forscht daran, Unsicherheiten von Künstlicher Intelligenz quantifizierbar zu machen, um das Verhalten der KI sinnvoll bewerten zu können. Denn nur erklärbare KI ist auch sicher. 
  • Wie kann Künstliche Intelligenz überwacht werden?
    Dafür entwickelt das Fraunhofer IKS eine erweitere Softwarearchitektur, mit der die Künstliche Intelligenz überwacht und die getroffenen Entscheidungen auf Plausibilität überprüft werden. Gerade hier kommen klassische Methoden des Safety Engineerings ins Spiel. 
  • Wie kann Künstliche Intelligenz trotz hoher Sicherheitsanforderungen dynamisch bleiben?
    Geht eine Software immer vom Worst-Case-Szenario aus, dann ist sie kaum noch flexibel. Ein autonomes Auto, das beispielsweise bei der kleinsten Unklarheit stehen bleibt, ist nicht nutzbar. Gleichzeitig darf es auf keinen Fall eine kritische Situation falsch einschätzen. Um dieses Problem zu lösen, arbeitet das Fraunhofer IKS an einem dynamischen Safety-Management. Es nutzt die Vorteile der schnellen Datenverarbeitung durch Machine Learning und fängt mögliche Fehlentscheidungen ab. 

Künstliche Intelligenz in der Forschung

Sie wollen mehr über die KI-Forschung am Fraunhofer IKS erfahren? Dann schauen Sie auch gerne auf unserem Blog vorbei. Hier geben Ihnen unsere Wissenschaftlerinnen und Wissenschaftler Einblicke und Hintergrundinformationen in ihre Arbeit:

 

Medizin / 29.6.2022

Mit Künstlicher Intelligenz die Intensivpflege verbessern

Klinikpersonal leidet zumeist unter enormer Arbeitsbelastung und Personalmangel, vor allem auf Intensivstationen. Dies hat Konsequenzen für Patient*innen, besonders im Fall von Multiorganversagen. Mit Hilfe von Künstlicher Intelligenz soll zukünftig ein klinisches Multiorgan-Unterstützungssystem noch besser für die Behandlung eingesetzt werden.

 

Online Seminar / 14.6.2022

Safe Intelligence im Labor

Viele CDS-Expertensysteme (Clinical Decision Support) in Laboren stehen in der Kritik. Die Gründe: Schwierigkeiten bei der Skalierung, ständige Überprüfung aus medizinischer Sicht und begrenzte Daten. Daher ist Künstliche Intelligenz (KI) eine plausible Alternative. Das Online-Seminar »Sichere Intelligenz für Labore« beleuchtete Einsatzmöglichkeiten und Herausforderungen von KI in Laboren aus Sicht von Industrie und Patienten.

 

Industrie 4.0 / 11.5.2022

Ein Turbo für Künstliche Intelligenz in der Produktion

Künstliche Intelligenz (KI) in der Industrie 4.0 stößt noch auf technologische Hindernisse, die den KI-Einsatz erschweren. Das Fraunhofer IKS entwickelt ein Framework, das den Daten- und KI-Lebenszyklus unterstützt, optimiert – und so die Wertschöpfung durch KI deutlich steigert.

 

Maschinelles Lernen / 28.4.2022

Out-of-Distribution Detection für Reinforcement Learning

Wie können intelligente Systeme lernen, Aufgaben zu erledigen – und das allein durch Interaktion mit ihrer Umgebung? Damit beschäftigt sich Reinforcement Learning, ein Teilgebiet des Machine Learning. Dabei entstehen Probleme vor allem dann, wenn Situationen auftreten, die das System noch nicht kennt.

 

Out-of-Distribution-Erkennung / 6.4.2022

Dreht sich alles um Cluster?

Können tiefe neuronale Netze in der Bildverarbeitung zuverlässig neue, unbekannte Testmuster erkennen? Erste Überlegungen zu verschiedenen Methoden - vor allem für sicherheitskritische Anwendungen.

 

Reinforcement Learning / 3.3.2022

Hierarchische Strukturen können der Schlüssel sein für KI-Systeme

Deep Learning hat das Interesse am Einsatz von Künstlicher Intelligenz (KI) in immer mehr Systemen gesteigert. Auch das Reinforcement Learning (RL) hat einen Aufschwung erlebt, um Atari-Spiele zu spielen und Großmeister im Go-Spiel zu schlagen.

 

KI in der Medizin / 13.1.2022

Unsicherheiten in den Griff bekommen

Künstliche Intelligenz und Maschinelles Lernen werden die Medizintechnik der nahen Zukunft prägen. Aber komplexe Verfahren des Machine Learning stellen Forscherinnen und Forscher vor ein Problem: Das Ausschließen von Fehlern vor der Inbetriebnahme autonomer Systeme sowie die zuverlässige Erkennung von Fehlern zur Laufzeit sind aufwendig und anspruchsvoll.

Künstliche Intelligenz:
Alle Blogartikel

Sie wollen mehr zur Forschung des Fraunhofer IKS rund um das Thema Künstliche Intelligenz erfahren? Dann schauen Sie auf unserem Blog vorbei. Hier finden Sie alle Blogartikel zu Künstlicher Intelligenz.

Publikationen des Fraunhofer IKS

2021 Schwaiger, Franziska; Henne, Maximilian; Küppers, Fabian; Schmoeller Roza, Felippe; Roscher, Karsten; Haselhoff, Anselm:
From Black-box to White-box: Examining Confidence Calibration under different Conditions
2020 Schmoeller Roza, Felippe; Henne, Maximilian; Roscher, Karsten; Günnemann, Stephan:
Assessing Box Merging Strategies and Uncertainty Estimation Methods in Multimodel Object Detection
2020 Schwaiger, Adrian; Sinhamahapatra, Poulami; Gansloser, Jens; Roscher, Karsten:
Is Uncertainty Quantification in Deep Learning Sufficient for Out-of-Distribution Detection?
2020 Henne, Maximilian; Schwaiger, Adrian; Roscher, Karsten; Weiß, Gereon:
Benchmarking Uncertainty Estimation Methods for Deep Learning with Safety-Related Metrics
2020 Schwaiger, Adrian:
Machine Learning in sicherheitskritischen Systemen
2020 Schleiß, Philipp; Kurzidem, Iwo:
Methoden zur Absicherung von KI-basierten Perzeptionsarchitekturen in autonomen Systemen
2019 Henne, Maximilian; Schwaiger, Adrian; Weiß, Gereon:
Managing Uncertainty of AI-based Perception for Autonomous Systems
2019 Trapp, Mario; Weiß, Gereon:
Towards Dynamic Safety Management for Autonomous Systems
2018 Weiß, Gereon; Schleiß, Philipp; Schneider, Daniel; Trapp, Mario:
Towards integrating undependable self-adaptive systems in safety-critical environments
2018 Trapp, Mario; Weiß, Gereon; Schneider, Daniel:
Towards safety-awareness and dynamic safety management