Künstliche Intelligenz: Forschung am Fraunhofer IKS

Auf der KI-Landkarte des Bundesministeriums für Bild und Forschung (BMBF) werden aktuell über 90 Institutionen aufgeführt, die sich in Deutschland mit Künstlicher Intelligenz und der dazugehörigen Forschung befassen, darunter auch das Fraunhofer-Institut für Kognitive Systeme IKS. Die Plattform, die auch in Kooperation mit dem Bundesministerium für Wirtschaft und Energie (BMWi) entstanden ist, hat das Ziel, sichtbar zu machen, wo Künstliche Intelligenz in Deutschland heute und in Zukunft zum Einsatz kommt.

Die Landkarte verdeutlicht die herausragende Stellung, die Forschung zu Künstlicher Intelligenz in Deutschland hat. Nicht umsonst präsentierte die Bundesregierung im November 2018 eine nationale »Strategie Künstliche Intelligenz«. Ziel ist »KI made in Germany« zu einem internationalen Markenzeichen für moderne, sichere und gemeinwohlorientierte KI-Anwendungen zu etablieren.

Auch auf Landesebene gibt es in Deutschland zahlreiche KI-Strategien, um die Forschung und Entwicklung von Künstlicher Intelligenz zu stärken. In Bayern wurde mit der Strategie »Bayern Digital« und der »Hightech Agenda Bayern« ein umfangreiches Paket geschnürt, um Forschung zu Künstlicher Intelligenz zu stärken. Dafür wird unter anderem ein landesweites KI-Forschungsnetz aufgebaut und die Stadt München zu einem KI-Zentrum etabliert. Hier ist auch das Fraunhofer IKS involviert, das im Rahmen des bayernweiten KI-Netzwerkes am Standort München etabliert wird. Geplant ist hierbei ein personeller Aufwuchs auf ca. 200 Mitarbeiterinnen und Mitarbeiter, sowie der Neubau des Institutsgebäudes auf dem Forschungscampus in Garching: Aufbau des Fraunhofer-Instituts für Kognitive Systeme IKS

Künstliche Intelligenz als Teilgebiet der Informatik ist ein sehr großes Forschungsfeld. Allein in Deutschland forschen zahlreiche Institutionen und Unternehmen an Künstlicher Intelligenz und gerade Länder wie die USA und China investieren Unsummen in die Entwicklung von KI-basierten Anwendungen.

Gerade die unterschiedlichen Lernverfahren von Künstlicher Intelligenz sind dabei aktuell von großem Interesse für die Forschung:

• Machine Learning
  • Supervised Machine Learning
  • Unsupervised Machine Learning
  • Reinforcement Learning
    
• Deep Learning
  

Das Fraunhofer IKS in München arbeitet an unterschiedlichen Forschungsfragen im Bereich Künstliche Intelligenz. Besonders im Vordergrund steht dabei die Absicherung von Künstlicher Intelligenz und die Frage, wie Künstliche Intelligenz zuverlässig wird. Gerade für den Einsatz in sicherheitskritischen Systemen wie autonomen Fahrzeugen, bei der Mensch-Roboter-Kollaboration oder in der Medizintechnik ist das von herausragender Bedeutung.

US-Firmen beantworten diese Forschungsfragen häufig mit datengetriebenen Methoden. Die Software, beispielsweise in einem autonomen Fahrzeug, soll dort primär durch Feldtests und Training der KI abgesichert werden. Deswegen fahren autonome Fahrzeuge dort tausende von Testkilometern. Das Problem ist jedoch: Diese Ansätze funktionieren nur eingeschränkt und hängen stark von den Testdaten ab. In den letzten Jahren ist es dabei schon mehrfach zu schweren Unfällen gekommen, bei denen Menschen verletzt oder getötet wurden. Außerdem muss bei jedem kleinen Software-Update das komplette System erneut getestet werden.

Um Künstliche Intelligenz effektiv und kostengünstig abzusichern, müssen deswegen zwei Welten zusammengebraucht werden: Die Künstliche Intelligenz und die Sicherheit (Safety) des klassischen Engineerings. Hieran arbeitet das Fraunhofer IKS in München.

Dabei liegt der Schwerpunkt insbesondere auf drei Forschungsfragen:

• Wie kann Künstliche Intelligenz nachvollziehbar werden?
  Das Stichwort hierfür heißt »Explainable AI«. Das Fraunhofer IKS forscht daran, Unsicherheiten von Künstlicher Intelligenz quantifizierbar zu machen, um das Verhalten der KI sinnvoll bewerten zu können. Denn nur erklärbare KI ist auch sicher. 
• Wie kann Künstliche Intelligenz überwacht werden?
  Dafür entwickelt das Fraunhofer IKS eine erweitere Softwarearchitektur, mit der die Künstliche Intelligenz überwacht und die getroffenen Entscheidungen auf Plausibilität überprüft werden. Gerade hier kommen klassische Methoden des Safety Engineerings ins Spiel. 
• Wie kann Künstliche Intelligenz trotz hoher Sicherheitsanforderungen dynamisch bleiben?
  Geht eine Software immer vom Worst-Case-Szenario aus, dann ist sie kaum noch flexibel. Ein autonomes Auto, das beispielsweise bei der kleinsten Unklarheit stehen bleibt, ist nicht nutzbar. Gleichzeitig darf es auf keinen Fall eine kritische Situation falsch einschätzen. Um dieses Problem zu lösen, arbeitet das Fraunhofer IKS an einem dynamischen Safety-Management. Es nutzt die Vorteile der schnellen Datenverarbeitung durch Machine Learning und fängt mögliche Fehlentscheidungen ab.