Künstliche Intelligenz (KI) und maschinelles Lernen

Durch maschinelle Lernverfahren können große Mengen an Daten schnell und präzise analysiert und verarbeitet werden. Machine Learning und Künstliche Intelligenz (KI) zeigen dadurch in Anwendungsgebieten wie dem autonomen Fahren oder der Industrie 4.0 großes Potential, bringen aber auch neue Herausforderungen für die sichere und verlässliche Anwendung mit sich. Deswegen forscht das Fraunhofer-Institut für Kognitive Systeme IKS daran, Künstliche Intelligenz umfassend abzusichern, damit diese auch in sicherheitskritischen Bereichen eingesetzt werden kann.

Ein Untergebiet von maschinellem Lernen sind neuronale Netze. Diese Lernalgorithmen sind von Nervenzellenverbindungen im menschlichen Gehirn inspiriert. Das Gehirn verarbeitet Informationen über Neuronen und Synapsen. Analog dazu bestehen künstliche neuronale Netze aus mehreren Reihen von Datenknoten, die mit gewichteten Verbindungen untereinander vernetzt sind.

Das neuronale Netz wird trainiert, indem ihm immer wieder Daten vorgelegt werden. Durch diese Wiederholung lernt das neuronale Netz die Daten jedes Mal exakter einzuordnen. Das funktioniert, indem die Gewichtung für die einzelnen Verbindungen zwischen den Neuronen-Schichten immer wieder angepasst werden. Das in den Lerndurchläufen erzeugte Modell kann dann auch auf Daten angewandt werden, die die Künstliche Intelligenz im Training noch nicht kennengelernt hat.

Haben neuronale Netze verdeckte Neuronen-Schichten, die nicht direkt an die Eingabe- oder Ausgabe-Schicht gekoppelt sind, werden sie »Deep Neural Networks« genannt. Deep Neural Networks können Hunderttausend oder Millionen Neuronen-Schichten aufweisen. Damit können beim sogenannten »Deep Learning« immer komplexere Probleme gelöst werden.

Maschinelle Lernverfahren finden in sehr unterschiedlichen Gebieten Anwendung:

Bilderkennung: Mit Machine-Vision-Algorithmen können Bilder erkannt und kategorisiert werden. So können sehr viele Daten blitzschnell verarbeitet werden. Maschinelles Sehen kommt unter anderem in der medizinischen Diagnostik oder bei der Gesichtserkennung zum Einsatz, kann aber auch für die Übersetzung von handschriftlichen Zeichen in Druckschrift genutzt werden. Auch für das autonome Fahren ist die Bilderkennung entscheidend.

Spracherkennung: Das Erkennen und Interpretieren von verbaler Sprache kann ebenfalls über maschinelle Lernverfahren erlernt werden. Diese Algorithmen kommen beispielsweise in Sprachassistenzsystemen zum Einsatz.

Semantische Spracherkennung: Geschriebener Text kann über maschinelles Lernen semantisch interpretiert werden. Das erlaubt kontextbezogene Übersetzungsanwendungen oder Chatbots, die selbstständig sinnvolle Lösungen generieren.

Mustererkennung: Maschinelle Lernverfahren können außerdem dazu eingesetzt werden Muster in Ereignisfolgen zu erkennen, die für den Menschen durch die großen Mengen an Datenpunkten, Variablen und Abhängigkeiten nicht erkennbar sind. Beispielsweise kann eine KI Fehlermuster der Fahrzeugelektronik aus Daten erlernen und diese Anomalien mit dem Verhalten im Betrieb abgleichen. Anomalien werden dadurch schneller erkannt, wodurch früh entgegengewirkt werden kann. Beispielsweise durch den Austausch eines Bauteils, noch bevor es einen Fehler tatsächlich verursacht.

Prozessoptimierung: Die erkannten Muster können auch als Informationsbasis für Optimierungsprozesse genutzt werden. In diesem werden maschinelle Lernverfahren sind maschinell erzeugte Prozessmodelle, die eine optimierte Prozesssteuerung ermöglichen.

Für autonomes Fahren ist beispielsweise eine präzise Datenanalyse und Prozesssteuerung unbedingt notwendig. Die Fahrzeuge müssen in der Lage sein, ihre Umgebung zu erkennen, treffsicher zu interpretieren und daraufhin ihre Handlungen zu optimieren.

Im Unterschied zu klassischen Algorithmen besteht bei maschinentrainierten Programmen das Problem, dass die einzelnen Lernschritte nicht von Menschen interpretiert werden können. Durch die automatische Anpassung der Gewichtungen in neuronalen Netzen bleiben lediglich der Input und das Ergebnis für die menschliche Kontrolle zugänglich. Ein Forschungsziel unter dem Schlagwort »Explainable AI« ist daher, neuronale Netze nachvollziehbar zu konzipieren. Denn da der Entscheidungsweg der KI undurchsichtig ist, kann die Sicherheit und Zuverlässigkeit der KI bisher nicht ohne weiteres bewertet werden.

Bisher ist auch das maschinelle Sehen (Perzeption) der KI noch nicht so verlässlich, dass es für den sicherheitskritischen Einsatz in autonomen Fahrzeugen auf öffentlichen Straßen geeignet ist. Zunächst müssen daher Wege gefunden werden, Unsicherheiten der KI quantifizierbar zu machen, um die Perzeption sinnvoll bewerten zu können. Das Fraunhofer-Institut für Kognitive Systeme IKS arbeitet daran, diese Herausforderungen zu lösen und nachweisbar verlässliche Systeme zu schaffen, indem es Unsicherheiten der KI quantifiziert. So kann die bisher nicht intransparente Klassifizierung der KI beherrschbar werden. Denn nur, wenn KI-Systeme für den Menschen nachvollziehbar sind, sind sie sicher genug, um beispielsweise beim autonomen Fahren auf öffentlichen Straßen zum Einsatz zu kommen.

Ein Ansatz des Fraunhofer IKS ist es, die KI um eine erweiterte Softwarearchitektur zu ergänzen. Diese überwacht die Künstliche Intelligenz und prüft die getroffenen Entscheidungen auf Plausibilität. Gleichzeitig wird der KI durch den Ansatz des dynamischen Safety-Managements mehr Freiraum gegeben als durch klassische Safety-Ansätze, die immer vom Worst-Case-Szenario ausgehen. So können die Vorteile der schnellen Datenverarbeitung durch maschinelles Lernen genutzt und gleichzeitig mögliche Fehlentscheidungen abgefangen werden. Das ist insbesondere wichtig, wenn wie beim autonomen Fahren durch Fehlentscheidungen der KI Menschenleben gefährdet wären.  

Auch in der Digitalisierung der Industrie, der sogenannten Industrie 4.0, erlaubt maschinelle Intelligenz eine optimierte Planung und bessere Voraussagen. Automatisierte und vernetzte Maschinen erkennen ihre Umgebung und können selbstständig ihre Handlungen daran anpassen. Auch die Mensch-Roboter-Kollaboration ohne Schutzzaun wird erst durch maschinelles Lernen und Künstliche Intelligenz möglich. Auch hier muss die KI abgesichert werden, um Menschenleben nicht zu gefährden.

Maschinelle Lernverfahren können in der Produktion aber auch für die Prozessoptimierung, für die Bestimmung der Ausfallwahrscheinlichkeit von Bauteilen und für die Fehlersuche eingesetzt werden. Bei vernetzten Industrieanlagen kann die Fehlfunktion eines Teilsystems den Ausfall der gesamten Produktion bedeuten. Fehlersuche und Stillstand sind zeit- und kostspielig. Um Stillstand zu vermeiden und die Fehlersuche zu erleichtern hat das Fraunhofer-Institut für Kognitive Systeme IKS das Softwareanalysetool DANA entwickelt. Es erstellt mit Hilfe von maschinellen Lernverfahren ein virtuelles Modell der Produktion. Das ist nützlich bei der Integration neuer Systemteile und bei der Fehlerprognose. Durch DANA werden Fehler erkannt und behoben, bevor das System zum Stillstand kommt. So können Ausfälle in der Produktion verhindert und Produktionsmitarbeitende vor gefährlichen Fehlfunktionen geschützt werden.