Fraunhofer-Institut für Kognitive Systeme IKSDurch maschinelle Lernverfahren können große Mengen an Daten schnell und präzise analysiert und verarbeitet werden. Machine Learning und Künstliche Intelligenz (KI) zeigen dadurch in Anwendungsgebieten wie dem autonomen Fahren oder der Industrie 4.0 großes Potential, bringen aber auch neue Herausforderungen für die sichere und verlässliche Anwendung mit sich. Deswegen forscht das Fraunhofer-Institut für Kognitive Systeme IKS daran, Künstliche Intelligenz umfassend abzusichern, damit diese auch in sicherheitskritischen Bereichen eingesetzt werden kann.
© iStock.com/Widewingsstudio
Künstliche Intelligenz (KI) und maschinelles Lernen
Was ist Künstliche Intelligenz? Was ist maschinelles Lernen?
Künstliche Intelligenz (KI) ist ein Teilgebiet der Informatik. Sie imitiert menschliche kognitive Fähigkeiten, indem sie Informationen aus Eingabedaten erkennt und sortiert. Diese Intelligenz kann auf programmierten Abläufen basieren oder durch maschinelles Lernen erzeugt werden.
In den vergangenen Jahren wurden vor allem im Bereich des maschinellen Lernens große Fortschritte gemacht. Das liegt vor allem an der zunehmenden Verfügbarkeit von großen Datenmengen und hoher Rechenleistung, die eine Grundvoraussetzung für die komplexen Berechnungen von Machine Learning sind.
Bei maschinellen Lernverfahren erlernt ein Algorithmus durch Wiederholung selbstständig eine Aufgabe zu erfüllen. Die Maschine orientiert sich dabei an einem vorgegebenen Gütekriterium und dem Informationsgehalt der Daten. Anders als bei herkömmlichen Algorithmen wird kein Lösungsweg modelliert. Der Computer lernt selbstständig die Struktur der Daten zu erkennen. Beispielsweise können Roboter selbst erlernen, wie sie bestimmte Objekte greifen müssen, um sie von A nach zu B transportieren. Sie bekommen nur gesagt, von wo und nach wo sie die Objekte transportieren sollen. Wie genau der Roboter greift, erlernt er durch das wiederholte Ausprobieren und durch Feedback aus erfolgreichen Versuchen.
Ein Untergebiet von maschinellem Lernen sind neuronale Netze. Diese Lernalgorithmen sind von Nervenzellenverbindungen im menschlichen Gehirn inspiriert. Das Gehirn verarbeitet Informationen über Neuronen und Synapsen. Analog dazu bestehen künstliche neuronale Netze aus mehreren Reihen von Datenknoten, die mit gewichteten Verbindungen untereinander vernetzt sind.
Das neuronale Netz wird trainiert, indem ihm immer wieder Daten vorgelegt werden. Durch diese Wiederholung lernt das neuronale Netz die Daten jedes Mal exakter einzuordnen. Das funktioniert, indem die Gewichtung für die einzelnen Verbindungen zwischen den Neuronen-Schichten immer wieder angepasst werden. Das in den Lerndurchläufen erzeugte Modell kann dann auch auf Daten angewandt werden, die die Künstliche Intelligenz im Training noch nicht kennengelernt hat.
Haben neuronale Netze verdeckte Neuronen-Schichten, die nicht direkt an die Eingabe- oder Ausgabe-Schicht gekoppelt sind, werden sie »Deep Neural Networks« genannt. Deep Neural Networks können Hunderttausend oder Millionen Neuronen-Schichten aufweisen. Damit können beim sogenannten »Deep Learning« immer komplexere Probleme gelöst werden.
Vielfältige Anwendungsgebiete von maschinellen Lernverfahren
Maschinelle Lernverfahren finden in sehr unterschiedlichen Gebieten Anwendung:
Bilderkennung: Mit Machine-Vision-Algorithmen können Bilder erkannt und kategorisiert werden. So können sehr viele Daten blitzschnell verarbeitet werden. Maschinelles Sehen kommt unter anderem in der medizinischen Diagnostik oder bei der Gesichtserkennung zum Einsatz, kann aber auch für die Übersetzung von handschriftlichen Zeichen in Druckschrift genutzt werden. Auch für das autonome Fahren ist die Bilderkennung entscheidend.
Spracherkennung: Das Erkennen und Interpretieren von verbaler Sprache kann ebenfalls über maschinelle Lernverfahren erlernt werden. Diese Algorithmen kommen beispielsweise in Sprachassistenzsystemen zum Einsatz.
Semantische Spracherkennung: Geschriebener Text kann über maschinelles Lernen semantisch interpretiert werden. Das erlaubt kontextbezogene Übersetzungsanwendungen oder Chatbots, die selbstständig sinnvolle Lösungen generieren.
Mustererkennung: Maschinelle Lernverfahren können außerdem dazu eingesetzt werden Muster in Ereignisfolgen zu erkennen, die für den Menschen durch die großen Mengen an Datenpunkten, Variablen und Abhängigkeiten nicht erkennbar sind. Beispielsweise kann eine KI Fehlermuster der Fahrzeugelektronik aus Daten erlernen und diese Anomalien mit dem Verhalten im Betrieb abgleichen. Anomalien werden dadurch schneller erkannt, wodurch früh entgegengewirkt werden kann. Beispielsweise durch den Austausch eines Bauteils, noch bevor es einen Fehler tatsächlich verursacht.
Prozessoptimierung: Die erkannten Muster können auch als Informationsbasis für Optimierungsprozesse genutzt werden. In diesem werden maschinelle Lernverfahren sind maschinell erzeugte Prozessmodelle, die eine optimierte Prozesssteuerung ermöglichen.
Künstliche Intelligenz als Treiber von Innovationen
Automatisierte Maschinen müssen schnell und verlässlich auf ihre Umgebung reagieren können. Diese Fähigkeiten werden durch maschinelles Lernen verstärkt. KI-Anwendungen funktionieren aber nicht per se fehlerfrei. Fehler in der Auswahl geeigneter Trainingsdaten, in der Datengenerierung und -verarbeitung können zu gefährlichen Fehlfunktionen des Systems führen, welche die KI selber nicht erkennen und verhindern kann. Der Fokus des Fraunhofer-Instituts für Kognitive Systeme IKS ist es KI-basierte Technologien durch erweiterte und anpassungsfähige Softwarearchitekturen abzusichern.
Insbesondere bei sicherheitskritischen Anwendungen ist es wichtig, dass das System, in dem die Künstliche Intelligenz verbaut ist, absolut sicher und zuverlässig funktioniert. Die Herausforderungen bei der Absicherung von maschinellem Lernen aus Daten unterscheiden sich stark von den Herausforderungen bei herkömmlich programmierter Software. Die verwendeten Trainingsdaten spielen eine wichtige Rolle für die Qualität des erzeugten Neuronalen Netzes. Sind die Daten nicht repräsentativ für die Fülle der Situationen, mit denen das System später konfrontiert ist, ist das Modell nicht gut genug und trifft schlechte Entscheidungen. Damit das Modell auch für nicht gelernte Daten zutrifft, muss das Modell robust sein und abstrahieren können. Es darf also nicht zu eng an den Trainingsdaten liegen, wodurch ein overfitting entsteht und das Modell nicht abstrakt genug für neue Daten ist. Andererseits darf auch kein underfitting, also ein zu simples Modell entstehen, das die Struktur der Daten nicht ausreichend präzise beschreibt.
Safe AI: Absicherung von maschineller Intelligenz beim autonomen Fahren
Für autonomes Fahren ist beispielsweise eine präzise Datenanalyse und Prozesssteuerung unbedingt notwendig. Die Fahrzeuge müssen in der Lage sein, ihre Umgebung zu erkennen, treffsicher zu interpretieren und daraufhin ihre Handlungen zu optimieren.
Im Unterschied zu klassischen Algorithmen besteht bei maschinentrainierten Programmen das Problem, dass die einzelnen Lernschritte nicht von Menschen interpretiert werden können. Durch die automatische Anpassung der Gewichtungen in neuronalen Netzen bleiben lediglich der Input und das Ergebnis für die menschliche Kontrolle zugänglich. Ein Forschungsziel unter dem Schlagwort »Explainable AI« ist daher, neuronale Netze nachvollziehbar zu konzipieren. Denn da der Entscheidungsweg der KI undurchsichtig ist, kann die Sicherheit und Zuverlässigkeit der KI bisher nicht ohne weiteres bewertet werden.
Bisher ist auch das maschinelle Sehen (Perzeption) der KI noch nicht so verlässlich, dass es für den sicherheitskritischen Einsatz in autonomen Fahrzeugen auf öffentlichen Straßen geeignet ist. Zunächst müssen daher Wege gefunden werden, Unsicherheiten der KI quantifizierbar zu machen, um die Perzeption sinnvoll bewerten zu können. Das Fraunhofer-Institut für Kognitive Systeme IKS arbeitet daran, diese Herausforderungen zu lösen und nachweisbar verlässliche Systeme zu schaffen, indem es Unsicherheiten der KI quantifiziert. So kann die bisher nicht intransparente Klassifizierung der KI beherrschbar werden. Denn nur, wenn KI-Systeme für den Menschen nachvollziehbar sind, sind sie sicher genug, um beispielsweise beim autonomen Fahren auf öffentlichen Straßen zum Einsatz zu kommen.
Ein Ansatz des Fraunhofer IKS ist es, die KI um eine erweiterte Softwarearchitektur zu ergänzen. Diese überwacht die Künstliche Intelligenz und prüft die getroffenen Entscheidungen auf Plausibilität. Gleichzeitig wird der KI durch den Ansatz des dynamischen Safety-Managements mehr Freiraum gegeben als durch klassische Safety-Ansätze, die immer vom Worst-Case-Szenario ausgehen. So können die Vorteile der schnellen Datenverarbeitung durch maschinelles Lernen genutzt und gleichzeitig mögliche Fehlentscheidungen abgefangen werden. Das ist insbesondere wichtig, wenn wie beim autonomen Fahren durch Fehlentscheidungen der KI Menschenleben gefährdet wären.
Maschinelle Intelligenz in der Industrie 4.0
Auch in der Digitalisierung der Industrie, der sogenannten Industrie 4.0, erlaubt maschinelle Intelligenz eine optimierte Planung und bessere Voraussagen. Automatisierte und vernetzte Maschinen erkennen ihre Umgebung und können selbstständig ihre Handlungen daran anpassen. Auch die Mensch-Roboter-Kollaboration ohne Schutzzaun wird erst durch maschinelles Lernen und Künstliche Intelligenz möglich. Auch hier muss die KI abgesichert werden, um Menschenleben nicht zu gefährden.
Maschinelle Lernverfahren können in der Produktion aber auch für die Prozessoptimierung, für die Bestimmung der Ausfallwahrscheinlichkeit von Bauteilen und für die Fehlersuche eingesetzt werden. Bei vernetzten Industrieanlagen kann die Fehlfunktion eines Teilsystems den Ausfall der gesamten Produktion bedeuten. Fehlersuche und Stillstand sind zeit- und kostspielig. Um Stillstand zu vermeiden und die Fehlersuche zu erleichtern hat das Fraunhofer-Institut für Kognitive Systeme IKS das Softwareanalysetool DANA entwickelt. Es erstellt mit Hilfe von maschinellen Lernverfahren ein virtuelles Modell der Produktion. Das ist nützlich bei der Integration neuer Systemteile und bei der Fehlerprognose. Durch DANA werden Fehler erkannt und behoben, bevor das System zum Stillstand kommt. So können Ausfälle in der Produktion verhindert und Produktionsmitarbeitende vor gefährlichen Fehlfunktionen geschützt werden.