Künstliche Intelligenz (KI) und maschinelles Lernen

Künstliche Intelligenz (KI) ist ein Teilgebiet der Informatik. Sie imitiert menschliche kognitive Fähigkeiten, indem sie Informationen aus Eingabedaten erkennt und sortiert. Diese Intelligenz kann auf programmierten Abläufen basieren oder durch maschinelles Lernen erzeugt werden.

In den vergangenen Jahren wurden vor allem im Bereich des maschinellen Lernens große Fortschritte gemacht. Das liegt vor allem an der zunehmenden Verfügbarkeit von großen Datenmengen und hoher Rechenleistung, die eine Grundvoraussetzung für die komplexen Berechnungen von Machine Learning sind.

Bei maschinellen Lernverfahren erlernt ein Algorithmus durch Wiederholung selbstständig eine Aufgabe zu erfüllen. Die Maschine orientiert sich dabei an einem vorgegebenen Gütekriterium und dem Informationsgehalt der Daten. Anders als bei herkömmlichen Algorithmen wird kein Lösungsweg modelliert. Der Computer lernt selbstständig die Struktur der Daten zu erkennen. Beispielsweise können Roboter selbst erlernen, wie sie bestimmte Objekte greifen müssen, um sie von A nach zu B transportieren. Sie bekommen nur gesagt, von wo und nach wo sie die Objekte transportieren sollen. Wie genau der Roboter greift, erlernt er durch das wiederholte Ausprobieren und durch Feedback aus erfolgreichen Versuchen.

Maschinelle Lernverfahren finden in sehr unterschiedlichen Gebieten Anwendung:

Bilderkennung: Mit Machine-Vision-Algorithmen können Bilder erkannt und kategorisiert werden. So können sehr viele Daten blitzschnell verarbeitet werden. Maschinelles Sehen kommt unter anderem in der medizinischen Diagnostik oder bei der Gesichtserkennung zum Einsatz, kann aber auch für die Übersetzung von handschriftlichen Zeichen in Druckschrift genutzt werden. Auch für das autonome Fahren ist die Bilderkennung entscheidend.

Spracherkennung: Das Erkennen und Interpretieren von verbaler Sprache kann ebenfalls über maschinelle Lernverfahren erlernt werden. Diese Algorithmen kommen beispielsweise in Sprachassistenzsystemen zum Einsatz.

Semantische Spracherkennung: Geschriebener Text kann über maschinelles Lernen semantisch interpretiert werden. Das erlaubt kontextbezogene Übersetzungsanwendungen oder Chatbots, die selbstständig sinnvolle Lösungen generieren.

Mustererkennung: Maschinelle Lernverfahren können außerdem dazu eingesetzt werden Muster in Ereignisfolgen zu erkennen, die für den Menschen durch die großen Mengen an Datenpunkten, Variablen und Abhängigkeiten nicht erkennbar sind. Beispielsweise kann eine KI Fehlermuster der Fahrzeugelektronik aus Daten erlernen und diese Anomalien mit dem Verhalten im Betrieb abgleichen. Anomalien werden dadurch schneller erkannt, wodurch früh entgegengewirkt werden kann. Beispielsweise durch den Austausch eines Bauteils, noch bevor es einen Fehler tatsächlich verursacht.

Prozessoptimierung: Die erkannten Muster können auch als Informationsbasis für Optimierungsprozesse genutzt werden. In diesem werden maschinelle Lernverfahren sind maschinell erzeugte Prozessmodelle, die eine optimierte Prozesssteuerung ermöglichen.

Automatisierte Maschinen müssen schnell und verlässlich auf ihre Umgebung reagieren können. Diese Fähigkeiten werden durch maschinelles Lernen verstärkt. KI-Anwendungen funktionieren aber nicht per se fehlerfrei. Fehler in der Auswahl geeigneter Trainingsdaten, in der Datengenerierung und -verarbeitung können zu gefährlichen Fehlfunktionen des Systems führen, welche die KI selber nicht erkennen und verhindern kann. Der Fokus des Fraunhofer-Instituts für Kognitive Systeme IKS ist es KI-basierte Technologien durch erweiterte und anpassungsfähige Softwarearchitekturen abzusichern.

Insbesondere bei sicherheitskritischen Anwendungen ist es wichtig, dass das System, in dem die Künstliche Intelligenz verbaut ist, absolut sicher und zuverlässig funktioniert. Die Herausforderungen bei der Absicherung von maschinellem Lernen aus Daten unterscheiden sich stark von den Herausforderungen bei herkömmlich programmierter Software. Die verwendeten Trainingsdaten spielen eine wichtige Rolle für die Qualität des erzeugten Neuronalen Netzes. Sind die Daten nicht repräsentativ für die Fülle der Situationen, mit denen das System später konfrontiert ist, ist das Modell nicht gut genug und trifft schlechte Entscheidungen. Damit das Modell auch für nicht gelernte Daten zutrifft, muss das Modell robust sein und abstrahieren können. Es darf also nicht zu eng an den Trainingsdaten liegen, wodurch ein overfitting entsteht und das Modell nicht abstrakt genug für neue Daten ist. Andererseits darf auch kein underfitting, also ein zu simples Modell entstehen, das die Struktur der Daten nicht ausreichend präzise beschreibt.

Bisher ist auch das maschinelle Sehen (Perzeption) der KI noch nicht so verlässlich, dass es für den sicherheitskritischen Einsatz in autonomen Fahrzeugen auf öffentlichen Straßen geeignet ist. Zunächst müssen daher Wege gefunden werden, Unsicherheiten der KI quantifizierbar zu machen, um die Perzeption sinnvoll bewerten zu können. Das Fraunhofer-Institut für Kognitive Systeme IKS arbeitet daran, diese Herausforderungen zu lösen und nachweisbar verlässliche Systeme zu schaffen, indem es Unsicherheiten der KI quantifiziert. So kann die bisher nicht intransparente Klassifizierung der KI beherrschbar werden. Denn nur, wenn KI-Systeme für den Menschen nachvollziehbar sind, sind sie sicher genug, um beispielsweise beim autonomen Fahren auf öffentlichen Straßen zum Einsatz zu kommen.

Ein Ansatz des Fraunhofer IKS ist es, die KI um eine erweiterte Softwarearchitektur zu ergänzen. Diese überwacht die Künstliche Intelligenz und prüft die getroffenen Entscheidungen auf Plausibilität. Gleichzeitig wird der KI durch den Ansatz des dynamischen Safety-Managements mehr Freiraum gegeben als durch klassische Safety-Ansätze, die immer vom Worst-Case-Szenario ausgehen. So können die Vorteile der schnellen Datenverarbeitung durch maschinelles Lernen genutzt und gleichzeitig mögliche Fehlentscheidungen abgefangen werden. Das ist insbesondere wichtig, wenn wie beim autonomen Fahren durch Fehlentscheidungen der KI Menschenleben gefährdet wären.