Zuverlässige Künstliche Intelligenz

Künstliche Intelligenz kann nicht mit klassischen Methoden abgesichert werden

Die Qualität einer Künstlichen Intelligenz (KI) hängt entscheidend von der Qualität der Trainingsdaten ab. Je besser die Trainingsdaten, desto besser die KI. Doch selbst bei umfangreichen Trainingsdaten kann nicht von einer hundertprozentigen Abdeckung aller möglichen kritischen Situationen ausgegangen werden.

Zudem können geringfügige Veränderungen im Umfeld wie Verschmutzung des Sensors oder ungünstige Wetterbedingungen die Entscheidung der Künstlichen Intelligenz stark und unvorhersehbar beeinflussen. Das führt zu unendlich vielen Situations-Varianten möglicher Eingabewerte in das Neuronale Netz. Da kleine Variationen in Eingabewerten zu verschiedenen Klassifikationen führen können, ist eine Vorhersage des Verhaltens nicht möglich. Was genau das Neuronale Netzwerk gelernt hat und was sein Verhalten bestimmt, kann bisher nur durch aufwändige Beobachtung bestimmt werden.

Dies führt dazu, dass die Entscheidungsqualität der KI nicht mit formalen Methoden nachgewiesen werden kann. Auch derzeit verfügbare Ansätze zur Selbsteinschätzung der Verlässlichkeit einer KI sind noch nicht ausgereift. Hinzu kommt, dass Künstliche Intelligenz auch nicht mit klassischen Methoden abgesichert werden kann.

Künstliche Intelligenz wird viele Branchen verändern

© iStock.com/chinaface

Um Künstliche Intelligenz in der Produktion, Logistik und Materialprüfung oder bei der Perzeptionsüberwachung für das autonome Fahren einsetzen zu können, ist es wichtig, dass Sicherheitsziele nachweisbar erreicht werden können. Denn hier können selbst kleine Fehler teure Stillstände oder lebensbedrohliche Situationen hervorrufen. Damit KI auch in diesen Bereichen eingesetzt werden kann, entwickelt das Fraunhofer-Institut für Kognitive Systeme IKS neue Verfahren zur Verbesserung der Erklärbarkeit, Transparenz und Robustheit Neuronaler Netze.

Das Fraunhofer IKS macht KI vertrauenswürdig und zuverlässig

Das Fraunhofer-Institut für Kognitive Systeme IKS bietet Ihnen wichtige Mechanismen für den Qualitätsnachweis Ihrer KI-Lösung.

Diese beinhalten:

  • Methoden und Qualitäts-Metriken zur Bestimmung der Vertrauenswürdigkeit oder Fehlerwahrscheinlichkeit eines Neuronalen Netzes
  • KI-Monitore zur Absicherung von Laufzeiteigenschaften der KI
  • Komponenten zur automatisierten Absicherung der Verarbeitungskette, z.B. für die Perzeptionskette beim autonomen Fahren
  • Prüfkriterien für die Safety-Analyse einer KI