SAFE AI: Absicherung von Künstlicher Intelligenz (KI)

Ein wichtiges Qualitätsmerkmal von Künstlicher Intelligenz (KI) ist deren Sicherheit. Zum einen die Sicherheit vor Missbrauch und Schutz der Daten (Security) aber vor allem auch der Schutz der Menschen, die mit dem System interagieren (Safety).

In einer 2020 veröffentlichten Studie befragte der Verband der TÜV e.V. Personen zu ihren Sorgen im Zusammenhang mit Künstlicher Intelligenz. Bedenken, dass KI in sicherheitskritischen Anwendungsfällen Fehler machen könnte wurden von 67% der Befragten geäußert. 85 % der Befragten sind der Meinung, KI-basierte Produkte sollten erst auf den Markt gebracht werden dürfen, wenn eine Hersteller-unabhängige Stelle deren Sicherheit überprüft hat. Die Autoren empfehlen daher KI-Anwendungen nach Sicherheitsrisiko zu priorisieren und sicherheitskritische Produkte wiederkehrend zu prüfen.

Wir brauchen neue Methoden zur Absicherung von KI

Im Unterschied zu klassischen Algorithmen besteht bei KI-Anwendungen allerdings das Problem, dass die einzelnen Lernschritte nicht von Menschen interpretiert werden können. Da der Entscheidungsweg der KI undurchsichtig ist, kann die Sicherheit und Zuverlässigkeit der KI bisher nicht ohne weiteres bewertet werden. Diese Nachvollziehbarkeit ist aber notwendig, um Unsicherheiten der KI messbar zu machen und daraufhin dynamische Sicherheitsmechanismen zu entwerfen. Ziel des Fraunhofer IKS ist es, Kognitive Systeme sicherheitsbewusst zu machen. Über eine adaptive, erweiterte Softwarearchitektur werden Fehler der KI abgefangen, damit die KI Menschen nicht gefährden kann.

Ein weiteres Forschungsziel unter dem Schlagwort »Explainable AI« ist es, neuronale Netze selbst nachvollziehbar zu konzipieren. Dies ist eine Grundvoraussetzung für die Absicherung und Zertifizierung von KI-Systemen. Zudem muss das System lernen können, wie es mit gefährlichen Situationen, unklaren Sensordaten oder Fehlverhalten umgeht. Durch die umfassende Absicherung der KI entstehen sichere und gleichzeitig leistungsstarke Kognitive Systeme: safe AI

Absicherung von KI: Zuverlässige maschinelle Wahrnehmung beim autonomen Fahren

Um in Zukunft autonom fahren zu können, müssen Fahrzeuge in der Lage sein, ihre Umgebung zu erkennen, treffsicher zu interpretieren und daraufhin ihre Handlungen zu optimieren. Das ist nur mit KI-Algorithmen möglich. Bisher ist aber das maschinelle Sehen (Perzeption oder Computer Vision) der KI noch nicht so verlässlich, dass es für den Einsatz in autonomen Fahrzeugen auf öffentlichen Straßen geeignet ist.

© iStock.com/Oleh_Slobodeniuk

Der umfassende Ansatz für KI-Sicherheit des Fraunhofer IKS: Safe AI

Unsicherheiten sichtbar machen

Zunächst müssen daher Wege gefunden werden, Unsicherheiten der Künstlichen Intelligenz quantifizierbar zu machen, um das Verhalten der KI sinnvoll bewerten zu können. Das Fraunhofer-Institut für Kognitive Systeme IKS arbeitet daran, nachweisbar verlässliche Systeme zu schaffen, indem es Unsicherheiten der KI zunächst einen interpretierbaren Wert zuweist und sichtbar macht. So kann die bisher intransparente Klassifizierung der Künstlichen Intelligenz beherrschbar werden. Nur mit dieser Transparenz können passende und flexible Sicherheitskonzepte entworfen werden, um mit den Unsicherheiten der KI umzugehen.

Monitoring

Ein Ansatz des Fraunhofer IKS ist es, Künstliche Intelligenz um eine erweiterte Softwarearchitektur zu ergänzen. Diese überwacht die KI und prüft die getroffenen Entscheidungen auf Plausibilität. Dieses Monitoring funktioniert über klassische Software, welche mit bewährten Safety-Methoden beherrscht und überprüft werden kann.

Dynamisches Safety-Management

Gleichzeitig wird der KI durch den Ansatz des dynamischen Safety-Managements mehr Freiraum gegeben als durch klassische Safety-Ansätze, die immer vom Worst-Case-Szenario ausgehen. So können die Vorteile der schnellen Datenverarbeitung durch maschinelles Lernen genutzt und gleichzeitig mögliche Fehlentscheidungen abgefangen werden. Das ist für die Verwendung von Kognitiven Systemen in sicherheitskritischen Anwendungen relevant. Beispielsweise, wenn wie beim autonomen Fahren durch Fehlentscheidungen der KI Menschenleben gefährdet wären.

© iStock.com/tenra

Continuous Deployment

Kognitive Systeme müssen aus dem Feld lernen können, denn so kann das System neu kennengelernte Situationen wiedererkennen und passend handeln. Das kann allerdings nicht durch lernende Algorithmen geschehen. Das Continuous Deployment ist daher ein wichtiger Bestandteil des Absicherungskonzepts des Fraunhofer IKS. Das System muss regelmäßig aktualisiert werden, um neuentdeckte Sicherheitslücken schnell zu schließen und den Funktionsumfang zu erweitern.

Modulare Architekturen

Als wichtiger zusätzlicher Schritt der Absicherung entwickelt das Fraunhofer IKS modulare Architekturen. Durch eine modulare Safety-Architektur aus individuellen Blöcken ist eine schnelle und unkomplizierte Erweiterung des Systems möglich. So können die Ergebnisse der Safety-Analysen kostensparend implementiert werden, indem nur wenige Module ersetzt werden.

Zertifizierbare Künstliche Intelligenz

Durch die umfassende Analyse und Absicherung der KI sollen vergleichbare Qualitätsmerkmale entstehen, durch die sich die Sicherheit (Safety) von KI-basierten Lösungen zertifizieren lässt. Modulare Architekturen erleichtern den Anbietern und Betreibern langfristig das Lifecycle-Management und die wiederholte (modulare) Safety-Zertifizierung ihrer Produkte.

 

7.5.2020

Wo Künstliche Intelligenz heute schon sicherheitskritische Entscheidungen trifft

Künstliche Intelligenz (KI) wird in Zukunft großen Einfluss auf unser Leben nehmen. Und schon jetzt hat KI in vielen Bereichen Einzug gehalten – auch dort, wo es um die Sicherheit von Menschen geht.

 

Unsicherheitsbestimmung, Teil 2 / 23.3.2020

Der KI das Zweifeln beibringen: So geht‘s

Bei autonomen Systemen oder in der Medizintechnik ist es nötig, die Unsicherheit von Verfahren des Machine Learning (ML) zuverlässig zu bestimmen. Deswegen vergleichen wir vier State-of-the-art-Methoden für die Quantifizierung der Unsicherheit tiefer neuronaler Netze (Deep Neural Network, DNN) im Kontext sicherheitskritischer Systeme – damit die KI lernt, wann Zweifel angebracht sind.

 

Video / 18.3.2020

Mario Trapp bei ARD-alpha: Künstliche Intelligenz sicher nutzen

»Künstliche Intelligenz: Wie Roboterautos unfallfrei fahren.« Das ist der Titel des Vortrags von apl. Prof. Dr. habil. Mario Trapp, geschäftsführender Institutsleiter des Fraunhofer IKS, bei »Campus Talks« auf ARD-alpha. Den Beitrag können Sie hier auf unserem Blog sehen und natürlich bei »Campus Talks«.

 

9.3.2020

Die Vier-plus-Eins-Sicherheits-Architektur

Fehler in autonomen Fahrzeugen gefährden Menschen und können schnell zu Unfällen mit schweren Verletzungen und sogar zu Verkehrstoten führen. Entsprechend müssen gerade auch für Kognitive Systeme und die darin enthaltene Künstliche Intelligenz (KI) stringente Sicherheitsnachweise erbracht werden.

 

Auszeichnung / 27.2.2020

SafeAI: Best Paper Award

Für ihr Paper »Benchmarking Uncertainty Estimation Methods for Deep Learning With Safety-Related Metrics« haben Adrian Schaiger, Maximilian Henne, Karsten Roscher und Gereon Weiß vom Fraunhofer IKS den Best Paper Award des SafeAI Workshops in New York bekommen.