Vertrauenswürdige KI

Künstliche Intelligenz (KI) ist der Kern Kognitiver Systeme. Die Entwicklung vertrauenswürdiger Kognitiver Systeme startet daher mit vertrauenswürdiger KI. Aktuelle Entwicklungen wie die KI-Verordnung der Europäischen Union belegen die zunehmende Wichtigkeit, starke KI-Lösungen zu entwickeln, denen die Gesellschaft vertrauen kann. Das Fraunhofer-Institut für Kognitive Systeme IKS konzentriert sich in seiner Forschung auf Aspekte, die insbesondere für cyber-physische Systeme von Bedeutung sind. Daher erforschen wir Ansätze, die einen direkten Einfluss auf die Verlässlichkeit und Sicherheit Künstlicher Intelligenz für unterschiedliche Anwendungsbereiche haben. Dies sind insbesondere die Bereiche autonomes Fahren, Produktion, Smart Farming und Medizin.

Sichere KI-basierte Bilderkennung

Ein Schwerpunkt unserer Forschung zu vertrauenswürdiger Künstlicher Intelligenz liegt in der verlässlichen KI-basierten Perzeption und Bilderkennung, insbesondere auf der Interpretation von 2D- und 3D-Daten mit Hilfe Künstlicher Intelligenz. Derartige Ansätze kommen beispielsweise bei der Umfeldwahrnehmung in autonomen Fahrzeugen zum Einsatz sowie bei der Interpretation von Bildern in medizinischen Geräten. Um die Verlässlichkeit von Perzeptions- und Bilderkennungssystemen zu verbessern, untersucht das Fraunhofer IKS Ansätze für ein KI-Monitoring, welches die Ergebnisse von Machine-Learning-Algorithmen während der Laufzeit erfasst und deren Qualität bewertet.

Darüber hinaus beleuchten wir zur Beurteilung der Qualität von Machine-Learning-Algorithmen auch das Training der Künstlichen Intelligenz. Hierbei konzentrieren wir uns vor allem auf Ansätze für ein dateneffizientes Lernen, da in den meisten industriellen Anwendungsbereichen und Unternehmen nicht ausreichend Daten für das Training der Künstlichen Intelligenz in der benötigten Qualität vorliegen. Hierbei betrachten wir unter anderem den Einsatz von Active-in-the-loop-Learning, hybriden ML-Modellen und synthetischen Daten.

Predictive Modelling: Wie KI bei Entscheidungen verlässlich unterstützen kann

Das Fraunhofer IKS forscht im Rahmen seiner Arbeit zu vertrauenswürdiger Künstlicher Intelligenz nicht nur an verlässlichen KI-basierten Prognosen, sondern auch an Methoden zur optimalen Entscheidungsfindung. Klassische KI-basierte Vorhersagemodelle sind nämlich nicht automatisch dazu geeignet, verlässliche Entscheidungsempfehlungen zu generieren – stattdessen müssen ursachen-begründete Vorhersagemodelle zur kausalen Analyse (Causal Informed Predictive Modelling) integriert werden, um begründet entscheiden zu können.

Mit Hilfe von Zeitreihenanalysen bewerten wir Reihen von Vergangenheitsdaten, um KI-basiert zuverlässige Prognosen für zukünftige Entwicklungen stellen zu können. Die Anwendungsbereiche solcher Ansätze sind vielseitig: Sie kommen unter anderem zur Unterstützung bei medizinischen Diagnosen zum Einsatz sowie bei der vorausschauenden Wartung (Predictive Maintenance) von Produktionsanlagen, Maschinen und Geräten. Zu diesem Zweck entwickeln wir Methoden für eine robuste, verlässliche und frühzeitige Prognose zukünftiger Ereignisse. Solche Ereignisse können zum Beispiel der Ausfall einzelner Bauteile in Maschinen oder die Wahrscheinlichkeit für eine körperliche Erkrankung sein. Darüber hinaus integrieren wir Methoden in unsere KI-Lösungen, die durch Kausalschlüsse begründbare und umsetzbare Empfehlungen für eine Entscheidungsfindung liefern.

Interdisziplinäre Betrachtung von vertrauenswürdiger KI

Das Fraunhofer IKS betrachtet vertrauenswürdige Künstliche Intelligenz interdisziplinär und bezieht Ergebnisse der beiden anderen Forschungsschwerpunkte »Safety Assurance« und »Resilient Software Systems« in die Entwicklung von Ansätzen und Methoden ein. So entwickelt der Bereich Safety Assurance beispielsweise Safety Cases, um nachzuweisen, dass konkrete Anforderungen an die Sicherheit der Systeme erfüllt werden.

Vertrauenswürdige KI auf unserem Blog

Auf unserem Blog finden Sie Artikel rund um die Forschung zu vertrauenswürdiger Künstlicher Intelligenz. Lesen Sie direkt weiter:

 

KI in der Medizin / 13.1.2022

Unsicherheiten in den Griff bekommen

Künstliche Intelligenz und Maschinelles Lernen werden die Medizintechnik der nahen Zukunft prägen. Aber komplexe Verfahren des Machine Learning stellen Forscherinnen und Forscher vor ein Problem: Das Ausschließen von Fehlern vor der Inbetriebnahme autonomer Systeme sowie die zuverlässige Erkennung von Fehlern zur Laufzeit sind aufwendig und anspruchsvoll.

 

Mobilität der Zukunft / 23.9.2021

Wenn die KI irritiert ist

Ein Aufkleber auf dem Vorfahrtsschild. Äste, die vors Stoppschild ragen. Ein bisschen Graffiti auf dem Tempolimit-Hinweis. Völlig normal im Straßenbild, oder? Was für Menschen zumeist überhaupt kein Problem darstellt, kann für Künstliche Intelligenz (KI) schwierig werden.

 

IKS-Aufbauprojekt / 31.5.2021

Vertrauen in Künstliche Intelligenz aufbauen

Safe Intelligence ist das zentrale Forschungsthema des Fraunhofer-Instituts für Kognitive Systeme IKS. Ein sehr wichtiges Thema, in technischer ebenso wie in wirtschaftlicher und gesellschaftlicher Hinsicht. Das finden auch die beiden Vorsitzenden des Beirats für das IKS-Aufbauprojekt – und das jeder aus seiner Perspektive.

Weitere Forschungsschwerpunkte

 

Safety Assurance

Das Fraunhofer IKS forscht daran, welche Anforderungen eine KI erfüllen muss, damit sie sicher genug ist. Außerdem arbeiten wir an Safety Cases, um die Sicherheit des Gesamtsystems nachweisen zu können.

 

Resilient Software

Resiliente Software-Systeme müssen beherrschbar und adaptierbar sei. Das Fraunhofer IKS entwickelt Lösungen, die die Nutzbarkeit und Sicherheit cyber-physischer Systeme selbst in dynamischen Umgebungen gewährleisten.

Referenzen

Anwendungsfälle und Referenzen zu den Forschungsfeldern des Fraunhofer IKS finden Sie auf unserer Referenzübersicht. Nutzen Sie die untenstehenden Links und springen Sie direkt zu dem Bereich, der Sie am meisten interessiert: