CT-Bilder auf Laptop und Bildschirm
© iStock.com/Orientfootage

Online-Seminar: Safe Intelligence in MedTech

Im Online-Seminar »Safe Intelligence in MedTech« vermittelt das Fraunhofer IKS einen Einblick in das methodische Spektrum medizinischer Künstlicher Intelligenz. Wo steht die Medizinbranche heute und wie entwickelt sich die Medizintechnik weiter?

mehr Info

Künstliche Intelligenz in der Medizin

Das Gesundheitswesen befindet sich in einer digitalen Transformation. In der Klinik sind die digitale Patientenakte und weitere intelligente Systeme auf dem Vormarsch, die Ärztinnen und Ärzte bei der Diagnose oder als Roboterassistenten im OP unterstützen. Durch die digitale Vernetzung von Patientendaten wird es möglich, Behandlungsprozesse zu individualisieren und zu optimieren. In der Zukunft wird uns die digitale Medizin zur Nachsorge und Therapie sogar bis nach Hause begleiten. Gesundheits-Apps und Wearables, die z.B. den Puls messen und die täglichen Schritte zählen, gehören schon heute für viele zum Alltag. Dabei können sie viel mehr als ein Lifestyle-Produkt sein, denn sie befähigen Patientinnen und Patienten die eigenen Gesundheitsdaten zu tracken und Therapien umzusetzen.

Die digitale Patientenreise

In Zukunft wird uns die digitale Medizin als Patientinnen und Patienten begleiten: Von der Prävention, über das Screening, Diagnose und Therapie bis hin zur Nachsorge.

Grafik zur digitalen Patientenreise
© Fraunhofer IKS

Chancen der Digitalisierung in der Medizin

Durch die Digitalisierung entstehen riesige Datenmengen. Wie diese Daten effektiv genutzt werden, zeigt die Industrie 4.0. Daten werden vernetzt, um Prozesse zu überwachen, um Trends frühzeitig zu erkennen und um mit neuen Geschäftsmodellen darauf reagieren zu können. Diese Vorteile lassen sich ebenso auf die Medizin übertragen. Unter Berücksichtigung aller medizinischen und nicht-medizinischen Daten wird es möglich, effizient und rational Entscheidungen zu treffen, Therapien zu individualisieren oder Krankheiten frühzeitig zu erkennen.

Big Data und Künstliche Intelligenz (KI) sind wichtige Schlüsselbegriffe in der Medizin der Zukunft. KI kann in kürzester Zeit große Datenmengen kombinieren und analysieren, schneller, als es Menschen je möglich wäre. Dies ebnet den Weg für intelligente Anwendungen in den Bereichen:

  •  Klinische Entscheidungsfindung
  •  Roboterassistierte Chirurgie
  •  Medizinische Bildverarbeitung und Diagnostik
  •  Überwachung chronischer Krankheiten
  •  Krankenhausdatenmanagement

Wir am Fraunhofer IKS forschen an der Absicherung digitaler Anwendungen in diesen sicherheitskritischen Bereichen.

Medizinische Bildverarbeitung und Diagnostik

CT-Bilder auf Laptop und Bildschirm
© iStock.com/Orientfootage

Durch die Analyse von Bilddaten kann Künstliche Intelligenz bei der medizinischen Diagnostik unterstützen. Basierend auf bereits existierenden Bilddaten und damit verbundenen Diagnosen werden von der KI Muster im Bild erkannt, die Krankheitsbildern zugeordnet werden. Die Analyse und Verfügbarkeit großer Datenmengen macht es möglich, pathologische Veränderungen im Bild schnell und zuverlässig zu erkennen, Therapien individuell auf den Patienten anzupassen und Prognosen zum weiteren Krankheitsverlauf abzugeben.

Wir arbeiten darüber hinaus an praxisnahen Einsatzpotentialen der Quantentechnologie in der Medizin. Mehr Informationen dazu finden Sie auf unserem Blog.

Roboterassistierte Chirurgie

Robotik im OP-Saal ist alles andere als Science-Fiction. Schon heute finden Roboter-Assistenten Anwendung bei verschiedensten Operationen oder auch in der Krankenhauslogistik bei der Verteilung von Medikamenten. Die Robotik ermöglicht eine höhere Präzision, eine bessere Visualisierung sowie ein minimalinvasives Vorgehen bei Operationen.

Medizinischer Roboter im OP
© iStock.com/ClaudioVentrella

Absicherung sicherheitskritischer KI-Anwendungen in der Medizin

Um die Sicherheit von Anwenderinnen und Anwendern digitaler Gesundheitsdienste zu gewährleisten, sind ganzheitliche Sicherheitskonzepte erforderlich. Intelligente Systeme sammeln und kombinieren Daten und treffen darauf basierend Entscheidungen. 

Dieser Entscheidungsprozess wird durch zwei Faktoren erschwert:

  • Verfügbarkeit der Daten: Künstliche Intelligenz wird anhand von aufbereiteten Datensätzen trainiert, um Muster erkennen zu können. Im Gesundheitswesen sind diese Daten teilweise kaum verfügbar, z.B. in der Diagnose von seltenen Krankheiten.
  • Intransparenz und Nachvollziehbarkeit von KI-Entscheidungen: Komplexe KI-Algorithmen und deren Entscheidungen können beispielsweis in der Diagnostik durch Fachpersonal nur schwer überprüft werden, weil nicht klar ist, welche Daten für die Entscheidung grundlegend sind.

Falschdiagnosen und -prognosen stellen ein großes Risiko bei der Anwendung kognitiver Systeme in der Medizintechnik dar. Wir am Fraunhofer-Institut für Kognitive Systeme IKS forschen daran, intelligente kognitive Systeme verlässlich und sicher zu machen.

Unsere Forschung umfasst mehrere Schwerpunkte:

  • Absicherung der Wahrnehmung (Perzeption) von kognitiven Systemen in der Medizin
  • Dynamische Sicherheitsnachweise digitaler Gesundheitsdienste
  • Bestimmung von Unsicherheiten (Uncertainty Estimations) des KI-Outputs
  • Erklärbarkeit und Nachvollziehbarkeit kognitiver Systeme
  • Anwendung von Quantencomputing in der Medizin

Forschungsschwerpunkte des Fraunhofer IKS

Absicherung der Wahrnehmung (Perzeption) kognitiver Systeme in der Medizin

Künstliche Intelligenz erkennt in Bildern und Sensordaten Muster, die zuvor anhand von Trainingsdaten erlernt wurden. Durch die Perzeption, d.h. Interpretation dieser Daten, werden Objekte erkannt und die Umgebung wird wahrgenommen. Eine zuverlässige und robuste Perzeption ist nicht nur für die Diagnostik, sondern auch für die Wahrnehmung von OP-Robotern ein kritischer Sicherheitsfaktor. Um sicher agieren zu können und Falschbehandlungen und Verletzungen von Patientinnen und Patienten zu vermeiden, ist die exakte Positionierung des Eingriffes im Körper unerlässlich.

Dynamische Sicherheitsnachweise für digitale Gesundheitsdienste

Die regulatorischen Anforderungen an die Sicherheit und Leistungsfähigkeit von Medizinprodukten sind hoch. Intelligente Systeme entwickeln sich kontinuierlich weiter und erweitern ihre Fähigkeiten. Dabei bleiben sie eine Black Box, d.h. nach außen ist nicht klar, wie Entscheidungen getroffen werden. Um Künstliche Intelligenz zertifizieren zu können, ist ein dynamischer und kontinuierlicher Sicherheitsnachweis notwendig. Wir am Fraunhofer IKS forschen an Lösungen, um die Erklärbarkeit, Transparenz und Robustheit neuronaler Netze zu verbessern und Qualitäts- und Sicherheitsnachweise der KI zu erbringen.

Bestimmung von
Unsicherheiten des
KI-Outputs

Mit Unsicherheitsabschätzungen bringen wir der Künstlichen Intelligenz das Zweifeln bei, um Fehlentscheidungen zu vermeiden. In der Medizin sind oft nur wenige Daten in niedriger Qualität zum Training kognitiver Systeme vorhanden. Dies kann dazu führen, dass auf Basis vorhandener Daten keine eindeutige Entscheidung getroffen werden kann. In solchen Situationen ist es wichtig, dass sich das kognitive System dieser Unsicherheit bewusst ist und darauf aufmerksam macht, um z.B. Falschdiagnosen zu vermeiden.

Erklärbarkeit und Nachvollziehbarkeit von KI

Unter dem Schlagwort Explainable AI forscht das Fraunhofer IKS an Lösungen, die Entscheidungsgrundlage bei der Diagnostik für Anwenderinnen und Anwender verständlich und überprüfbar zu machen. Dabei verbinden wir KI-Technologie mit klassischer Softwareentwicklung.

Quantencomputing in der Medizin

In einem Verbundprojekt mit dem Klinikum der LMU München forschen wir an Lösungen, wie Quantencomputing und Künstliche Intelligenz für eine intelligente Diagnostik und Gesundheitsversorgung eingesetzt werden können.

Safe Intelligence Magazin

Das sind die neuesten Artikel auf unserem Blog im Bereich Medizintechnik:

 

Medizintechnik / 16.6.2021

Wie KI das Leben von Patienten erleichtert

Die Corona-Pandemie hat in manchen Bereichen die Digitalisierung erheblich vorangebracht. In Zukunft wird die digitale Medizin Patientinnen und Patienten auf allen Stationen der Behandlung begleiten: von der Prävention, über Screening, Diagnose und Therapie bis hin zur Nachsorge. Dabei ist die Künstliche Intelligenz (KI) ein wichtiger Wegbereiter, um eine effiziente und individuelle Versorgung zu ermöglichen.

 

10.9.2020

Fraunhofer IKS vs. Corona

Mit Innovation und Expertise gegen die Pandemie

Auch das Fraunhofer IKS leistet seinen Beitrag zum Kampf gegen die Corona-Pandemie. In einem mehrstufigen Wettbewerb innovativer Ideen, samt agiler Methoden und teamübergreifender Zusammenarbeit, kristallisierten sich drei erfolgversprechende Lösungsansätze heraus. Am Ende hieß der Gewinner »Dr. Pocket«.

 

Artificial Intelligence / 25.6.2020

Artificial Intelligence - Why Safety Matters

This article focuses on the basic understanding of what safety actually means. It highlights why it is so important to understand that safe AI has less to do with AI itself and much more to do with safety engineering.