Künstliche Intelligenz in der Medizin

Datenschutz und Datenverarbeitung

Wir setzen zum Einbinden von Videos den Anbieter YouTube ein. Wie die meisten Websites verwendet YouTube Cookies, um Informationen über die Besucher ihrer Internetseite zu sammeln. Wenn Sie das Video starten, könnte dies Datenverarbeitungsvorgänge auslösen. Darauf haben wir keinen Einfluss. Weitere Informationen über Datenschutz bei YouTube finden Sie in deren Datenschutzerklärung unter: https://policies.google.com/privacy

Dr. Narges Ahmidi, Abteilungsleiterin Reasoned AI Decisions, erklärt im Video wie Künstliche Intelligenz und maschinelles Lernen die Medizin in Zukunft prägen wird. Die Anwendungsbereiche reichen von der Diagnose, z. B. durch Bildanalyse, über die Behandlung von Patienten bis hin zur Wartung von medizinischen Geräten auf Intensivstationen.

Das Gesundheitswesen befindet sich in einer digitalen Transformation. In der Klinik sind die digitale Patientenakte und weitere intelligente Systeme auf dem Vormarsch, die Ärztinnen und Ärzte bei der Diagnose oder als Roboterassistenten im OP unterstützen. Durch die digitale Vernetzung von Patientendaten wird es möglich, Behandlungsprozesse zu individualisieren und zu optimieren. In der Zukunft wird uns die digitale Medizin zur Nachsorge und Therapie sogar bis nach Hause begleiten. Gesundheits-Apps und Wearables, die z.B. den Puls messen und die täglichen Schritte zählen, gehören schon heute für viele zum Alltag. Dabei können sie viel mehr als ein Lifestyle-Produkt sein, denn sie befähigen Patientinnen und Patienten die eigenen Gesundheitsdaten zu tracken und Therapien umzusetzen.

Die digitale Patientenreise

In Zukunft wird uns die digitale Medizin als Patientinnen und Patienten begleiten: Von der Prävention, über das Screening, Diagnose und Therapie bis hin zur Nachsorge.

Grafik zur digitalen Patientenreise
© Fraunhofer IKS

Chancen der Digitalisierung in der Medizin

Durch die Digitalisierung entstehen riesige Datenmengen. Wie diese Daten effektiv genutzt werden, zeigt die Industrie 4.0. Daten werden vernetzt, um Prozesse zu überwachen, um Trends frühzeitig zu erkennen und um mit neuen Geschäftsmodellen darauf reagieren zu können. Diese Vorteile lassen sich ebenso auf die Medizin übertragen. Unter Berücksichtigung aller medizinischen und nicht-medizinischen Daten wird es möglich, effizient und rational Entscheidungen zu treffen, Therapien zu individualisieren oder Krankheiten frühzeitig zu erkennen.

Big Data und Künstliche Intelligenz (KI) sind wichtige Schlüsselbegriffe in der Medizin der Zukunft. KI kann in kürzester Zeit große Datenmengen kombinieren und analysieren, schneller, als es Menschen je möglich wäre. Dies ebnet den Weg für intelligente Anwendungen in den Bereichen:

  •  Klinische Entscheidungsfindung
  •  Roboterassistierte Chirurgie
  •  Medizinische Bildverarbeitung und Diagnostik
  •  Überwachung chronischer Krankheiten
  •  Krankenhausdatenmanagement

Wir am Fraunhofer IKS forschen an der Absicherung digitaler Anwendungen in diesen sicherheitskritischen Bereichen.

Medizinische Bildverarbeitung und Diagnostik

CT-Bilder auf Laptop und Bildschirm
© iStock.com/Orientfootage

Durch die Analyse von Bilddaten kann Künstliche Intelligenz bei der medizinischen Diagnostik unterstützen. Basierend auf bereits existierenden Bilddaten und damit verbundenen Diagnosen werden von der KI Muster im Bild erkannt, die Krankheitsbildern zugeordnet werden. Die Analyse und Verfügbarkeit großer Datenmengen macht es möglich, pathologische Veränderungen im Bild schnell und zuverlässig zu erkennen, Therapien individuell auf den Patienten anzupassen und Prognosen zum weiteren Krankheitsverlauf abzugeben.

Wir arbeiten darüber hinaus an praxisnahen Einsatzpotentialen der Quantentechnologie in der Medizin. Mehr Informationen dazu finden Sie auf unserem Blog.

Roboterassistierte Chirurgie

Robotik im OP-Saal ist alles andere als Science-Fiction. Schon heute finden Roboter-Assistenten Anwendung bei verschiedensten Operationen oder auch in der Krankenhauslogistik bei der Verteilung von Medikamenten. Die Robotik ermöglicht eine höhere Präzision, eine bessere Visualisierung sowie ein minimalinvasives Vorgehen bei Operationen.

Medizinischer Roboter im OP
© iStock.com/ClaudioVentrella

Absicherung sicherheitskritischer KI-Anwendungen in der Medizin

Um die Sicherheit von Anwenderinnen und Anwendern digitaler Gesundheitsdienste zu gewährleisten, sind ganzheitliche Sicherheitskonzepte erforderlich. Intelligente Systeme sammeln und kombinieren Daten und treffen darauf basierend Entscheidungen. 

Dieser Entscheidungsprozess wird durch zwei Faktoren erschwert:

  • Verfügbarkeit der Daten: Künstliche Intelligenz wird anhand von aufbereiteten Datensätzen trainiert, um Muster erkennen zu können. Im Gesundheitswesen sind diese Daten teilweise kaum verfügbar, z.B. in der Diagnose von seltenen Krankheiten.
  • Intransparenz und Nachvollziehbarkeit von KI-Entscheidungen: Komplexe KI-Algorithmen und deren Entscheidungen können beispielsweis in der Diagnostik durch Fachpersonal nur schwer überprüft werden, weil nicht klar ist, welche Daten für die Entscheidung grundlegend sind.

Falschdiagnosen und -prognosen stellen ein großes Risiko bei der Anwendung kognitiver Systeme in der Medizintechnik dar. Wir am Fraunhofer-Institut für Kognitive Systeme IKS forschen daran, intelligente kognitive Systeme verlässlich und sicher zu machen.

Unsere Forschung umfasst mehrere Schwerpunkte:

  • Absicherung der Wahrnehmung (Perzeption) von kognitiven Systemen in der Medizin
  • Dynamische Sicherheitsnachweise digitaler Gesundheitsdienste
  • Bestimmung von Unsicherheiten (Uncertainty Estimations) des KI-Outputs
  • Erklärbarkeit und Nachvollziehbarkeit kognitiver Systeme
  • Anwendung von Quantencomputing in der Medizin

Forschungsschwerpunkte des Fraunhofer IKS

Absicherung der Wahrnehmung (Perzeption) kognitiver Systeme in der Medizin

Künstliche Intelligenz erkennt in Bildern und Sensordaten Muster, die zuvor anhand von Trainingsdaten erlernt wurden. Durch die Perzeption, d.h. Interpretation dieser Daten, werden Objekte erkannt und die Umgebung wird wahrgenommen. Eine zuverlässige und robuste Perzeption ist nicht nur für die Diagnostik, sondern auch für die Wahrnehmung von OP-Robotern ein kritischer Sicherheitsfaktor. Um sicher agieren zu können und Falschbehandlungen und Verletzungen von Patientinnen und Patienten zu vermeiden, ist die exakte Positionierung des Eingriffes im Körper unerlässlich.

Dynamische Sicherheitsnachweise für digitale Gesundheitsdienste

Die regulatorischen Anforderungen an die Sicherheit und Leistungsfähigkeit von Medizinprodukten sind hoch. Intelligente Systeme entwickeln sich kontinuierlich weiter und erweitern ihre Fähigkeiten. Dabei bleiben sie eine Black Box, d.h. nach außen ist nicht klar, wie Entscheidungen getroffen werden. Um Künstliche Intelligenz zertifizieren zu können, ist ein dynamischer und kontinuierlicher Sicherheitsnachweis notwendig. Wir am Fraunhofer IKS forschen an Lösungen, um die Erklärbarkeit, Transparenz und Robustheit neuronaler Netze zu verbessern und Qualitäts- und Sicherheitsnachweise der KI zu erbringen.

Bestimmung von
Unsicherheiten des
KI-Outputs

Mit Unsicherheitsabschätzungen bringen wir der Künstlichen Intelligenz das Zweifeln bei, um Fehlentscheidungen zu vermeiden. In der Medizin sind oft nur wenige Daten in niedriger Qualität zum Training kognitiver Systeme vorhanden. Dies kann dazu führen, dass auf Basis vorhandener Daten keine eindeutige Entscheidung getroffen werden kann. In solchen Situationen ist es wichtig, dass sich das kognitive System dieser Unsicherheit bewusst ist und darauf aufmerksam macht, um z.B. Falschdiagnosen zu vermeiden.

Erklärbarkeit und Nachvollziehbarkeit von KI

Unter dem Schlagwort Explainable AI forscht das Fraunhofer IKS an Lösungen, die Entscheidungsgrundlage bei der Diagnostik für Anwenderinnen und Anwender verständlich und überprüfbar zu machen. Dabei verbinden wir KI-Technologie mit klassischer Softwareentwicklung.

Quantencomputing in der Medizin

In einem Verbundprojekt mit dem Klinikum der LMU München forschen wir an Lösungen, wie Quantencomputing und Künstliche Intelligenz für eine intelligente Diagnostik und Gesundheitsversorgung eingesetzt werden können.

Safe Intelligence Blog

Das sind die neuesten Artikel auf unserem Blog im Bereich Medizintechnik:

 

Medizin / 29.6.2022

Mit Künstlicher Intelligenz die Intensivpflege verbessern

Klinikpersonal leidet zumeist unter enormer Arbeitsbelastung und Personalmangel, vor allem auf Intensivstationen. Dies hat Konsequenzen für Patient*innen, besonders im Fall von Multiorganversagen. Mit Hilfe von Künstlicher Intelligenz soll zukünftig ein klinisches Multiorgan-Unterstützungssystem noch besser für die Behandlung eingesetzt werden.

 

Online Seminar / 14.6.2022

Safe Intelligence im Labor

Viele CDS-Expertensysteme (Clinical Decision Support) in Laboren stehen in der Kritik. Die Gründe: Schwierigkeiten bei der Skalierung, ständige Überprüfung aus medizinischer Sicht und begrenzte Daten. Daher ist Künstliche Intelligenz (KI) eine plausible Alternative. Das Online-Seminar »Sichere Intelligenz für Labore« beleuchtete Einsatzmöglichkeiten und Herausforderungen von KI in Laboren aus Sicht von Industrie und Patienten.

 

KI in der Medizin / 13.1.2022

Unsicherheiten in den Griff bekommen

Künstliche Intelligenz und Maschinelles Lernen werden die Medizintechnik der nahen Zukunft prägen. Aber komplexe Verfahren des Machine Learning stellen Forscherinnen und Forscher vor ein Problem: Das Ausschließen von Fehlern vor der Inbetriebnahme autonomer Systeme sowie die zuverlässige Erkennung von Fehlern zur Laufzeit sind aufwendig und anspruchsvoll.

 

KI in der Medizin / 29.7.2021

Online Tool checkt Verlässlichkeit von KI-Modellen

In modernen Perzeptionsanwendungen kommen aufgrund ihrer starken Performance vermehrt Modelle auf Basis Künstlicher Intelligenz zum Einsatz. Allerdings geht diese steigende Leistungsfähigkeit häufig auf Kosten der Nachvollziehbarkeit von Ergebnissen. Ein vom Fraunhofer-Institut für Kognitive Systeme IKS entwickeltes Online Tool schafft hier Abhilfe.

 

Medzintechnik / 21.7.2021

Künstliche Intelligenz in der Medizin von A bis Z: Teil 2

Kann Künstliche Intelligenz (KI) das Risiko einer Psychose vorhersagen? Und beschleunigt Machine Learning die Entwicklung von Medikamenten? In diesem Blog-Beitrag haben wir interessante Fakten zu KI in der Medizin zusammengestellt. In Teil 2 finden Sie Informationen von N wie Neurologie bis Z wie Zulassung.

Künstliche Intelligenz:
Alle Blogartikel

Sie wollen mehr zur Forschung des Fraunhofer IKS rund um das Thema Künstliche Intelligenz erfahren? Dann schauen Sie auf unserem Blog vorbei. Hier finden Sie alle Blogartikel zu Künstlicher Intelligenz.