Digital Health

Die Sicherheit und Vertrauenswürdigkeit von intelligenten Gesundheitsanwendungen bildet das Herzstück unserer Forschung zu Digital Health am Fraunhofer IKS. Denn: KI-Anwendungen müssen zuverlässig, verständlich und robust für Patientinnen und Patienten, Ärztinnen und Ärzte, Gesundheitsversorger und andere wichtige Akteure sein. Nur dann können die vieldiskutierten Potenziale von Digitalisierung und Künstlicher Intelligenz (KI) im sicherheitskritischen Gesundheitswesen ausgeschöpft werden, im Sinne einer bestmöglichen Patientenversorgung.

Unser Leitthema Trustworthy Digital Health bündelt verschiedene Forschungsschwerpunkte, interdisziplinäre Kompetenzen und Lösungen, die wir – entsprechend dem Stand der Wissenschaft, Technik und Gesundheitswirtschaft – ständig weiterentwickeln. Gemeinsam mit Kliniken, Medizintechnik- & Health IT-Unternehmen, Netzwerken, Universitäten und vielen weiteren Partnern aus Forschung und Industrie erforschen und entwickeln wir intelligente Gesundheitslösungen. Unser Spektrum reicht von klassischen KI-Modellen (z.B. Entscheidungsbäume, Clustering und neuronale Netzwerke für medizinische Bildverarbeitung, Auswertung von Patientendaten oder Zeitreihen) bis hin zu Generativer KI und hybriden quantengestützten KI-Ansätzen. Geringe Datenmengen, multimodale oder verteilte Daten, Interpretierbarkeit von KI und andere komplexe Herausforderungen verstehen wir als spannende wissenschaftliche Fragestellungen.

Unsere Kernkompetenzen

Optimierung von Gesundheitsprozessen

Medizinische Entscheidungsunterstützung mit KI

Unsere Formate:

  • Ideation-Workshops
  • Rapid Prototyping
  • R&D
  • Trainings

Dateneffiziente Medizinische Bildauswertung

Verifikation & Validierung von KI

Optimierung von Gesundheitsprozessen

Der akute Fachkräftemangel, demographische Wandel, Kostendruck und der gleichzeitige Wunsch nach einer stetig verbesserten Gesundheitsversorgung erfordern, dass Gesundheitsprozesse von der Prävention bis zur Nachsorge optimiert und Fachkräfte durch den Einsatz von Technologie entlastet werden. Die Digitalisierung im Krankenhaus und anderen Gesundheitseinrichtungen wird intensiv vorangetrieben, unter anderem durch regulatorische Initiativen wie das deutsche Krankenhauszukunftsgesetz (KHZG, 2020), das Digital-Gesetz (DigiG, 2023) und das Gesundheitsdatennutzungsgesetz (GDNG, voraussichtlich 2024).

Die digitale Transformation des deutschen Gesundheitswesens ermöglicht und fördert auch den zunehmenden Einsatz von KI entlang der Patientenreise, vor allem durch die Entlastung von Fachkräften von zeitintensiven, manuellen Aufgaben. Mögliche Anwendungsbereiche für KI sind die Personalplanung, OP-Management, Materialbeschaffung und -lagerung und Verwaltung von Patientenakten. Gemeinsam mit Gesundheitsfachkräften und der Industrie entwickeln wir in unseren Forschungsprojekten kognitive Systeme und vertrauenswürdige KI und erproben deren Potenzial, Skalierbarkeit und oft herausfordernde Übertragbarkeit auf andere Stationen und Einrichtungen. 

Unsere Forschungsansätze

arzt patient
© iStock.com/AmnajKhetsamtip
  • KI-gestützte Personal-, Ressourcen- oder OP-Planung
  • Intelligentes Prozessmanagement in Kliniken
  • Übertragbarkeit von KI-Modellen (Domain Generalization) auf verschiedene Anwendungsbereiche und Gesundheitseinrichtungen
  • Generative KI zur Vereinfachung administrativer Aufgaben (z.B. Dokumentation, Verwaltung, Patientenaufklärung)

Referenzen:

AI Innovation Days in Berlin von Fraunhofer IKS und Flying Health (2022)

Prämiertes Projekt: KI-basierte Personalbedarfsprognose mit Integration von PPR 2.0 (2023)

Artikel im Krankenhaus IT-Journal: Personalplanung mit KI – Status Quo, Chancen und Grenzen (2024)

Training „AI in Healthcare“ für die EU-Kommission(2024)

Medizinische Entscheidungsunterstützung mit KI

Die Digitalisierung im Gesundheitswesen und Einführung der elektronischen Patientenakte (ePA) ermöglichen den Zugriff auf immer mehr Daten und den Einsatz von KI zur Unterstützung medizinischer Entscheidungen in einer Weise, die bisher nicht möglich war. Im sicherheitskritischen Gesundheitswesen, wo Menschenleben auf dem Spiel stehen, ist die Gewährleistung von vertrauenswürdiger und robuster KI von entscheidender Bedeutung.

Daher entwickeln wir erklärbare und zuverlässige KI-Modelle, insbesondere für Entscheidungsunterstützungssysteme, welche die Analyse von Patientendaten erleichtern sollen. Diese Modelle zielen darauf ab, medizinisches Fachpersonal bei der Entscheidungsfindung und Erstellung individueller Behandlungspläne für Patientinnen und Patienten zu unterstützen oder einen möglichen Krankheitsverlauf vorherzusagen. In verschiedenen Forschungsprojekten haben wir umfangreiche Erfahrung im Umgang mit realen Herausforderungen und Problemen im Gesundheitswesen gesammelt. Zum Beispiel sind Daten häufig unvollständig, unstrukturiert, in ihrem Umfang begrenzt oder über verschiedene Institutionen verteilt (Zamanian et al. 2023). In enger Zusammenarbeit mit medizinischen Experten und der Industrie nutzen wir unser wissenschaftliches Fachwissen, um das Gesundheitswesen technologisch voranzubringen und die Patientenversorgung zu verbessern.

Unsere Forschungsansätze

Medizin im Labor
© iStock.com/gorodenkoff
  • Analyse von ePA-Daten mit Hilfe von KI (z. B. datengestützte Analyse von Patientendaten bei Frühgeborenen)
  • KI-basierte Vorhersage von gesundheitlichen Problemen und Komplikationen (z.B. nach Stent-Implantation bei Koronarer Herzerkrankung (Pachl et al.2021))
  • Zeitreihenanalyse zur Überwachung von Krankheitsverläufen anhand sequenzieller Patientendaten (z.B. Vitalwerte, Laborwerte)
  • Optimierung von Behandlungsplänen und -strategien durch Wirksamkeitsanalysen und kausale Inferenz (Artikel: "Medizintechnik – KI hilft, medizinische Probleme zu verstehen”)
  • Föderiertes Lernen, d.h. kollaboratives Modelltraining mit über verschiedenen Einrichtungen verteilten Daten ohne Datenzentralisierung
  • Erklärbare KI (xAI)-Methoden zur Gewährleistung von Transparenz von KI-basierter Entscheidungsunterstützung (Schröder et al. 2023a, Schröder et al. 2023b)
  • Generative KI zur Unterstützung in komplexen Informationsstrukturen (z.B. Analyse von Wirkketten, Diagnosen, Patientendaten)

Referenzen

Blogartikel: "Medizintechnik – KI hilft, medizinische Probleme zu verstehen" (2023)

Blogartikel: "Mit Künstlicher Intelligenz die Intensivpflege verbessern" (2022)

Artikel im IHK-Magazin: Innovationskraft durch KI – Stents unter der Lupe (Seite 8-9, 2023)

Projekt: Fraunhofer vs. Corona: Kontaktlose Gesundheitsüberwachung ansteckender Patientengruppen (2021)

Zamanian A, Ahmidi N, Drton M. (2023). Assessable and interpretable sensitivity analysis in the pattern graph framework for nonignorable missingness mechanisms Stat Med. 2023 Dec 20;42(29):5419-5450. doi: 10.1002/sim.9920. Epub 2023 Sep 27. PMID: 37759370. 

von Kleist, H., Zamanian, A., Shpitser, I., & Ahmidi, N. (2023a). Evaluation of Active Feature Acquisition Methods for Static Feature Settings. arXiv preprint arXiv:2312.03619.  

von Kleist, H., Zamanian, A., Shpitser, I., & Ahmidi, N. (2023b). Evaluation of Active Feature Acquisition Methods for Time-varying Feature Settings. arXiv preprint arXiv:2312.01530.  

Schröder, M., Zamanian, A., & Ahmidi, N. (2023a). Post-hoc Saliency Methods Fail to Capture Latent Feature Importance in Time Series Data. In ICLR 2023 Workshop on Trustworthy Machine Learning for Healthcare. 

Schröder, M., Zamanian, A., & Ahmidi, N. (2023b). What about the Latent Space? The Need for Latent Feature Saliency Detection in Deep Time Series Classification. Machine Learning and Knowledge Extraction, 5(2), 539-559.

Bauer, A., Pachl, E., Hellmuth, J. C., Kneidinger, N., Heydarian, M., Frankenberger, M., ... & Hilgendorff, A. (2023). Proteomics reveals antiviral host response and NETosis during acute COVID-19 in high-risk patients. Biochimica et Biophysica Acta (BBA)-Molecular Basis of Disease, 1869(2), 166592. 

Pachl, E.; Zamanian, A.; Stieler, M.; Bahr, C.; Ahmidi, N. (2021). Early-, Late-, and Very Late-Term Prediction of Target Lesion Failure in Coronary Artery Stent Patients: An International Multi-Site StudyAppl. Sci. 2021, 11, 6986.

Dateneffiziente Medizinische Bildauswertung

In der medizinischen Bildgebung und Diagnostik unterstützt KI bereits heute Ärztinnen und Ärzte in der Praxis, z.B. bei der Auswertung von Röntgen-, MRT- oder CT-Bildern. Trotz der fortschreitenden digitalen Transformation in Deutschland und zunehmenden Digitalisierung im Gesundheitswesen ist gerade im Bereich des Medical Imaging die Entwicklung von vertrauenswürdiger KI oft schwierig, weil nur geringe Datenmengen (Little Data) verfügbar sind, insbesondere im Falle seltener Krankheiten. Für das Training & Testen von KI-Modellen sind grundsätzlich große bis sehr große Datenmengen (Big Data) notwendig, um eine hohe Genauigkeit und Zuverlässigkeit der KI-Entscheidungen zu erreichen.

Unsere Forschungsansätze zeigen, dass mit den richtigen KI-Methoden bereits mit wenigen Daten sehr zuverlässige und erklärbare KI-Modelle zur Bildklassifikation entwickelt werden können. Wie “wenige” Daten ausreichend sind, hängt dabei ganz vom Anwendungsfall ab - zwischen einer Handvoll und einigen Tausenden Bildern. Neben “klassischen” KI-Methoden erproben wir auch Zukunftstechnologien wie Quantencomputing, z.B. durch hybride Quantum-KI-Modelle zur Bildklassifikation von Brustkrebs. 

Unsere Forschungsansätze

Ärztinnen begutachten medizinische Bildaufnahmen
© iStock.com/vm
  • Erklärbare KI (xAI)-Methoden zur Gewährleistung von Transparenz von KI-basierter medizinischer Bildauswertung (z.B. Prototype Learning, Concept Learning)
  • KI-Modelle mit Integration von Fachexperten-Wissen
  • Vertrauenswürdige KI (bereits mit kleinen Datensätzen)
  • Lernen von Teilaufgaben
  • Quantengestützte KI

Referenzen

Projekt Fast: Wie weniger Daten zu frühzeitiger und zuverlässiger Automatisierung durch KI führen (2023)

Blogartikel: Wie Quantencomputing in der medizinischen Diagnostik helfen könnte (2023)

Projekt BayQS: Quantencomputing und Künstliche Intelligenz für sichere medizinische Diagnosen (2023)

Hagiwara, Y., Espinoza, D., Schleiß, P., Mata, N., Doan, N. A. V. (2023). Toward Safe Human Machine Interface and Computer-Aided Diagnostic Systems. 2023 IEEE International Conference on Metrology for eXtended Reality, Artificial Intelligence and Neural Engineering (MetroXRAINE), Milano, Italy, 2023, pp. 236-241, doi: 10.1109/MetroXRAINE58569.2023.10405816.

Sinhamahapatra, P., Heidemann, L., Monnet, M., & Roscher, K. (2023). Towards Human-Interpretable Prototypes for Visual Assessment of Image Classification Models. Proceedings of the 18th International Joint Conference on Computer Vision, Imaging and Computer Graphics Theory and Applications. Volume 5: VISAPP, 878-887

 

Verifikation & Validierung von KI

Die Gewährleistung der Sicherheit und Vertrauenswürdigkeit von KI-Systemen ist ein entscheidender Schritt vor deren Einsatz in Gesundheitseinrichtungen. Diese Anforderung spiegelt sich in der zunehmenden Veröffentlichung von Normen und Standards wider, wie dem EU-Gesetz zur Regulierung von künstlicher Intelligenz (AI ACT 2021). Die Herausforderung für KI-Entwickler und KI-Anbieter besteht daher darin, die High-Level-Anforderungen in den Standards in die detaillierte technische Ebene zu übersetzen und durch geeignete Methoden und Konzepte zu operationalisieren. Neben der Begründung, wie ein KI-System die geforderten Normen erfüllt, umfasst dies auch das Aufsetzen von gültigen und transparenten Prüfverfahren, um den langwierigen und kostspieligen Zertifizierungsprozess für KI-Systeme zu unterstützen. 

Mit unserem KI-Verifikations-Framework haben wir eine Lösung entwickelt, um die Vertrauenswürdigkeit von KI-Modellen zu überprüfen - auf der Grundlage wissenschaftlicher Erkenntnisse und Erfahrungen aus angewandten Projekten. Unser Framework deckt verschiedene Anwendungsfälle, KI-Modelle und Datenquellen ab und dokumentiert gründlich Argumente und Zusicherungen als Beleg, dass das konkrete KI-Projekt geforderte Normen und Vorschriften einhält. Die Sicherheits- und KI-Experten müssen die Dokumentation nur noch mit minimalem Zeit- und Arbeitsaufwand überarbeiten und feinjustieren. Basierend auf der "safeAI"-Expertise des Fraunhofer IKS, die sich bereits in der Automobil- und Bahnindustrie bewährt hat, bietet das Framework einen Fahrplan für die sichere Entwicklung und effektive Verifikation von KI.

Unsere Forschungsansätze

Medtech Roboter von oben
© iStock.com/gremlin2
  • Validierung & Verifikation von KI-Modellen unter Berücksichtigung von Vorschriften wie dem EU AI Act
  • Standardisierte Ansätze und Benchmarks für die Verifikation von KI
  • Forschung zu sicheren und vertrauenswürdigen KI-Qualitätsmerkmalen

Weitere Informationen & News zu KI in der Medizin

 

Training

KI in der Medizin

Von der wissenschaftlichen Theorie zum Praxiseinsatz vertrauenswürdiger künstlicher Intelligenz - das Fraunhofer IKS veranstaltet ein eintägiges Intensiv-Training mit wissenschaftlichem Fachinput, tiefgehenden, interaktiven Praxisbeispielen und Best Practices aus der angewandten Forschung.

Messe

DMEA 2024

9. - 11. April 2024 

Die DMEA ist Europas führendes Event für Digital Health. Treffen Sie vor Ort unsere Wissenschaftlerinnen PD Dr. habil. Jeanette Miriam Lorenz, Maureen Monnet und Johanna Schmidhuber aus dem Forschungsbereich Trustworthy Digital Health. Anhand von vier Praxisbeispielen geben sie Einblicke in unsere angewandte Forschung zu vertrauenswürdigen intelligenten Gesundheitsanwendungen.

 

Kassenärztliche Vereinigung Thürigen / 30.6.2023

»Kein guter Arzt muss befürchten, durch die KI ersetzt zu werden«

Welche Potenziale setzt Künstliche Intelligenz in der Medizin frei? Und welche Risiken kommen mit der KI hinzu? Darüber hat das Mitgliedermagazin der Kassenärztlichen Vereinigung Thüringen (kvt) mit Dr. Narges Ahmidi gesprochen. Lesen Sie hier das Interview:

 

 

Quantencomputing

Fortschritte in der medizinischen Diagnostik mit quantengestützter KI

Künstliche Intelligenz (KI) hat den Weg geebnet für bessere und schnellere Diagnosen im Bereich der medizinischen Bildgebung. Allerdings können die spezifischen Herausforderungen in der Medizin, insbesondere die Datenknappheit, die Leistungsfähigkeit der KI beeinträchtigen. Sind Quantentechnologien in der Lage, hier Abhilfe zu schaffen?

 

Blogartikel zu KI in der Medizin

Sie wollen mehr zur Forschung des Fraunhofer IKS rund um das Thema KI in der Medizin erfahren? Dann schauen Sie auf unserem Safe Intelligence Blog vorbei!