Digital Health

Die Sicherheit und Vertrauenswürdigkeit von intelligenten Gesundheitsanwendungen bildet das Herzstück unserer Forschung zu Digital Health am Fraunhofer IKS. Denn: KI-Anwendungen müssen zuverlässig, verständlich und robust für Patientinnen und Patienten, Ärztinnen und Ärzte, Gesundheitsversorger und andere wichtige Akteure sein. Nur dann können die vieldiskutierten Potenziale von Digitalisierung und Künstlicher Intelligenz (KI) im sicherheitskritischen Gesundheitswesen ausgeschöpft werden, im Sinne einer bestmöglichen Patientenversorgung.

Unser Leitthema Trustworthy Digital Health bündelt verschiedene Forschungsschwerpunkte, interdisziplinäre Kompetenzen und Lösungen, die wir – entsprechend dem Stand der Wissenschaft, Technik und Gesundheitswirtschaft – ständig weiterentwickeln. Gemeinsam mit Kliniken, Medizintechnik- & Health IT-Unternehmen, Netzwerken, Universitäten und vielen weiteren Partnern aus Forschung und Industrie erforschen und entwickeln wir intelligente Gesundheitslösungen. Unser Spektrum reicht von klassischen KI-Modellen (z.B. Entscheidungsbäume, Clustering und neuronale Netzwerke für medizinische Bildverarbeitung, Auswertung von Patientendaten oder Zeitreihen) bis hin zu Generativer KI und hybriden quantengestützten KI-Ansätzen. Geringe Datenmengen, multimodale oder verteilte Daten, Interpretierbarkeit von KI und andere komplexe Herausforderungen verstehen wir als spannende wissenschaftliche Fragestellungen.

Möglichkeiten einer Kooperation mit dem Fraunhofer IKS finden Sie hier

Unsere Kernkompetenzen

Optimierung von Gesundheitsprozessen

Medizinische Entscheidungsunterstützung mit KI

Unsere Formate:

  • Ideation-Workshops
  • Rapid Prototyping
  • R&D
  • Trainings

Dateneffiziente Medizinische Bildauswertung

Optimierung von Gesundheitsprozessen

Der akute Fachkräftemangel, demographische Wandel, Kostendruck und der gleichzeitige Wunsch nach einer stetig verbesserten Gesundheitsversorgung erfordern, dass Gesundheitsprozesse von der Prävention bis zur Nachsorge optimiert und Fachkräfte durch den Einsatz von Technologie entlastet werden. Die Digitalisierung im Krankenhaus und anderen Gesundheitseinrichtungen wird intensiv vorangetrieben, unter anderem durch regulatorische Initiativen wie das deutsche Krankenhauszukunftsgesetz (KHZG, 2020), das Digital-Gesetz (DigiG, 2023) und das Gesundheitsdatennutzungsgesetz (GDNG, voraussichtlich 2024).

Die digitale Transformation des deutschen Gesundheitswesens ermöglicht und fördert auch den zunehmenden Einsatz von KI entlang der Patientenreise, vor allem durch die Entlastung von Fachkräften von zeitintensiven, manuellen Aufgaben. Mögliche Anwendungsbereiche für KI sind die Personalplanung, OP-Management, Materialbeschaffung und -lagerung und Verwaltung von Patientenakten. Gemeinsam mit Gesundheitsfachkräften und der Industrie entwickeln wir in unseren Forschungsprojekten kognitive Systeme und vertrauenswürdige KI und erproben deren Potenzial, Skalierbarkeit und oft herausfordernde Übertragbarkeit auf andere Stationen und Einrichtungen. 

Unsere Forschungsansätze

arzt patient
© iStock.com/AmnajKhetsamtip
  • KI-gestützte Personal-, Ressourcen- oder OP-Planung
  • Intelligentes Prozessmanagement in Kliniken
  • Übertragbarkeit von KI-Modellen (Domain Generalization) auf verschiedene Anwendungsbereiche und Gesundheitseinrichtungen
  • Generative KI zur Vereinfachung administrativer Aufgaben (z.B. Dokumentation, Verwaltung, Patientenaufklärung)

Referenzen:

AI Innovation Days in Berlin von Fraunhofer IKS und Flying Health (2022)

Prämiertes Projekt: KI-basierte Personalbedarfsprognose mit Integration von PPR 2.0 (2023)

Artikel im Krankenhaus IT-Journal: Personalplanung mit KI – Status Quo, Chancen und Grenzen (2024)

Training „AI in Healthcare“ für die EU-Kommission(2024)

Medizinische Entscheidungsunterstützung mit KI

Die Digitalisierung im Gesundheitswesen und Einführung der elektronischen Patientenakte (ePA) ermöglichen den Zugriff auf immer mehr Daten und den Einsatz von KI zur Unterstützung medizinischer Entscheidungen in einer Weise, die bisher nicht möglich war. Im sicherheitskritischen Gesundheitswesen, wo Menschenleben auf dem Spiel stehen, ist die Gewährleistung von vertrauenswürdiger und robuster KI von entscheidender Bedeutung.

Daher entwickeln wir erklärbare und zuverlässige KI-Modelle, insbesondere für Entscheidungsunterstützungssysteme, welche die Analyse von Patientendaten erleichtern sollen. Diese Modelle zielen darauf ab, medizinisches Fachpersonal bei der Entscheidungsfindung und Erstellung individueller Behandlungspläne für Patientinnen und Patienten zu unterstützen oder einen möglichen Krankheitsverlauf vorherzusagen. In verschiedenen Forschungsprojekten haben wir umfangreiche Erfahrung im Umgang mit realen Herausforderungen und Problemen im Gesundheitswesen gesammelt. Zum Beispiel sind Daten häufig unvollständig, unstrukturiert, in ihrem Umfang begrenzt oder über verschiedene Institutionen verteilt (Zamanian et al. 2023). In enger Zusammenarbeit mit medizinischen Experten und der Industrie nutzen wir unser wissenschaftliches Fachwissen, um das Gesundheitswesen technologisch voranzubringen und die Patientenversorgung zu verbessern.

Unsere Forschungsansätze

Medizin im Labor
© iStock.com/gorodenkoff
  • Analyse von ePA-Daten mit Hilfe von KI (z. B. datengestützte Analyse von Patientendaten bei Frühgeborenen)
  • KI-basierte Vorhersage von gesundheitlichen Problemen und Komplikationen (z.B. nach Stent-Implantation bei Koronarer Herzerkrankung (Pachl et al.2021))
  • Zeitreihenanalyse zur Überwachung von Krankheitsverläufen anhand sequenzieller Patientendaten (z.B. Vitalwerte, Laborwerte)
  • Optimierung von Behandlungsplänen und -strategien durch Wirksamkeitsanalysen und kausale Inferenz (Artikel: "Medizintechnik – KI hilft, medizinische Probleme zu verstehen”)
  • Föderiertes Lernen, d.h. kollaboratives Modelltraining mit über verschiedenen Einrichtungen verteilten Daten ohne Datenzentralisierung
  • Erklärbare KI (xAI)-Methoden zur Gewährleistung von Transparenz von KI-basierter Entscheidungsunterstützung (Schröder et al. 2023a, Schröder et al. 2023b)
  • Generative KI zur Unterstützung in komplexen Informationsstrukturen (z.B. Analyse von Wirkketten, Diagnosen, Patientendaten)

Referenzen

Blogartikel: "Medizintechnik – KI hilft, medizinische Probleme zu verstehen" (2023)

Blogartikel: "Mit Künstlicher Intelligenz die Intensivpflege verbessern" (2022)

Artikel im IHK-Magazin: Innovationskraft durch KI – Stents unter der Lupe (Seite 8-9, 2023)

Projekt: Fraunhofer vs. Corona: Kontaktlose Gesundheitsüberwachung ansteckender Patientengruppen (2021)

Zamanian A, Ahmidi N, Drton M. (2023). Assessable and interpretable sensitivity analysis in the pattern graph framework for nonignorable missingness mechanisms Stat Med. 2023 Dec 20;42(29):5419-5450. doi: 10.1002/sim.9920. Epub 2023 Sep 27. PMID: 37759370. 

von Kleist, H., Zamanian, A., Shpitser, I., & Ahmidi, N. (2023a). Evaluation of Active Feature Acquisition Methods for Static Feature Settings. arXiv preprint arXiv:2312.03619.  

von Kleist, H., Zamanian, A., Shpitser, I., & Ahmidi, N. (2023b). Evaluation of Active Feature Acquisition Methods for Time-varying Feature Settings. arXiv preprint arXiv:2312.01530.  

Schröder, M., Zamanian, A., & Ahmidi, N. (2023a). Post-hoc Saliency Methods Fail to Capture Latent Feature Importance in Time Series Data. In ICLR 2023 Workshop on Trustworthy Machine Learning for Healthcare. 

Schröder, M., Zamanian, A., & Ahmidi, N. (2023b). What about the Latent Space? The Need for Latent Feature Saliency Detection in Deep Time Series Classification. Machine Learning and Knowledge Extraction, 5(2), 539-559.

Bauer, A., Pachl, E., Hellmuth, J. C., Kneidinger, N., Heydarian, M., Frankenberger, M., ... & Hilgendorff, A. (2023). Proteomics reveals antiviral host response and NETosis during acute COVID-19 in high-risk patients. Biochimica et Biophysica Acta (BBA)-Molecular Basis of Disease, 1869(2), 166592. 

Pachl, E.; Zamanian, A.; Stieler, M.; Bahr, C.; Ahmidi, N. (2021). Early-, Late-, and Very Late-Term Prediction of Target Lesion Failure in Coronary Artery Stent Patients: An International Multi-Site StudyAppl. Sci. 2021, 11, 6986.

Dateneffiziente Medizinische Bildauswertung

In der medizinischen Bildgebung und Diagnostik unterstützt KI bereits heute Ärztinnen und Ärzte in der Praxis, z.B. bei der Auswertung von Röntgen-, MRT- oder CT-Bildern. Trotz der fortschreitenden digitalen Transformation in Deutschland und zunehmenden Digitalisierung im Gesundheitswesen ist gerade im Bereich des Medical Imaging die Entwicklung von vertrauenswürdiger KI oft schwierig, weil nur geringe Datenmengen (Little Data) verfügbar sind, insbesondere im Falle seltener Krankheiten. Für das Training & Testen von KI-Modellen sind grundsätzlich große bis sehr große Datenmengen (Big Data) notwendig, um eine hohe Genauigkeit und Zuverlässigkeit der KI-Entscheidungen zu erreichen.

Unsere Forschungsansätze zeigen, dass mit den richtigen KI-Methoden bereits mit wenigen Daten sehr zuverlässige und erklärbare KI-Modelle zur Bildklassifikation entwickelt werden können. Wie “wenige” Daten ausreichend sind, hängt dabei ganz vom Anwendungsfall ab - zwischen einer Handvoll und einigen Tausenden Bildern. Neben “klassischen” KI-Methoden erproben wir auch Zukunftstechnologien wie Quantencomputing, z.B. durch hybride Quantum-KI-Modelle zur Bildklassifikation von Brustkrebs. 

Unsere Forschungsansätze

Ärztinnen begutachten medizinische Bildaufnahmen
© iStock.com/vm
  • Erklärbare KI (xAI)-Methoden zur Gewährleistung von Transparenz von KI-basierter medizinischer Bildauswertung (z.B. Prototype Learning, Concept Learning)
  • KI-Modelle mit Integration von Fachexperten-Wissen
  • Vertrauenswürdige KI (bereits mit kleinen Datensätzen)
  • Lernen von Teilaufgaben
  • Quantengestützte KI

Referenzen

Projekt Fast: Wie weniger Daten zu frühzeitiger und zuverlässiger Automatisierung durch KI führen (2023)

Blogartikel: Wie Quantencomputing in der medizinischen Diagnostik helfen könnte (2023)

Projekt BayQS: Quantencomputing und Künstliche Intelligenz für sichere medizinische Diagnosen (2023)

Hagiwara, Y., Espinoza, D., Schleiß, P., Mata, N., Doan, N. A. V. (2023). Toward Safe Human Machine Interface and Computer-Aided Diagnostic Systems. 2023 IEEE International Conference on Metrology for eXtended Reality, Artificial Intelligence and Neural Engineering (MetroXRAINE), Milano, Italy, 2023, pp. 236-241, doi: 10.1109/MetroXRAINE58569.2023.10405816.

Sinhamahapatra, P., Heidemann, L., Monnet, M., & Roscher, K. (2023). Towards Human-Interpretable Prototypes for Visual Assessment of Image Classification Models. Proceedings of the 18th International Joint Conference on Computer Vision, Imaging and Computer Graphics Theory and Applications. Volume 5: VISAPP, 878-887

 

Digital Health in unserem Safe Intelligence Onlinemagazin

 

Künstliche Intelligenz / 24.4.2025

Generative AI: eine Revolution für das Gesundheitswesen?

Künstliche Intelligenz und vor allem LLMs gelten vielen als Hoffnungsträger für ein überfordertes Gesundheitssystem. Vor allem könnte KI-basierte Automation bei Aufgaben des Wissensmanagements schnell Entlastung bringen. Bis es so weit ist, müssen Probleme mit Security und Safety gelöst sowie rechtliche Anforderungen erfüllt werden. Die Forschung des Fraunhofer IKS nimmt sich beider Themen an.

 

Porträt Katie Fitch / 27.3.2025

»Das Zusammenspiel von Forschung und Industrie begeistert mich«

Seit November 2024 ist Dr. Katie Fitch Abteilungsleiterin Trustworthy Digital Health am Fraunhofer IKS. Durch ihre Begeisterung für Mathematik war für Katie der Weg in den Bereich Engineering schon früh klar. Dann entdeckte sie die medizinische KI-Forschung für sich.

 

KI im Krankenhaus / 6.3.2025

Schichtplanungsagent mit Reinforcement Learning soll Personaleinsatz verbessern

In einem gemeinsamen Projekt haben das Fraunhofer IKS und ATOSS Software einen KI-gesteuerten Schichtplanungsagenten entwickelt, der die Personaleinsatzplanung automatisiert und dabei eine hohe Skalierbarkeit aufweist.

 

Maschinelles Lernen in der Medizin / 24.7.2024

Datengestützte Diagnostik verbessert Gesundheit von Frühgeborenen

Frühchen werden vor der vollständigen Reifung ihrer Organsysteme geboren und haben oft mit verschiedenen Gesundheitsproblemen zu kämpfen, die als »Morbiditäten« bezeichnet werden. Diese treten selten isoliert, sondern oft gleichzeitig auf. Zusammenhänge oder gar Muster in ihrem gemeinsamen Auftreten zu erforschen, hilft, gezieltere und individuellere Pflegepläne für die frühgeborenen Babies zu entwickeln. Ein Projektbericht.

 

Verifizierung von medizinischen KI-Systemen / 2.4.2024

Was die Vorschriften für medizinische Diagnosealgorithmen voraussetzen

Regelungen und Standards für vertrauenswürdige Künstliche Intelligenz existieren bereits, und Hochrisiko-KI-Systeme in der Medizin stehen bald zur Prüfung an. Doch wie genau lassen sich diese Hochrisiko-Regeln in technische Maßnahmen zur Validierung von tatsächlichem Code und Algorithmen umsetzen? Das AI-Verifikationsframework des Fraunhofer IKS setzt hier an und bietet eine Lösung.

 

Safe Intelligence
Onlinemagazin

Möchten Sie mehr über die Forschung des Fraunhofer IKS zu KI in der Medizin erfahren? Dann schauen Sie in unserem Safe Intelligence Onlinemagazin vorbei:

Jetzt Kontakt aufnehmen

Kontaktieren Sie uns unverbindlich über das untenstehende Kontaktformular. Wir freuen uns auf Ihre Anfrage und setzen uns schnellstmöglich mit Ihnen in Verbindung.

Vielen Dank für Ihr Interesse am Fraunhofer IKS.

Wir haben Ihnen soeben eine Bestätigungsmail geschickt. Sollten Sie in den nächsten Minuten keine E-Mail erhalten, prüfen Sie bitte Ihren Spam-Ordner oder schicken Sie uns eine E-Mail an business.development@iks.fraunhofer.de.

* Pflichtfelder

Es ist ein Fehler aufgetreten. Bitte versuchen Sie es erneut oder kontaktieren Sie uns per E-Mail:
business.development@iks.fraunhofer.de