Trustworthy Digital Health

Medizinische KI-Lösungen, denen Sie vertrauen können

Die Sicherheit und Vertrauenswürdigkeit von intelligenten Gesundheitsanwendungen bildet das Herzstück unserer Forschung zu Digital Health am Fraunhofer IKS. Denn: KI-Anwendungen müssen zuverlässig, verständlich und robust für Patientinnen und Patienten, Ärztinnen und Ärzte, Gesundheitsversorger und andere wichtige Akteure sein. Nur dann können die vieldiskutierten Potenziale von Digitalisierung und Künstlicher Intelligenz (KI) im sicherheitskritischen Gesundheitswesen ausgeschöpft werden, im Sinne einer bestmöglichen Patientenversorgung.

Unser Leitthema Trustworthy Digital Health bündelt verschiedene Forschungsschwerpunkte, interdisziplinäre Kompetenzen und Lösungen, die wir – entsprechend dem Stand der Wissenschaft, Technik und Gesundheitswirtschaft – ständig weiterentwickeln. Gemeinsam mit Kliniken, Medizintechnik- & Health-IT-Unternehmen, Netzwerken, Universitäten und vielen weiteren Partnern aus Forschung und Industrie erforschen und entwickeln wir intelligente Gesundheitslösungen. Unser Spektrum reicht von klassischen KI-Modellen bis hin zu modernen generativen KI-Ansätzen. Unser Fokus liegt dabei insbesondere auf Anwendungen für klinische Vorhersagen und Entscheidungsunterstützung.

Unsere digitalen Gesundheitslösungen

Das Fraunhofer IKS bietet ein breites Spektrum an Lösungen und Kompetenzen für die unterschiedlichen Gesundheitsbereiche und -anwendungen. Zu unseren Kunden zählen unter anderem Medizinerinnen und Mediziner, Gesundheitsunternehmen, Kliniken und Universitäten. Springen Sie direkt zu der passenden Lösung für Ihre individuelle Fragestellung oder kontaktieren Sie uns für weitere Informationen:

  • Von der KI-Idee zur klinischen Anwendung

    Sie haben eine Idee, wie Künstliche Intelligenz (KI) Ihre klinische Arbeit erleichtern kann, aber keinen konkreten Fahrplan für die Umsetzung? Das Fraunhofer IKS unterstützt Sie dabei, KI von der ersten Idee in die klinische Praxis zu bringen.

    Unser Prozess:

    1. Gemeinsame Projektkonzeption & Scoping: Wir brainstormen und entwickeln zusammen mit Ihnen innovative, realisierbare KI-Konzepte – abgestimmt auf Ihre klinischen Bedürfnisse.
    2. Identifizierung von Fördermöglichkeiten: Unser Team unterstützt Sie bei der Suche nach geeigneten Finanzierungsquellen, um Ihre Projekte zu realisieren.
    3. Entwicklungs- und Implementierungspartnerschaft: Vertrauen Sie auf uns als Ihren zuverlässigen Partner für die Entwicklung und Umsetzung Ihrer KI-Projekte – für schnellen Erfolg und vertrauenswürdige KI-Lösungen in jeder Projektphase.

    Bringen wir Ihre KI-Idee in die klinische Praxis!

    Jetzt Kontakt Aufnehmen

  • Beschleunigte KI-Entwicklung für Ihre Produkte

    Sie haben eine Idee, wie KI in Ihrem Unternehmen eingesetzt werden kann, aber Ihnen fehlen Ressourcen oder Erfahrung für die Umsetzung? Das Fraunhofer IKS bringt Ihre KI-Projekte mit umfassendem Know-how in der (sicheren) KI-Entwicklung voran – egal ob für einen ersten Proof of Concept, einen schnellen Prototyp oder ein marktreifes KI-Produkt.

    Unsere Unterstützungsangebote:

    • Proof of Concept: Erster Nachweis der technischen Umsetzbarkeit der angestrebten KI-Lösung.
    • Rapid Prototyping: Schnelle, agile Entwicklung, Iteration und Test eines KI-Prototyps als erster Meilenstein auf Ihrer Produkt-Roadmap.
    • Maßgeschneiderte KI-Lösungen: Entwicklung innovativer KI-Modelle für Ihre spezifischen Bedürfnisse.
    • Datenanalyse mit KI: Tiefgehende KI-Analyse Ihrer Daten zur Gewinnung entscheidender Erkenntnisse.
    • Gemeinsame F&E-Teams: Zusammenarbeit mit unseren KI-(Safety-)Experten, um Kompetenz- und Ressourcenlücken in Ihrem Team zu schließen und Ihre KI-Entwicklung zu beschleunigen.

    Schöpfen wir das volle Potenzial Ihres KI-Projekts aus!

    Jetzt Kontakt Aufnehmen

  • Konsortialpartnerschaft mit dem Fraunhofer IKS

    Sie suchen einen verlässlichen Partner für die Entwicklung und Implementierung von KI, der über eine nachweisliche Erfolgsbilanz bei Förderanträgen und Projekten verfügt?

    Als neutraler Partner in der angewandten Forschung bieten wir:

    • Expertise in der Antragserstellung: Nutzen Sie unsere Erfahrung, um die benötigte Finanzierung für Ihre Projekte zu sichern.
    • Führungserfahrung: Wir sind bereit, wichtige Arbeitspakete zu leiten oder leitende Rollen in Großprojekten zu übernehmen.
    • Starkes internationales Partnernetzwerk aus Industrie, Wissenschaft, Gesundheitswesen sowie politischen, regulatorischen Verbänden etc.
    • Die Kompetenz in KI und digitaler Gesundheit der Fraunhofer-Gesellschaft, einer der führenden Organisationen für angewandte Forschung.

    Machen wir Ihr KI-Projekt erfolgreich!

    Jetzt Kontakt Aufnehmen

  • Unabhängige Überprüfung Ihrer Daten & KI-Modelle

    Sie wünschen sich neutrales, fachkundiges Feedback zu Ihrem KI-Modell und/oder Ihren verwendeten Daten? Das Fraunhofer IKS unterstützt Sie dabei, die spezifischen Herausforderungen bei der Vorbereitung von KI-Modellen für die regulatorische Zulassung und klinische Nutzung zu meistern.

    Unsere Beratungsdienste umfassen:

    • Datenqualitätsprüfung: Bewertung der Genauigkeit, Konsistenz und Vollständigkeit von Trainings- und Validierungsdaten.
    • Bias-Erkennung: Identifizierung möglicher Verzerrungen (Bias), welche die Generalisierbarkeit des Modells beeinträchtigen können.
    • Modellauswahl: Überprüfung der verwendeten Algorithmen, um sicherzustellen, dass die modernsten und geeignetsten Methoden eingesetzt werden.
    • Erklärbarkeit und Interpretierbarkeit: Bewertung und Vorschläge zur Verbesserung der Interpretierbarkeit, um das Vertrauen in die KI-Lösung zu steigern und die Validierung in der klinischen Anwendung zu erleichtern.
    • Leistungs- und Fehleranalyse: Bewertung von Performanzmetriken und Fehlerarten, um deren Relevanz im medizinischen Anwendungskontext zu beurteilen.

    Erhalten Sie Expertenfeedback zu Ihrem KI-Modell!

    Jetzt Kontakt Aufnehmen

Entdecken Sie die Zukunft zuverlässiger Gesundheitsversorgung!

Kooperieren Sie mit uns, um Innovationen im Bereich medizinischer KI voranzutreiben. Wir entwickeln vertrauenswürdige und zuverlässige KI-Modelle auf Basis medizinischer Daten, die Ihre Plattformen und Anwendungen verbessern.

Vorhersage & Entscheidungsunterstützung

Verbessern Sie die Patientenversorgung mit unseren maßgeschneiderten Lösungen in der Kardiologie und Frauengesundheit.

Vertrauenswürdige KI

Unsere Modelle sind interpretierbar und nachvollziehbar, sodass Sie jeder Entscheidung vertrauen können und diese verstehen. Sichere LLM-Agenten optimieren Ihren klinischen Arbeitsablauf.

Medizinische Daten

Von Zeitreihen bis hin zu medizinischen Bildern – nutzen Sie die Kraft der Daten, um zuverlässige Erkenntnisse zu gewinnen und bessere Diagnosen sowie Ergebnisse zu erzielen.

Medizinische Entscheidungsunterstützung mit KI

Vorhersage & Entscheidungsunterstützung

Die Digitalisierung im Gesundheitswesen und Einführung der elektronischen Patientenakte (ePA) ermöglichen den Zugriff auf immer mehr Daten und den Einsatz von KI zur Unterstützung medizinischer Entscheidungen in einer Weise, die bisher nicht möglich war. Im sicherheitskritischen Gesundheitswesen, wo Menschenleben auf dem Spiel stehen, ist die Gewährleistung von vertrauenswürdiger und robuster KI von entscheidender Bedeutung.

Daher entwickeln wir erklärbare und zuverlässige KI-Modelle, insbesondere für Entscheidungsunterstützungssysteme, welche die Analyse von Patientendaten erleichtern sollen. Diese Modelle zielen darauf ab, medizinisches Fachpersonal bei der Entscheidungsfindung und Erstellung individueller Behandlungspläne für Patientinnen und Patienten zu unterstützen oder einen möglichen Krankheitsverlauf vorherzusagen. In verschiedenen Forschungsprojekten haben wir umfangreiche Erfahrung im Umgang mit realen Herausforderungen und Problemen im Gesundheitswesen gesammelt. Zum Beispiel sind Daten häufig unvollständig, unstrukturiert, in ihrem Umfang begrenzt oder über verschiedene Institutionen verteilt (Zamanian et al. 2023). In enger Zusammenarbeit mit medizinischen Experten und der Industrie nutzen wir unser wissenschaftliches Fachwissen, um das Gesundheitswesen technologisch voranzubringen und die Patientenversorgung zu verbessern.

Unsere Forschungsansätze

Medizin im Labor
© iStock.com/gorodenkoff
  • Analyse von ePA-Daten mit Hilfe von KI (z. B. datengestützte Analyse von Patientendaten bei Frühgeborenen)
  • KI-basierte Vorhersage von gesundheitlichen Problemen und Komplikationen (z.B. nach Stent-Implantation bei Koronarer Herzerkrankung (Pachl et al.2021))
  • Zeitreihenanalyse zur Überwachung von Krankheitsverläufen anhand sequenzieller Patientendaten (z.B. Vitalwerte, Laborwerte)
  • Optimierung von Behandlungsplänen und -strategien durch Wirksamkeitsanalysen und kausale Inferenz (Artikel: "Medizintechnik – KI hilft, medizinische Probleme zu verstehen”)
  • Föderiertes Lernen, d.h. kollaboratives Modelltraining mit über verschiedenen Einrichtungen verteilten Daten ohne Datenzentralisierung
  • Erklärbare KI (xAI)-Methoden zur Gewährleistung von Transparenz von KI-basierter Entscheidungsunterstützung (Schröder et al. 2023a, Schröder et al. 2023b)
  • Generative KI zur Unterstützung in komplexen Informationsstrukturen (z.B. Analyse von Wirkketten, Diagnosen, Patientendaten)

Referenzen

Blogartikel: "Medizintechnik – KI hilft, medizinische Probleme zu verstehen" (2023)

Blogartikel: "Mit Künstlicher Intelligenz die Intensivpflege verbessern" (2022)

Artikel im IHK-Magazin: Innovationskraft durch KI – Stents unter der Lupe (Seite 8-9, 2023)

Projekt: Fraunhofer vs. Corona: Kontaktlose Gesundheitsüberwachung ansteckender Patientengruppen (2021)

Zamanian A, Ahmidi N, Drton M. (2023). Assessable and interpretable sensitivity analysis in the pattern graph framework for nonignorable missingness mechanisms Stat Med. 2023 Dec 20;42(29):5419-5450. doi: 10.1002/sim.9920. Epub 2023 Sep 27. PMID: 37759370. 

von Kleist, H., Zamanian, A., Shpitser, I., & Ahmidi, N. (2023a). Evaluation of Active Feature Acquisition Methods for Static Feature Settings. arXiv preprint arXiv:2312.03619.  

von Kleist, H., Zamanian, A., Shpitser, I., & Ahmidi, N. (2023b). Evaluation of Active Feature Acquisition Methods for Time-varying Feature Settings. arXiv preprint arXiv:2312.01530.  

Schröder, M., Zamanian, A., & Ahmidi, N. (2023a). Post-hoc Saliency Methods Fail to Capture Latent Feature Importance in Time Series Data. In ICLR 2023 Workshop on Trustworthy Machine Learning for Healthcare. 

Schröder, M., Zamanian, A., & Ahmidi, N. (2023b). What about the Latent Space? The Need for Latent Feature Saliency Detection in Deep Time Series Classification. Machine Learning and Knowledge Extraction, 5(2), 539-559.

Bauer, A., Pachl, E., Hellmuth, J. C., Kneidinger, N., Heydarian, M., Frankenberger, M., ... & Hilgendorff, A. (2023). Proteomics reveals antiviral host response and NETosis during acute COVID-19 in high-risk patients. Biochimica et Biophysica Acta (BBA)-Molecular Basis of Disease, 1869(2), 166592. 

Pachl, E.; Zamanian, A.; Stieler, M.; Bahr, C.; Ahmidi, N. (2021). Early-, Late-, and Very Late-Term Prediction of Target Lesion Failure in Coronary Artery Stent Patients: An International Multi-Site StudyAppl. Sci. 2021, 11, 6986.

Optimierung von Gesundheitsprozessen

Vertrauenswürdige KI

Der akute Fachkräftemangel, demographische Wandel, Kostendruck und der gleichzeitige Wunsch nach einer stetig verbesserten Gesundheitsversorgung erfordern, dass Gesundheitsprozesse von der Prävention bis zur Nachsorge optimiert und Fachkräfte durch den Einsatz von Technologie entlastet werden. Die Digitalisierung im Krankenhaus und anderen Gesundheitseinrichtungen wird intensiv vorangetrieben, unter anderem durch regulatorische Initiativen wie das deutsche Krankenhauszukunftsgesetz (KHZG, 2020), das Digital-Gesetz (DigiG, 2023) und das Gesundheitsdatennutzungsgesetz (GDNG, voraussichtlich 2024).

Die digitale Transformation des deutschen Gesundheitswesens ermöglicht und fördert auch den zunehmenden Einsatz von KI entlang der Patientenreise, vor allem durch die Entlastung von Fachkräften von zeitintensiven, manuellen Aufgaben. Mögliche Anwendungsbereiche für KI sind die Personalplanung, OP-Management, Materialbeschaffung und -lagerung und Verwaltung von Patientenakten. Gemeinsam mit Gesundheitsfachkräften und der Industrie entwickeln wir in unseren Forschungsprojekten kognitive Systeme und vertrauenswürdige KI und erproben deren Potenzial, Skalierbarkeit und oft herausfordernde Übertragbarkeit auf andere Stationen und Einrichtungen. 

Unsere Forschungsansätze

arzt patient
© iStock.com/AmnajKhetsamtip
  • KI-gestützte Personal-, Ressourcen- oder OP-Planung
  • Intelligentes Prozessmanagement in Kliniken
  • Übertragbarkeit von KI-Modellen (Domain Generalization) auf verschiedene Anwendungsbereiche und Gesundheitseinrichtungen
  • Generative KI zur Vereinfachung administrativer Aufgaben (z.B. Dokumentation, Verwaltung, Patientenaufklärung)

Referenzen:

AI Innovation Days in Berlin von Fraunhofer IKS und Flying Health (2022)

Prämiertes Projekt: KI-basierte Personalbedarfsprognose mit Integration von PPR 2.0 (2023)

Artikel im Krankenhaus IT-Journal: Personalplanung mit KI – Status Quo, Chancen und Grenzen (2024)

Training „AI in Healthcare“ für die EU-Kommission(2024)

Dateneffiziente Medizinische Bildauswertung

Medizinische Daten

In der medizinischen Bildgebung und Diagnostik unterstützt KI bereits heute Ärztinnen und Ärzte in der Praxis, z.B. bei der Auswertung von Röntgen-, MRT- oder CT-Bildern. Trotz der fortschreitenden digitalen Transformation in Deutschland und zunehmenden Digitalisierung im Gesundheitswesen ist gerade im Bereich des Medical Imaging die Entwicklung von vertrauenswürdiger KI oft schwierig, weil nur geringe Datenmengen (Little Data) verfügbar sind, insbesondere im Falle seltener Krankheiten. Für das Training & Testen von KI-Modellen sind grundsätzlich große bis sehr große Datenmengen (Big Data) notwendig, um eine hohe Genauigkeit und Zuverlässigkeit der KI-Entscheidungen zu erreichen.

Unsere Forschungsansätze zeigen, dass mit den richtigen KI-Methoden bereits mit wenigen Daten sehr zuverlässige und erklärbare KI-Modelle zur Bildklassifikation entwickelt werden können. Wie “wenige” Daten ausreichend sind, hängt dabei ganz vom Anwendungsfall ab - zwischen einer Handvoll und einigen Tausenden Bildern. Neben “klassischen” KI-Methoden erproben wir auch Zukunftstechnologien wie Quantencomputing, z.B. durch hybride Quantum-KI-Modelle zur Bildklassifikation von Brustkrebs. 

Unsere Forschungsansätze

Ärztinnen begutachten medizinische Bildaufnahmen
© iStock.com/vm
  • Erklärbare KI (xAI)-Methoden zur Gewährleistung von Transparenz von KI-basierter medizinischer Bildauswertung (z.B. Prototype Learning, Concept Learning)
  • KI-Modelle mit Integration von Fachexperten-Wissen
  • Vertrauenswürdige KI (bereits mit kleinen Datensätzen)
  • Lernen von Teilaufgaben
  • Quantengestützte KI

Referenzen

Projekt Fast: Wie weniger Daten zu frühzeitiger und zuverlässiger Automatisierung durch KI führen (2023)

Blogartikel: Wie Quantencomputing in der medizinischen Diagnostik helfen könnte (2023)

Projekt BayQS: Quantencomputing und Künstliche Intelligenz für sichere medizinische Diagnosen (2023)

Hagiwara, Y., Espinoza, D., Schleiß, P., Mata, N., Doan, N. A. V. (2023). Toward Safe Human Machine Interface and Computer-Aided Diagnostic Systems. 2023 IEEE International Conference on Metrology for eXtended Reality, Artificial Intelligence and Neural Engineering (MetroXRAINE), Milano, Italy, 2023, pp. 236-241, doi: 10.1109/MetroXRAINE58569.2023.10405816.

Sinhamahapatra, P., Heidemann, L., Monnet, M., & Roscher, K. (2023). Towards Human-Interpretable Prototypes for Visual Assessment of Image Classification Models. Proceedings of the 18th International Joint Conference on Computer Vision, Imaging and Computer Graphics Theory and Applications. Volume 5: VISAPP, 878-887

 

Digital Health in unserem Safe Intelligence Onlinemagazin

 

Künstliche Intelligenz / 24.4.2025

Generative AI: eine Revolution für das Gesundheitswesen?

Künstliche Intelligenz und vor allem LLMs gelten vielen als Hoffnungsträger für ein überfordertes Gesundheitssystem. Vor allem könnte KI-basierte Automation bei Aufgaben des Wissensmanagements schnell Entlastung bringen. Bis es so weit ist, müssen Probleme mit Security und Safety gelöst sowie rechtliche Anforderungen erfüllt werden. Die Forschung des Fraunhofer IKS nimmt sich beider Themen an.

 

Porträt Katie Fitch / 27.3.2025

»Das Zusammenspiel von Forschung und Industrie begeistert mich«

Seit November 2024 ist Dr. Katie Fitch Abteilungsleiterin Trustworthy Digital Health am Fraunhofer IKS. Durch ihre Begeisterung für Mathematik war für Katie der Weg in den Bereich Engineering schon früh klar. Dann entdeckte sie die medizinische KI-Forschung für sich.

 

KI im Krankenhaus / 6.3.2025

Schichtplanungsagent mit Reinforcement Learning soll Personaleinsatz verbessern

In einem gemeinsamen Projekt haben das Fraunhofer IKS und ATOSS Software einen KI-gesteuerten Schichtplanungsagenten entwickelt, der die Personaleinsatzplanung automatisiert und dabei eine hohe Skalierbarkeit aufweist.

 

Maschinelles Lernen in der Medizin / 24.7.2024

Datengestützte Diagnostik verbessert Gesundheit von Frühgeborenen

Frühchen werden vor der vollständigen Reifung ihrer Organsysteme geboren und haben oft mit verschiedenen Gesundheitsproblemen zu kämpfen, die als »Morbiditäten« bezeichnet werden. Diese treten selten isoliert, sondern oft gleichzeitig auf. Zusammenhänge oder gar Muster in ihrem gemeinsamen Auftreten zu erforschen, hilft, gezieltere und individuellere Pflegepläne für die frühgeborenen Babies zu entwickeln. Ein Projektbericht.

 

Verifizierung von medizinischen KI-Systemen / 2.4.2024

Was die Vorschriften für medizinische Diagnosealgorithmen voraussetzen

Regelungen und Standards für vertrauenswürdige Künstliche Intelligenz existieren bereits, und Hochrisiko-KI-Systeme in der Medizin stehen bald zur Prüfung an. Doch wie genau lassen sich diese Hochrisiko-Regeln in technische Maßnahmen zur Validierung von tatsächlichem Code und Algorithmen umsetzen? Das AI-Verifikationsframework des Fraunhofer IKS setzt hier an und bietet eine Lösung.

 

Safe Intelligence
Onlinemagazin

Möchten Sie mehr über die Forschung des Fraunhofer IKS zu KI in der Medizin erfahren? Dann schauen Sie in unserem Safe Intelligence Onlinemagazin vorbei:

Jetzt Kontakt aufnehmen

Kontaktieren Sie uns unverbindlich über das untenstehende Kontaktformular. Wir freuen uns auf Ihre Anfrage und setzen uns schnellstmöglich mit Ihnen in Verbindung.

Vielen Dank für Ihr Interesse am Fraunhofer IKS.

Wir haben Ihnen soeben eine Bestätigungsmail geschickt. Sollten Sie in den nächsten Minuten keine E-Mail erhalten, prüfen Sie bitte Ihren Spam-Ordner oder schicken Sie uns eine E-Mail an business.development@iks.fraunhofer.de.

* Pflichtfelder

Es ist ein Fehler aufgetreten. Bitte versuchen Sie es erneut oder kontaktieren Sie uns per E-Mail:
business.development@iks.fraunhofer.de